Библиотека была образована в 1957 году, а через 15 лет переехала в здание на Башиловской улице, где базируется до сих пор. В 2012 году библиотеке было присвоено имя Андрея Андреевича Вознесенского, таким образом, была увековечена память поэта, скончавшегося за два года до этого.

В библиотеке установлен бюст поэта, выполненный известным скульптором Степаном Мокроусовым, создана мемориальная экспозиция из личных вещей, переданных вдовой поэта Зоей Богуславской. Ежегодно в библиотеке проходят памятные мероприятия, на которых присутствуют вдова поэта, друзья, современники и просто почитатели его творчества. Помимо мемориальной деятельности в библиотеке № 34 проводится большое количество культурных мероприятий, таких как концерты, спектакли, лекции, интересные встречи.