Судьба несколько раз приводила Ахматову в это место. С 1918 по 1920 год она жила в северном флигеле дворца со своим вторым мужем – востоковедом, переводчиком и поэтом Владимиром Казимировичем Шилейко, учителем внуков последнего графа Шереметева. Вспоминая рассыпанные по полу клинописные таблички и терпкий запах кофе, Ахматова называла комнату Шилейко «шумерийской кофейней». В начале 1920-х часть квартиры в южном флигеле, на третьем этаже, была предоставлена комиссару Русского музея и Эрмитажа Николаю Николаевичу Пунину, который в это время стал самым близким для Ахматовой человеком. 19 октября 1922 года она впервые поднялась к нему домой по старой лестнице, выложенной лещадной плитой XIX века. С 1925 по 1952 гг. А.А. Ахматова жила во флигеле Шереметьевского дворца вместе со своим мужем Н.Н. Пуниным. Здесь написаны поэма «Реквием», стихи цикла «Венок мертвым», «Поэма без героя»…

Музей Ахматовой открылся во флигеле Фонтанного дома в 1989 году, к столетию со дня рождения поэта, и был первым музеем, посвященным тем представителям ахматовского поколения, которые пытались сохранить свой мир, свою личность в условиях тоталитарного государства. Новое экспозиционное решение 2003 года делит музейное пространство на две части: мемориальную, возвращающую квартире Пуниных - Ахматовой облик 1920-х - 1940-х годов, и литературно-историческую, подчиненную иной экспозиционной логике – sub specie aeternitis (под углом зрения вечности), или – «Я помню все в одно и то же время…» (Ахматова). В экспозиции представлена лишь малая часть собрания музея. Основные его богатства хранятся в фондах. Коллекция музея на сегодняшний день насчитывает 51,56 тысячи единиц хранения. Это и книжное собрание: книги писателей серебряного века с автографами, издания Ахматовой, фонд фотографий (в том числе документальных), собрание рукописей (как самой Ахматовой, так и ее современников), изобразительных материалов и подлинных вещей. Наиболее ценные коллекции: библиотека Анны Ахматовой, библиотека Иосифа Бродского, коллекция М. С. Лесмана (редкие книги и рукописи поэтов ХХ в.), собрание графики и произведений прикладного искусства, принадлежавшее Л. Н. Гумилеву и его жене – Н. В. Гумилевой-Симоновской, коллекция графики из собрания Н. С. Несмелова (виды Ленинграда – Петербурга 1930-1960-х гг.).

В музее есть видеогостиная (74 видеофильма и аудиозаписи), можно заказать экскурсии: «Под кровлей Фонтанного дома» (обзорная экскурсия по постоянной экспозиции), «Наши тени навсегда» (пешеходная экскурсия по Шереметьевскому саду), «Тени того, что еще люблю» (экскурсия по новой экспозиции – Американский кабинет И. Бродского), а также разнообразные пешеходные и автобусные экскурсии. Для детей предлагается занятие музейно-педагогической мастерской «Сундук с Шереметьевского чердака» Уже четыре года существует Маленький Театрик Фонтанного Дома. За это время было выпущено три спектакля. В них заняты актеры петербургских театров, дети, а также используются куклы; музыкальная фонограмма соседствует с живой игрой на гитаре и песнями, а ненавязчивое использование элементов комедии дель арте чередуется с традициями домашних театральных постановок начала века. В конце концов, зрители не замечают, как оказываются постепенно втянутыми в действие, происходящее на расстоянии вытянутой руки.