Дом, где работает музей архитектуры, сам может быть экспонатом. Его построил Матвей Казаков в 1787 году для генерал-поручика П.Ф. Талызина на месте Аптекарского двора Милославского и подворья Печерского Псковского монастыря. Известно, что в разное время этими землями владели царевич Грузии Вахтанг, И. Писемский, И. Милославский, В. Долгорукий.
В 1845 году дом Талызина купило Министерство финансов, и в здании разместились Московское уездное казначейство и Московская казенная палата. А в конце XIX века надстроили третьим этажом боковые части главного дома.
В 1920 году в особняк на Воздвиженке въехал Секретариат ЦК РКП(б). Здесь устроили кабинеты Сталина, Молотова и Куйбышева. Потом в здании были Госплан СССР и Министерство юстиции. А в 1930 году в бывшей усадьбе Талызина устроили общежитие.
Сначала архитектурный музей располагался в Донском монастыре. Туда свозили фрагменты разрушенных зданий, а основная экспозиция разместилась прямо в Большом Соборе. Коллекция музея иллюстрировала историю архитектуры с древнейших времен до современности. Были и настоящие шедевры, например, новозеландские хижины и модель Большого Кремлевского дворца Василия Баженова.
В 1946 году музей под руководством Щусева переехал в здание на Воздвиженке, а сама усадьба стала экспонатом. Тогда же музейный фонд пополнился произведениями советской архитектуры и предметами из личных коллекций Щусева.
Но сейчас из 1 млн экспонатов для посетителей доступна лишь малая часть: в 1991 году Донской монастырь вернули Церкви, и коллекции музея архитектуры пришлось спешно вывозить. Экспозиционные площади новые власти не предоставили, а здание музея сильно деформировалось из-за строительства под усадьбой Филевской линии метро.
Сейчас ансамбль усадьбы Талызина реставрируется. Уже восстановлен пострадавший от пожара 1990-х годов флигель «Руина». Сначала в нем были каретный сарай и конюшня, затем — казенная палата. Флигель чудом не снесли при строительстве метро, так как фактически поезда идут под его полом. А сейчас в «Руине» новое выставочное пространство музея архитектуры.
...в день дворцового переворота Екатерина II предстала перед гвардейцами в мундире с чужого плеча. Появиться в дамском платье было нельзя, а своего мундира у императрицы не было. Вот и пришлось одолжить его у подпоручика Семеновского полка Александра Талызина. Потом этот мундир, украшенный Андреевской звездой, вернулся хозяину.
...именно в здании усадьбы Талызина Лев Толстой поселил Пьера Безухова из романа «Война и мир».