Новая перестройка ждала усадьбу после пожара 1812 года — тогда она получила ампирные формы. Далее усадьбой владели статский советник, камергер Дмитрий Львов, а за ним купчиха Ольга Мазурина.
Наконец городскую усадьбу Замятиных купил С.М. Третьяков, брат основателя Третьяковской галереи. В 1873 году его зять архитектор А. Каминский перестроил дом в модном русско-византийском стиле для размещения предметов искусства. После смерти владельца его коллекция пополнила собрание Третьяковки.
Новым владельцем усадьбы стал фабрикант П.П. Рябушинский. И если к Третьяковым заглядывали Репин и Чайковский, то у Рябушинского собирались промышленники для обсуждения планов по предотвращению революции.
В 1917 году дом национализировали, и в нем разместился Революционный трибунал, затем — Военная прокуратура, а после Великой Отечественной войны — одна из служб Министерства обороны. В 1987 году здание усадьбы Замятиных-Третьяковых передали Фонду культуры.