У этого дома есть конкретный прототип: палаццо Тьене, построенное в XVI веке самим Андреа Палладио. Считается, что это здание стало символом целой эпохи в отечественном зодчестве.
Архитектор взял за основу палаццо Тьене, но там верхний этаж имеет большую высоту, чем нижний. Жолтовскому это не понравилось. О «золотом сечении» он знал тогда мало, и поэтому ориентировался на пропорциональное соотношение верхней и нижней частей Дворца дожей в Венеции. Так особняк Тарасова получил высокий нижний этаж и низкий верхний в сочетании с декором фасада палаццо Тьене. Оформлением интерьеров, тоже в итальянском стиле, занимались художники Игнатий Нивинский и Евгений Лансере.
Заказчик не дожил до завершения работ, и достраивали особняк его дети. Московские власти потребовали огромную сумму для вступления в наследство, и сыновьям Гавриила Тарасова пришлось писать заявление о несогласии с пошлиной. По их мнению, роскошь постройки условна, так как сложена она не из дикого камня и гранита, а из кирпича и бетона с имитацией дикого камня, гранита и мрамора.
Управу эти доводы не убедили, и наследникам пришлось выплатить полную сумму. А в 1917 году Тарасовы навсегда покинули Россию.
Раньше на 1 этаж здания можно было заехать на машине. Сейчас это закрытое помещение, и бывший особняк Тарасова занимает институт Африки. При этом в доме сохранилась большая часть декоративного убранства — росписи И.И. Нивинского и Е.Е. Лансере, зал с атлантами (все они разные), четыре стихии на лестнице, работы учеников Строгановского училища.
А о заказчике напоминает латинская надпись на парадном фасаде «GABRIELUS TARASSOF FECIT ANNO DOMINI» — «Габриэль Тарасов сделал лета Господня». Цифры года строительства утрачены.