В конце XIX века Общество Киевско-Воронежской железной дороги решило проложить путь к Москве из Брянска. В 1895 году Совет Министров разрешил построить дорогу и вокзал на месте бывшей Дорогомиловской ямской слободы, но с условием обустройства набережной Москвы-реки и создания нового Бородинского моста.
Здание в классическом стиле построили в 1914-1918 годах по проекту И.И. Рерберга, B.К. Олтаржевского, В.Г. Шухова на месте деревянного. Росписи залов сделал художник Ф.И. Рерберг. Первый поезд с обновленного Киевского вокзала отправился 18 февраля 1918 года.
В архитектурном решении вокзала, в росписях залов и скульптурах подчеркнута связь с войной 1812 года. Также к зданию Киевского вокзала примыкает дебаркадер: пространство над платформами перекрывает огромная остекленная арка в форме параболы (длина 321 м, ширина пролета 47,9 м, высота 28 м, вес конструкций более 1 250 тонн).
51-метровая башню вокзала украшена фигурами орлов с распростертыми крыльями. Также на ней установлены механические часы. Раньше их вручную переводили на зимнее и летнее время. Это единственные такие часы в Москве, кроме курантов на Спасской башне.
При реставрации Киевского вокзала 1979-1981 годах модернизировали кровлю перронного зала, воссоздали элементы первоначальной внутренней отделки, заменили дебаркадер, но сохранили его исторической облик.
...первое здание Киевского вокзала представляло собой вытянутую постройку с двумя подъездами провинциального вида, поэтому он часто становился поводом для едких карикатур. Высмеивали и уездный облик здания, и пассажиров с закопченными от керосинок носами, и скупость железнодорожной компании, которая украсила Москву таким срубом.