Осенью 1966 года ЦК КПСС предложил создать у стен Кремля мемориал — Могилу Неизвестного Солдата — в память о героях, павших в боях Великой отечественной войны. Поводом для такой идеи стало 25-летие разгрома немецких войск под Москвой.
Памятник проектировали архитекторы Дмитрий Бурдин, Владимир Климов, Юрий Рабаев и скульптор Николай Томский.
Надпись на мемориале придумывал писатель Сергей Смирнов, а также поэты Константин Симонов, Сергей Михалков и Сергей Наровчатов. По воспоминаниям Сергея Смирнова, в итоге выбрали вариант, предложенный Сергеем Михалковым: "Имя твое неизвестно, подвиг твой бессмертен".