Первый Успенский собор в Москве был заложен 4 августа 1326 года при Иване Калите, освящён 14 августа 1327 года. Основал его Митрополит Киевский и всея Руси Пётр, перенёсший свой престол из Владимира в Москву. Изначально это был одноглавый белокаменный трёхапсидный храм, увенчанный кокошниками, к которому позднее пристроили приделы. По стилю он напоминал владимиро-суздальские постройки начала XIII века, в частности Георгиевский собор в Юрьеве-Польском. Храм был построен в характерной для этого времени технике: кладка из грубо обработанных квадров белого камня сочеталась с гладкотёсаными элементами архитектурного декора. В соборе хранилась икона «Богоматерь Одигитрия, с праздниками на полях», привезённая из Византии.
Во время крупного пожара 1470 года, бушевавшего в Кремле, разрушился северный придел храма — церковь Поклонения вериг апостола Петра, — треснули своды, после чего их укрепили массивными брёвнами. Инициатором обновления собора выступал митрополит всея Руси Филипп. Причиной перестройки также послужило изменение статуса Москвы, которая стала политическим и духовным центром Русского государства. Для сбора средств все монастыри обложили налогами, а мирян и церковнослужителей призывали к пожертвованиям. Проект поручили мастерам Кривцову и Мышкину, руководили работой Владимир Григорьевич и Иван Владимирович Ховрины, а также Василий Ермолин. При Иване III в 1472-м состоялась торжественная церемония закладки храма. В качестве образца строительства был выбран Успенский собор во Владимире. Внутри здания устроили временную деревянную церковь, в которой Иван III сочетался браком с Софьей Палеолог.
Начатое строительство не было закончено: возведённый до сводов храм обрушился после «труса» — землетрясения, случившегося в Москве 20 мая 1474 года. Летописец свидетельствует:
…бысть трус во граде Москве и церковь св. Богородицы, сделана бысть уже до верхних камор, падеся в 1 час ночи, и храми все потрясошася, яко и земли поколебатися.
Исследователи причиной разрушения называют недостаточную прочность строительного раствора и тонкие боковые стенки. Для завершения строительства в Москву пригласили итальянского архитектора Аристотеля Фиораванти. По его проекту собор возвели из тёсаных блоков белого камня и кирпича, которым выложили столпы, своды и барабаны глав. Для укрепления стен в них заложили железные сваи. Фасады расчленили вертикальными выступами. В юго-восточной части были устроены два придела — Дмитриевский и Похвальский — разделённые невысокой стенкой. Храм был освящён 12 августа 1479 года митрополитом Геронтием. В 1481 году собор расписывали иконописец Дионисий и его ученики, тогда же был устроен трёхъярусный иконостас; храм был полностью расписан к 1514—1515 годам. Сергей Заграевский указывает на особенность инженерной задумки архитектора: кирпичи были встроены в кладку таким образом, что в целом постройка сохранила белокаменный облик.