Современный каменный храм построен в 1647—1650 годах на месте двух деревянных храмов — старой холодной церкви Ильи Пророка и тёплой церкви Покрова Богоматери на средства богатейших купцов гостиной сотни братьев Иоанникия и Вонифатия Скрипиных. Вела строительство артель местных мастеров, имена которых неизвестны. К завершению строительства Скрипины были одарены патриархом Иосифом частицей ризы Христа, которая хранилась в Успенском соборе Московского кремля. Изредка от неё отделяли частицы и посылали в дар в знак особого расположения, пока это не было запрещено. В честь получения святыни был сооружён шатровый Ризоположенский придел.

Во время городского пожара 1658 года церковь хотя и обгорела снаружи, но внутри, в отличие от большинства других, не пострадала. Расписана она знаменитыми костромскими художниками Гурием Никитиным и Силой Савиным вместе с ярославскими мастерами в 1680 году (артель из 15 мастеров работала неполных три месяца) при наследнице Скрипиных — вдове Вонифатия, Иулите Макаровне. Первоначально храм стоял на подворье Скрипиных, рядом с их жилыми и хозяйственными постройками (девять представителей этого семейства были похоронены у церкви[1]) и примыкал к торговым улицам Пробойной и Соколовской только западным и северным фасадами.

Гладкие, скупые фасады церкви были расписаны крупными цветами, т. н. травами. Сейчас эта роспись утрачена, и восстановлена лишь старинная побелка. Все главы были крыты зелёной черепицей, ярко сверкающей на солнце. В XVIII веке черепицу сменило изобретённое в Ярославле чешуйчатое покрытие.

Когда Ярославль в 1778 году получил регулярный план застройки, церковь Илии Пророка стала центром радиально-кольцевой планировки городского посада, вокруг неё была создана Ильинская площадь (ныне Советская), на которой разместился ряд административных учреждений.

Ограда вокруг церкви была выполнена в 1896 году по рисунку академика А. М. Павлинова. Церковь ремонтировалась в 1898—1904 годах на средства городского головы И. А. Вахрамеева.

В 1920 году здание передали Ярославскому музею-заповеднику. В 1930-х годах работникам музея удалось уберечь его от сноса. В 1938—1941 годах в церкви, куда перенесли мощи ярославских чудотворцев, Союз воинствующих безбожников устроил антирелигиозный музей; под куполом был подвешен маятник Фуко.

Реставрация проводилась в 1955—1956, 1960, 1983 годах. В 1989 году главный престол церкви Илии Пророка был вновь освящён, и с тех пор в летнее время в храме проводятся церковные службы. Музей открыт для посещения с мая по октябрь[2].