勝尾寺は平安時代以降、山岳信仰の拠点として栄え、天皇など貴人の参詣も多かった。元慶4年（880年）、当時の住職行巡が清和天皇の病気平癒の祈祷を行い、「勝王寺」の寺号を賜るが、「王に勝つ」という意味の寺号は畏れ多いとして勝尾寺に差し控えたという。『日本三代実録』は、元慶4年の清和天皇死去についての記事で、清和天皇が「勝尾山」に参詣したことを述べており、これが勝尾寺の文献上の初見である。

元暦元年（1184年）、治承・寿永の乱（源平合戦）の一ノ谷の戦いの煽りで全山焼失する。文治4年（1188年）、源頼朝の命により、熊谷直実・梶原景時によって再建された。

承元2年（1208年）から承元4年（1210年）にかけて讃岐国への流罪から戻った法然が当寺に滞在している。

応永30年（1423年）、室町幕府第4代将軍足利義持によって将軍家の祈願寺に指定された。

慶長8年（1603年）には豊臣秀頼によって山門が再建され、また本堂再建のための浄財も寄進される。

江戸時代の延宝2年（1674年）、高野山の釈迦文院の末寺となり、宗派を天台宗から真言宗に改めている。

近年では「勝ちダルマ」の寺として有名である。勝ちだるまが置かれている場所がある。小さいだるまはどこにでも置ける。