Hiroshigen Asakusa Kinryuzan (1856) sarjasta Sata kuuluisaa näkymää Edosta.

Perimätiedon mukaan Sensō-ji sai alkunsa keisarinna Suikon hallitessa Japania.[1] Veljekset Hinokuma Hamanari ja Takenari olivat kalastamassa rannikolla lähellä Sumidajoen suuta varhain maaliskuun 18. päivän aamuna vuonna 628.[2][1] Nostaessaan verkkoja vedestä he huomasivat, että niihin oli tarttunut pieni, kultainen patsas.[2][3]

Asakusan kyläpäällikkö Haji no Nakatomo kääntyi buddhalaisuuteen tajutessaan, että miesten löytämä patsas esitti Kannonia. Hän muutti kotinsa temppeliksi ja omistautui kokonaan Kannonin palvelemiseen loppuelämänsä ajaksi.[2]

Vuonna 645 seudulle saapui pyhiinvaellusmatkalle buddhalainen pappi nimeltä Shōkai. Hän päätti asettua asumaan kylään, rakensi nykyisen Sensō-jin paikalle Kannonia varten suuren temppelin ja ryhtyi sen ensimmäiseksi papiksi.[2][1] Saatuaan unessa näyn hän määräsi, että patsaasta tehtäisiin ns. ”kätketty kuva”, joka pidettäisiin pysyvästi piilossa ihmisten katseilta. Aina siitä lähtien patsasta on säilytetty temppelin päähallissa pienoistemppelissä, lukkojen takana ja tarkasti vartioituna.[2][4]

Asakusa oli vielä tuolloin pieni kalastajakylä Tokionlahden pohjukassa, Musashinon laajalla erämaa-alueella. Kylä alkoi kasvaa ja kukoistaa, kun sinne saapui yhä enemmän pyhiinvaeltajia.[2] Enryaku-jin ylipappi Ennin (794–864) vieraili Sensō-jissä 800-luvun puolivälissä ja teetätti alkuperäisestä patsaasta kopion, jota voitiin esitellä suurelle yleisölle.[2][4]

Kamakura-kauden (1185–1333) shōgunit pitivät Sensō-jitä suuressa arvossa. Temppelin arvostus lisääntyi vähitellen, kun sotapäälliköt, kirjanoppineet ja muut merkkihenkilöt alkoivat noudattaa shōgunien esimerkkiä. Vuonna 1590 Tokugawa-shōgunaatin perustanut Tokugawa Ieyasu julisti Sensō-jin shōgunaatin keskeisimmäksi pyhäköksi. Myös häntä seuranneet shōgunit vierailivat temppelissä usein, ja Kannonin palvonta levisi kansan keskuuteen Edo-kaudella (1603–1867).[2]

Sensō-ji vaurioitui pahoin toisen maailmansodan pommituksissa. Päätemppeli korjattiin lahjoitusvarojen turvin ja vihittiin käyttöön 17. lokakuuta 1958.[5] Pommien tuhoamat Hozomon- ja Kaminarimon-portit rakennettiin uudelleen 1960-luvulla ja viisikerroksinen pagodi 1970-luvulla.[2]