Il tempio è dedicato al bodhisattva Kannon (Avalokiteśvara). Secondo una leggenda, nel 628 due pescatori, Hinokuma Hamanari e Hinokuma Takenari, trovarono una statua d'oro di Kannon nel fiume Sumida. Il capo del villaggio, Hajino Nakamoto, riconobbe la sacralità della statua e decise di conservarla nella sua casa ad Asakusa, opportunamente trasformata in tempio in modo che tutti potessero venerarla.

Il primo vero tempio dedicato alla statua fu costruito nel 645. Durante i primi anni dell'era Tokugawa, fu scelto da Tokugawa Ieyasu come tempio tutelare del suo clan. Il santuario Nishinomiya, legato al culto di Inari, si trova all'interno del complesso del Sensō-ji. Sul torii che indica l'accesso al santuario è stata applicata una targa che riporta la lista di coloro che hanno contribuito alla costruzione del torii, avvenuta nel 1727.

Nel corso della seconda guerra mondiale, il tempio fu colpito da bombardamenti aerei e raso al suolo. Venne in seguito ricostruito, ed è considerato oggi un simbolo di rinascita e di pace dai giapponesi. In particolare, un albero è cresciuto all'interno del tronco di un precedente albero, distrutto dai bombardamenti, diventando perciò un simbolo di questa rinascita.