La estructura original, un edificio de madera de estilo gótico, databa de 1899. Construida originariamente como capilla de un seminario, se convirtió en iglesia parroquial de Sekiguchi en 1900, para finalmente ser nombrada catedral del arzobispado de Tokio en 1920. En 1911 fue construida la gruta de Lourdes por el misionero francés Fr. Demanger. La edificación primitiva fue destruida por un incendio durante un ataque en la Segunda Guerra Mundial.

En 1961, Kenzō Tange ganó el concurso para su reconstrucción, siendo construida con ayuda de Wilhelm Schlombs, arquitecto de la archidiócesis de Colonia; el ingeniero Yoshikatsu Tsuboi, que trabajó con Tange en muchos de sus proyectos; y el arquitecto Max Lechner Zurich. La nueva catedral fue inaugurada en diciembre de 1964.