Монастырь был основан в 778 году монахом обители Кодзима-дэра провинции Ямато по имени Энтин[1]. Во сне ему явилась бодхисаттва Тысячерукая Каннон и приказала поселиться вблизи водопада Отова в горах соседней провинции Ямасиро. Монах выполнил приказ, заложив монашеское поселение на склонах гор. В 780 году он случайно встретился с сёгуном Саканоуэ-но Тамурамаро, который охотился в окрестностях водопада. Узнав, что супруга сёгуна тяжело больна, монах вылечил её молитвой, обращённой к бодхисаттве. Саканоуэ стал большим поклонником Тысячерукой Каннон, и она помогла ему одержать победу в северном походе против эмиси. В 798 году сёгун, совместно с Энтином, построил большой Главный храм на горе Отова в честь бодхисаттвы. Он стал центральным сооружением монастыря[2].

В «Записях об учреждении Киёмидзу-дэра»[3], составленных в начале 9 века, излагается другая легенда. В 780 году сёгун Саканоуэ подстрелил в горах оленя для своей беременной жены. В этот момент перед ним появился Энтин и объяснил, что убийство живого существа — это грех. Когда сёгун вернулся домой и рассказал об этом приключении жене, она сильно расстроилась. Для покаяния за свои многочисленные грехи, женщина снесла сёгунскую усадьбу и построила на её месте буддистский храм, в котором чествовала бодхисаттву Каннон. Между тем сам сёгун должен был отправиться в северный поход, поэтому попросил монаха Энтина молиться за успех кампании. Она завершилась победой японских войск. В благодарность сёгун превратил свою резиденцию с храмом в монастырь, а Энтину помог стать одним из лекторов при дворе Императора[2].

На основе этих переводов выдвигаются разные даты основания Киёмидзу-дэра — 778, 780 или 789 год. Причиной этому является разобщённость историков в определении понятия «монастырь»: монашеское поселение или поселение с храмом[2][4].

С начала основания Киёмидзу-дэра был частным монастырём рода Саканоуэ, потомков мигрантов с материка. В 805 году, по приказу Императора Камму, обитель стала собственностью Императорского дома и государства. В 810 году монастырь получил особый статус места проведения официальных буддистских молебнов о здравии Императора и его семьи. В том же году он впервые стал именоваться «Киёмидзу-дэра»[4].

В конце 10 века Киёмидзу-дэра перешёл под патронат одного из крупнейших буддистских монастырей Японии — Кофуку-дзи. Он был центром секты Хоссо и находился в городе Нара, на юге японской столицы Киото. Этот монастырь враждовал с монастырём Энряку-дзи, оплотом секты Тэндай, расположенным на востоке столицы. Конфликты обоих монастырей имели вооружённый характер, поэтому Киёмидзу-дэра, находившийся рядом с Энряку-дзи, неоднократно подвергался погромам. Наибольшие разрушения обитель потерпела в 1165 году, когда большая армия монахов-воинов с Энряку-дзи ворвалась в Киёмидзу-дэра и сожгла крупнейшие здания, включая Главный храм. Через 24 года вся монастырская гора была превращена в пепел отрядом синтоистских священников из киотского святилища Гион[4].

Рост среди японцев веры в целительные свойства бодхисаттвы Каннон постепенно превратил монастырь в один из крупнейших киотских центров этой веры. Японские аристократы и простолюдины проводили паломничество, чтобы поклониться местному образу Каннон, жертвуя крупные суммы денег монахам Киёмидзу-дэра. Благодаря популярности этого монастыря, его описания встречаются во многих литературных произведениях того времени.

Нашествия с Энряку-дзи особенно участились с 11 века, в результате чего здания монастыря Киёмидзу-дэра неоднократного превращались в пепел, но снова восстанавливались. Негативно на развитии и сохранении культурных памятников Киёмидзу-дэра отразились также самурайские междоусобицы 14—16 веков.

Современный центральный храм монастыря — «Главный зал», который называют «помостом Киёмидзу» (清水の舞台), считается памятником 10 века, но в действительности он был перестроен в 1633 году по приказу сёгуна Токугавы Иэмицу. Среди древних архитектурных сооружений монастыря выделяют колокольню и Западные ворота. Спуск, который берёт начало от этих ворот, известен своими магазинами, которые существуют здесь с 17 века. На юге монастыря расположен водопад Отова — популярное место для посетителей вот уже многие сотни лет. С вершины монастыря открываются прекрасные виды на современный Киото.