In de vroege Heian-periode stichtte Keizerin Tachibana no Kachiko[1] een tempel genoemd de "Danrin-ji", in de plek waar nu Tenryu-ji staat. De "Danrin-ji" tempel viel in ruïne in de volgende vierhonderd jaar. In het midden van de dertiende eeuw veranderden Keizer Go-Saga en zijn zoon Keizer Kameyama de omgeving naar een keizerlijke villa, genaamd de "Kameyama-dono"(亀山殿). De naam "Kameyama", wat letterlijk "schildpadberg" betekent, vindt zijn oorsprong in de berg Ogura, die in het westen van Tenryu-ji ligt. Alle Japanse tempels die gebouwd zijn na de Nara-periode hebben een bergnaam (sango), die wordt gebruikt als een eerbiedige prefix.

Gedurende de jaren 1430 moest de tempel tribuut betalen aan het keizerlijk hof van de Ming-dynastie in China. De Chinese keizerlijke politiek verbood in die periode formele handel buiten het sinocentrisme[2]. Zowel het Japanse keizerlijke hof als het Ashikaga-shogunaat weigerden zich toe te geven aan de deze Chinese suzereiniteit. Het akkoord met de Tenryu-ji zorgde ervoor dat formele onderhandelingen met beide landen mogelijk werd. In ruil moest China de controle verkrijgen over de opvolgingen van het hoofdambt. Dit akkoord gaf de Zen-sekten, meer bepaald de Tenryu-ji, een quasi-monopolie over de handelsakkoorden tussen Japan en China. Samen met de tempel die dezelfde naam draagt in Okinawa, hebben de monniken van de Tenryu-ji een belangrijke rol gespeeld in de 'Japan-China-Okinawa' handelsroute gedurende de 19de eeuw.

De tempel bloeide uit tot een van de belangrijkste rinzai tempels in Kioto. Het gebied waar de tempels op stonden groeide uit tot een oppervlakte ter grootte van bijna 333 000 m². Het gebied regeerde over zo'n 150 sub-tempels. De tempel is regelmatig het slachtoffer geworden van verschillende branden en hierdoor zijn een aantal originele gebouwen vernietigd. Gedurende de middeleeuwen werd de tempel tot zes maal toe afgebrand: in 1358, 1367, 1373, 1380, 1447 en 1467. De tempel is nogmaals vernietigd gedurende de Onin-oorlog en vervolgens herbouwd. In 1815, werd de tempel nogmaals vernietigd door een brand. In 1864 werd de tempel zwaar beschadigd door het Kinmon-incident. De meeste gebouwen die tot op heden op het grondgebied van Tenryu-ji staan, zijn herbouwd in de late helft van de Meiji-periode. De tuin ten westen van de abdij, die gemaakt is door Muso Soseki, vertoont nog maar enkele tekenen van zijn oorspronkelijk ontwerp.