芬兰湾南岸相信在公元前2千年已經有一群說波罗的-芬兰语支的部落在此定居。

1154年塔林被阿拉伯人製圖師穆罕默德·伊德里西記錄在他的世界地图上。

作为与俄罗斯与斯堪的纳维亚贸易的主要港口，塔林成為了丹麦王国擴張的目標，於1219年後塔林由丹麦統治。

北方十字軍時期当地人皈依基督教。1285年该市成为汉萨同盟 - 一個北歐一些德国人城市的一個貿易與軍事同盟的北方成员。1345年丹麦将塔林和他们在爱沙尼亚北部的领地一同售予条顿骑士团。中世纪的塔林是战略上一个重要的据点，是西欧、北欧与俄国之间贸易的交叉点。该市人口8,000人，由城墙和66个堡垒防御。

随着宗教改革的开始，德国的影响力开始变得更为强大。1561年塔林成为了瑞典的领土，在大北方战争时期，以塔林为据点的瑞典军在1710年向俄国投降，但当地的德国人首领在沙皇统治下保住了他们自身的文化和经济自主权。19世纪塔林的工业化令它的港口保持了重要性。19世纪的最后十年，塔林的俄罗斯化程度变得很强。

1918年2月24日，塔林市民发表了独立宣言，但接着被德军占领，后来更与俄国进行爱沙尼亚解放战争。1920年2月2日与俄罗斯苏维埃联邦社会主义共和国签订塔尔图条约，俄方永久承认爱沙尼亚共和国的独立，塔林成为爱沙尼亚首都。第二次世界大战期间爱沙尼亚首先在1940年－1941年被苏联占领，1941年－1944年又被纳粹德国占领，1944年再次被苏联占领。爱沙尼亚被强制加入苏联加盟共和国，塔林成为爱沙尼亚苏维埃社会主义共和国的首都。

1980年莫斯科奥运期间，帆船比赛在塔林市中心东北处的皮里塔区举办。大批建筑物例如奥林匹亚酒店（Olümpia Hotel）、新邮政办公大楼、帆船中心都是因为这次奥运而建造。

1991年8月爱沙尼亚脱离苏联，重新建立爱沙尼亚共和国。

 塔林圣奥拉夫教堂曾是世界最高的建筑，至今仍是塔林老城区最高的建筑物

塔林历史悠久的老城区是下列三个部分组成：

座堂山 （德语：Domberg） ，是历史上市政的权力中心，首先在此统治的是统治这市的主教，接着是条顿骑士团和波罗的海德意志人的贵族；直至现在这地都是爱沙尼亚政府和很多大使馆和官邸的所在地。 老城区，是一个古老的汉萨同盟城镇，「市民的城市」 - 直至19世纪末期之前，这地区行政上并未与座堂山区统一。这地区非常繁华，是中世纪贸易的中心。 爱沙尼亚镇是老城区南部新发展的一个地区，爱沙尼亚人都来到此地居住。直至19世纪中爱沙尼亚人取代波罗的海德意志人成为塔林主要人口之前，此地的爱沙尼亚人并不多。

历史上，塔林曾被进攻、洗劫、毁灭和多次的掠夺。尽管第二次世界大战后期，苏联空军对塔林进行密集的轰炸，不过大部分的中世纪老城区依然维持的原来的魅力，塔林老城在1997年时被收录联合国教科文组织世界遗产之中。

至15世纪末期，一座全新159米高的哥特式尖塔被建造在塔林圣奥拉夫教堂上。在1549年至1625年间，它是世界最高的建筑物，经歷数次的大火与重建，现在建筑物的总高度为123公尺。