En la Edad de Hierro estuvo habitada por la tribu celta de los lobetanos. Se han encontrado importantes pinturas rupestres epipaleolíticas y neolíticas de estilo levantino, esquemático y semiesquemático en el pinar del rodeno. Durante la época romana se llamó, al parecer, Lobetum, y en tiempos de los visigodos, Santa María de Oriente.

Durante el período andalusí, concretamente el siglo XI, el clan bereber de los Banu Razin alcanzó el poder convirtiéndose en la dinastía soberana de la taifa de Albarracín. De este linaje procede el propio nombre de la población (al-Banu Razin: (la ciudad) de los hijos de Razín). De esta magnífica etapa se conservan dos importantes testimonios: la torre del Andador –situada en lo alto del recinto exterior– y el castillo de Albarracín, que albergó la antigua alcazaba de los Banu Razin.

La taifa pasó posteriormente, por cesión y no por conquista, a la familia cristiana de linaje navarro de los Azagra, que mantuvieron de facto la independencia de Castilla y de Aragón desde 1170, llegando a crear un obispado propio. También el poderoso linaje de Lara ejerció su soberanía sobre Albarracín. Tras el fracaso de conquista por parte de Jaime I en 1220, es Pedro III de Aragón quien la conquistó en 1285 tras sitiarla, pasando definitivamente a la Corona de Aragón en 1300. Esta serie de hechos políticos tuvieron como base la importancia de la fortaleza y del sistema defensivo de Albarracín.

Es una antigua sede episcopal denominada, primero Arcabricense y después Segobricense hasta que, tras la desmembración de las iglesias de Segorbe (Castellón) de las iglesias de Albarracín, paso a denominarse Albarracinense, tras la Bula Papal de Juan Pablo II, mantiene su independencia pero pasa a ser regida por el Obispo de Teruel que es también Obispo de Albarracín.

El 21 de junio de 1257 el rey Jaime I concedió en Teruel a la Comunidad de Santa María de Albarracín o Comunidad de aldeas de Albarracín el privilegio sobre competencia de jurisdicción de sexmeros, asistentes y jurados de dicha Ciudad.[1]​

Durante la guerra civil española tuvieron lugar en la localidad combates entre las tropas republicanas y las sublevadas, cambiando varias veces el control de la población entre ambos bandos. En julio de 1937 tuvo lugar una ofensiva republicana sobre la localidad, constituyendo el mayor enfrentamiento bélico habido en la localidad durante la guerra. En un rápido ataque, el 8 de julio los republicanos se hicieron con el control de la localidad a excepción del ayuntamiento y la catedral, en los que permanecieron sitiados militares y civiles que se habían refugiado previamente. Los sublevados reaccionaron enviando refuerzos y el 13 de julio lograron reconquistar la localidad y expulsar a las tropas republicanas.

La localidad es Monumento Nacional desde 1961; posee la Medalla de Oro al mérito en las Bellas Artes de 1996, y se encuentra propuesta por la Unesco para ser declarada Patrimonio de la Humanidad por la belleza e importancia de su patrimonio histórico.