Começou por um povoamento dos Iberos, e existiu como povoamento romano disperso. Não há dados de ocupação islâmica anterior à chegada dos zíridas, pelo que se supõe que a cidade ficou abandonada desde o final do Império Romano até à fundação do Reino Zírida (1013) que foi quando se rodeou de muralhas (Alcazaba Cadima). Segundo alguns linguistas deve o seu nome actual aos povoadores da cidade de Baeza que, desterrados após a batalha de Navas de Tolosa, assentaram nesta zona de Granada fora das muralhas existentes. Outros linguistas asseguram que o topónimo vem do árabe al-bayyāzīn, que significa [o arrabalde dos] falcoeiros. O facto de que na Andaluzia existam muitos outros bairros com esse nome, em Alhama de Granada, Salobreña e Huéneja (Granada), Antequera e Villanueva de Algaidas (Málaga), Baena (Córdova) e Sabiote (Jaén (província)), Sanlúcar de Barrameda (Cádis), Constantina (Sevilha), põe muito em dúvida essa tese. Também há bairros com esta denominação noutras partes de Espanha, como em Campo de Criptana (Ciudad Real), fruto da Expulsão dos Mouriscoss após a Rebelião das Alpujarras ou em Pastrana (Guadalajara), bairro este criado por D. Ana de Éboli, para acolher os mouriscos do Reino Nacérida de Granada.

O certo é que Albaicín indica sempre um bairro em altura e com um povoamento peculiar desvinculado do resto da cidade.

Pelo facto de que no século XXI este bairro não seja propriamente um arrabalde não significa que na Idade Média não fosse considerado como tal. Constitui um dos núcleos antigos de Granada, junto com a Alhambra, Realejo e o Arrabal de BibRambla, na parte plana da cidade.

Antes da invasão muçulmana da Península Ibérica, no que hoje é a cidade de Granada e seus arredores existiam três pequenas povoações:

Ilíberis (Elvira), que veio a ser o Albaicín e a Alcazaba. Castilia, próximo do actual povoado de Atarfe. Garnata, na colina frente à Alcazaba, que era mais propriamente um bairro de Ilíberis.

Em 756 estão já os árabes na Península. É a época do Emirado Independente. A população árabe manifesta-se em dois núcleos:

 Vista do Albaicín a partir da Alhambra.O Albaicín A Alhambra

Este bairro teve a sua maior influência na época do Reino Nacérida.

O Albaicín mantem o traço e padrão urbanos do período nacérida, com ruas estreitas, numa intrincada rede que se estende da parte mais alta (San Nicolás) até ao rio Darro e rua Elvira, que se encontram na Plaza Nueva.

O tipo tradicional de vivenda é chamado carmen, composto por uma moradia rodeada por um alto muro que a separa da rua e que inclui uma pequena horta ou jardim.

Foi característico deste bairro a canalização e distribuição de água potável através de poços (aljubes); no total contam-se 28, dos quais uma grande maioria ainda estão em uso.