Située sur une hauteur dominant une plaine d'oliveraies, le site d'Ubeda était déjà occupé par les Ibères ainsi que le montrent les découvertes archéologiques. Lorsqu'elle est conquise par les Romains, la ville prend le nom de Baetula. Détruite par les invasions Vandales, la ville renaîtra avec l'arrivée des Arabes, en particulier sous Abd al-Rahman II qui la renomme Ubbadat. En 852, les Arabes élèvent une muraille de remparts qui délimite encore aujourd'hui le tracé de l'ancienne ville médiévale.

Entre le XIe siècle et le XIIIe siècle, la ville sera tour à tour prise par les rois de Castille et reprise par les Almohades, jusqu'à ce qu'elle soit définitivement reconquise par le roi Ferdinand III de Castille, après un long siège menant à une capitulation en 1233. Les cultures arabe, juive et chrétienne continueront cependant à coexister pacifiquement durant deux siècles.

À la suite de la conquête de Grenade en 1492, Ubeda connaît un développement économique extraordinaire en raison de sa juridiction sur un vaste territoire et de son emplacement au croisement de grands axes de communication. Des familles puissantes y sont installées et celles-ci rivaliseront en magnificence, construisant palais et églises, tous plus remarquables les uns que les autres. Un des personnages les plus importants est Francisco de Los Cobos y Molina, natif de la ville et secrétaire d'État de l'Empereur Charles Quint. La ville doit beaucoup aussi à un architecte de tout premier plan, Andrés de Vandelvira. Les nombreuses constructions de style Renaissance distribuées à travers la ville font de celle-ci un véritable musée d'architecture et lui donnent un cachet qui lui a mérité son inscription au Patrimoine mondial.