勒皮历史悠久，高卢时期，利古里亚人曾在此区域活动，罗马人入侵后曾在此修建驿站，并命名为“阿尼修姆”（Anicium），成为勒皮的城市前身[1]。根据都爾的額我略在其《法兰克民主史》当中的描述，勒皮教堂及主教（法语：Liste des évêques du Puy-en-Velay）于公元3世纪初开始设立，但关于勒皮城市在中世纪初期的信息则缺乏记载。公元924年，勒皮伯爵阿基坦的威廉二世（法语：Guillaume II d'Aquitaine）获得了勃艮第拉乌尔授予的宗主权，并在勒皮主教阿达拉尔（Adalard）的支持下将勒皮开辟成为贸易中心[2]。公元955年，勒皮主教戈德斯卡尔克（法语：Godescalc）继承了宗主权，进一步加强了勒皮的宗教权威[3]。彼时，勒皮城内的“燃烧之石”（Pierre aux fièvres）成为了一个重要的权威象征[4]，在戈德斯卡尔克（法语：Godescalc）的号召下，虔诚的天主教徒集结于此，出发前往圣雅各的埋葬地圣地亚哥-德孔波斯特拉，这一行程被称为圣雅各之路，勒皮由此成为该朝圣道路的三个起点之一，其对应的线路被称为“波迪安西之路（法语：Via Podiensis）”（又称“勒皮之路”）[5]。公元12世纪初，自由佣兵团不满桑塞尔的艾蒂安一世（法语：Étienne Ier de Sancerre）的暴政，在勒皮地区引发了卡皮雄骚乱（法语：Capuchonnés），并很快衍变成为全国性的政治反抗运动[6]。13世纪，“燃烧之石”被改建成为勒皮主教座堂。中世纪中后期，勒皮所在的沃莱成为朗格多克行省的一部分，并保留了沃莱地方政权（法语：États du Velay），直到法国大革命结束[7]。17世纪时，勒皮成为一个重要的花边手工业中心，同时因生产马鞍而闻名[8]。法国大革命结束后，勒皮成为上卢瓦尔省的省会。19世纪中期，雕塑家奥古斯特·德·莫尔隆（法语：Auguste de Morlhon）担任勒皮主教，其在任期间主持修建了法国圣母雕像[9]。工业革命期间，勒皮相继建成通向圣艾蒂安、朗戈涅和布里尤德方向的铁路，但向东前往普里瓦方向的铁路最终因技术原因而未能建成。二战时期，勒皮接纳了大批来自沦陷区城市塞纳河畔沙蒂永的难民，此举使得战后塞纳河畔沙蒂永市中心的广场被更名为“勒皮城市广场”[10]。自20世纪70年代以来，包括勒皮在内的法国山地农业地区出现了大量的人口外流，导则当地的教育、医疗等公共服务大量减少，引发了当地民众的不满。2018年12月1日的法国黄背心运动第三战役（法语：Acte III du mouvement des Gilets jaunes）期间，勒皮境内多处建筑物被破坏，其中上卢瓦尔省政府大楼被烧毁，勒皮成为黃背心運動当中影响最严重的城市之一[11]。