Сад Ю був створений одним з чиновників династії Мін на ім'я Пан Юн Дуан. У 1577 році він подарував це затишне місце батькам, щоб вони змогли спокійно і приємно проводити там час в старості.

За 450 років, що минули з часу заснування цього саду, його планування і зовнішній вигляд зазнав масу змін. Він дуже постарів і став запущеним за часів занепаду Мінської династії — сім'я Пан згодом втрачала свій державний вплив і поступово розорилася. Сад прийшов в страшний занепад, проте в 1760 році його викупили багаті торговці і більше 20 років займалися відновленням його структури, рослинності і багатьох павільйонів. За часів опійної війни в XIX столітті сад Ю знову був дуже серйозно пошкоджений. Та пишність, яку можна бачити тут сьогодні — результат п'ятирічної роботи по відновленню, які почалися тільки в 1956 році. Для громадськості сад Ю був відкритий у вересні 1961 року. Сьогодні він є однією з історичних пам'яток і прогулянкових перлин Старого Шанхая.