Первоначальное здание мечети имело три арабоязычные надписи, сохранившиеся около дверного проема на стене мечети гласят, что мечеть построена в 1305 году хиджры. Инициатор строительства мечети, Гаджи Джавад, являлся торговцем. В плане мечеть имеет прямоугольную форму. Внутренняя площадь составляет 12x18 метров, высота от пола до потолка — 6 метров, а от пола до купола — 9 метров. В мечети Гаджи Джавада помимо места общего поклонения также имелось медресе. В первые годы установления советской власти мечеть прекратила свою деятельность. Позже комнаты медресе были распределены среди населения для житья, а мечеть использовалась в качестве детского сада. После распада СССР в результате усилий местных священнослужителей и старейшин эта мечеть была вновь открыта и восстановлена. После открытия мечети первым ахундом и председателем религиозной общины был Гаджи Намик Бабаханов.

В апреле 2017 года на повестке дня стоял вопрос о сносе мечети и вызвал протесты.[1][2]

В июне 2017 года согласно распоряжению президента Азербайджанской Республики Ильхама Алиева была снесена расположенная на улице Абдуалла Шаиг, Ясамальского района Баку, мечеть Гаджи Джавад. Строительство нового здания этой мечети было перенесено на улицу Аббас Мирза Шарифзаде.[3][4]