בשנת 1882 פנה סלים-גירי טווקלב, המופתי של אורנבורג לרוזן טולסטוי, שר בממשלת רוסיה וביקש כי יותר לו לבנות מסגד בסנקט פטרבורג.

בשנת 1906 הקים הרוזן טולסטוי ועד מיוחד שבראשה אהון אטואלה באייזיטוב במטרה להשיג 750,000 רובלים במטרה לממן את הקמת המסגד. התורם העיקרי להקמת המבנה היה סעיד אבדול אחד, אמיר בוכרה.

מיקום המסגד הנבחר - במרכז העיר, למול מבצר פטרופבלובסקיה, היה מיקום סמלי ביותר, ונדרשה הסכמת הצאר ניקולאי השני לבניית המבנה. ההסכמה ניתנה בעת שהות הצאר בפטרהוף ב-3 ביולי 1907.

בסתיו אותה שנה אישרה הוועדה את בחירת האדריכל ניקולאי ואסילייב לתכנון המבנה, ואת המהנדסים סטפן קריצ'ינסקי ואלכסנדר פון גוגן לפקח על הבנייה.

ב-3 בפברואר 1910 נערך טקס הנחת אבן הפינה של המבנה. האבן הונחה על ידי אהון באייזיטוב, בנוכחות פקידי ממשל, המופתי, מנהג המפלגה המוסלמית בדומה של רוסיה ושגרירי טורקיה ופרס.

בין השנים 1940–1956 נסגר המבנה בהוראת השלטונות הבולשביקים, והמבנה שימש כמחסן מזון במהלך מלחמת העולם השנייה. בשנת 1956, בעקבות בקשת נשיא אינדונזיה, סוקרנו, אשר ביקר בעיר, הושב המבנה לקהילה המוסלמית 10 ימים לאחר תום הביקור.

המבנה שופץ בשנת 1980.