نام فرانکفورت بر ماین از Franconofurt مشتق می‌شود؛ که Franco به قوم ژرمن فرانک‌ها برمی‌گردد. furt نیز به معنی منطقه کم‌عمق رود یا نهری است که گذر از آن برای انسان میسر است (پایاب). در این منطقه آلمان‌ها و فرانک‌ها باهم زندگی می‌کردند. نام فرانکفورت بر ماین نخستین بار در یکی از متن‌های رسمی شارلمانی ۲۲ فوریه ۷۹۴ استفاده شد.

در امپراتوری مقدس روم، فرانکفورت یکی از مهم‌ترین شهرها بود. امپراتور آلمان، از سال ۸۵۵ در فرانکفورت انتخاب می‌شد و در آخن تاج‌گذاری می‌کرد. از سال ۱۵۶۲ نیز تاج‌گذاری امپراتور، حتی در شهر فرانکفورت انجام می‌گرفت. این سنت در سال ۱۷۹۲ و با انتخاب فرانس دوم پایان پذیرفت.

در جنگ سی‌ساله (جنگ داخلی بین دو مذهب در آلمان)، فرانکفورت بی‌طرف ماند، ولی با اپیدمی طاعون در خود و حومه‌اش مواجه شد. بعد از پایان جنگ، فرانکفورت سلامت خود را بازیافت.

در جنگ‌های ناپلئونی، فرانکفورت توسط نیروهای فرانسوی اشغال شد. بعد از انقلاب مارس ۱۸۴۸ فرانکفورت مرکز اولین مجمع ملی آلمان (پارلمان آلمان) بود.

فرانکفورت استقلال خود را در جنگ اتریش-پروس از دست داد، هنگامی که پروس به چند ایالت کوچک‌تر تقسیم‌بندی شد که یکی از آنها شهر آزاد فرانکفورت بود.

سال ۱۹۱۴ شهروندان فرانکفورت دانشگاه آن را تأسیس کردند که بعدها نام دانشگاه یوهان ولفگانگ گوته را بر خود گرفت. در جنگ جهانی دوم فرانکفورت بارها بمب‌باران شد و حدود ۵۵۰۰ شهروند آن جان خود را از دست دادند. پس از جنگ جهانی، مانند سایر شهرهای دیگر آلمان، فرانکفورت شکوفایی خود را باز به دست آورد. در دوران آلمان تحت اشغال متفقین این مرکز منطقه اشغال نظامی ایالات متحده بود.