유럽 석탄 철강 공동체(ECSC)는 1952년 "공동 의회"(Common Assembly)를 창설하고 6개 회원국 의회에서 78명의 의원을 선출했다. 이 의회는 입법권이 없었다. 1958년 로마 조약에 의해 유럽 경제 공동체(EEC)와 유럽 원자력 공동체(Euratom)가 설립되었다. 공동 의회의 범위도 확장되어 세 개의 공동체를 모두 포괄하게 되었고, 명칭을 "유럽 의원 총회"(European Parliamentary Assembly)로 변경하였다. 1958년 3월 19일 룩셈부르크에서 처음 회의가 열렸고, 로베르 쉬망이 의장으로 선출되었다.

1962년 세 공동체는 남아 있는 기관들을 병합하였고 명칭을 "유럽 의회"(European Parliament)로 다시 변경한다. 1979년 유럽 의회 의원이 최초로 회원국의 시민들에 의해 직접 선출된다. 첫 번째 선거 후 1979년 7월 11일에 첫 회의를 열어 시몬 베유가 의장으로 선출되었다. 이후 유럽연합의 회원국이 증가하면서 의회도 함께 확대된다.

1986년 로마 조약에 의해 유럽 단일법 조항이 채택되면서 입법 기능을 갖는 의회의 토대가 마련된다. 1994년 독일의 재통일 이후에 의원 정수의 조정이 있었다. 니스 조약과 유럽 헌법에 의원 최대 정수를 750석으로 규정하였고, 2004년 5월 10개 신규 회원국이 가입하면서 다시 의원 정수의 조정이 있었다.

1988년에는 인권과 자유 수호에 커다란 공헌을 한 개인이나 단체에 수여하는 상인 사하로프상을 제정했다. 2007년 12월 13일에 열린 유럽 의회 본회의에서는 '위안부 여성을 위한 정의(Justice for the Comfort Women)'이라는 제목으로 상정된 결의안이 57명 중 54명으로 채택되었다.[1]