한국어로 ‘국가’를 의미하는 ‘나라’라는 단어에서 유래했다는 설이 있다. 백제에서 건너온 많은 인맥과 이주자들 (구다라노 코니키시 가문의 창시자 포함)과 함께 그들은 일본문화 발전에 참여했다. 그후 나라는 백제에서 온 이민자들에 의해 설계되고 건설되었다. 우리는 ‘나라’라는 이름이 왕국을 의미하는 백제에서 유래한 도시라고 떠올리게 될 수 있다.

《일본서기(日本書紀)》에는 당시 조정의 관군이 초목을 밟아 울렸다는 데에서 부근의 산이 나라산(那羅山)이라는 이름이 붙게 되었고 ‘나라’라는 지명도 여기서 비롯되었다고 하는 설도 있다. 나라 시의 한자 표기는 ‘奈良’이지만, 고문서에는 ‘那羅’, ‘寧楽’, ‘平城’ 등으로 표기된 경우도 있다(읽는 법은 모두 똑같다).

현재 나라 시가지의 서쪽에는 우와나베 고분(ウワナベ古墳)을 비롯한 5세기의 대형 고분들이 존재하고 있는데, 이들을 묶어 사키 고분군(佐紀古墳群)이라 부른다.

《와묘쇼(和名抄)》에 보이는 야마토국(大和國) 소에가미 군(添上郡)의 야마무라노사토(山村郷), 야규노사토(楊生郷), 야지마노사토(八島郷), 오오카노사토(大岡郷), 가스가노사토(春日郷) 및 소에가미 군 사키노사토(佐紀郷), 도리가이노사토(鳥貝郷)의 땅이 지금의 나라 시에 해당된다. 원래의 도시인 헤이조쿄는 당나라의 수도 장안(현재의 시안시)을 모방한 것이었다.

고대 일본 역사서인 일본 서기에 따르면 ‘나라’라는 이름은 일본어로 ‘평탄한 땅’을 의미하는 ‘나라시타’에서 유래되었다고 한다.

지금의 시역(市域) 주변이 일본 역사의 무대로 등장하게 된 것은 710년에 수도를 후지와라쿄(藤原京)에서 헤이조쿄(平城京)로 옮기면서부터의 일이다. 그 뒤 일부 단기간의 천도 기간을 제외하고, 나가오카쿄(長岡京)로 옮기게 되는 784년까지 이 땅은 일본의 중심지였으며, 이 시대를 나라 시대라고도 부른다. 나가오카쿄로 천도한 뒤에도 도다이지(東大寺)나 야쿠시지(薬師寺), 고후쿠지(興福寺) 등의 사찰 세력들이 이 지역에 퍼져 있었고, 이곳을 가리켜 ‘남쪽의 수도’라는 뜻의 ‘남도(南都)’라고 불렀다.

나라의 사원들은 중세에 이르러서도 고후쿠지가 야마토의 슈고(守護)에도 임명되는 등 광대한 장원을 소유한 세력으로서 여전히 맹위를 떨쳤는데, 전란이 격화될 수록 영향력은 더욱 커졌고 때문에 몇 번이나 전장이 되어 소실되곤 했다. 헤이안 시대 말기의 다이라노 시게히라(平重衡)에 의한 난토쇼토(南都燒討)와 센고쿠 시대의 도다이지 대불전 전투(東大寺大佛殿の戰い) 등 두 차례의 걸친 대불 소실은 이것을 말해주는 대표적인 사건이라고 할 수 있다. 하지만 무로마치 시대(室町時代)에서 센고쿠 시대에 이르는 동안 타국 및 인근 영지까지 현지의 야마토 무사단(大和武士團)이 실효지배하게 되면서 불교 세력은 쇠퇴했다.

에도 시대(江戶時代)에는 나라부교(奈良奉行)가 설치되어 에도 막부(江戶幕府)의 직접지배를 받았는데, 이 시대의 분위기는 나라마치(奈良町)에서 엿볼 수 있다. 또한 현재 나라 시 영역의 남쪽은 쓰 번(津藩)의 영지(후루이치마치古市町 부근), 같은 북동부는 야규 번(柳生藩)의 영지가 되었다. 전쟁 중에도 교토(京都)처럼 대규모 공습을 피한 덕분에 많은 문화유산이 살아남을 수 있었다.

현대에 현 정부의 소재지로써 나라는 지역의 상업과 행정 중심지로 발전하였다. 도시는 공식적으로 1898년 2월 1일에 성립되었다. 2022년 7월 8일에는 이 곳에서 선거 유세 연설을 하던 아베 신조 전 일본 내각총리대신이 피살당하는 사건이 일어났다.