1세기의 유대인 역사가 요세푸스에 따르면 마사다는 기원전 37년부터 31년 사이에 로마제국의 괴뢰정권인 헤로데 대왕이 악정으로 인해 자기에 대항한 반란이 일어날 것에 대비하여 피난 요새이자 왕궁으로 세웠다고 한다. 그러나 요새로 지어진 것은 하스모니안 왕가의 얀나이우스가 먼저이며 이후 헤롯 대왕의 뛰어난 건축술로 다시 증축한 것이다.수천 명이 몇 년간 충분히 먹을 수 있을 정도 분량의 식량을 쌓을 수 있는 식량창고도 만들었다.

66년 제1차 유대-로마 전쟁이 발발하였다. 일단의 유대인 저항군이 주둔하고 있던 로마수비대를 몰아내고 이 요새를 차지했으며 당시의 지도자는 에리아자르 벤 야이르였다고 한다. 70년 예루살렘이 함락되자, 예루살렘에서 쫓겨난 다른 유대인들과 그 가족이 마사다로 피난해서 합류했으며 2년 동안 이곳을 근거지로 삼고 로마군과 자신의 뜻을 따르지 않은 다른 유대인을 공격했다.

72년 플라비우스 실바장군이 이끄는 로마 제10군단이 마사다로 진격했다. 여러차례 요새를 공격했으나 성벽은 무너지지 않았고, 이에 로마군은 서쪽의 고원과 같은 높이의 거대한 성채를 쌓아올려 공성을 준비했다. 요세푸스는 그가 기록한 다른 전투와는 달리 이 전투에서 유대 저항군의 반격을 기록하지 않았는데 이는 당시 마사다의 저항군이 로마군에 대항할 전력이 없었기 때문으로 보고 있다. 하지만, 다른 역사학자들은 로마군이 성채를 쌓을 때 같은 열심당인 유대인 노예를 이용했기 때문에 민족주의성향이 다분한 열심당원이 차마 동족을 죽일 수 없었다고 보고 있다.

73년 드디어 공성을 위한 성채가 마련되자 로마군은 공성기를 이용해 성벽일부를 깨뜨리고 요새로 진격해 들어갔다. 그러나 식량창고를 제외한 요새안의 모든 건물이 방화로 불에 탔고 엄청난 수의 자살한 시체들만 즐비했다. 유대인 율법은 유대인의 자살를 엄격히 금지하고 있었기에 유대인들은 제비를 뽑아 서로를 죽였으며, 최후에 2인이 남자 한 명이 죽이고 남은 한 명은 자살했다고 한다. 다른 건물을 모두 불에 태우면서도 식량창고만은 남긴 것은 최후까지 자신들이 노예가 되지 않으려고 자살한 것이지, 식량이 없거나 죽을 수밖에 없어서 자살한 것이 아니라는 것을 보여주기 위한 목적이었다. 마사다에서 살아남은 것은 여자 두 명과 다섯 명의 아이들뿐이며. 로마군은 유대인들의 정신력에 겁을 먹고 그들을 죽이지 않았다고 한다.