Το πρώτο σημαντικό τείχος της Κίνας χτίστηκε κατά τη διάρκεια του πρώτου αυτοκράτορα της βραχύβιας Δυναστείας Τσιν. Αυτό το τείχος δεν κατασκευάστηκε διαμιάς αλλά μάλλον δημιουργήθηκε από την ένωση διάφορων προϋπαρχόντων τειχών. Βρισκόταν δε πολύ βορειότερα από το σημερινό τείχος και έχουν βρεθεί πολύ μικρά υπολείμματα από αυτό.

Στη συνέχεια συνεχίστηκαν οι προσπάθειες προστασίας της περιοχής και υπήρξαν συνολικά τέσσερα Τείχη:

208 π.Χ. (Δυναστεία Τσιν) 1ος αιώνας π.Χ. (Δυναστεία Χαν) 1138 - 1198 (Περίοδος των πέντε δυναστειών και των δέκα βασιλείων) 1368-1620 (Από τον Αυτοκράτορα Χονγκού μέχρι τον Αυτοκράτορα Γουαν Λι της δυναστείας Μινγκ)

Το Τείχος που μπορεί να δει κανείς σήμερα χτίστηκε κατά τη διάρκεια της δυναστείας Μινγκ, σε πολύ μεγαλύτερη έκταση από τα παλαιότερα τείχη και με τη χρήση υλικών μεγαλύτερης αντοχής. Ο αρχικός σκοπός του Τείχους δεν ήταν να κρατηθούν έξω οι εισβολείς, αλλά να εξασφαλιστεί ότι οι ημι-νομαδικές φυλές του βορρά δεν θα μπορούσαν να το διασχίσουν με τα άλογά τους ή να επιστρέψουν εύκολα μετά από κάποια επιδρομή τους[εκκρεμεί παραπομπή].

Κάθε πύργος έχει οπτική επαφή τουλάχιστον με τον προηγούμενο αλλά και με τον επόμενο, ώστε σε περίπτωση επίθεσης να γίνεται ορατή η φρυκτωρία και έτσι να μεταδίδεται από πύργο σε πύργο το μήνυμα μέχρι το Πεκίνο.