Od 324 r. p.n.e. trzy północne państwa chińskie z koczowniczymi sąsiadami – Qin (Ch’in), Zhao (Chao) i Yan (Yen) – zaczęły budować mury obronne. Po zjednoczeniu Chin przez Qin w 221 p.n.e. pierwszy cesarz nakazał swemu najzdolniejszemu generałowi, Meng Tian (Meng T’ien), połączyć istniejące mury i rozszerzyć je, tworząc jednolity system obronny. Rezultatem tych prac jest Wielki Mur Chiński.
Przez 10 lat, począwszy od 221 p.n.e. Meng Tian dowodził siłami 300 000 ludzi (żołnierzy, skazańców i robotników pańszczyźnianych), którzy jednocześnie prowadzili kampanię przeciwko Xiongnu (Hsiung-Nu) i innym nomadom budowali mur. Brak szczegółowych informacji o projekcie. Wielki historyk Sima Qian (Ssu-Ma Ch’ien) napisał : „On [Meng Tian]… zbudował Wielki Mur, konstruując jego skalania i przełęcze zgodnie z konfiguracją terenu. Zaczęło się w Lin-t’ao i rozciągało się do Liao-tung, osiągając odległość ponad miriady li. Po przekroczeniu [Żółtej] Rzeki skręcał na północ, dotykając gór Yang”.
Kontrowersje pozostają na całej długości ściany Qin. Sima Qian użył słowa wan, które w języku polskim tłumaczy się jako „dziesięć tysięcy” lub „miriady”; miriad był często używany do oznaczenia dużej, ale nie dokładnej liczby. Niezależnie od dokładnej długości, logistyka budowy była trudniejsza, o wiele bardziej niż budowa piramidy, ponieważ ściana przesuwa się, a więc linia zaopatrzenia zawsze się zmienia. Ponadto rozciąga się na góry i półpustynie, gdzie miejscowa ludność była nieliczna, a pogoda niesprzyjająca. W grę wchodziła również ogromna armia personelu pomocniczego, a śmierć wśród robotników musiała być wysoka. Legendy, że ciała zmarłych były używane jako wypełniacze ścian, okazały się nieprawdziwe; jednak odzwierciedlają niechęć do nieustannego zapotrzebowania na siłę roboczą dla stworzonego projektu. W przeciwieństwie do ściany Ming zbudowanej prawie 2000 lat później ze skał i dużych wypalanych cegieł, ściana Qin została wykonana z ubitej ziemi z lokalnych materiałów. Ukończony mur rozciągał się od Gansu (Kansu) na zachodzie do północy Phenianu w dzisiejszej Korei Północnej. Budowa muru i wcześniejsza klęska Xiongnu przez Qin miała również niezamierzony skutek, polegający na umocnieniu i zjednoczeniu różnych plemion Xiongnu pod wodzą ich przywódcy Maotuna (Mao-T’un) w 209 r. p.n.e.
Upadek Qin w 206 r. p.n.e. spowodował zaniedbania w północnych liniach obronnych Chin i najazdy na Xiongnu, których pierwszy cesarz Han Gaozu (Liu Bang) nie był w stanie powstrzymać. Po porażce Maotuna w wielkiej bitwie w 200 r. p.n.e. Han i Xiongnu zawarli pokój na mocy traktatu Heqin (Ho-chin), który wyznaczył Wielki Mur jako granicę. Ułagodzenie Xiongnu zakończyło się w 133 roku p.n.e. z głównymi kampaniami Han, które ostatecznie rozbiły konfederację Xiongnu i doprowadziły do ekspansji Han na północny zachód. Wielki Mur rozciągał się w poprzek korytarza Gansu do Yumenguan (Yu-men Kuan), z fortami i posterunkami granicznymi po drodze. Koloniści wojskowi strzegli tych posterunków, uprawiając żywność, dostarczając prowiant na misje rządowe i ochraniając stadniny koni dla kawalerii.