秦人从立国之初，就与游牧民族互相征伐，对于游牧民族的特点，秦人了如指掌。游牧民族居无定所，随着牲畜的迁徙而迁徙，即便将匈奴人的地盘打下来，只要匈奴人还有草原，就还能东山再起。

后世的汉武帝选择出动出击，让卫青和霍去病率军把草原上的匈奴势力歼灭；而秦始皇的选择是筑长城，在北方游牧民族势力范围和秦帝国之间筑造一道屏障，把匈奴人隔绝在外面。

不过万里长城并非都是由秦朝修建的。先秦和赵国、燕国都修建了长城，只是相互隔绝，而蒙恬负责的就是把这些长城连接在一起，组成一道横跨东西的铜墙铁壁。

数十万劳役百姓的血泪控诉着秦帝国的无情和残酷，但不可否认的是，长城的修建，让匈奴人难以南下侵袭，保护边境的百姓免受匈奴人的劫掠，实现了“却匈奴七百余里；胡人不敢南下而牧马，士不敢弯弓而报怨”。（《过秦论》）

在数十万军民的艰辛付出下，万里长城筑成，但这只是解决了秦帝国边防的第一个问题，还有第二个问题：后勤。

三十万秦军有险关可守，百万黎民百姓有了屏障，但问题是，后勤怎么办？

西北地区的土地较为贫瘠，粮食供应难以就地解决，只能依靠后方运输。除此以外，秦帝国的中枢和位于北方的军事要地九原郡之间地势复杂，交通不便，不便于对北方的管理。

出于军事和政治的双重考量，秦始皇决定修建一条从国都咸阳直抵北方军事要塞的直道。

秦直道始修于秦始皇三十五年，《史记·秦始皇本纪》载：“三十五年，除道，道九原抵云阳，堑山堙谷，直通之。”

太史公以“堑山堙谷”来介绍秦直道的修建过程，可见其工程之浩大，难度之高。