秦軍進行滅六國的戰爭時，蒙恬並沒有擔任先鋒，而是長年擔負守衛北方邊境的重任，保衛著都城咸陽的安全。由於長期戍邊，蒙恬對北部的山川地形作了深入瞭解，對匈奴的戰法也比較熟悉，並有一套專門針對匈奴騎兵的成熟戰法，這就為他創造“胡人不敢南下而牧馬”的戰績奠定了良好的基礎。而且，蒙恬曾多次率軍與匈奴騎兵對抗，取得了不俗的成績。他的野戰能力是秦軍中其他將領不能比的，因為秦朝的其他將領大多在中原地區進行的是攻城的攻堅戰，對於草原上與匈奴的野戰並無多少經驗，因此始皇認為蒙恬是對匈奴戰爭最適合的人選。

蒙恬得到任命後，決定對匈奴實施分階段、分步驟的攻擊：第一步，殲滅河套地區兵力較弱的匈奴部隊，收復河南地區。第二步，構築防禦工事，保衛既有成果，並伺機攻下賀蘭山、陰山地區，殲滅匈奴主力，將其逐回大漠深處。

蒙恬將北擊匈奴的第一目標鎖定在河南地區，這一目標是十分明智而務實的，因為匈奴的主力在陰山地區和賀蘭山地區，南下河南地區的力量相對比較薄弱。而且這一地區十分富庶，得到這一地區後，秦軍的後勤補給就變得比較容易，而匈奴的經濟實力將會受到較大的打擊。

第一階段的具體任務包括：將侵入隴西河套地區及原趙國邊境的匈奴殲滅或驅逐到賀蘭山、原趙長城以北地區，恢復趙武靈王時的邊界線。

計劃制定後，蒙恬開始行動。他親率秦軍主力從上郡出發，進入河套北部，另派一部偏師從北地郡出發，進入河套南部。

蒙恬率主力大軍二十萬經榆林北上，迅速攻佔了河套北部地區。同時從北地出發的秦軍也在河套南部發動攻勢，準備充分的秦軍進攻十分猛烈，而與此相反，面對突如其來的秦軍，匈奴人並未作好戰爭準備，且在河南地區的匈奴多為分散的部落，倉促而分散的抵抗顯得很無力。

兵貴神速，蒙恬見匈奴人沒能組織起有效抵抗，就下令秦軍迅速推進，不給敵人喘息的機會。就這樣，秦軍一路上沒有遭遇大的抵抗，就推進到了河北地區，順利收復了河南地區。始皇在那裡設定了四十四個縣，並徒民開墾。蒙恬則下令秦軍到黃河南岸過冬，等來年春季再對匈奴作戰。

在奪取了河南地區後，蒙恬認為，匈奴人一定會組織反撲。於是他一邊修築防禦工事，一邊訓練士卒，準備先下手為強，打匈奴一個措手不及。第二年一開春，蒙恬就親率主力由九原渡過黃河，向高闕與陶山進軍，另一部則西渡黃河，殺向賀蘭山。

在高闕、陽山一帶，兩軍主力相遇，展開激戰。匈奴的頭曼單于剛剛集結好兵力準備南下，沒想到秦軍會再次主動出擊，於是倉促擺開陣勢，準備應戰。

與之相反，準備充分、訓練有素的秦軍有自己的一套成熟戰法。當時，秦軍的攻擊還是以步騎和戰車相結合的戰法為主，想必是借鑑了當年趙將李牧戰勝匈奴的經驗。但當年趙軍用的主要兵器是弓箭，而此時的秦軍卻大量裝備了威力更大的弩。弩代表著當時軍事技術的最高峰。匈奴人普遍裝備的是弓，無論射程還是威力都無法與弩相比。而且秦軍戰車數量較多，上栽各式弩箭，一旦齊射，就是萬箭齊發的場面，能對敵軍造成極大的心理震懾。

果然，兩軍接近時，秦軍戰車在前，阻擋匈奴騎兵的衝鋒，後邊的弩兵和騎射手張弓齊射，箭如雨下。匈奴被這種強大的攻勢所震懾，還未衝到秦軍陣前就有大量人員傷亡，士氣驟降，陣形大亂，幾乎潰不成軍。秦軍的步騎大軍趁機掩殺過去，匈奴主力被徹底擊潰，死傷慘重。

秦軍連戰連捷，匈奴遭到致命打擊，不敢再留在陰山—帶。不久，頭曼單于率領殘餘勢力退出陰山和賀蘭山地區，向大漠深處北撤七百餘里，直到漠南—帶。

至此，秦帝國北擊匈奴的戰役取得完勝。此後，蒙恬率領三十萬秦軍一直駐守北邊，威懾匈奴，並修築起了長城。始皇在新徵服的地區設定了九原郡，公元前211年，三萬戶民眾被遷徒到這裡從事邊疆開發，此後，這塊地區就成為秦軍抗擊匈奴的後勤保障基地。

秦帝國擊敗匈奴後的第二年，開始徵發罪人和百姓，前往北邊修築長城。《史記》記載：“秦已並天下，乃使蒙恬將三十萬眾，北逐戎狄，收河南，築長城，因地形，用險治塞，起臨姚，至遼東，延袤萬餘里。”從這一記載可以看出，主持修築長城的正是大將蒙恬。

蒙恬修築的秦長城，西起今天甘肅的臨姚，向東一直延伸到了今天朝鮮的平壤，直達海邊。蒙恬用四年時間修好了這條舉世聞名的萬里長城，代價就是無數秦朝百姓的生命。《水經注》中有民謠這樣唱道：“生男甚勿舉，生女哺用脯，不見長城下，屍骸相支柱。”在那個重男輕女的時代。人們寧願生女孩也不願生男孩，因為生了男孩就要去修建長城，就很可能會死在那裡，還不如生個女孩。可見修長城時百姓勞作之艱辛。但幸好這一偉大的工程並不是全新的，而是蒙恬將原來秦、趙、燕三國的長城連線而成，若不是這樣，將有更多秦國百姓埋骨他鄉。

長城的修築，一方面耗費了秦王朝大量的民力物力，將秦國百姓推到了水深火熱之中；另一方面，長城對於抵禦匈奴的騷擾，保護內地人民生產和生活，確實起到了重要的作用。因此，秦王朝承受了修長城之害，但這確實也是一件功在千秋的大事業。

蒙恬北擊匈奴、修建長城，有力地阻止了匈奴騎兵對中原的劫掠，使得秦軍有了進可攻退可守的一塊寶地，並且對這塊寶地進行了進一步的開發。在後來與秦人的交往和聯絡中，不少匈奴人受中原文化的吸引，南遷中原，同秦人及其他各族人民共同居住和生產，到了漢代，這一趨勢更加明顯。可以說，正是長城的修建，保衛了中原文明的正常發展，促進了民族大融合，奠定了中國統一的多民族的中央集權國家的基本格局，也為漢代漢民族的形成創造了條件。