自從秦朝起,“大漠”一詞就經常在史書中出現。漢朝時漢武帝派大將軍衛青將匈奴趕到“漠北”。後來霍去病深入漠北至狼居胥山(蒙古國的肯特山脈)。公元89年(東漢永元元年)夏六月開始,竇憲、耿秉率軍與南匈奴軍隊在涿邪山 匈奴人會合(今蒙古國滿達勒戈壁附近),與北單于戰於稽落山(今蒙古國額布根山),北單于大敗逃走,漢軍追擊,俘殺一萬三千餘人,北匈奴先後有二十餘萬人歸附。竇憲、耿秉登燕然山(今蒙古國杭愛山),由班固撰寫《封燕然山銘》文,刻石紀功而還。北魏把柔然驅出“漠南”,崔浩進言乘機攻占柔然,張淵、徐辯以:“蠕蠕,荒外無用之物,得其地不可耕而食,得其民不可臣而使,輕疾無常,難得而制;有何汲汲,而勞士馬以伐之?”逐罷。明初洪武時期明軍把殘元驅趕至嶺北地區朱元璋在漠南地區先後設定了衛所40多處分別為九大塞王統御。清朝政府把漠北蒙古稱為喀爾喀蒙古,至民國時期外蒙古獨立;而漠南蒙古所在的地域則演變為今內蒙古自治區。