匈奴一經被趕回外蒙古，漢武帝就於公元前127－111年間，著手在甘肅建立了一系列郡和軍府，以防匈奴捲土重來。從蘭州延伸到玉門關，有武威郡（涼州附近）、張掖郡（甘州附近）、酒泉郡（肅州附近）和敦煌郡，可以觀月氏故地動靜和保證絲路的暢通。公元前108年，中國將軍趙破奴向西北更遠地區進軍，直至羅布泊地區的樓蘭國和今吐魯番地區的車師國。他監禁樓蘭王，並打敗車師王。幾年之後，中國與費爾幹納（中文稱大宛）建立了商業關係，當時費爾幹納無疑是居住著東伊朗人和塞人，他們為中國提供產於河中地區的優良馬種。大約在公元前105年，由於不滿中國的這種索求，費爾幹納人暗殺了中國使者。公元前102年，中國將軍李廣利進行了一次空前大膽的行軍，率兵6萬，從敦煌出發，直奔費爾幹納。當他抵達費爾幹納時，只剩下3萬人。他採取引水改道的方法降服該國的都城‐‐可能是蘇對沙那，即今烏拉秋別‐‐直到他獲得3千匹馬作為貢賦後才退兵。

與此同時，北方的匈奴並未偃旗息鼓，武帝統治末期是以類似於瓦魯斯（var）之難的一次災難為標誌的，儘管遠遠不如瓦魯斯之難那麼嚴重。一位名叫李陵的中國年輕軍官計劃對外蒙古發動一次遠徵。他隨身帶領5千步兵從額濟納河北部支流上的居延出發。朝正北向翁金河方向行軍30天，在到達浚稽山‐‐無疑地是在稱為吐帕施山附近的某地‐‐之後，他發現自己已處於8萬匈奴的包圍之中，匈奴中的馬上弓箭手們開始驅逐這支小小的隊伍。李陵朝中國邊境方向撤退，遊牧騎兵緊追不捨。&ldo;一日，五十萬矢皆盡。即棄車去，士尚餘三千餘人，徒斬車輻而持之，軍吏持尺刀&rdo;。然而，撤退的軍團來到離中國邊境30英里內的地方，悲劇發生了。&ldo;單於遮其後乘隅下壘石。士卒多死，不得行。&rdo;時至黑夜，李陵企圖在黑暗籠罩下偷襲匈奴中心地，殺單於，但他失敗了。只有各自逃命。僅有400人突圍生還，其餘的人，包括李陵在內，都成了俘虜。武帝聞之，勃然大怒。史學家司馬遷曾企圖為勇敢的李陵挽回名聲而受到殘酷的刑罰。&ldo;李陵之難&rdo;使漢朝中國在一段時期內放棄了在外蒙古進行反攻的政策。但是，這次災難並未危及甘肅邊境，因為受它拖累的不過是一支分遣隊。

從這一時期起，匈奴的古物都是在外貝加爾省發現的。如上所述，有最近在特羅伊茨科沙夫斯克附近發現的德瑞斯特斯克墓地，墓中的西伯利亞青銅飾片可以由自公元前118年以後發行的一些中國錢幣確定其年代，而赤塔墓地的發現，據麥哈特確定，屬於公元前第2至第1世紀。外貝加爾省成了匈奴的物資供應地，當遊牧民們在秋季開始進攻鄂爾多斯環狀地區時，就從這裡提取補給。

在以後的一個時期裡，匈奴和中國在長城腳下或是在蒙古地區都沒有發生過公開的衝突，彼此為爭奪塔里木北緣諸綠洲，也就是說為控制絲綢之路展開了鬥爭。公元前77年，羅布泊的樓蘭王被殺，樓蘭國與匈奴聯合，起來反對中國的宗主權，中國在該地區的伊循屯民。在漢宣帝的統治下（公元前73－49年），中國在塔里木盆地的擴張取得了決定性的進展。漢宣帝宣稱：&ldo;漢家自有制度，本以霸王道雜之&rdo;。公元前71年，中國校尉常惠去幫助伊犁河流域的烏孫對付匈奴。公元前67年，吐魯番國（車師）加入了匈奴的追隨者之列，被中國將軍鄭吉降服。公元前65年，另一位中國將軍馮奉世推翻了葉兒羌王的統治，使該綠洲成為中國的屬土。次年（前64年），事實上吐魯番國在中國駐軍撤離後立刻倒向匈奴，但是，在公元前60年，鄭吉又重新佔領其國。鄭吉在焉耆南的渠犁