雖然劉淵並未稱帝，但其尊崇的乃是劉禪，而且一切皆以漢制，無疑表明了與司馬政權的決裂，這樣一來，晉帝國的版圖上出現了兩個政權。

劉淵是匈奴族，要挑戰漢人王朝，其對外的口號竟然是以漢人前王朝的名義，而運作方式也以漢人前王朝為藍本，可見劉淵的政治眼光。

正如所有政權在建立之初都要接受考驗，劉淵的政權剛建立，便遭到了幷州刺史司馬騰的武裝進攻。

司馬騰做為西晉欽命的幷州老大，自己的地盤上憑空出現一個與自己政權對立的異族政權，自然不可能無動於衷。

司馬騰的形勢非常嚴峻，因為劉淵的匈奴五部不僅在幷州，而且劉淵稱王的左國城距離司馬騰的刺史府晉陽僅僅只有三百里的距離，騎兵突擊一夜間就可兵臨城下。

一、借兵拓跋鮮卑

司馬騰缺乏大智慧，卻不乏小聰明，所謂大智慧的缺乏就在於此人糊塗到匈奴五部這些年在他眼皮底下的動作，他居然一點也沒有察覺；而所謂的小聰明卻在於他對新興的劉淵不敢小視，但又不能不面對，於是便想出了一條既可以試探一下劉淵的實力又不暴露自己實力的辦法，便是一條千古實用“以夷試夷”之策。

他向鮮卑借兵，利用鮮卑試探匈奴。

自然，這種借兵是要花錢的，鮮卑有三部，他選擇了價格便宜的拓跋氏。

范文瀾的中國通史對鮮卑的記載“東胡鮮卑族世居遼東遼西塞外，東漢桓帝時，檀石槐建立起一個大國。檀石槐死後，部眾離散。魏晉時，諸部大人中宇文氏、慕容氏、拓跋氏相繼興起。……拓跋部居幷州塞外，完全是遊牧部落，文化最落後。”

鮮卑拓跋部又曾被衛瓘用計謀分裂其上層造成內亂而使得勢力衰微，但到了此時的拓跋祿官時代，他又將拓跋部落正式分為了三部，一部自己領導，其餘兩部由他死去兄弟沙漠汗的兩個兒子拓跋猗戦和拓跋猗盧統領，這兩人極善用兵，屢次擊破匈奴、烏桓所部，而且手下留用的漢族士大夫甚多。

拓跋落後貧窮，有錢自然願意，果然，拓跋猗戦和拓跋猗盧兩兄弟乘劉淵不提防之計立刻會攻劉淵，在左國城和離石附近的西河將劉淵一部擊敗，二人受人錢財替人消災，並沒有更多的企圖，看看佔了便宜並不窮追，而是見好就收。

劉淵也並不想與鮮卑為敵，他的敵人是漢人，因此他沒有反擊。

二、大淩河之戰

此戰並沒有對劉淵造成很大損失，卻給了司馬騰一個錯誤訊號：劉淵胡虜，烏合之眾不值一提。

在錯誤的判斷下，司馬騰由當初的重視立刻轉為輕敵，旋即展開戰略進攻。

司馬騰手下大將聶玄率西征大軍浩浩蕩蕩而來，而劉淵卻並不輕敵，這一仗與他來說是生死之戰，勝或可有生路，一旦失敗便危及整個家族的性命，於是率全軍迎頭東向。

聶玄自晉陽發兵，而劉淵從離石出發，雙方相會於文水和交城之間的大陵，與距離離石相比，距離晉陽卻更近些，因為劉淵的部隊騎兵為多，擅長野戰，速度甚快。

把握了速度，便有了主動。

兩軍在大凌展開會戰，劉淵軍是五部統一後的第一仗，人人奮勇，要為新生的漢政權而奮鬥，聶玄軍人設想的是天朝大軍一到，敵軍望風而逃，個個想進入左國城看看，沒想到在大凌遇上敵軍，士氣及鬥志則明顯不如劉淵軍。

雙方一接戰，聶玄軍便大敗。

聶玄兵敗，使得司馬騰元氣大傷，由戰略進攻立刻轉為戰略防禦，龜縮於晉陽附近再不敢出來。

三、匈奴避戰鮮卑

第一仗完勝，給了劉淵的新漢軍以極大信心，而司馬騰龜縮一隅，讓他有力量對幷州的西南各郡採取各個擊破的策略，儘快擴充套件疆土。

於是兩路漢軍開始了攻城略地，一路是建武將軍劉曜，另一路是冠軍將軍喬晞。

劉曜，劉淵同族兄弟之子，自小父母早亡，被劉淵撫養長大，史載其“聰慧，有膽量。”此人文才武略兼備，博覽群書，“尤好兵書，略皆闇誦。”而且書法不錯，善草書和隸書，能將一寸厚的鐵板射穿，被稱為“神射”。

劉曜的性格與年輕時的諸葛孔明頗為相似，常自比樂毅與蕭何，被旁人看做是不知天高地厚，但卻為劉聰看好，劉聰力挺劉曜：“永明（劉曜的字）自比樂毅及蕭何，依我看來，樂毅及蕭何比起永明差遠了。”

此刻劉曜領命，果然不負劉淵所望，率軍南下佔領今平遙附近的中都，得手後迅速向東南開進，攻佔上黨的屯留、長子和泫氏（今高平）；

而喬晞則打下介休。

至此，劉淵的漢軍一路攻城略地，奪關斬將，一舉將幷州南部的上黨郡和西南部的西河國盡數囊入自己版圖。

司馬騰的聶玄軍一敗退縮晉陽後，劉淵曾有乘勝趕走司馬騰的想法，派兵進攻司馬騰的政治中心晉陽，但司馬騰又再次借兵於拓跋猗戦，有了前次愉快的合作，拓跋猗戦不但對司馬騰產生了相當的信任，而且感覺劉淵的漢軍實力不強，這次便輕騎來救，戰果頗豐，斬了劉淵手下將領綦毋豚。

劉淵見短期內無法達到攻佔幷州全境的目的，加上此時的幷州地區又鬧起了饑荒，便將王庭遷到上黨南部今壺關附近的黎亭，雙方形成了暫時的僵持。

劉淵的王庭遠離了司馬騰的首府。