永嘉二年（308年）春，此時都督兗、豫、冀、司、冀、幽州六州諸軍事的司馬越，為了便於指揮六個州的軍事行動，將大本營從許昌轉移到鄄城。此時的司馬越可謂是內外兼顧，對朝廷的掌控絲毫沒有放鬆。年底的時候，前北軍中候呂雍、度支校尉陳顏等人欺負司馬越不在洛陽，想搞陰謀詭計，圖謀再次擁立司馬覃為太子，結果還是被司馬越留在洛陽的心腹獲悉，於是以太傅、丞相的身份命令將廢太子司馬覃關進了金墉城，避免了一場危機。後來司馬越還是不放心，於是下令將司馬覃秘密處死，這個無辜又可憐的孩子，被幾立幾廢，受盡了波折，死時才14 歲。

司馬越將兵力基本都部署在自己的防區，導致洛陽空虛。已經投靠了漢王劉淵的王彌乘機進逼洛陽，京師大震。

王彌畢竟是將門之後，從青州一路相繼攻陷泰山、魯國、譙縣、梁、陳、汝南、穎川、襄城諸郡縣，打得各地晉軍猝不及防，連徵東大將軍苟晞出馬也無法扼制其進攻的勢頭。不久，又被他們攻陷了軍事重地、司馬越原先的大本營許昌，得到了大量的武器裝備，京師洛陽也暴露在漢軍的兵鋒之下。

司馬越急忙派左司馬王斌率5000甲士火速趕赴洛陽，保衛京師。涼州刺史張軌得知訊息後，也派涼州都護北宮純率領1000精兵趕來增援。

王彌所部在許昌休整了半個月後，於永嘉二年（308年）五月進軍軒轅（今河南偃師縣南），並在伊水北岸擊敗了晉軍，京師震動，洛陽城門和皇宮大門白天黑夜都處於緊急關閉狀態。晉懷帝司馬熾任命司徒王衍為都督征討諸軍事、持節、假黃鉞，全權指揮保衛洛陽的戰鬥。

五月十九日，王彌兵臨洛陽城下，在津陽門（洛陽南城東頭第一門）外紮營，做攻城準備。這時出現了神奇的一幕∶城門徐徐開啟，從裡面走出一支百來人的隊伍，他們身披雙重鎧甲，一手舉著西涼獨有的盾牌（高達1。7米、寬約80釐米），一手緊握柳葉型長劍，步伐緩慢地向漢軍壓了過來。

這是北宮純訓練的一支西涼重甲步兵，是涼州鐵騎王牌中的王牌，中原的軍隊根本沒有見過。只見這支小分隊出來後，城門又緩緩關閉，漢軍斷定這批裝束奇異的西涼兵是來送死的，見他們只有區區百來號人，根本不放在眼裡。王彌更是不能容忍這種挑釁，下令弓弩兵放箭，一時間，箭矢如蝗，卻絲毫奈何不了他們。

一輪箭雨過後，騎兵發起衝擊，隨著北宮純的一聲令下，看似笨拙的重甲兵變得異常靈活，他們迎敵而上，以三人為一組，一人對付馬，一人對付騎手，第三個人跟上給墜地的騎手補上一刀，手法嫻熟，沒有多餘的動作。隨著敢死隊向前移動，他們的身後倒下無數戰馬和敵人的屍體，直殺得漢軍膽戰心驚，不敢再窺視津陽門。洛陽保衛戰初戰告捷。

王彌在津陽門吃了敗仗，轉而進攻建春門（洛陽東城北頭第一門），北宮純也率領他的西涼兵出現建春門的城頭上，王彌遂於五月二十二日讓士兵在建春門架起柴草，放了一把大火，向東撤走。王衍命令前將軍曹武、左衛將軍王秉率部追擊，在七里澗又打敗王彌。

王彌考慮到已經沒有回頭路可走，青州是回不去了，便渡過黃河投奔劉淵。劉淵得知王彌到來非常高興，派人到新都城黎亭（今山西長治縣北）郊外迎接，轉告王彌：“我在給安排將軍的住處，準備好美酒，洗好酒杯，恭候駕臨。”兩人重逢，相談甚歡，王彌勸劉淵稱帝，劉淵則拜王彌為司隸校尉，加侍中、特進（地位僅次於三公），一同前來的王桑被任命為散騎侍郎。

涼州都護北宮純這次是做了充足準備，想要轟轟烈烈大幹一場的，沒有想到漢軍比劃一下就跑了，覺得很不過癮，遂率領西涼鐵騎進軍河東郡（今山西夏縣），打敗了前來騷擾的漢趙撫軍將軍劉聰。

洛陽轉危為安，首都軍民創作了一首歌謠，歌頌涼州鐵騎∶涼州大馬，橫行天下。涼州鴟苕，寇賊消；鴟苕翩翩，怖殺人。司馬熾為表彰張軌的忠誠，進封他為西平郡公，張軌推辭不接受。當時天下已亂，各方諸侯都不把朝廷當回事，只有張軌派遣使者向皇帝朝貢，一年四季從不間