晉懷帝永嘉三年（公元309年），劉淵采納大臣們的建議，遷都平陽（今山西臨汾附近），大赦境內(nèi)，改元河瑞。漢軍當(dāng)時(shí)的攻勢漸漸形成滅晉之勢。

晉朝內(nèi)部傳出的消息令人失望，由于東海王司馬越獨(dú)攬大權(quán)，他所立的晉懷帝已經(jīng)與他產(chǎn)生了尖銳的矛盾。懷帝多次秘密會見其親信大臣繆播等人，有除掉司馬越之意。司馬越覺察到繆播等人的行徑，在宮中發(fā)動突然的軍事行動，將正與晉懷帝討論密事的繆播等人一并誅殺，同時(shí)斥逐保衛(wèi)皇宮的武將，司馬越與諸官之間形成對立。（司馬越兵權(quán)在握，而所謂的皇帝的親信大臣們又尚未得到可以信賴的寸兵一卒，一旦有變故，沒有實(shí)權(quán)的皇帝只能在一邊偷偷流眼淚。權(quán)臣之難以對付，眾多的例子可以做上一個(gè)最好的注腳。但所謂對內(nèi)可以靠自己的權(quán)術(shù)，對外則得靠真正的軍事實(shí)力和軍事才能，而實(shí)力與才能顯然不可能靠動點(diǎn)小聰明就改變，這就是司馬越與曹孟德、司馬懿之輩的最大的差距。）

晉左積弩將軍朱誕痛恨司馬越的倒行逆施，失望之下叛降劉淵，并向劉淵陳述了洛陽防守的弱點(diǎn)，勸劉淵出兵攻打晉都洛陽。劉淵本有此意，當(dāng)即以朱誕為前鋒都督，為漢軍開路，以平晉大將軍劉景為大都督，向洛陽方向進(jìn)發(fā)。漢軍很快攻克黎陽、延津等地，并擊敗晉車騎將軍王堪，劉景在延津附近將晉朝的三萬百姓沉入黃河。

劉淵聞聽這個(gè)消息，勃然大怒，說：“劉景有何顏面回來見朕？更何況天理豈能容他！我要除掉的，司馬氏罷了，百姓何罪？”立刻將劉景降為平虜將軍。

（此時(shí)的劉淵再次顯示出他重視漢政權(quán)對晉朝百姓的影響，可見其欲匡扶天下之心。比起他的那些接班人，以及十六國中不少只知窮兵黷武，屠戮生靈的統(tǒng)治者，這點(diǎn)已經(jīng)很不容易了。）

在東線戰(zhàn)場，即冀州一帶，石勒先后攻陷了冀州郡縣壁壘百余個(gè)，兵力增至十余萬人。

石勒的軍事勝利不僅影響了周圍的諸胡部落，也影響了不少報(bào)國無門的晉朝漢人士族。趙郡人張賓，就是個(gè)相當(dāng)有才華的低級士人，他自嘆世風(fēng)日下，難逢明主，總是對他的兄弟們說：“我自以為才智謀略不比張子房差，可惜我卻遇不到我的漢高祖啊?！?/p>

石勒大軍席卷河北大地，張賓興奮地對親人們說：“我見過的當(dāng)今為將者多了，唯獨(dú)這位石勒將軍可與之共成大事?！彼⒓刺釀淼绞哲娭?，大叫著要見石勒。起初石勒并未覺得此人有何特殊之處，但經(jīng)過接觸以后，終于意識到張賓確有獨(dú)到的見解，漸漸開始重用他。

當(dāng)時(shí)來投奔石勒的士人越來越多，石勒認(rèn)識到自己欲成大事，必須依靠這些在晉朝不得志的士人的幫助，他以張賓為謀主，加上不少低級士族，別立一營，號為“君子營”，為他出謀劃策。石勒對漢人的利用，有甚于劉淵。同時(shí)，主要聚居在并州的羯人更是積極投奔石勒，石勒借助其在冀州一帶的成功極大地增強(qiáng)了自己的實(shí)力。

連戰(zhàn)連勝之后，這年八月，劉淵正式發(fā)動對洛陽的總攻勢。他派楚王劉聰與晉叛將王彌攻打壺關(guān)，并以石勒為前鋒都督。漢軍在擊敗了并州刺史劉琨的軍隊(duì)之后，很快逼近洛陽，東海王司馬越派平北將軍曹武和將軍宋抽、彭默等出兵抵抗，均被漢將劉聰擊敗。劉聰長驅(qū)直下宜陽，平昌公司馬模派將軍淳于定、呂默等從長安方面出發(fā)前往抵抗。兩軍戰(zhàn)于宜陽，淳于定等又被擊敗。

眼看洛陽危急，弘農(nóng)太守垣延獻(xiàn)詐降計(jì)投奔劉聰，而連勝的劉聰此時(shí)也有些頭腦發(fā)昏，竟不設(shè)防。垣延對漢軍發(fā)動夜間突然襲擊，劉聰大敗而還，漢軍進(jìn)攻洛陽的第一次戰(zhàn)爭以晉軍大勝結(jié)束。這場戰(zhàn)爭的失敗顯然給急于滅晉的劉淵當(dāng)頭一棒，劉淵穿著素服迎接劉聰?shù)臄≤姟?/p>

這年冬天，劉淵不甘心失敗，以舉國之兵力，令劉聰、王彌、劉曜、劉景等率精騎兵五萬為前鋒，以其岳父大司空呼延翼率步兵、騎兵為后繼，向洛陽發(fā)動突然襲擊。一時(shí)間晉軍猝不及防，在河南被漢軍擊敗，但漢軍顯然未從幾個(gè)月前的第一次慘敗中完全恢復(fù)過來，晉護(hù)軍賈胤等率勇士千余人夜攻劉聰軍，兩軍戰(zhàn)于大夏門，劉聰軍潰散。劉聰轉(zhuǎn)而向南，駐軍于洛水，進(jìn)而屯軍于洛陽宣陽門之外，此時(shí)呼延翼被部下殺死，其部下兵士潰散。

劉淵得到老丈人被害的消息，自覺暫時(shí)難勝晉軍，就下令劉聰還師。劉聰認(rèn)為晉軍勢弱，不可輕退，請求留下來繼續(xù)攻打洛陽，劉淵總算同意了他的請求。但劉聰取勝的信心也開始動搖，他竟然自己一個(gè)人跑到中岳嵩山，去禱告天神，將留守大營的任務(wù)交給了部下劉厲和呼延朗。

司馬越乘著漢軍主帥在外的空虛之際，采納了參軍孫詢的建議，令部將孫誨等率精兵三千人自宣陽門出擊漢軍，漢軍大敗，呼延朗被陣斬，劉厲無奈之下投水自殺。

劉聰?shù)貌坏教焐竦谋Ｓ樱瑥尼陨较聛?，只能垂頭面對殘兵敗將，王彌對他說：“當(dāng)前我軍失利，洛陽城守備更加堅(jiān)固，我們的糧草也支撐不了多少時(shí)間了，殿下不如率部退回平陽，徐徐圖之。”劉聰心想當(dāng)初提出留下與晉軍決戰(zhàn)的正是自己，如今若是就這么退兵未免顏面掃地，而且還有可能被治罪，因此踟躇不定。

在平陽觀望戰(zhàn)事的劉淵得到戰(zhàn)敗的消息，也失望之極，身邊一個(gè)卜卦的大臣宣于修之進(jìn)言：“攻克洛陽，歲在辛未（指兩年后的公元311年）；現(xiàn)在晉軍氣盛，大軍不歸，必將潰敗?！眲Y也明白心急吃不成熱豆腐，只好將劉聰?shù)能婈?duì)召回。