然而，洛阳实质上的支配者是那个有虐待倾向的张方。离开河间王而独立的张方，此时已是一方之霸，洛阳在他及下属官兵的掠夺之下，已迹近荒废的程度。张方因而挟惠帝、皇太弟成都王及豫章王，迁都至长安。
皇帝和皇族都不得不听这个蛮横无道的张方之指挥。张方再度把刚回归原位的皇后羊氏废掉。此外，他也废除成都王的皇太弟之位，改立武帝二十五子豫章王司马炽为皇太弟。这么做的目的，是要显示自己的力量。
被废皇太弟之位的成都王，离开长安东归。并在东方策划卷土重来。以前曾与成都王交战而一败涂地的东海王司马越也举兵了。时间就在这个情况下进入永兴三年（公元306年）。
东方诸军以“除君侧之奸”为举兵口号。君侧之奸，指的当然是在长安言行举止旁若无人的张方。
如果杀死张方，应该足以与东方和解才对。
对张方的恩将仇报极为愤慨的河间王，与同样对张方憎恨入骨的毕垣商量的结果，决定派出刺客，结果顺利取下张方的项上人头。河间王将其首级送至东海王处，并提议和解，东海王却不接受此议。举兵讨西之事业已就绪，而且长安正处于极端混乱的状态之下，一旦开打，绝无打不赢之理——这是东海王的如意算盘。
在东海王讨西军部将祁弘的手下，绝大部分是鲜卑族人，他们越关，在灞水河畔大破河间王军，然后进入长安城。据传，祁弘部下的鲜卑族兵，在长安屠杀了两万多人。河间王司马颙逃至太白山。
祁弘等人以牛车载着惠帝，由长安回到洛阳。抵达洛阳已是炎炎夏日的六月一日。数度被废的羊皇后，又回归原位。政府行大赦，并且改元为“光熙”。
十月，成都王司马颖受赐死，伪造诏勅的是东海王部下一个叫刘舆的人。司马颖是第六个被杀的王。
十一月，惠帝因食物中毒而死，享年四十八岁。好不容易回到洛阳的他，不到半年就辞世。继位的是皇太弟豫章王司马炽，是为怀帝。
十二月，河间王司马颙被杀——第七个消失的王。东海王司马越原本建议河间王就司徒（与首相同格）之位，而河间王也正有此意。一度逃至太白山的他，再也不想过着修罗场一般的日子。他想丢弃野心，安度余生。然而，他却为胞弟南阳王司马模所杀。
司马模为何杀死胞兄？因为他认为这位兄长是充满野心的人。河间王过去的所作所为，的确令人如是想。虽然他宣布“我已完全丢弃野心”，但这个弟弟是不会轻易相信他的。
倘若野心勃勃的哥哥再度造反，其结果将引来“诛杀三族”之刑。也就是说，自己便要因哥哥而遭殃。
——这么做是为了所有的亲属。
南阳王或许是以此为借口吧？他派遣名叫梁臣的部下前往新安县迎接，在该地将胞兄河间王及他的三个孩子杀了。
为求自己平安，杀死胞兄和侄儿——实际上，这样的事情在司马一族一如家常便饭。这样的王朝，谁不唾弃呢？
事实上，在八王之乱还没有严重到极点时，就有人对这个王朝感觉厌恶了。这个人叫张轨。
他在中央政府一路平步青云，干到散骑常侍的地位，却志愿请调当边境之地的首长——凉州刺史（甘肃省地区首长）。他的朋友莫不为此而感到讶异。
“凉州是非常偏僻的地方，那个地方有鲜卑族人，而且盗贼横行。到那样的地方去，绝对无法过像样的生活呀！趁现在还来得及，你赶快撤回申请吧！”
朋友纷纷忠告张轨。
“难道在这个洛阳就能过像样的生活吗？你们看着吧！人与人之间像野兽争食般的丑恶斗争，很快就会蔓延开来。到时候，你再怎么戒慎，也难免被卷入漩涡。与其如此，不如到边疆去。这样不是比较安全吗？”
张轨心中如是想着，却没有把它说出。这种不祥的预言，当然是不能说出来的。他莞尔一笑，回答道：“我有自己的想法。我已经这样决定了。”
张轨于永康二年（公元301年）正月赴任。那是赵王司马伦正在散布“神谕”的时候。随后张轨在凉州宣布独立。事实上，他是被情势所逼，因为以洛阳为中心的晋王朝发生大乱，中央威令根本不能达到西北边境。
到张轨的儿子继任时，开始以凉王自称，并且建立了地方性的小王朝。这个地方后来更出现五个以凉朝为名的小王朝，被统称为“五凉”。张轨之子创建的王朝，为与余者区别，被称为“前凉”。
对晋王朝失望的，不只张轨一人。连自汉代以来就与中原汉族政权保持友好关系的南匈奴领袖，也对晋王朝的紊乱情形大为失望，因而与之断绝友好关系。
出生于南匈奴单于家庭的刘渊，据传在学识上是同时代的汉人无人能望其项背的领袖人物。如此英才的刘渊，在成都王司马颖麾下，以冠军将军身份驻屯于邺。刘渊的儿子刘聪于年轻时代求学洛阳，同样是文武全才，从成都王任刘聪为积弩将军即可见其才华之高。
——今司马氏骨肉相残，四海鼎沸。
匈奴长老们认为：这是独立的良机。晋王朝正呈现大混乱状态，而匈奴有刘渊、刘聪这对不世出的领导人，如此良机怎能错过？
公元304年10月，刘渊与成都王（也就是晋王朝）决裂，以左国城为据地独立。左国城在今山西省离石县附近。
汉——刘渊以此为国号。
往昔汉的皇帝，曾经与匈奴单于缔结兄弟之盟。刘渊重视这个缘分，所以定了这个国号。刘渊就汉王之位，并且定元号为“元熙”。他在施政上的一切，都沿袭汉的制度。