谈判破裂之后，司马颖立即调兵，准备二次攻城。张方则借助自己的围城工事一面切断城内的补给，一面破坏城东的千金坝，这直接导致洛阳出现严重的缺水。
司马乂深知城池陷落之后的下场，于是发动城内的王侯公爵以及三公官员家的奴仆婢女，让他们动手捣米供给军营。
骠骑将军府的主任秘书祖逖认为一味固守只怕早晚要被攻破，应该主动出击才有望解除洛阳危机。司马乂深以为然，向他询问对策，祖逖献上了围魏救赵的良计，因为雍州督导官刘沈忠义果敢，而且拥有不少兵力，最好派人火速赶到雍州让他出兵攻击司马颙的总部，司马颙为了自救一定会召回张方，而只要张方一撤，单纯对抗北面的司马颖，就更有胜算了。
祖逖生于世家大族，但并没沾染富家公子的恶习，而是生性豁达、轻财重义，成年之后更是博览群书，非常勤奋，每天还坚持锻炼身体以时刻准备为国效力。曾经和刘琨一起在司州担任秘书，两人经常听到公鸡打鸣就早早起床舞剑，在当地非常有名，成语闻鸡起舞说的就是他们。
刘琨能和祖逖交朋友，自然也不是泛泛之辈，两人都将在国家存亡之际担当起中流砥柱的角色。
八王之乱爆发后，祖逖因为有贤名而先后被诸王征召，但他一心为国，从不结党营私，因此虽然经历了政权的多次更迭，新上台的王爷却都对他十分尊敬，且都十分倚仗，而不是像其他人一样受到诛连。时势无常，英雄实际上从这一年开始，才渐渐走向历史舞台的中央。
听完祖逖的建议，司马乂终于松了口气，只要刘沈出兵的计划得以实现，洛阳城一定能守住。
事实证明祖逖的眼光是非常毒辣的，刘沈果然不负众望，很快就集结了7个郡的兵力将近1万人向长安发起攻击。
司马乂接着又派出皇甫商秘密前往秦州向他哥哥皇甫重求援，可惜皇甫商运气太差，在半路过安检的时候遇到了一个曾经闹过别扭的亲戚。亲戚二话不说就把这个可疑人上报给了司马颙，结果显而易见，司马颙是不可能放过他的，派人带了封恐吓信连同皇甫商的人头一起送往洛阳。
虽然皇甫重没能出手，但刘沈那1万兵力却帮了大忙。
304年正月，张方听说长安受到攻击，而洛阳城一时半会也不能攻克，几经纠结终于决定要撤出洛阳回军援助。
而另一方面，司马颖经过七里涧惨败之后，兵力损失三分之一，更重要的是士气受到了严重打压，因此二次攻城并没有取得满意的效果，反而屡次被击退，死伤6万多人。
反观洛阳城里，虽然条件异常恶劣，各方面补给都严重缺乏，但司马乂对皇帝十分恭敬，百姓对司马乂也十分信任，大家众志成城，没有半点松懈。
只需要再多十天，洛阳城就能保住。
可惜世事多变，人心尤其善变。
眼看胜利在望，洛阳城中的东海王司马越却奇怪地认为这场战争必败无疑，于正月25日联合手下的将领突入司马乂的大营将其逮捕。
滑稽的场面出现了，当司马越打开城门准备投降的时候，城外的敌军个个疲惫不堪，仿佛一阵风都能将其吹倒。司马越悔得肠子都青了，尤其是参与逮捕司马乂的将领决定重新迎回他们的老大。
但是司马越已把自己的退路堵死了，就在逮捕司马乂的当天就上书司马衷免除司马乂的所有官职，并把他囚禁在金墉城，如果现在司马乂回归，肯定不会善罢甘休。
认真权衡一番，司马越决定杀掉司马乂以断绝将士们摇摆不定的念头。这时候太监潘滔意味深长地跟司马越说不必亲自动手，城外有的是人想要司马乂的命。
正月28日，司马越派人拦住了将要西去的张方，并把洛阳城拱手相让。
张方被突如其来的幸福搞糊涂了，再三确认之后才让大军就地驻扎，然后他亲自带人前往金墉城去提司马乂。
经历了将近半年的煎熬，张方对司马乂可说是恨之入骨，在当天就把他活活烧死，惨叫声呼天抢地，令人动容。
司马乂成了八王之乱中死的最惨的那一个，享年27岁。
虽然关中军实际上控制了洛阳城，但长安之围尚没解除，张方带着军队重新在洛阳抢掠一番才踏上了西去之路。
长安距离洛阳直线距离都有300多公里，张方的军队因为带了太多金银珠宝和美女，结果必要的粮食却没带够，以致到了半路没东西吃了只能沿途抢劫，后来经过人烟稀少的地方不得不把抢来的美女杀掉充饥。
刘沈虽然善战，但在司马颙和张方的夹击之下终于兵败被捉，他大义凛然地告诉司马颙：“知遇之恩轻而君臣之义重，我不能违背天子诏书，计算强弱利害以求活命，起兵之日起，我已知必死无疑，但纵使被剁成肉酱也在所不惜！”
司马颙曾是他的上司，被自己的下属追杀，这滋味确实不怎么好受，听完了刘沈的话顿时气得发狂，亲自拿起鞭子抽打他，打到刘沈奄奄一息的时候才下令将其腰斩。
长安