接。不久，石虎因头晕目眩回宫。随后，张豺让张雄伪造诏书杀死了石斌。
四月二十二（戊辰），刘皇后又伪造诏书，任命张豺为太保、都督中外诸军事、录尚书事，依照霍光辅政的旧例（赋予极高权力）。侍中徐统叹息说：“祸乱将要发生了，我不想参与其中。”于是服毒自杀。
四月二十三（己巳），石虎去世，太子石世即位，尊奉刘皇后为皇太后。刘太后临朝听政，任命张豺为丞相；张豺推辞不肯接受，请求任命彭城王石遵、义阳王石鉴为左右丞相，以安抚他们，刘太后听从了他的建议。
张豺和太尉张举谋划诛杀司空李农，张举一向和李农交好，就秘密把消息告诉了李农；李农逃到广宗，率领几万家人“乞活”（西晋末年以来流亡求生的武装流民）在上白据守。刘太后派张举统领宿卫各军包围上白。张豺任命张离为镇军大将军，监管朝廷内外诸军事，作为自己的副手。
彭城王石遵抵达河内，听说石虎去世的消息；姚弋仲、蒲洪、刘宁以及征虏将军石闵、武卫将军王鸾等人讨伐梁犊后返回，在李城与石遵相遇，一起劝石遵说：“殿下年长且贤明，先帝当初也有意立殿下为继承人；只是因为他晚年昏聩糊涂，被张豺误导。如今女主临朝，奸臣当权，上白的包围还没解除，京城的宿卫兵力空虚，殿下如果以声讨张豺的罪行为名，大张旗鼓地讨伐他，谁会不打开城门、倒戈迎接殿下呢！”石遵听从了他们的建议。
五月，石遵从李城起兵，回师直奔邺城，洛州刺史刘国率领洛阳的部众前往与他会合。讨伐檄文传到邺城，张豺极为恐惧，急忙征召包围上白的军队返回。五月初九（丙戌），石遵的军队驻扎在荡阴，士兵达九万人，石闵担任前锋。张豺准备出兵抵抗，城里的老臣、羯族士兵都说：“彭城王是来奔丧的，我们应当出城迎接他，不能为张豺守城！”纷纷翻越城墙出城；张豺斩杀了一些人，也无法阻止。张离也率领二千名龙腾卫士，冲破城门迎接石遵。刘太后见状恐惧万分，赶忙召张豺入宫，对着他痛哭说：“先帝的灵柩还没入葬，祸难就到了这个地步！如今继位的太子年幼，我把他托付给将军，将军该怎么办？如果给石遵加授重要职位，能平息这场祸乱吗？”张豺惊慌恐惧，不知该如何回答，只说“是是”。于是刘太后下诏，任命石遵为丞相，兼任大司马、大都督、督中外诸军事、录尚书事，加授黄钺（象征专杀之权）、九锡（古代帝王赐给重臣的九种礼器，代表极高荣誉和权力）。五月十二（己丑），石遵抵达安阳亭，张豺恐惧，出城迎接，石遵下令将他逮捕。五月十三（庚寅），石遵身披铠甲，检阅军队，从凤阳门进入邺城，登上太武前殿，捶胸顿足，尽情表达哀悼之情，随后退到东阁。在平乐市将张豺斩首，并诛灭他的三族。石遵假借刘太后的命令说：“继位的太子年幼，是先帝因私人恩情所立，皇位极为重要，不是他所能承担的，应当由石遵继承皇位。”于是石遵即位，实行大赦，并解除对太白的包围。五月十四（辛卯），封石世为谯王，废黜刘太后为太妃，不久就把他们都杀了。李农前来请罪，石遵让他恢复原来的职位。尊奉母亲郑氏为皇太后，立妃子张氏为皇后，原燕王石斌的儿子石衍为皇太子。任命义阳王石鉴为侍中、太傅，沛王石冲为太保，乐平王石苞为大司马，汝阴王石琨为大将军，武兴公石闵为都督中外诸军事、辅国大将军。
五月十七（甲午），邺城中刮起暴风，吹倒树木，响起震雷，降下的冰雹像盂（盛器）和升（量器）一样大。太武晖华殿发生火灾，以及各城门、楼台亭阁都被烧得荡然无存，皇帝的车马服饰器物，被烧毁的超过一半，金属器物和石制器物也全被烧光，大火烧了一个多月才熄灭。
当时沛王石冲镇守蓟城，听说石遵杀死石世自立为帝，便对他的僚属说：“石世接受先帝的遗命继位，石遵却擅自废黜并杀死他，罪恶没有比这更大的了！立即下令内外戒严，我将亲自率军讨伐他。”于是留下宁北将军沐坚戍守幽州，率领五万部众从蓟城南下，向燕、赵地区传布檄文，响应他的人到处都是；等到达常山时，部众已达十多万人，驻扎在苑乡；这时遇到石遵颁布的大赦诏书，石冲说：“都是我的弟弟，死去的人不能复活，何必再互相残杀呢！我要回去了！”他的部将陈暹说：“彭城王篡夺皇位，杀害君主，犯下了大罪！大王虽然要北上返回，但我将继续南下。等平定京城，擒获彭城王，然后再恭迎大王您。”石冲于是又继续进军。石遵紧急派王擢送信劝喻石冲，石冲不听。石遵派武兴公石闵和李农等人率领十万精锐士兵讨伐石冲，双方在平棘交战，石冲的军队大败。在元氏擒获石冲，赐他自杀，活埋了他的三万多名士兵。
武兴公石闵对石遵说：“蒲洪是杰出的人才，如今让他镇守关中，我担心秦州、雍州之地会不再归国家所有。这虽然是先帝临终前的命令，但陛下已即位，自然应当改变策略。”石遵听从了他的建议，罢免了蒲洪都督的职务，其余官职仍按之前的任命保留。蒲洪发怒，返回枋头，派使者向东晋投降。
前燕平狄将军慕容霸向燕主慕容俊上书说：“石虎凶残暴虐到了极点，已被上天抛弃，他的残余势力仅存，还在自相残杀。如今中原百姓处境困苦，迫切盼望仁爱之人救助，如果我军大举出兵，他们势必会放下武器归顺。”北平太守孙兴也上表说：“石氏内部大乱，应当趁机进取中原。”慕容俊因刚遭遇父亲慕容皝的丧事，所以没有同意。慕容霸骑马赶赴龙城，对慕容俊说：“难以得到却容易失去的是时机。万一石氏衰败后重新振兴，或是有英雄占据他们已有的基业，不仅会失去这一大好机会，恐怕还会成为日后的祸患。”慕容俊说：“邺城虽乱，但邓恒占据安乐，兵力强盛、粮草充足，如今若攻打后赵，东路无法通行，只能从卢龙出兵；卢龙的山路艰险狭窄，敌人若占据高处截断险要路段，前后夹击，该怎么办？”慕容霸说：“邓恒虽想为石氏坚守，但他的