大臣都觉得张重华疯了，纷纷劝说：张祚狼子野心，赶紧把他调到外地，以防他生事，否则国家必定大乱。
张重华不听。
353年，张重华在位仅8年就死了，活了27岁。年仅10岁的儿子张曜灵即位。张重华临死前，为了制约张祚，调他的心腹谢艾入京城，谢艾是当时最有能力的名将，和张祚是死对头。
万没想到，诏书写好后，都没来得及发出去，他就死了。张祚自称遗诏封他都督中外诸军事、抚军大将军，掌握了军政大权。
做的第一件事，就是下诏杀死了谢艾。第二件事，他和赵长、尉缉等人密谋，全国散布舆论，说张曜灵年少无知，现在周边强敌太多，内部不太平，应该立年长的人为国君。大臣们已经知道张祚要动手了，赶紧转向，选择重站队伍。
第三件事：他使出浑身解数讨好马太后，求她支持。马太后神魂颠倒时，理智错乱，答应了张祚的要求。不久，马太后下诏，废掉了自己的亲孙子张曜灵，立张祚为君，此时离张曜灵即位才一个月。
张祚成了个“变态狂”
等到张祚上台之后，露出了他豺狼的本性。
马太后对他情意绵绵，但张祚只是把她作为一个工具，达到了目的，她也就失去了作用。再加上他确实是个“变态狂”，因此把马氏晾到了一边，不再理睬。
他先是和张重华的老婆裴氏私通，过了一段时间，感到厌倦就把她杀死了。
接着强暴了张重华所有的小妾，最后张重华几个10多岁的女儿都被他奸淫。更加疯狂的是，张骏没有出嫁的女儿，也就是他自己的姐妹（同父异母），一个都没有能够幸免。
国人大哗，到处在吟诵《诗经》里面《墙茨》这首诗。诗是讽刺卫宣公的夫人宣姜和父子偷情的故事，后人就把“墙茨”比喻成宫廷淫乱。马太后看着情人忘恩负义，成变态的疯子，极其愤怒，决定报复。不久，张氏的宗室河州刺史张瓘，宣布得到太后密诏，起兵讨伐张祚，复立张曜灵。
整个前凉震动，张祚大为惊恐，他原来还没有想杀死张曜灵。现在意识到这个“招牌”会被人利用，于是下了毒手。他派人硬生生地把张曜灵的腰肢扳断，然后埋到了沙坑之下。
这种极其残忍的杀人手段，引得众叛亲离，曾经的心腹纷纷倒戈，拥入皇宫。张祚被乱刀砍死，在位只有一年多。