出身名门更兼才华出众的裴楷，仕途相当得意。他当过曹魏的相国掾、尚书郎、吏部郎、中书郎；司马炎任抚军时，特意选他作参军；西晋建立后，他从散骑侍郎、散骑常侍、屯骑校尉、右军将军、侍中等，一直当到类似于宰相的中书令。
西晋刚建立时，武帝司马炎曾在朝中占卦，想测测晋朝气数如何。孰料所得卦象竟然是“一”。武帝拂然不悦，惟有博闻强识的裴楷，从容上前，奏道：“臣闻天得一以清，地得一以宁，侯王得一以为天下贞。”他的解释出自《老子》及其注文，“一”是“数之始，物之极”，是万物的本原和归宿。虽然卦象中的“一”不同于玄学中的“一”，但裴楷急中生智，偷换了概念。晋武帝终于释然，群臣亦叹服他的机敏和博学。
他曾在朝上侃侃而谈，将汉魏的盛衰之迹分析得简明透彻，意在劝皇帝以史为鉴。晋武帝曾经问，天下人怎样评论他的得失？裴楷直言不讳，一针见血地指出：“陛下之所以不能与尧舜相比，就是因为朝中有贾充这样的人在！”贾充，就是后来的国丈，丑八怪皇后贾南风的父亲。
以裴楷的见识和德操，既不愿如潘安那样扭曲自己，亦无心学钟会的追名逐利。然而，纵是如临深渊、如履薄冰的谨慎，亦无法避免不测之祸。
白痴皇帝司马衷即位后，贾后诛杀杨骏。只因是杨骏的姻亲，无辜的裴楷竟被收捕下狱。当真是一位“玉人”，生死攸关都面不改色，只是索要纸笔，从容与亲友诀别。或许，精于玄理的他，对富贵生死都是豁达淡然的。
幸好，转眼间柳暗花明。在侍中傅祗的极力救护下，裴楷最终只是免去官职。接下来，汝南王司马亮和太保卫瓘共同辅政。偏偏他们又是裴楷的姻亲，又都出于欣赏而想重用他。裴楷却清醒得很，拒绝了唾手可得的爵位，反而请求离开京师，去当地方官。智者固然能够见微知著，但到底晚了一步。就在当晚，楚王司马玮诛杀司马亮和卫瓘，裴楷也被列入了必杀的黑名单。真是吃够了姻亲的苦，他又一次被身不由己地卷进旋涡。那晚，他单车入城，躲在岳父王浑家，一夜间换了八个藏身之所。