劉遵祖少為殷中軍所知，稱之於庾公。庾公甚忻然，便取為佐。既見，坐之獨榻上與語。劉爾日殊不稱，庾小失望，遂名之為“羊公鶴”。昔羊叔子有鶴善舞，嘗向客稱之。客試使驅來，氃氋而不肯舞。故稱比之。

　　公曰：“敢问何谓敬身？”孔子对曰：“君子过言，则民作辞；过动，则民作则。君子言不过辞，动不过则，百姓不命而敬恭，如是，则能敬其身；能敬其身，则能成其亲矣。”公曰：“敢问何谓成亲？”孔子对曰：“君子也者，人之成名也。百姓归之名，谓之君子之子。是使其亲为君子也，是为成其亲之名也已！”孔子遂言曰：“古之为政，爱人为大。不能爱人，不能有其身；不能有其身，不能安土；不能安土，不能乐天；不能乐天，不能成其身。”

　　賈充初定律令，與羊祜共咨太傅鄭沖。沖曰：“臯陶嚴明之旨，非仆闇懦所探。”羊曰：“上意欲令小加弘潤。”沖乃粗下意。