王祥卧冰求鲤

东汉末年，战乱频仍，王祥带着继母朱氏和异母弟王览避乱至庐江，并在那里隐居了二十多年，拒绝州郡的任命。后来，曹魏徐州刺史吕虔征召王祥为别驾，起初王祥不愿接受，但在弟弟王览的劝说和帮助下，他最终答应任职，并负责徐州的民事事务。当时州内盗贼横行，王祥激励士兵，频繁派兵讨伐，最终使州内安定，便于政策和教化的推行，深受当地人民的爱戴。

王祥后来被举为茂才，担任温县县令，后升任大司农。正元元年（254年），高贵乡公曹髦即位，因参与司马师的废立计划，王祥被封为关内侯，官至光禄勋，后转任司隶校尉。次年，镇东将军毌丘俭和扬州刺史文钦在寿春叛乱，王祥随司马师讨伐。战后，王祥的食邑增加了四百户，被封为万岁亭侯，升任太常。后来，魏帝曹髦入读太学，王祥被任命为三老，成为皇帝的老师，传授为君之道。

甘露四年（259年），曹髦试图推翻掌权的大将军司马昭，但被贾充指示成济刺杀，朝臣为皇帝举哀，王祥悲痛欲绝，哭着说“老臣无状”，令众人面有愧色。景元元年十二月甲午日（261年2月2日），王祥升任司空，景元五年三月丁丑日（264年4月30日）转任太尉，加封侍中。同年，司马昭恢复五等爵制，王祥被封为睢陵侯，食邑一千六百户。

次年，晋王司马炎称帝，建立西晋，王祥担任太保，进封睢陵公，加封七官之职。因王祥年事已高，很少上朝，司马炎便派侍中任恺询问他对政策的意见。王祥多次请求辞官退休，但都被拒绝；御史中丞侯史光因王祥长期因病缺席朝议，要求将他罢免，但司马炎表示仍然倚重和欣赏他，且他多次请求退休，御史台不应提出这个议题。后来，王祥再次请求退休，司马炎便下令他在府第中留职和俸禄，并赐予多项物品，任命长子王肇为给事中。

泰始四年（268年）四月戊戌日，王祥逝世，享年八十五岁。次年，他被追封为睢陵元公。