朱元璋觉得很奇怪，问他“李善长几次想加害于你，你为何还为他讲情？”
刘伯温坦率地说：“我与李善长不和，那是私人的事，罢免丞相，可是国之大事啊！”
朱元璋听了点头称是，继续任用李善长为相。李善长年老辞官之后，朱元璋找刘伯温商量说：“你的朋友杨宪很有才干，可以为相。”
刘伯温说：“杨宪的确有丞相之能，但没有做丞相的肚量。作为丞相应胸怀宽广，豁达大度，处理国事时，不掺杂个人好恶，这些都是杨宪所不具备的，望另选他人。”
朱元璋又问：“胡惟庸如何？”
刘伯温明确地回答：“此人居心叵测，不可为相。”朱元璋说：“看来，只有先生您才是最好的人选啦。”刘伯温连忙摆手道：“我也许强些，但我对别人短处看得过于严重，又不善处理复杂事务，勉强担当有恐有负你所委托。人才总是有的，请皇上再留心吧。”
朱元璋没有听刘伯温之言，而让胡惟庸做了丞相。果然不出刘伯温所料，胡惟庸野心勃勃，阴谋篡位。要不是及早发现，险些吃大亏。事后，朱元璋感慨地说：“伯温知人之深，料事如神，我不如他啊！”