胡惟庸得知后便让刑部尚书吴云弹刻刘伯温，称谈洋踞山临海，有君王之气，刘伯温是想要在这里建自己的墓地，当地百姓不答应，便想要在那里设置巡检司为难当地民众。多疑的朱元璋下令剥夺了刘伯温的官禄。刘伯温害怕会带来更大麻烦，便前往南京当面向皇帝请罪，但朱元璋对此事全然不过问，刘伯温申诉无门，忧郁成疾，很快就病倒了。此时，胡惟庸携带补药前来探望病情，刘伯温吃了胡惟庸送来的药后，顿时感到有如拳头大小的石头般的硬物堵塞在胸口。
刘伯温又上奏朱元璋，但朱元璋依旧不管不问。这样，又过了三个月，病情更加恶化。直到这时，朱元璋派人前去问候刘基，得知他已不能起床了，便下令让他返回青田老家。返回家乡不久，刘伯温就离开了人世。
其实，朱元璋早就怀疑刘伯温，即使刘伯温已经如此低调，但是功劳如此之大的开国功臣在他心里那里还是兄弟，分明就是威胁，朱元璋的皇帝头衔是他抢来的，他自然害怕什别人抢走，对这些开国重臣一个个打压，即使是隐居的刘伯温也没有放过。毒杀也是朱元璋常用的手法。
但是刘伯温死后，朱元璋并不好过，以前许多大事都需要刘伯温帮他拿主意，现在没了刘伯温，这些事情的处理多少有些缺陷，更有史书评价说，若不是当年朱元璋赐死了刘伯温，明朝至少能够多存活300年。
