朱元璋成功登基后，大封家乡人。他的亲友中，六人封国公，二十八人封侯，胡惟庸就是其中之一。胡惟庸联合李善长，组成淮西帮，这个淮西帮大多为姻亲关系，他们在明朝初期相当团结，权势极大。但好景不长，洪武十三年开始，朱元璋开始大开杀戒，对开国元勋，文武将相开进行迫害，杀害，目的很明显，朱元璋知道自己越老，势力就月薄弱，因此必须铲除原来和他一起打下江山的这群老人，巩固自己老朱家的地位，淮西帮，也没有逃过这个劫数。
最先遭受厄运的就是当朝宰相胡惟庸。胡惟庸，安徽定远人氏。早先投奔朱元璋的时候，他做的是元帅府的奏参，凭着自己的本事，慢慢做到了太常寺少卿。洪武三年，李善长提拔胡惟庸，官拜中书省参知政事，随后不久便取代了好友汪广洋任中书省左丞相。以后又拜右丞相，继而为左丞相。胡惟庸人际交往能力极强，逢迎有术，又得到朱元璋的信赖，在洪武初年可谓是一人之下万人之上，独当一面。
人呢，做到一定程度，本性便显露无遗。胡惟庸虽然聪明绝顶，但极其骄傲自大，还特别爱折腾。他利用自己宰相的权利，将所有政务直接揽下。下臣上报的奏折，他必须先审阅，后上报。看到对自己不利的奏折便收起不报。明史中记载，胡惟庸最牛的就是不经过奏报，便对官员进行生杀升降，因此一些趋炎附势之徒一而为了升官发财，二而为了保命求生，不断的向胡惟庸贿赂名画宝马，金银珠宝，胡惟庸也欣然接受。
朱元璋是何等的精明，这些他看在眼里，但是不说。猪要养肥了再杀，而且胡惟庸现在位高权重，也不能说杀就杀，自己虽然贵为天子，也要想想对策才好。有一天大将军徐达直接找到了朱元璋，向他汇报了胡惟庸的所作所为，胡惟庸的眼线遍布皇宫，他听到消息后，马上反咬徐达一口，想把事情搅乱，弄成一团浑水，自己好借助水遁逃难。但是朱元璋继续暗兵不动。
朱元璋本不想早早处理胡作非为的胡惟庸，但遇到这件事，不弄不行了。事情要从胡惟庸的儿子说起。一个阳光明媚的上午，胡惟庸的儿子耍大牌，在马路上骑着高头大马横行过市，这时马儿突然一个颤栗，胡子坠落马下，不巧的是一列马车正好经过，马车的车轮从胡惟庸儿子的身上掠过，当场毙命。胡惟庸知道事情后，什么也没问，什么也没说，直接派人杀了马车夫替儿子报仇。大家要知道，洪武年间法律制度严禁，你是大官也不能随便杀人，而胡惟庸儿子之死更是大街小巷传遍了，胡惟庸杀人也是传到了皇帝的耳朵里。胡惟庸后悔没有妥善处理此事，便向朱元璋诉说了他当时失去爱子的悲痛心情，更是忏悔自己的所作所为。朱元璋听后，只对他说了四个字，“杀人偿命”！之后便不问此事，胡惟庸心情始终不能平静。
明史中记载，胡惟庸这次面见皇帝后，有心铤而走险，造反起势。但怎奈自己的势力太过单薄，政权在手但无军无粮。随后，在今天的越南，有个国家叫占城国，像大明进贡。胡惟庸隐藏不报，将贡品私藏，后来朱元璋听说占城国进贡，但不见使者，胡惟庸就把责任推给了礼部，礼部哪能这样被坑，又把责任推给了中书省。朱元璋看手下玩轮子，便将所有经手此事所有官员关了起来。洪武十三年正月，涂节和中书省吏上书告胡惟庸谋反。朱元璋遂以“枉法诬贤”、“蠹害政治”等罪名，将胡惟庸和涂节、陈宁等先后处死。
胡惟庸死后，朱元璋便不再任命宰相。朱元璋认为皇帝必须权力至高无上，宰相犹如皇帝的影子，用好了可以事半功倍，用不好便事倍功半。他不放心自己的下一代，因此严格规定嗣君也不得再立丞相，如果有大臣上奏，马上处以重刑。从此，胡惟庸死，一直到崇祯帝，明朝再无宰相，宰相管理的事务由内阁承担，并分为六部酌情处理，皇帝的中央集权等到进一步的加强。
