胡惟庸是最早跟朱元璋出来混的人之一。
混是现代黑道上的说法，按照中国历来的成王败寇的原理，在明末群雄逐鹿的过程中朱元璋最终胜出，朱元璋理所当然是奉天承运的真龙天子。朱元璋不是黑社会老大，胡惟庸也不是马仔。胡惟庸跟着朱元璋有更加有派头的说法，叫“从龙”、叫“捧日”。
在朱元璋手下的文官里，胡惟庸算是提拔速度比较快的一个。这一方面是胡惟庸比较能干，熟悉官场游戏规则。另一方面是舍得花钱，为升官不惜花血本。据说有一回胡惟庸一次就送给丞相李善长 200 两黄金，此后李善长推荐他做了中书省参知政事。不久，胡惟庸升任右丞相，并取代李善长做了左丞相。朱元璋在准备任用胡惟庸为相时曾经征求过刘基的意见，刘基说，任用宰相好比坐马车，最怕马疯跑。刘基把胡惟庸比成疯马，这话比较损。奇怪的是，尽管是匹疯马，但朱元璋还是让胡惟庸当了 10 多年的丞相。
胡惟庸得到朱元璋喜爱的秘诀是报喜不报忧，各部门送上来的奏章，胡惟庸精心筛选一些皇上喜欢的送上去，皇上不喜欢的就扣下来。时间长了，朱元璋就觉得自己被蒙蔽了，就采取了掺沙子的做法要架空他。朱元璋派自己的外甥李文忠协助丞相共议军国大事，又让已经退下去的李善长重回政坛，还下令全国臣民有事情可以直接上书皇帝。但胡惟庸自以为得到朱元璋的宠幸，有点忘乎所以，在朝中有恃无恐，权势欲越来越膨胀。甚至连官员任命这样的事情都敢一人包揽，一时间文官武将要想升官，都得送礼给他。胡惟庸如此肆无忌惮，除了朱元璋喜欢他以外，还倚仗李善长为首的淮西集团的支持，或者说，他自己就是淮西集团的重要人物。
朱元璋打天下，主要靠两拨子人，一拨子是李善长为首的淮西集团，骨干成员大多是朱元璋的老乡。另一拨子是刘基为首的浙东名士豪族势力，主要是一些在群雄逐鹿中押宝押中了的大官僚、大地主。两派经常斗争，淮西集团稍占上风。所以分封功臣时 9 个公爵，52 个侯爵，刘基都没有份儿，只得到了一个伯爵，俸禄只有李善长的十分之一。但朱元璋对于刘基也自有安抚之道，像刘基这样对名利尊位看得很淡，经常作出世之想的高人来说，更为看重的是个人的德性，所以朱元璋下令免除刘基老家青田的赋税作为对他的奖励。这样一来，刘基虽然只封了一个小小的伯爵，但在家乡地面上威信大增，对于朱元璋更加感恩戴德。所以，朱元璋出身农民，却是天生的皇帝胚子，他知道对待不同的人用不同的方式加以控制。
淮西集团中的一些人自以为与皇帝是老乡，有时候说话、做事就有点不知道自己姓什么，搞得朱元璋很烦，唯恐这些老乡以后弄出什么乱子出来。
某年、某月的某一天，皇后马娘娘与一班功臣的老婆一起吃饭。马娘娘以前也是过惯苦日子的人，吃着吃着发了一点人生感慨：“以前我们都是苦人家，哪里想到现在能够过上这样的好日子。”这时候有个功臣的老婆冷冷地说：“都是苦人家，现在你家的日子可比我家好过多了。”马娘娘度量大，没有往心里去，可是这话传到朱元璋耳朵里，性质就不一样了。大家都是苦人家出生不假，可是现在我做了皇帝，天下都是我家的，不管多大功臣，连你的人都是我的财产，奴才怎么能够跟主子攀比呢？所以朱元璋觉得有必要对这些老乡下手，免得这些家伙不知天高地厚。
象胡惟庸这种性格缺陷很明显的人，要找他几个茬子是很容易的。
洪武 13 年，胡惟庸的儿子乘着一辆豪华马车奔走闹市，本来大概是装酷，没想到马受惊把胡公子摔死在车下。胡惟庸气急败坏派人把车老板干掉了。朱元璋知道这件事声称要把胡惟庸抓起来砍头。另一件事是当时的占城国也就是现在的越南派人来进贡，胡惟庸竟然没有报告朱元璋。朱元璋责问胡惟庸怎么回事，胡惟庸把责任推在礼部身上。朱元璋把礼部的人关起来审讯。不久，朱元璋在审讯右丞相汪广洋时说：“你和胡惟庸勾结起来蒙蔽我。”这话传到胡惟庸耳朵里，胡惟庸觉得朱元璋要对自己下手了。
就在朱元璋准备除掉胡惟庸的时候，御史中丞涂节状告胡惟庸与御史大夫陈宁谋反。洪武 13 年，朱元璋亲自审讯胡惟庸，斩胡惟庸、陈宁三族。非常跷蹊的是举报的涂节也被杀掉了，朱元璋的说法是涂节既然举报，肯定也曾参与起事，只不过害怕事情败露才出来投机，这样的人不能不杀。
胡惟庸被杀掉以后，这个案子一直查了 10 多年，不查不知道，一查吓一跳。原来胡惟庸一直处心积虑准备谋反，据说胡惟庸准备在朱元璋到丞相府赴家宴时谋杀他，还查出来胡惟庸勾结日本武士要杀害皇上，派人与元朝残余势力联系。总之越查问题越多，有人认为这是朱元璋为了达到自己目的而事后编造出来的。在历史上这样的事情是不乏先例的，当权人物要除掉某个眼中钉时，总有人跳出来打死老虎以便邀宠。朱元璋杀死涂节也有人认为是杀人灭口。
不管胡惟庸冤不冤，但是前后因胡惟庸案而牵连致死的官员多数是蒙受了不白之冤。这个案子涉及到总督以上的大官有 20 多人，一般官员 30000 多人，结果大多数含冤致死，其中包括辅佐朱元璋打天下的头号功臣李善长。
胡惟庸是罪有应得，私通倭国密谋造反。
胡惟庸死后，其谋反“罪状”陆续被揭发。在这样的情况下，大量的“胡党”受到了牵连。
到洪武二十三年（1390 年）五月，事情败露，将封绩逮捕，审出当时情况，胡惟庸的逆谋进一步大显。正好李善长的家奴卢仲谦自首告发李善长和惟庸往来情况，而陆仲亨的家奴封贴木也自首告发陆仲亨与唐胜宗、费聚、赵庸三侯与胡惟庸共谋不轨。朱元璋大发雷霆之怒，肃清逆党，词语相连，被诛杀者达三万余人。于是做《昭示奸党录》，布告天下。此案株连蔓引，直到数年之后，还没有清除干净。
“胡党”而受株连至死或已死而追夺爵位的开国功臣有李善长、南雄侯赵庸、荥阳侯郑遇春、永嘉侯朱亮祖、靖宁侯等一公二十一侯。胡惟庸被杀后，朱元璋遂罢丞相，革中书省，并严格规定嗣君不得再立丞相；臣下敢有奏请说立者，处以重刑。丞相废除后，其事由六部分理，皇帝拥有至高无上的权力，中央集权得到进一步加强。
胡惟庸案也有政治的因素在里边，确实有许多的无辜者被错杀也有一些罪不当死的人判了死罪，政治斗争有时比战争还要残酷。