明太祖手下有一大批辅佐自己打江山的谋臣武将，建朝后这些人也自然而然地成了开国功臣。洪武二年（1369），明太祖大封功臣，李善长、徐达、常遇春等人被封为公爵，汤和等28人被封为侯爵，汪广洋和刘基也被封为伯爵。
明太祖还赐给这些人造命铁券，许诺除谋逆大罪外绝不治罪，表尔君臣之间的绝对信任。然而历史很少会是一场喜剧，君臣皆火欢喜注定不能成为结局。明太祖生性刻薄多疑，随着政权的巩固，他对功臣的猜疑也越来越深。而有些功臣仗着自己的功劳，横行不法，甚至结党专权，更是直接威胁到了至高无上的君权。
洪武十三年（1380），有人告发左丞相胡惟庸谋反，明太祖借此机会，诛杀胡惟庸以及部下15000多人，连告密的人也一并杀死。又过了10年，有人举报已经退休还乡的李善长曾与胡惟庸交往密切，也参与了胡惟庸的谋反。李善长是明朝开国第一功臣，明太祖曾称其为“吾之张良”。他还跟明太祖结为儿女亲家，光诰命铁券就领过两张。但明太祖根本不理会这些，77岁的李善长披赐死，全家共有70多人被杀。此后，“胡党”完全成为一种屠戮功臣的工具，每过几年，朝廷就会揪出一批“胡党”，就这样前后共诛杀3万多人，一时间朝堂上下血雨腥风，人人自危。过了一年，有大臣大胆上书，指出李善长已是明朝第一功臣，爵位俸禄只在皇帝一人之下，他帮助胡惟庸谋反即使成功地位也不过如此。况且他自己业已风烛残年，何必要冒这么大的风险，去做一件根本没多人益处的事情呢？明太祖面对这份奏章无言以对，只能不予理睬。
明太祖意犹未尽，洪武二十六年（1393），凉国公蓝玉也被告发谋反，全家被杀，井株连15000多人，其中包括一公、十三侯、二伯，时人称之为“蓝狱”。这一次清洗的重点是军队，军中的骁勇将领几乎被诛杀殆尽。该案最蘑要的几个证人身份低微，不是渔夫就是染匠，很难想像身为封疆大吏、手下拥有重兵的蓝玉如果真要谋反，竟会跟这些人同谋。由此看出这十之八九也是一件漏洞百出的冤狱。
这两次大狱前后延续14年之久，后人合称为“胡蓝之歙”。经过这两次火清洗，剩下的开国功臣已经寥寥无几。明太祖终于不必再费心罗织什么大狱，剩下的元勋宿将靠一些零散的罪名慢慢收拾就可以了。一些著名的功臣如周德兴、廖永忠、朱亮祖等人，纷纷因为一些莫须有的小过被赐死、鞭死或是砍头。打下明朝半壁江山的大功臣徐达一向谨慎小心，功成后自解兵权，但即使这样明太祖对他还是不放心。传说徐达在晚年得了恶疽，民间说法得这种病不能吃蒸鹅，否则会有性命之忧。而明太祖单单就给徐达送了了只蒸鹅，并让他当着使者的面吃下去。徐达含着泪吃了蒸鹅，当天晚上就死了。其实，得恶疽的人吃蒸鹅当然未必会死，不过徐达从中看出了明太祖对他的态度，除了死之外他还能有什么选择呢？
功臣们终于杀干净了，但明太祖对其他大臣又开始不放心起来。他设立了一个叫做“锦衣卫”的特务机构，专门监视、侦察大臣的活动。大臣在外面或者家里的一言一行，他都打听得一清二楚。稍有可疑言行，就会披抓进大牢，严加审讯。大臣在朝堂上只要让他不高兴，就会被脱掉裤子按在地上打板子，这叫做“廷杖”。除了精神上的侮辱，有些大臣年老体弱，被当场打死的例子也不罕见。
朝廷上的大臣们人人自危，每天上朝的时候，都愁眉苦脸地向家人诀别，交代后事，到傍晚如能平安回家，就要摆下宴席，举家庆祝自己又活了一天。朝常之上如此，天下士子也把做官视作畏途，生怕一不留神就走上一条不归路。
