对功臣们如此一而再再而三地退让宽容，原因是朱元璋对文臣和武将的态度、判断上都有很大区别。在他眼里，文官这类东西，比如韭菜，割不胜割，毫不值钱。不管怎么杀，都会有大批新的送上门来。但武将则不是这样。一个好的将领，是要在大阵仗中磨练出来的，可遇而不可求。他们都是大明帝国不可缺少的宝贵财富，杀掉一个少一个。事实上，在大明开国之后，几乎无年不用兵，离了他们，他根本无法继续自己的正常统治。

洪武四年正月，朱元璋命汤和为征西将军，傅友德为前将军，分兵两路伐蜀。

洪武五年，朱元璋以徐达为征虏大将军，李文忠为左副将军，冯胜为征西将军，分兵三路北征蒙古。

洪武八年，元将纳哈出进犯辽东，被大将叶旺击败。

洪武十一年四月，庆州屯田百户山丹等起义，朱元璋分遣杨仲明、沐英、王弼等镇压。

洪武十三年这个多事之秋，军事上仍然活动极为频繁。在这一年，沐英率领明军，对蒙古进行了第三次北伐。十一月，故元平章（平章为官名）乃儿不花等率数千骑入洮林口，掠永平（今河北省卢龙县）。

可见直到这一年，朱元璋仍然离不开这些老乡作他的左膀右臂。

不过，胡惟庸案中，胡氏与一些将军们的勾结，让朱元璋胆战心惊。开国之后，他第一次直接感受到军事政变的威胁。如果有那么三五个开国元勋与心险胆大的胡惟庸联合起来共同起事，他的大明江山还真有变色可能。

文官们对皇权的威胁再大，也没有武将严重。开国功臣和皇帝光屁股长大，一起分享过黄色笑话，深知对方并非什么神龙天子，不过一介村夫流氓，睡觉爱放屁磨牙，爱抠鼻孔和脚趾头。他们很难如同其他出身的臣下那样视皇帝如神明，对皇帝也难免跋扈粗率。这些闯过重重鬼门关的家伙，都有着异乎寻常的胆量魄力和机诈权变。一旦动了染指最高权力之念，会比文官更直接，更有力，更不顾后果。一旦天下有事，他们不会放过“皇帝轮流做”的机会，所以历代皇帝们对武臣元老们无时无刻不提高警惕。

朱元璋本有多疑的毛病，凡事过分小心。长期的焦虑和强度过大的脑力劳动，使朱元璋患上了严重的心理疾病。他经常幻想也许有一天，这座宫殿被人一把火烧掉，子孙妻妾被掠去为奴作婢。一想到这些，他就浑身出冷汗。他成日里吃不下饭，睡不好觉。看见宫女太监偷偷溜他一眼，他就认为是在盘算他诅咒他；看见文武百官在殿上说话吞吞吐吐，就以为是要欺瞒他。尤其是天黑下来，一个人坐在禁城里，就揣想别人心里都在想些什么？

官员们有没有私下里交通？是不是有人正在灯下密谋造反？乡里有没有人聚众拜佛烧香？

显然，在历经磨难之后，他的心理状态已经不正常了。他自述道，自己经常“夜卧不能安席，常常因为想起一件什么可能危及帝国安全的事，便一夜失眠”。成天到晚，他的心总是悬着，成天把定下的法度一遍遍从头细撸，看看有什么不安稳的。

所以在因胡惟庸案取消了丞相制之后，朱元璋又进行了一项重大军事体制改革。他于洪武十三年撤销了大都督府，改设左、右、中、前、后五军都督府，以分散中央军事机构的权力。他规定五军都督府管兵籍，但无调动军队之权，兵部掌军官升迁，但无直接指挥军队之权。

所谓“征伐则（皇帝）命将充总兵官，调卫所军领之；既旋则上所佩印，官军各回卫所”（《明史》卷八九，《兵志》），“兵部有出兵之令，而无统兵之权，五军有统军之权，而无出兵之令，合之则呼吸相通，分之则犬牙相制”（《春明梦余录》）。

这样，既可防备将领擅调兵力发动叛乱，又使军权集中到皇帝手中。

诛杀胡惟庸，废除丞相，又改大都督府为五军都督府，这些都是震动全国的重大举措，在执行过程中很容易出乱子。为了防止意外事变的发生，朱元璋不得不采取了上述对功臣的一系列安抚措施。