如前所述，在打天下的过程当中，朱元璋十分重视知识分子的作用。善于任用读书人，是他成功的主要原因之一。在开国之前，他对知识分子毕恭毕敬，十分热情。

开国之后，朱元璋对知识分子的态度前后发生过很大变化。

开国初年，他仍然十分重视人才工作。

开国之初，百废待兴，各条战线都急需人才。朱元璋掀起了一次访求知识分子高潮，来充实自己的官僚队伍。

他继续打天下时的老办法，命人携带大量金钱分赴各地寻找人才。对知识分子还是坚持“给足面子”，嘱咐使臣们“求贤之道，非礼不行……有司尽心询访，必求真材，以礼敦遣”。洪武元年徐达北伐，朱元璋命他一边作战，一边注意访取人才。徐达毕竟是武人，只要是读书人，不管本人是否愿意，都强迫他们赴京，不动身就动武。朱元璋得知，即发布公告，进行安抚，说：“所征人材，有不愿行者，有司不得驱迫，听其自便。”

不过，这时的知识分子政策已经由一手变成了两手。天下未定之际，读书人不出山他不硬逼。因为逼急了，这些人有可能跑到他的对手那里去。他只能摆出宽怀大度的样子，置之不问。如今天下已经姓朱，形势不可逆转，读书人无处可逃，所以对那些太不给他面子的知识分子，朱元璋也时常不自觉地失去耐心，露出自己的獠牙。

江西贵溪县的夏伯启叔侄想做元遗民，不愿当官，把自己左手的大拇指砍掉了。朱元璋闻知大怒，夏伯启叔侄被枭首示众，全家都被籍没。和夏伯启叔侄一样被朱元璋杀死的还有苏州文人姚润、王谟，他们也是“被征不仕”，结果是“皆诛而籍其家”。

《明朝小史》更记载：

帝既得天下，恶胜国顽民，窜入淄流，乃聚数十人，掘一泥坑，特露其顶，而用大斧削之。一削去头数颗，名曰“铲头会”。

朱元璋痛恨那些托身寺庙的遗民，将他们埋入地中，只露其头，用大斧削去，称为“铲头会”。

在朱元璋以前，虽然君权严重，士大夫阶层还享有一定程度的人格独立。“山林隐逸”不但被宽容，甚至被尊崇，这是传统社会留给人们的最后一块自由呼吸的空间。朱元璋却毫不犹豫地封杀了这块空间，他认为，这些拒绝与他的政权合作的人必定是看不起他这个前乞丐。他发布命令：“率土之滨，莫非王臣。寰中士大夫不为君用，是自外其教者，诛其身而没其家，不为之过。”这就是所谓的“寰中士夫不为君用”罪。

天下是他朱元璋的天下，所有读书人都是仰他朱家的阳光雨露而活，不为他朱家服务，这本就是滔天大罪。后来他还专门写了一篇《严光论》来继续阐述他的“不为君用即为罪”的理论。严光是汉光武帝刘秀故人，刘秀登基后他隐姓埋名，不愿出山，刘秀只好让他潇洒自在地在富春江垂钓消遣，这本是中国历史上一桩著名美谈，不想在一千三百年后，却遭到了朱元璋的严厉批判。朱元璋说，假使是赤眉、王郎、刘盆子等辈混乱未定之时，严光到哪儿钓鱼？现在他之所以有地方钓鱼，是因为皇帝平定了天下。既受皇帝之恩，理当出山服务。

胡萝卜加大棒政策效果十分明显。天下知识分子再也不敢东躲西藏，都老老实实出来为新政权服务。由于大批知识分子加盟，大明王朝的官僚体系迅速建立，国家机器按计划有效运转起来了。