杜鲁门在约翰逊去职之际趁热打铁，一举完成一桩搁置已久的心事：撤换中央情报局局长希伦科特海军少将。中央情报局设立头三年，由于缺乏强有力的领导，其表现一直不佳。在马歇尔将军的敦促下，杜鲁门挑选沃尔特·比德尔·史密斯将军出任中央情报局新局长。史密斯在二战时曾是艾森豪威尔将军的参谋长，后来出任美国驻莫斯科大使。

史密斯此人瘦骨嶙峋、疾病缠身，但他才智出众、管理能力非凡，在职业军人圈中即便不是深孚众望，也是一位备受敬仰的人物。正如中央情报局的一位部下雷·克莱恩在几年后说起史密斯：“甲壳虫（他的绰号）是一个性情非常一贯的人，他永远是怒气冲冲。”但是史密斯在中央情报局的存在，意味着这个幽灵机关不再是遭受军方和国务院冷遇的孤儿了。