在上海戴笠力图保持同样的形象。每晚都洗身上惟一的那套西服，好在他睡觉时晾干，于是戴笠在人们眼里总是显得要比他的实际情况得体。事实上，他是靠在商务印书馆当职员的表弟张冠夫的供养生活的。张冠夫在1920年间在小北门地段租了一间小阁楼与妻子住。戴笠就睡在这对夫妇床边的地板上。这一点造成了戴与表弟媳王秋莲之间的紧张关系。

戴笠曾企图通过表弟在商务印书馆找工作，结果由于张太太的阻挠而没能得逞，而且她有一次还真让他吃了闭门羹。

不过，尽管有她的反对，张冠夫还是随着戴笠进入了情报工作系统，在1931年成了他联络组的一员，并在1937年接受了主管苏浙行动委员会经理处的中将及军统财务处副处长的任命。

尽管有这些报赏，张太太仍旧看不起戴笠。她所了解的这个秘密警察头子是个瘪三，在她看来，他永远是一个扮作国王的猴子而已。而到了后来灯红酒绿的年代，轮到戴笠扬眉吐气的时候，他对张夫人十分鄙视，管她叫做毫无青春魅力的“黄脸婆”。与此同时，他用怂恿表弟纳妾，让他的妻子与一个年轻美貌的小老婆同居一个屋檐下的办法，来竭力折磨她。

有人认为，1923年戴笠断断续续地与他的表弟和表弟媳一直住了一年。当他表弟去商务印书馆上班时，戴笠经常光顾上海小东门那儿的十六铺一带，他在那里的流氓中间小有名气。十六铺是个混乱的商业地带，出过像杜月笙这样的人物。而这个大名鼎鼎的帮会头子杜月笙正是在那时看出，那个年纪很轻的戴笠是个“人才”。关于这位青帮头子与未来的蒋的特工首脑的关系，万墨林的说法最具有权威性。他原来是杜月笙的机要秘书，后来加入了戴笠的军统。万在1928年报告说，当戴笠只有31岁时，他已作为一个情报员在为胡靖安工作了，他决定自己的未来成就取决于在上海地下社会中建立同盟关系。

于是，戴笠拜访了当时的上海警备区司令杨虎，杨直率地告诉他：“你要在上海搞情报，就得跟一个朋友联系。”这位朋友，自然就是杜月笙了。

那天杨司令带了戴笠来拜访杜月笙，戴先生身着整洁的西服……头发梳得平整光亮，一双明亮的双眼睁得很大，谈吐也得体。虽然他刚离开军校不久，而且只不过30岁的年纪，他在杜先生和杨司令面前讲起话来却既慷慨激昂又胸有成竹。尤其是，在简单的客气话后，他直截了当地向杜先生提出请求，而杜先生则毫不犹豫地回答说：“好吧。以后有事的话，你可以给我打电话。如果我不在，你可以让万墨林转告。”

后来这三人成了结拜兄弟（戴笠比他们两人小8到9岁）。以后戴笠就把这个帮会头子称做“三哥”。总之，当戴笠的嫡亲表弟张冠夫得知他们的关系后，惊恐万状，马上把戴笠赶了出去，怕他与地下社会的关系连累到他家的安全。

在那段“打流”的岁月里，戴笠经常回到江山山区。1922年，他设法弄到了仙霞乡学务委员的职位，这可能与他读过省立师范学校有关。两年后他28岁时，在保安村建立了军事组织“团兵队”。尽管这支自卫力量为保卫保安村而参加了打击孙传芳的同盟孟昭月的江浙战争，他们的活动主要还是以“清乡”为主，而戴笠在其中任主力打手。戴笠小小的武装力量在打击地方土匪上极为有效。戴笠经常自告奋勇，在漆黑的暴雨之夜，亲自爬越荆棘丛生或长满灌木的山坡，搜捕这个由地主组成的团兵队的敌人。戴笠的勇敢和坚韧是显而易见的，更不用说他身上的某种凶狠野蛮了。但是，保安村的自卫团最终还是无法击败孟将军的部队，于是戴笠再次决定离开江山到外面的世界去碰碰运气。