前文已经提到，明代为了防止地方专权，废除了元代的行省制度，模仿宋代监司分路而治的方法，在地方各省建立了都指挥使司、布政使司和按察使司等三司分立的制度。三司分立的格局，虽然可以使它们彼此相互牵制，但这一制度存在的负面影响也随之暴露出来，那就是地方由于权力分散，对外防御与对内镇压反抗的能力大大削弱，尤其不能应对处理地方突发或重大的事件。为了弥补这些不足，更好地协调处理地方上的事务，于是在明代宣德年间以后，中央经常向各地派出总督、巡抚两类新型官员，负责处理所督与所抚地区内的行政、军事及监察等方面的事情，成为最高一级的封疆大吏，并由临时性的派遣变成长期的设置，管辖范围也变得相对固定，逐渐在都、布、按三司之外，形成了一套总督、巡抚的体制，作为新的地方行政组织。也就是说，总督、巡抚的辖区成为了两京十三布政使司之外的准行政区划了。

洪武二十四年（1391年），明太祖朱元璋责令皇太子巡抚陕西，目的是让他在开阔眼界的同时，为明朝定都选址进行实地勘察，并顺便调查在那里的秦王就蕃后的所作所为。巡抚一职，由此开始出现。永乐二年（1404年），明成祖委派负责监察的给事中雷填“巡抚广西”。到了永乐十九年（1421年），明成祖又让当时担任尚书一职的蹇义等二十六人，分别巡行天下，安抚军民。不过，这时的巡抚只是中央官员的一种临时性的工作，没有固定的官职，不仅事毕即罢，而且也没有对巡抚一职的具体权力作出明文规定。

到了洪熙宣德年间，情况有所改变。洪熙元年（1425年），明仁宗设立南畿浙西巡抚，目的是为了惩办那里的“豪右之民”横行乡里的恶行。宣德五年（1430年），为了各地税粮的征收，明宣宗又分别派遣巡抚到两京与各地去督办。这一时期，巡抚的设置较前有所稳定，职权逐渐变得明确起来，而且还有了固定的治所。

景泰四年（1453年），明王朝在耿九畴赴任陕西镇守（职能与巡抚大体相同，后罢镇守，只称巡抚）时，对巡抚的归属作了明确规定，为便于巡抚在行使监察权力的同时统管地方上的按察使及都察院派出的巡按察使，让巡抚一律从属于都察院系统，并称为“巡抚都御史”。到成化二十二年（1486年），又基本上取消了巡抚回京议事的规定，并在这之前允许巡抚可以带家属赴任，这些都表明巡抚已向地方官转化了。天顺年间（1457～1464年）之后，地方上的都、布、按三司等官员，已不能再专权，而必须听从巡抚的命令了。嘉靖、万历年间（1522～1619年）以后，巡抚已经由以前的间断性派遣，变为连续性的派出，离任与到任的交接手续也制度化了。不仅如此，巡抚还大多加带提督军务的官衔，进一步明确所掌握的军权。巡抚的官名，大部分也由“巡抚××地方”而变成为“××地方巡抚”。实际上，巡抚已由中央官员变成了地方官员。

与巡抚相比，明代总督的设立并不普遍，而且总督偏重于统领地方上的军权，在因事特派方面的职能比巡抚更为明显。正统六年（1441年），为征伐云南麓川地区的少数民族起义，明朝设置了云南总督一职，这是设置总督的开始。此后，总督也经历了由初期没有明确驻地、辖区不明，到后来治所固定、辖区明确的转变。这样，总督也就从一位中央的监察大员，渐渐演变为封疆大吏了。到成化十年（1474年），明朝逐步确立了总督节制巡抚的体制。此外，也有少数总督不仅能节制巡抚，而且还有自己的直属地区。在这种情况下，总督行使职权时，一方面要通过节制巡抚来执行，另一方面，则要通过所统辖的各道来实现。嘉靖二十七年（1548年）所设立的云贵川湖广总督就是这样的一个实例。这一总督，既节制云、贵、川、湖广等四个巡抚，同时，又直接统辖以四川、湖广、贵州三个布政使司相交接的地区所组成的几个道。

概括说来，巡抚的主要职权是行政赋税、考劾属吏、提督军务，而总督的主要职权则是节制巡抚、调度军队。巡抚以民事为主、兼理军务，而总督以军事为主、兼管民事。

由于总督、巡抚逐渐成为了地方上实际的最高军政官员，所以到了明代后期，最高一级地方行政区划事实上已从两京十三布政使司变成了几十个总督、巡抚辖区，虽然总督、巡抚辖区到了清代初期，才正式成为一级地方政区。

巡抚辖区的划定，情况较为复杂，与都、布、按三司所辖地区大体存在着以下三种情况：一是与布政使司（或都指挥使司）辖区大体相同的，二是小于布政使司（或都指挥使司）辖区的，三是地跨布政使司（或都指挥使司）辖区的。万历十年（1582年）时，曾设立了四个总督与二十四个巡抚。在其中的二十四个巡抚辖区中，属于第一种情况的有辽东、山东、河南、甘肃、浙江、福建、广西等巡抚；属于第二种情况的有顺天、保定、凤阳、应天、宣府、大同、山西、延绥、宁夏等巡抚；其余的八个巡抚属于第三种情况，其中以南赣巡抚最为特别，其辖区地跨江西、福建、广东与湖广四个布政使司。另外需要提及的是，在各巡抚的辖区中，还存在着重叠现象，例如南赣巡抚与福建巡抚就同时辖有福建汀州。