由于元代的省地域相当辽阔，而且是设置于金、宋两代原有的路府州县之上，因此，元代在地方上便形成了多层级的复式的行政区划体系。

元代在省之下，有路、府、州、县等多级地方行政区划。在最复杂的地区，如中书省，行政区划的层级可达五级之多，即省——路——府——州——县。而在最简单的地区，行政区划的层级却只有两级，即省——路、省——府、省——州等，岭北行省就是这方面的一个实例，其下只辖和宁路，路下不再设其他的府州县。不过，元朝大多数地区实行的行政区划是三级或四级制。再有，在宋代，本来府与州同级，设府只是表示地位尊崇而已。到了辽代，府则成为州之上的一级政区。元代借鉴了辽代的制度，也把府置于州之上，在一般情况下与路同级，在个别情况下又比路低一级。至于元代的州，区域比宋代的更小，有不少的州往往只辖一县或根本就不辖县。甚至在江南，还有一些县因为户口增多，而干脆上升为州，所以在元代，县与州近似为同一级。因此从基本结构上看，元代的行政区划层级大致也只有三级，即省——路（府）——（州）县。

另外，在元代的多层级地方行政区划中，还存在着复式的统辖关系。元代复式的地方层级关系是从辽代仿效过来并加以发展而形成的。在北宋之前，行政区划的层级都是单式的统辖关系，二级就是二级，三级就是三级。但是辽代时改变了这种情况，出现了复式的层级统辖关系，也就是说，二级制与三级制并存于一个高一级的行政区划当中，如辽代的南京析津府（今北京），既直辖十一县，又统领六州，六州之下又各自领县，形成了如下所示的关系：

我们在上面的图示中可以看出，这里的县既可以是第二级政区，又可以是第三级政区。元代路、府的情况与辽代相似，也是除直接辖县外，还可以通过属州再领县。

既然元代政区层级多，并且采用复式统辖关系，因而形成了一套复杂而繁琐的行政区划体系，其各层次之间的关系可以大致用下图表示：

这就是说，元代的地方行政区划，除去省——路——府——州——县的层级顺序之外，还存在着省——路——州、省——路——州——县、省——路——县、省——府——州——县、省——府——县及省——州——县等多种层级形式。这种复杂的行政区划，在中国历史上是绝无仅有的。

元代路一级政区，以府、州为依托，参照金代的总管府制度设置了总管府，负责一路的司法、行政、财政等各项事务，这与宋、金时期路级政区诸司分治的情况是不同的。元代的许有壬就曾说过：“我朝为路，路则今制。”意思就是说，元代的路制并不是简单地沿用了宋、金的路制，而是有所改变，赋予了其新的内涵。元代的路一般设达鲁花赤（蒙古语，为镇压者、制裁者、盖印者的意思，转而有监察官、总辖官的意思）、总管各一员，同知、知中、判官各一员，专制刑狱的推官一到二员。

元代大都路因为是都城所在，路总管府特加“都”字，称“大都路都总管府”。至元十九年（1282年），置大都留守司兼本路都总管府。二十一年（1284年），另设总管府治民事，而以留守司管守卫宫阙都城、门禁关钥启闭，调度本路供亿等事。都总管府设官与一般的路总管府相同，只是员数为二员，另有副达鲁花赤二员，留守司设留守五员，下设同知、副留守、判官等官职。

元代府一级的政区数量不多，在元代的地方行政机构中并不占有重要的地位，主要设置在原来金、宋和大理的统治区域内，分为直隶于行省的府和隶属于路的散府（也称为诸府）。大的府多升为路，剩下的府虽然仍然保持原有的建置，但其地位已无足轻重了。元代的府设达鲁花赤、知府或府户、同知、判官、推官、知事、提控案牍各一员。

元代的州，隶属于中书省与行省的，一般称为直隶州；隶属于路及散府的，一般都称为散州。这些州有的领县，有的则不领县。元代的州设有达鲁花赤、州尹、同知、判官等官。

元代县的分布很不均匀，在蒙古部民居住的岭北地区，就不曾设立过州县，那里的居民依然保持原有的千户、百户编制。元代的县既可以隶属于路，又可以隶属于府，还可以隶属于州。各县一般设有达鲁花赤、县尹、丞、主簿、尉、典史等官。如果是属于中、下等级的县，则不设县丞。

另外，需要说明的是，蒙元统治者为了保证对被征服地区的控制，规定在路、府、州、县中，达鲁花赤不能由汉人担任，而主要由蒙古人充任，也常参用色目人。这种制度的实施，是元代统治者的独创，也是少数民族入主中原的产物。

根据《元史·地理志》的记载，元朝共有一百八十五路，三十三府，三百五十九州，一千一百二十七县。