成吉思汗建立蒙古国，把所属部民按万户、千户、百户、十户为单位编制起来，各设长以统辖，各长都是世袭的贵族，这是一种军政合一的组织。攻下燕京以后，在燕京设行尚书省，由金朝降将行尚书省事，随着领土的扩大，曾“节制所及凡二十余道”。

忽必烈进入中原，建立元朝，为加强对地方的控制，以中书省分驻地方，称行中书省，以便直接处理政务。不久行省便成为固定行政区。

行省，即行中书省，或简称为省。元代除大都周围一带称为“腹里”，直属中央的中书省管辖，以及吐蕃和诸王封地由宣政院管辖之外，还在全国设立了河南、江浙、江西、湖广、陕西、四川、辽阳、甘肃、云南、岭北、征东等11个行省，以实现对“北逾阴山，西极流沙，东尽辽东，南越海表”，“有难以里数限者”的辽阔疆土的管辖。

行省“凡钱粮、兵甲、屯种”、漕运、军国重事，无不领之”。各省设有丞相、平章、左右丞、参知政事等为正副长官，又有郎中、员外郎、都事等分管省内各种事务。丞相，平章大多由蒙古亲王记当，权力极大，除中央直接任命的官吏以外，有权自选官吏。各省还没有行枢密院和行御史台分管军事和监察。行省的建立有效地防止了分裂，这是秦汉以来郡县制的一大发展，是我国省制的开端，在我国行政区划和地方政治制度史上占有很重要的地位。

行省之下设路、府、州、县。路统属于行省，设有总管府，设达鲁花赤、总管、同知、治中、判官等主要官员，还有学校、司狱司、织染局、东造局、录事司等分管各项专门事务的部门。府设置得不普遍，或统属于省，或统属于路，或直属于中央中书省。府设达鲁花赤、知府或府尹为主要长官，又有同知、判官、推官、知事、提控案犊等员分管各种具体事务。州设达鲁花赤、州尹或知州为主要长官，其他如府制。县设达鲁花赤、县尹、丞、簿、尉、典史等主要官员，典史专主刑狱。在比较重要和遥远的地方设巡检司，如浙江行省泉州路的澎湖巡检司，管辖澎湖、琉球（台湾）等地。县以下有乡都和村社，为地方基层组织，乡都置里正，村社设主首。

值得注意的是地方上的达鲁花赤制。达鲁花赤是蒙古语，意为镇压者、制裁者、掌印者，转而为监临官、总辖官之意。达鲁花赤主要由蒙古人充任，是各级地方政府最高行政兼监督长官，虽然他们往往不管实际事务，但由于他们是高踞于其他官员之上的特殊官员，有实际的监督权，因此在地方政务中起着重要的作用。
达鲁花赤的设置，反映了元代官制的特点，也表明蒙古贵族在元朝政府中占有特殊的地位。

在少数民族和边疆地区，还根据不同情况设置宣抚使司、宣慰使司、安抚使司、招讨使司和宣慰使司都元帅府，从行政管理体系讲，这些使司统属于中央的宣政院。因为它们“掌军民之务，分道以总郡县”，在政务上与行省有一定的关系，所以使司对于“行省有政令则布于下，郡县有请则为达于省”。使司一般都设有使、同知、副使、经历、都事等员，由达鲁花赤任最高监临官。使司以下设万户府、千户所、百户所，各设达鲁花赤、万户、千户、百户为长官，并设有副职和负责具体事务的官吏。

根据各行省的具体情况，有的还设有懦学提举司、都转运使司、茶盐转运司、盐课提举司、市舶提举司等专门机构，分管各种专门事务，是统属于行省的单独行政体系，地方官府无权干涉它们的事务。

元代地方行政与中央一样，形成许多单独的行政体系，如在军事上统属于枢密院的镇抚卫所，监察上统属于御史台的肃政廉访（提刑按察）司，以及统属中央各专门职事部门的诸路匠人总管府、提举司和主管专门事务的局、所、司、库等，都独立于地方行政之外，而按自己的行政体系进行工作。在众多的行政体系中，属于通政院的驿传系统则是比较完备的一项制度。

元太宗窝阔台（公元1229——1241年在位，时尚为蒙古国）对自己评价说：“自坐我父亲大位之后，添了四件勾当，一件平了金国，一件立了站赤，一件无水处教穿井，一件各城池内立探马赤镇守了”。从那时起就已开始建立驿传（站赤）制度。忽必烈建立元朝后，这种驿传制度更加完善全国各地驿站林立，从和林到上都、大都，从大都到杭州，从南京到广州，从大都到东北、西北以至西藏等地，形成若干驿站交通线路，由中央通政院负责统率管理各驿站驿道，各驿站都设有专门官员主管，这不但加强了元朝对各地的统治，而且促进了各族人民之间的经济、文化交流，也使中外交通逐渐发达。

元朝完整的地方统治机构，加强了对地方和边疆的控制，巩固了国家的统一，也消除了封建势力赖以进行割据的基础。自元代至明清，虽然社会上曾经出现过许多动乱局面，也曾经出现过许多农民起义，但始终没有形成封建割据的局面，除政治和经济等方面的原因之外，地方行政制度的完整也有一定的关系。