晋地方官制有郡、国二种，晋武帝灭吴以后，取得暂时统一，便改革秦、汉的旧制，重新分封五等爵士，与郡县制并行。其等级虽繁，但只有王、侯二级较为重要。王国以内史当郡守，侯国以相当县令，这与汉制相差不大。所不同的是，诸王多带刺史将军衔，典兵出镇；也有在中央任职，而本身并不出居所封之国。那些兼将军、刺史的，有长史、司马为其僚佐，事实上是代行其职权。南齐时又置典签，专在王之左右密切监视，权威反在刺史之上，称为签帅。因此，分封之爵士，仍属空名，不过在王侯之中又增添若干官吏而已。
晋封诸侯王国，分大、中、小三等，为重其兵权，大国置中军2，000人，上、下军各1，500人；次国上军2，000人，下军1，000人；小国又分三等：大国置守士100人，次国80人，小国60人。王国置师、友、文学各1人，改郡太守为内史，减省相及仆，有郎中令、中尉、大农，号称三卿。大国置左右常侍各1人，减郎中，置侍郎2人，典书、典祠、典卫、学官令、典书丞各1人，治书4人，中尉司马、世子庶子，陵庙牧长各1人。又有谒者4人、中大夫6人、舍人10人等，这些皆由国王自选文武官员充任。郡侯县公也如小国制度。公侯以下置官属，随国大小而异。
晋的地方官制也是州、郡、县三级制。州置刺史、别驾、治中从事（意谓居中治事、主众曹文书）、诸曹从事等员。又有主簿、门亭长、录事、记室书佐、诸曹佐、守从事、武猛从事等。共有吏员41人，卒20人。诸州边远，或有山险，临近寇贼羌夷的地方，又置弓马从事50余人，凉州、益州置吏85人，卒20人，徐州置淮海从事，凉州置河津从事，诸州置都水从事各1人，荆州又置监佃督1人。
郡皆置太守，河南郡为京师所在，特置河南尹。郡国户不满五千者，置职吏50人，散吏13人；五千户以上，置职吏63人，散吏21人；万户以上，职吏69人，散吏39人。此外，郡国不分大小，皆置文学掾一人。
郡下为县，大县置令，小县置长，下设主簿、录事史、主记室史、门下书佐、干、游徼、议生、循行功曹史、小史、廷掾、功曹史、小史书佐干、户曹掾史掾、法曹门干、金仓贼曹掾史、兵曹史、吏曹史、狱小史、狱门亭长、都亭长、贼捕掾等员。户不满三百以下，职吏18人，散吏四人；户三百以上，职吏28人，散吏6人；户五百以上，职吏40人，散吏8人；户千以上，职吏53人，散吏12人；户千五百以上，职吏68人，散吏18人，户三千以上，职吏88人，散吏26人。每县均置方略吏4人，洛阳置六部尉，东晋以后建康也置六部尉，其余大县置2人，次县、小县各置1人。
县之下置乡，五百户以上置1乡，三千户以上置2乡，五千户以上置3乡，万户以上置4乡，每乡置啬夫1人。乡户不满千以下，置治书史1人；千以上置史、佐各1人，正1人；五千五百户以上，置史1人，佐2人。乡以下为里，百户置里吏1人，其地广人稀，听随宜置里吏，但不得少于五十户。千户以上置校官掾1人。
魏晋南北朝时期，由于南北分治及新开发地区增多之故，州的数目日多而辖境日狭。重要的军政长官往往兼督数州，或者此州之部分郡县而兼另一州之某些郡县，因此区域的划分不是经常固定的。由于战争的频繁，刺史、郡守之权极重，往往带将军称号。这种刺史，多开幕府，置僚属，形成地方政权。《通典·职官一四》说：
自魏晋以后，刺史多带将军“开府”，则州与府各置僚属，州官理民，府官理戎。
又《职官一五》说：
晋郡守皆加“将军”，无者为耻。
刺史任重者，则加以使持节都督某州或某某数州军事。凡不带军职的刺史，则称“单车刺史”。《通典。职官一四》说：
魏晋为刺史，任重者为使持节都督，轻者为使持节……
自魏以来，庶姓（非帝族）为州而无将军者，谓之单车刺史。
由于都督、刺史开府置僚属而造成地方政权机构繁杂，吏员无限增多的弊端。《晋书·傅玄传》载，咸宁初，傅玄之子傅咸上书晋武帝说：
旧都督有四，今并监军乃盈于十。夏禹敷土分为九州，今之刺史几向一倍。户口比汉十分之一，而置郡县更多。空校牙门，无益宿卫，而虚立军府，动有百数。五等诸侯，复坐置官属。……以为当今之急，先并官省事，静事息役，上下用心，唯农是务也。
傅咸当时已看出机构多、官属多的问题，要求晋武帝省官并事。西晋政府对这个问题也引起重视，曾经“议省郡县半吏以赴农功”，可是这件事却遭到中书监荀勖的反对，《晋书·荀勖传》载，荀勖对此事的看法是“省吏不如省官，省官不如省事，省事不如清心”。因而，省官并事，以劝农功之论未能付诸实施。由于机构多、官属多，自然造成许多一人兼数职而无从顾及。干宝《晋纪总论》说：
秉钧当轴之士，身兼官以数十，大极其尊，小录其要，机事之失，十恒八九。
象晋武帝时的王祥，既拜太保，又被“加置七官之职”。他做太保，本来就“萧然自放”，再加七个官职，这七官自然也更加“萧然自放了。”
机构多，官僚多，兼职多，表明了西晋这个封建国家是一部运转不灵的机器。干宝的《晋纪总论》在评论西晋官场风气时说：
进仕者以苟得为贵，而鄙居正；当官者以空望为高，而笑勤恪。……刘颂屡言治通，傅咸每纠邪正，皆谓之俗吏；其倚仗虚旷，依阿无心者，皆名重海内。……由是毁誉乱于善恶之实，情慝奔于货欲之涂。选者为人择官，官者为身择利。……悠悠风尘，皆奔竞之士，列官千百，无让贤之举。
这段话中肯地揭露了西晋官场的腐败作风。
西晋亡后，中原士族及其部曲相率南迁，东晋政权往往在南方各地设立侨州、侨郡、侨县以安置之。
