府県及び郡に関する地方制度は、明治23(1890)年5月、市町村制施行後の2年後、山県内閣の時に公布されました。郡には府県と市町村の中間行政機関としての性格が規定され、さらに議会が設置されて自治体としての機能も与えられました。府県については、既に再編が完了しており、そのまま制度が施行されましたが、郡の再編は遅れていたため、再編の完了した府県から順次制度が適用されました。山県は、「自治は元来国の基なり」として、「教養と財産ある者」を担い手とする地方自治の確立に尽力したのです。
町村会で公選された町村長や任命制の市長は、政府官吏である府県知事や郡長の管理下に置かれました。地方議会は、制限選挙や間接選挙で選ばれた議員で構成され、主に地方の大地主や資産家によって占められました。