汉初省,旋复置。文帝以御史多失职,命丞相另派人员出刺各地,不常置。汉武帝继废诸郡监察御史后,又于元封五年(前106年)分全国为十三部(州),各部始置刺史一人。“刺”,检核问事之意。刺史制度在西汉中后期得到进一步发展,对维护皇权,澄清吏治,促使昭宣中兴局面的形成起着积极的作用。汉成帝绥和元年(前8年)刺史改称州牧,职权进一步扩大,由监察官变为地方军事行政长官。
刺史部是汉代由监察区演变而成的高级行政区,其长官称为刺史,汉成帝时改称牧,东汉恢复刺史之称,东汉末年又改称牧,各州之牧都是集军政大权于一身,以后就发展为东汉末年的军阀割据与混战。
《三国演义》开头部分的那一大批军阀混战,基本上是历史写真,如刘备是徐州牧,刘表是荆州牧,刘璋是益州牧,吕布是兖州牧,袁绍是冀州牧,董卓是并州牧。后来刘备占领四川,在正式称帝前,仍然自称益州牧。不过,在京师所在的直属区,西汉和东汉都不设刺史,而设司隶校尉。所以直属区也称为司隶校尉部,与其他刺史部一样。
司隶校尉是外出督郡县,入京纠百官,权力很大。东汉光武帝临朝,特召司隶校尉与尚书令、御史中丞三人可以专席而坐,故官场中称之为“三独坐”。大军阀袁绍曾任过司隶校尉,曹操在“挟天子以令诸侯”时,也让自己担任了司隶校尉。还有,桓帝时反对宦官专权的名流,被誉为“天下楷模”的李膺,也担任过司隶校尉。
魏晋南北朝时期,同汉代一样基本仍是州、郡、县三级政区,其长官也仍然是州刺史、郡太守、县令。例如书法家王凝之任过江州刺史,《后汉书》的作者范晔曾任过宣称郡太守,《齐民要术》的作者贾思勰任过高阳郡太守,著名的山水私人谢灵运任过永嘉郡太守,大诗人陶渊明任过彭泽县令。