秦朝初属东郡，后属济北郡。
西汉时平阴为卢县地（治所在长清孝里一带）；东汉建武年间，初设平阴县，平阴、卢县二县并存（此说源于明代于慎行主编的《兖州府志》）属济北国。
随后被后赵、前燕、后燕、前秦、南燕占领。
刘宋永初元年（420）复归卢县。
后又经北魏、北周时曾属济北郡和肥城郡。
隋开皇十四年（594）设榆山县。
大业二年（606）正式改称平阴县（据此说平阴已立县1400余年）。
唐朝，平阴县先后属于河南道的郓州、济州。
在此期间，平阴县曾短暂撤销，划归卢县和东阿县。
开成二年（837）复置平阴县，属郓州东平郡。
自五代后开平二年（908）至后周显德二年（955），平阴均属太平节度使郓州。
宋、金属东平府。
元朝平阴属东平路。
明朝时属山东行中书省东平府，后改属承宣布政使司兖州府。
清朝平阴县初属山东省兖州府东平州。
雍正十三年（1735）属泰安府。
1912年平阴县属东临道。
1913年属山东济西道。
1914年改属东临道。
1928年直属山东省。
1932年属山东省第一实验区行政督察专员公署。
1933年属第六行政督察区。
1938年属鲁西道。
1939年10月1日，平阴抗日民主政府成立后，属泰西专区。
1941年8月属冀鲁豫第十六专区。
1942年12月，平阴与东阿办事处合并改称平阿县。
1945年撤销平阿县恢复平阴县。
1950年5月属泰安专区。
1958年12月撤销平阴县，平阴县并入东平县，划归聊城专区。
1960年3月东平县撤销，复置平阴县，隶属济南市，同年4月改属菏泽专区。
1961年7月22日划归泰安专区。
1985年平阴县复属济南市，成立建制至今。