山东的名称,最早出现在战国时期,金代以前为地理概念,泛指崤山、华山或太行山以东的黄河流域广大地区。
当时,关中的秦人,称崤山或华山以东的地区为山东,有时也泛指秦以外的六国领土。这时,山东是一个地域性的泛称,还不是一个准确的地理概念。至唐代和北宋时代,太行山以东的黄河流域广大地区被称作山东,到了唐代末年,有人用山东专指齐鲁之地。到了金代大定八年(1168年)置山东东、西路统军司,山东遂成为正式行政区划名称。明代山东布政司(又称行省)管辖6府、104县,大致奠定了今山东省行政区域范围。 清朝初年,设置山东省,山东基本沿袭明代山东的版图,称山东省。“山东”正式成为本省的专名。古人以左为东,故又称山东为“山左”。
因西周封邦建国时,今山东境内曾存有齐、鲁、曹、滕、卫诸国,周公旦封于鲁,所以现在山东又简称“鲁”。