“山东”一词最早出现在春秋战国时期，当时的“山东”指崤山以东,随着历史的发展,概念发生变化,东汉时山东指太行山以东,明朝时设山东行省,直到清朝初设置山东省,“山东”才成为本省的专名。山东的名称，最早出现在战国时期，金代以前为地理概念，泛指崤山、华山或太行山以东的黄河流域广大地区。
春秋时期的鲁国，产生了以孔子为代表的儒家思想学说，齐鲁是中国区域范围名称，该名始于先秦齐、鲁两国，到战国末年，随着民族融合和人文同化的基本完成，齐、鲁两国文化也逐渐融合为一体。因为文化的一体，“齐鲁”形成一个统一的文化圈，由统一的文化圈形成了“齐鲁”的地域概念。这一地域与后来的山东省区范围大体相当，故成为山东的代称。
山东是中国古代文明的发祥地之一。距今约7000--4000年之间，这里先后出现了新石器时代的北辛文化、大汶口文化和龙山文化。在山东还发现了中国最早的文字“大汶口陶文”和“龙山陶书”;最早的城邦“城子崖龙山古城”;最早的古代军事防御工程古“齐长城”和被列为中国“2000年考古十大发现”的洛庄汉墓等。
山东的历史沿革，夏、殷以前已不可考，西周、春秋时，山东分属齐、鲁、曹、滕、薛、郯、莒及宋、卫国的一部分。战国后期属齐，其南北各一部分属楚、赵。秦统一以后，在山东分置齐郡、琅邪、东海、薛郡、东郡等郡。楚汉之院分为三齐(临淄王田都、胶东王田市、济南王田安)，不久为汉所并。汉代郡国并行，西汉初，山东大部分地区为刘邦的儿子齐王刘肥的封地。汉武帝元封五年(前106年)，初置十三部州，同山东分属表、兖、徐三州。东汉时，山东属青、徐、兖。豫(鲁国划为豫州)四州。
三国魏略同于东汉。西晋初，山东分属青、徐、兖、豫、冀(统平原、乐陵)五州。亚怀帝永嘉(307-313年)以后，山东先后为后赵、前燕、前秦、南燕所据有。东晋安帝义熙五年(409年)，刘裕平南燕，复置青、兖、徐三州，后又置冀州，治历城。其后为北魏所有，魏亡属北齐，不久又为北周所并。
隋统一后，又恢复十三部州，山东分属青、徐、兖、豫四州。唐贞观初，分全国为十道，河、济以南属河南道，以北属河北道。北宋改道为路，分全国为二十四路，山东分属京东东路、京东西路。金大定八年(1168年)置山东东西路统军司，治益都。至此，“山东”一名正式成为地方行政区划。元进分置山东东西道肃政廉访司及山东东西道宣慰司，直隶中书省，称为“腹里”。明洪武元年(1368)，置山东行中书省，治青州。九年移至济南，又改置山东承宣布政使司。直到清代，始将山东政区的名称正式定为山东省，此后一直沿袭不变。
山东是指今天的什么山以东
山东指的是崤山以东。山东作为一个地理区域名称,最早始于战国时期,当时秦人称崤山、函谷关以东的地区为“山东”。战国七雄中,除秦国以外的韩、赵、魏、齐、楚、燕六国均在崤函以东。崤山是中国古代军事战略重地，以地势险峻、关隘坚固、易守难攻著称，天下“九塞”之一。崤山山势自西南向东北逐渐低缓，并且由主脊向两侧呈阶梯状降低，两侧为低山丘陵类型。山地主要由元古代喷出岩、震旦纪石英岩和硅质灰岩等构成。
山东是华东还是华北
华东。华北地区包括山东、河北、山西、京津、内蒙六省市,注意河南不属于华北,而是属于华中,以为河南属于华北地区是我们常犯的一个错误。 另外山东在经济上,行政上其实被常被划为华东。境内中部山地突起,西南、西北低洼平坦,东部缓丘起伏,形成以山地丘陵为骨架、平原盆地交错环列其间的地形大势。