山西的山是指太行山，山西东为太行，西为吕梁。电影歌曲《人说山西好风光》中唱道：”左手一指太行山，右手一指是吕梁。”太行山是山西与河北的交界，太行山以东是河北而不是山东。山东的山古时有两个意思，一是指崤山，古时是指崤山以东的广大地区，即秦国东边的中原地区。比如《史记》常有山东豪杰如何如何，就是指的这层含义。 古诗：“坑灰未冷山东乱。”即是。另一个就是太行山。泛指太行山以东的地区。山东省名即来源于此。
山东作为地理名称始于战国时期，当时，泛指太行山以东的地区。山东作为政区名称，始于金代.
河南，河北就简单了，指黄河。河南：以在黄河之南而得名。西汉即有河南郡，为河南得名的开始。唐大部分属都畿道和河南道；宋设京畿路和京西北路；金改南京路；元设河南江北省和河南江北道；明置河南省，后改河南布政使司；清改河南省，省名至今未变。
河北：以在黄河之北而得名。唐大部分属河北道，为河北得名的开始。宋设河北路，后分河北东、西路；金分河北东路设大名府路；元设燕南赵北道；明设北平省，后废省，所有府和直隶州直属中央，称北直隶；清改直隶省；1929年民国改河北省，省名至今未变。
广东和广西是以“广信”为界限
1996年间，由广东省人民政府参事室文教组牵头，组织了中山大学、华南师范大学、华南理工大学、广东省博物馆、广东省考古研究所、西江大学、肇庆市和封开县等单位的多学科专家，包括文化学、历史学、人类学、考古学、古建筑学、古生物学、地理学、民族学、民俗学、经济学、语言学、文学和美学的教授、学者，对封开县及其相邻的西江流域县市进行了考察研究。经过多次的论证，比较一致地确认了作为广东和广西分界标志的“广信”所在地(即：西元前111年汉武帝统一岭南时所设“交趾部”先是检察后是管辖岭南九郡的首府)，是在当今广东封开县的封川地区及其相邻的广西梧州市部分地区；并且认为这个在西汉时的“广信”地区，是岭南文化古都之一，是标志著汉族与越族、中原与岭南文化交融并取得巨大繁荣的岭南文化发祥地；有学者还进一步认为，从汉代到唐代中叶，“广信”文化以其在全国文化的地位和影响，标志和代表著岭南文化的形成和特徵；并作为岭南文化的源流，一直到现在仍不断地流著，继续发挥其影响。这些研究成果，经传媒报导之后，在国内外引起强烈反响，受到学术界的关注。
湖南：以在洞庭湖之南而得名。唐属江南西道和黔中道，后设湖南观察使，为湖南得名的开始；宋称湖南路；元设岭北湖南道；明属湖广省，后改省为湖广布政使司；清分湖广省置湖南省，省名至今未变。
湖北：以在洞庭湖之北而得名。唐属江南东道、淮南道和山南东道；宋荆湖北路，简称湖北路，为湖北得名的开始；元设江南湖北道；明属湖广省，后改为省为湖广布政使司；清分湖广省置湖北省，省名至今未变。
参考资料：http://ks.cn.yahoo.com/question/1307121402699.html