山西人主要是汉族，也有部分为汉人与鲜卑、匈奴、女真混血后裔。坐落于中国的中部地区，太行山则是山西省与河北省的一道分割线，而山西因位于太行山以西，故而最终得名为山西。山西省在原始社会时代就已经有人类活动的迹象，并被称为中华文明的发源地之一。原始社会末期，黄河流域也就是如今山西省的运城市别名为“河东”，先后出现了三位德才兼备的部落联盟首领，即尧、舜、禹。

传说很久之前的山西，是热带雨林气候的地区，还曾经有大象出没。山西因为地处中心，很早就被中原纳入集中管理，春秋战国时期，山西则被华夏人征服，并且经过文化的洗礼，全部都被汉化，从而奠定了山西根深蒂固的华夏文明。据考证中原汉族文化主要起源于山西的丁村文化、河南的仰韶文化、山东的大汶口文化。