上三山村位于莱城东北17公里处，地处丘陵，整个地形呈“见”字顶形，南、东、北三面环山，西面与下三山村相邻，村中有一条常流河，水流自东往西。全村有177户，526 口人，耕地477亩。
　　据上三山村碑记载：明万历年间，刘姓由河北省枣强县迁此建村，因村西南有三座小山，曾名三山，因重名，冠以“上字，故名上三山。全村有刘、沈、宋、张姓四家。但根据上三山村地名如“乔家林子”、“段家林子”、“薛家林子”、“朱家林子”、“韩家林子”考证，在刘姓迁来前好像已有人家居住，据传这是朱洪武大杀山东十二年时的人家。
　　据清康熙《莱芜县志》记载：“鹏山保•上三山”。据《辛庄史志资料》记载，1958年3月辛庄区改为辛庄乡；同年10月改为人民公社、下设四个管理区，上三山村属于徐店管理区；1984年4月人民公社改为办事处；1985年10月，办事处变为辛庄镇和铁车乡，上三山村属于辛庄镇，后合并乡镇，上三山村隶属辛庄镇至今。