山西大学堂的前身上溯至明代三立书院。1530年（明嘉靖九年），山西按察司副使陈讲在巡抚衙门旧址建河汾书院，增建三贤祠，用于祀奉三位生长于河汾、讲学于河汾的山西籍先贤王通、司马光、薛瑄。1592年（万历二十年），巡抚魏允贞以建三立祠为名，另建三立书院，集士讲读。1660年（顺治十七年）巡抚白汝梅在府城侯家巷重建三立祠，设三立书院。

 三立又指：立德、立功、立言。出自《左传·襄公二十四年》：“太上有立德， 其次有立功，其次有立言，虽久不废，此之谓不朽。”唐人孔颖达在《春秋左传正义》中对德、功、言三者分别做了界定：“立德谓创制垂法，博施济众”；“立功谓拯厄除难，功济于时”；“立言谓言得其要，理足可传”。

 山西大学三立学院以培养未来杰出的自然科学家，培养中华民族伟大复兴战略力量为目标，传承山西大学“登崇俊良”的办学传统，在国家基础学科拔尖学生培养计划2.0基地建设基础上设立住宿制书院—三立书院。