1978年，山西师范学院吕梁专科班在汾阳师范设立，设数学专业，招收学生57名，学历专科，学制三年，培养目标为中学数学教师。

1979年，数学专业改设在吕梁地区教师进修学校，设数学科对其进行管理。

1984年6月，吕梁师范专科学校建立，在数学科的基础上成立数学系。数学系名称一直沿用至今。

2001年3月，学校与太原师范学院正式签订了联合办学协议书。9月，数学系在正常招收专科生的基础上，招收了第一届数学与应用数学（师范类）专业本科生39名。

2010年，学校升格为本科院校，数学与应用数学专业成为学校首批设置的六个本科专业之一。

2012年，申报的新专业信息与计算科学专业首次招生。

2014年，数学教育专业（专科）停止了招生。2016年，最后一届专科生顺利毕业。

2019年，吕梁学院接受教育部本科教学工作合格评估，数学与应用数学、信息与计算科学专业建设工作得到专家的肯定。

2021年，数学系申报的新专业人工智能专业首次招生。