赤峰学院第二附属医院前身是赤峰铁路医院，1981年3月正式建院，截止2003年12月底，赤峰铁路医院由开院时的149名职工发展到312人，固定资产从开院时的3万9千元增加到1351万元，其中专业设备2000元以上的有220件，2000元以下的近3万件。床位和科室设置从临时门诊发展到132张床位，是内、外、妇、儿科、感染科等科室齐全的一所现代化综合型医院。
22年里，赤峰学院第二附属医院曾先后荣获内蒙古赤峰市红山区文明单位、通辽分局先进单位、通辽分局路风标杆单位等光荣称号，院领导班子被评为四星级好班子。在业务上，成功地开展了腹腔镜、宫腔镜、食道裂孔疝等手术。22年来，赤峰铁路医院为铁路运输安全生产作出了重大贡献，为铁路职工的健康付出了自己的努力，也为赤峰市人民的身体健康做出了自己的贡献。
2004年1月1日，按照国家属地化管理这一改革部署，赤峰学院第二附属医院整建制划归赤峰市政府管理。2005年4月30日，市委、市政府为铁路医院发展着想，尊重铁路医院绝大多数职工的意愿，同意将赤峰铁路医院整建制划归赤峰学院管理，并更名为赤峰学院第二附属医院。