概述医院原为蚌埠铁路中心医院，隶属上海铁路局蚌埠铁路分局，始建于1949年12月，是该分局卫生系统的医疗、教学、科研以及人才培训中心，也是全国铁路系统建院最早的医院之一。该院在上海铁路局乃至皖东北地区为规模较大，技术力量较强，医疗设备先进，学术水平较高，融医、教、研、防于一体的综合性医院。2000年5月与蚌埠医学院建立了非直属附属医院关系，冠名为“蚌埠医学院第二附属医院”。随着铁路的改革，2004年该院分离出了铁路系统，2004年8月19日，根据皖政秘[2004]91号文件，蚌埠铁路中心医院正式移交蚌埠医学院管理，成为其直属附属医院，正式更名为“蚌埠医学院第二附属医院”，进入安徽省直事业单位管理序列。2011年，经安徽省等级医院评审专家团评审和省卫生厅审定，正式批准蚌埠医学院第二附属医院为省直三级综合性医院。
历史沿革清宣统三年(1911年)津浦铁路浦口至徐州段通车后，津浦铁路南段总局于民国4年（1915年）在蚌埠设蚌埠药房。民国10年（1921年）在蚌埠药房的基础上，组建蚌埠医院。民国26年（1937年）10月，日本侵略军占领蚌埠后，蚌埠医院解散，成立华东铁路株式会社蚌埠诊疗所，民国34年（1945年）9月，日本投降后，改名为津浦区铁路管理局浦兖管理处徐州铁路医院蚌埠诊疗所，时有7人，民国36年（1947年）增至18人，房屋24间，使用面积290平方米。1949年1月，蚌埠解放，同年4月，重新组建蚌埠铁路诊疗所。1949年12月21日，蚌埠铁路诊疗所与中国人民解放军华东警备司令部铁警四团卫生队合并成立蚌埠铁路医院，有职工35人，床位10张，房屋使用面积610平方米。1951年在蚌埠凤阳东路建成新住院部，同时在和平新村成立了分局卫生所，负责医院门诊工作。1952年卫生所迁至火车站东侧，1953年改名门诊部，同年6月迁至胜利路1579号（门诊部现址）。1963年住院部前后两排平房加盖成两层楼房；1975年建成四层病房大楼。1991年底在宏业村南首新建住院部，占地42966平方米，建筑面积15833平方米，并利用原住院部旧址部分房屋成立一所对外开放的蚌埠友谊医院，该院隶属于蚌埠铁路中心医院。1995年蚌埠铁路中心医院有职工687人，床位410张。2000年5月8日，医院挂牌非直属性“蚌埠医学院第二附属医院”。2003年开放床位510张。2004年经安徽省政府批准，蚌埠铁路分局中心医院整建制移交蚌埠医学院，更名为蚌埠医学院第二附属医院。2006年5月正式列入安徽省卫生事业单位管理序列。2008年编制床位550张，实际开放床位663张。2009年1月1日起纳入省级财政差额预算事业单位。
院属资源医院现有职工623人，中高级各类专业技术人员211人，编制床位550张，实际开放床位663张。设临床科室22个，医疗技术科室10个。目前，心脑血管病防治中心、微创外科中心、血液透析中心、核素治疗中心、震波碎石中心、医学影像中心等技术优势相继形成。血液内科、康复医学科以及检验科在区域内有较大影响，其中检验科被国家卫生部临床检验中心授予“全国优秀实验室”。心内科、呼吸科、神经内科、骨科、普外科、妇产科、眼科、口腔科等专科力量雄厚，具有较显著的专科特色。康复科对颈、腰、腿等慢性疾病的治疗康复取得一系列研究成果，在治疗偏瘫上有独特方法。视网膜剥离修复、超声乳化治疗白内障等技术日臻成熟。临床检验质量控制、核素检查治疗、介入治疗无菌性股骨头坏死以及腰、颈椎间盘旋切碎吸、电视腹腔镜胆囊切除、前列腺汽化电切治疗前列腺肥大等技术项目在同级医院中居领先水平。医院坚持科技兴院，推进新技术应用和科研活动，一批先进的新技术、新疗法应用于临床。近两年，先后有12项科研成果通过省级鉴定。
医院医疗设备设施在皖东北地区乃至全省同级医院中有较明显的优势。拥有美国GE的超导磁共振、CT机，进口全功能麻醉机、呼吸机、彩色多普勒、血气分析仪、全自动生化分析仪、ICU、CCU监护设备、血液透析设备、进口超声乳化白内障治疗仪、脑彩超、大型数字减影X光机、数字化X线乳腺成像系统（CR）、C臂X光机、碎石机等大型设备，医疗设备总价值6000多万元。医院新近改造装修的病房大楼设备设施齐全，每个病床配置“三集中”设施，病房有独立的卫生间、冷热水、空调、暖气系统，病房整体设施达到省内一流条件。
医院在“文革”前就是蚌埠医学院的教学医院，并承担东南大学医学院、蚌埠医学院等6所大中专学校的临床见习和实习任务。05年开始承担蚌埠医学院医学本科临床理论课的教学任务。医院现设有9个临床教学小组,拥有大、小多媒体教室共2处，示教室4处，自习教室3处，临床技能培训中心大小技能室5处，教研室5处，电子阅览室l处，专门用于教学的房屋面积达3000多平方米。在做好教学工作的同时，医院积极探索教学改革的新路子。围绕“中国医学本科教育标准”，结合工作实际，以培养“具有初步临床能力、终身学习能力、良好职业素质的初级医生”为总体方向，积极开展了“三早”医学教育模式的探索，使医学生尽早接触临床、尽早接触社会实践、尽早接触临床科研，以期实现对医学生的“立体式”培养。
所获荣誉医院重视文化建设，确立了“质量立院，科技兴院，人才强院，特色亮院”的方针，做到院有重点、科有特色、人有专长。“服务从心开始，关爱用心体现”的服务理念深入人心。一支心中有目标，行动有方向，工作有动力的优秀团队推动着医院的发展建设。该院已连续十三年保持了市级文明单位称号。近年来，医院多次被评为市级“以病人为中心，创优质服务、树行业新风”示范医院，“明码标价”示范单位，“花园式”单位。二〇〇六年医院被安徽省卫生厅授予“诚信医院”称号。
