林国祥，广州人（一说福建人）。1867年前江西巡抚沈葆桢总理船政，设福州船政学堂，招生肆习制造、驾驶诸术。又从广东招到已通英文的邓世昌、林国祥、李和、叶富、吕瀚、张成、李田、黎家本、梁梓芳、卓关略等十人作为外学堂学生，分班就学。1871年，林国祥等毕业，登“建威”练船实习。1875年，又上“扬威”舰为练生。分配海军任职，积功至守备，后调任广东水师管带“广乙”舰。
1894年5月，清廷第二次校阅海军，记名总兵余雄飞带广东水师“广甲”、“广乙”、“广丙”三舰赴北洋会操。演习时，“广东三船沿途行驶操演，船体整齐，变化雁行、鱼贯，操纵自如”。林国祥指挥"广乙"舰施放鱼雷，“均能命中破的”，于驶行之际打靶，“中靶亦在七成以上”。
7月，“广乙”与“济远”奉命护送仁字军赴朝，以增援屯扎牙山的叶志超、聂士成军。行前，林国祥向丁汝昌请示：途中如遇日舰攻击，将如何处置？丁汝昌答曰：“两国既未言明开战，岂有冒昧从事之理。若果倭船首先开炮，尔等亦岂有束手待毙之理，纵兵回击可也”。25日晨，“广乙”、“济远”返航时刚驶抵丰岛附近海面，便看到日本“吉野”、“秋津洲”、“浪速”三舰，似欲拦阻去路。林国祥“知其来意不善，遂严阵以待”。此时日舰倏开一炮，“广乙”还击。双方激战1小时20分钟。“广乙”受伤多处，伤亡亦重，林国祥因下令驶向东北方向逃避。
“广乙”驶至朝鲜西海岸搁浅后，林国祥未免军舰资敌下令凿坏锅炉，焚火药舱，率残卒79余人登岸后，往牙山投叶志超军营，见营垒已空，然后搭乘英国军舰回国。途中“复截于倭舰，听命立永不与闻兵事服状，林国祥以下联署与倭，乃得纵归”。
黄海海战后，“济远”管带方伯谦以临阵脱逃，被斩首于旅顺。此时，朝野上下将林国祥与方伯谦比较，赞语颇多，纷纷奏请擢用。或对其寄以莫大希望，认为“勇猛精炼如广乙管驾，而济以定、镇诸舰，岂不可以夺对马、据釜山哉？”10月16日，李鸿章便奏请以林国祥接替方伯谦之缺，其奏曰：“广乙管带林国祥，前在牙山口外以孤船当劲敌，战阵颇勇，虽力竭船沉，功不掩过，应请暂行革职，委令接署济远管驾，以观后效”。林国祥接署“济远”管驾后，在威海卫之战中并无突出表现。
北洋水师全军覆没后，林国祥被革职。
