与此同时，起义队伍还解放了伪“中华海员养成所”的海员，海员中有50余人参加了起义行动。下午5时，为了对付从威海回来的日伪军官，郑道济等人进行了周密的布置，连城带人埋伏在栈桥附近，两挺轻机枪交叉瞄准栈桥。
5时30分，从威海开回来的交通艇“日生利”号徐徐靠上栈桥，伪装带缆的崔大伟、许传礼、刘秉义、冯醒雄、张玉亭、张树和等十几名起义练兵，腰里暗藏手枪，紧密注视着上岛的日伪军。回岛的日军有7人，伪军官有基地司令员李玉昆、军需课长周尔康、副长王景和等十几人，像往常一样，他们按照军阶的高低先日军后伪军依次走上栈桥，每一个日伪军官身后都有一个起义的练兵跟随。当走在前面的日军快到栈桥末端时，连城突然开了一枪，发出了动手的信号，跟在日军和伪军官身后的练兵们纷纷举枪射击，顿时枪声大作，日军和伪官一个个应声倒地，没有被打死的日伪军官企图逃跑，埋伏在栈桥下面的练兵们一拥而上，将其全部消灭。至此，刘公岛上的日军和伪军官大部被歼。共计日军17名，伪军官上校1名，中校2名，少校1名，尉官和个别反动老兵10余人。司令鲍一民听到枪声后慌忙藏在暗室里，起义军几次搜索都未找到，使他侥幸逃脱。参谋长孟铁樵负伤，也躲藏起来侥幸逃命，事后二人被日军押往威海进行处置。起义的练兵无一伤亡，取得了彻底的胜利。
傍晚，起义的练兵们开始打扫战场，做着离岛的准备工作。郑道济等把部队进行了重新编队，共编成8个队，每队约40人，分别由连城、毕昆山、李仁德、刘国璋、王文翰等人担任队长。把海员和部队家属也进行了组织和清点。6时许，人员开始登船。由于人员、物资太多，登船缓慢，直到次日凌晨1时多才登船完毕。随后，包括部队、家属、海员在内的600余人，分乘“同春”、“日生利”、“东海”等舰船以及23号内火艇，缓缓地驶离了刘公岛，向威海港的北口开去。11月6日7时左右，起义部队在双岛港西海岸登陆。
在起义期间，郑道济等人对胶东半岛的形势并不十分了解，总以为威海外围地区已在国民党军队的手里。其实，进入1944年以来，胶东地区除了少数地方在汉奸赵保原的占据之下外，其他地区已经连成一片，成为八路军的抗日根据地。他们登陆的地方已是抗日根据地的边缘了，这里已经建立了革命政权。郑道济等人对八路军的政策不了解，不敢贸然加入，他们决定按原计划向牟平进发，寻找国民党军队。
起义部队登陆后，即被胶东半岛中共地方党组织获悉，他们很快报告了八路军东海军分区。不久，军分区也从威海地下党处获悉刘公岛汪伪海军起义的消息，决定争取这支抗日的队伍。为了预防不测，军分区派出文西独立营于7日拂晓前占据了通往牟平的必经之路双林前村附近的高地。
