上海商业储蓄银行，成立于1915年6月2 。当时在上海宁波路9号一幢老式洋楼。额定资本10万，实际上仅7万余。这在上海众多的银行中，实在是微不足道。当时资本在百万以上的私营银行就有盐业、浙江兴业、聚兴诚、新华等10家，资本最少的中华商业储蓄银行也有25万。因此，上海商业储蓄银行一开业，就被人称为“小小银行”。上海银行募资初期，投资者寥寥无几，总共只有7名股东。陈光甫任总经理，兼营业、拉存款、跑工厂、搞放款，晚上回行还亲自为青年行员开班教书。而该行发展之迅速，在我国银行业中，却是首屈一指的。
全体股东都担任董事。但由于总经理陈光甫经营精明，管理有方，业务发展迅速。到1926年时，资本增为250万元，资产总额超过4,700万元。到1927年后，由于与国民党政府关系密切，业务上得到官僚资本银行的支持，以及经营、管理上的灵活、多样，业务进一步扩展，最高时分支机构达111个，职工2,775人，存款总额近2亿元，均属私营银行首位。银行的主要是经营得法，善于创新。强调银行要“服务社会”。银行的服务态度和办事效率实为人们所称道。“服务社会”使上海银行在最短的时间内，得到了绝大多数市民的认可，储蓄存款大增，实力明显提高。陈光甫曾经说过，“银行是一针见血的组织”。就是说，银行仅凭信用，就可以聚积社会不少资金，以供工商行业使用。我国各银行所收储蓄存款之数，无怪乎当推该行为第一。
1949年，随国民党政府迁往台湾。
