肇嘉浜原是上海的一条河道，东接黄浦江，西连蒲汇塘，是上海旧城厢正中的干流，也是上海进入松江府的运粮内河。全长10公里。上海开埠前，沿浜是商业、交通中心，为县城外的繁华地带。1847年法国天主教在徐家汇兴建教堂、修筑马路，将肇嘉浜与上游水源切断，成为无源之水。1860年清政府为镇压太平天国起义军，勾结租界当局，同意在租界之外修筑“军路”，沿浜南岸修筑徐家汇路，不久华界也沿浜修筑斜徐路，由于河浜两边分别隶属租界与华界，肇嘉浜成了大家都不管的河浜。江浙一带逃难来上海的难民把小船停在河滩边改建为“船户”，有的还形成了独特的“水上居”。沿浜百姓随意将垃圾倒入浜中，1880年以后肇嘉浜成为臭水浜。抗日战争爆发，难民大批聚居于此，成为上海主要的棚户区之一。当时，在打浦路西一段的肇嘉浜臭水浜，有“上海龙须沟”之称。
进入近代以后，肇嘉浜发生了重大的变化。1847年法国天主教在徐家汇南面圈地，大兴土木，兴建教堂及教会机构设施，使肇嘉浜上游严重阻塞；1860年至1862年太平军发动东进时期，清政府与上海租界当局建立暂时的联合，为了军事行动的方便，上海道台允许租界当局在租界以外的地方铺筑马路，“以利军行”，这种经上海道台批准，租界出资在租界之外的地方修建的马路后来被叫作“越界筑路”。1861年，法租界就沿肇嘉浜路北岸筑了一条从斜桥至徐家汇的马路，当时定名为“法徐家汇路”，以后，上海地方政府也沿肇嘉浜南岸筑斜桥通徐家汇的路，取名“斜徐路”。进入近代后，一方面肇嘉浜上游阻塞，水流不畅而淤塞严重，而另一方面，随着城市人口迅速增长，城市垃圾量更是以数倍增加，到了19世纪后期，肇嘉浜不仅失去了其航运的的功能，还成了上海城市的主要污染源，1906年，上海地方政府出资填肇嘉浜的打浦桥以东段筑路，其中斜桥至打浦桥段即徐家汇路，斜桥至方浜路（填方浜筑路）为方斜路，老西门至黄浦江段初名“肇嘉浜”，后改名复兴东路。
“越界筑路”往往成为列强扩张租界的手段，1914年，袁世凯以上海法租界逮捕、引渡革命党人，镇压租界内革命活动为条件，同意法租界扩张，此后，肇家浜成了法租界与华界的分界河，这条二界共享的界河事实上却成了二界共不管的河，它的污染速度又进一步加快，成了名副其实的“臭水浜”。
1949年上海解放后，陈毅市长十分关心肇嘉浜的改造，经过多次论证，决定再次填浜筑路，肇嘉浜连同南岸的斜徐路，北岸的徐家汇路建为双向多车道林荫大道，并命名为“肇嘉浜路”，这就是肇嘉浜路的来历。当斜徐路被并入肇嘉浜路后，上海有斜徐东路和斜徐支路，而没有斜徐路；同样，打浦桥至徐家汇的徐家汇路被并入肇嘉浜路后，剩下的那段徐家汇路就不通徐家汇，而且也不在徐家汇境内，这给通讯或找人带来一些麻烦。
