生平张永霖1960年代在高主教书院就读中学，1971年于香港大学经济及政治科学系毕业后，加入国泰航空公司工作23年，曾任国泰航空副董事总经理，并于1989年获当时香港总督卫奕信的邀请，被全职借调入香港政府的中央政策组工作。1994年转任香港电讯行政总裁。
1998年及99年，张永霖连续两年荣获《亚洲电讯杂志》（Telecom Asia）选为“亚洲最佳电讯行政总裁”；1999年，在DHL/南华早报举行的评选活动中，张永霖获评为该年度“香港最佳行政人员”。2000年，英国大东电报局有意将香港电讯出售给新加坡电信，令香港的固网市场落入外人手中，张永霖一手撮合李泽楷的盈科数码动力借债港币900亿元鲸吞香港电讯[2]，于盈动收购电讯前，张永霖曾以“青楼名妓”比喻自己的境况[3]。2000年8月，盈科数码与香港电讯合并为电讯盈科，盈动与一小撮电讯高层签署了雇佣合约，张永霖的年期为三年，出任香港电讯盈科副主席直至2004年2月辞职，拿走港币4,500万元离职金，是最后一个前朝元老。
张永霖加入香港电讯出任行政总裁，年薪逾千万，被喻为“打工皇帝”[4]；但他早年读大学也不是一帆风顺的，其中两年的预科生涯，就转过三间中学。张永霖说，自己在18岁时面对升学问题，与现今的青年一样感到很彷徨。中六时由高主教书院转到圣马可中学，其后又因当时圣马可中学没有中七课程，故又转到圣士提反女校继续中七的课程。
经历两年崎岖的预科生涯后，张永霖终考入了香港大学，但又要因为每日五元的宿舍费及五元的饮食费而四处张罗。为应付这个开支，张永霖不介意，晚上更到西区街坊福利会教英文。
张永霖表示，做人要不断努力，不断求上进，才会有成功的一天。他以自己为例，大学毕业后十多年，仍对普通话一窍不通，为要练好普通话，张永霖便由最基本的拼音、韵母、声母开始。直至现在，已可以用普通话背诵文章，亦可以用字正腔圆的普通话与朋友畅谈三小时。他指这一切的成功，都是自己努力换来的。
张永霖现亦于香港电台主持节目《张永霖的世界》，与听众分享他的人生经历，及对人对事的一些看法。
2008年，张永霖出任亚洲电视执行主席，前竞争对手王维基则担任行政总裁。2009年12月，《明报》财经版报道张永霖于11月底辞职，并于12月1日获亚视董事局接纳，辞职信中声称“不能接纳董事局内的不公平情况”而请辞，但未有说明详细原委。曾表示将以三年时间令亚洲电视转亏为盈的张氏，仅仅一年后便结束其于亚视的职务。
2009年12月7日，亚洲电视董事局宣布接受张永霖辞去董事兼董事局主席。
著作《成功路──张永霖的世界1》，天地图书有限公司2007年7月初版
