张玄素，唐蒲州虞乡(今山西永济)人，生年不详，死于麟德元年(664年)。
张玄素初仕于隋朝，为景城县(今河北沧州市西景城)户曹。隋末天下大乱，群雄蜂起，活动于今河北地区的窦建德攻陷景城。将张玄素逮捕，准备杀死。这时城中有千余人请求代他而死，并对窦建德说：“此人清慎若是，今倘杀之，乃无天也。”窦建德听后命人给张玄素松绑，并封他为治书侍御史。但张玄素以隋臣自居，却封不受，后张玄素听说隋炀帝在江都被杀，才接受窦建德委任，为黄门侍郎。
唐灭窦建德，张玄素归唐，被授为景城都督录事参军。唐太宗李世民国久闻张玄素的名字，即位后特召见张玄素，向他征询为政之道。张玄素认为隋亡的主要原因是君主亲理政务，而君主亲理玫务，口断十事，有五条错误即不好办。一日之中，君主不止断十件事，往往口理万机，这样日积月累错误就积存多了，而错误多了国家就要灭亡的。所以张玄素建议唐太宗要广用贤良，使各官吏奉职守法，并能安抚百姓，小心谨慎，就会成为一个尧舜也无法相比的君主。唐太宗很欣赏张玄亲的这番议论，于是提升他为侍御史，不久又迁给事中。
贞观四年(630年)，唐太宗下诏发兵修洛阳宫乾阳殿，以备巡奉。张玄素闻讯上书谏奏，认为当时“承百王之末，屈凋弊之余，必欲节之以礼制，陛下宜以身为先。”否则“阿房成，秦人散；章华就，楚众离；及乾阳毕功，隋人解体。”唐太宗看奏章后非常生气，对张玄素说：“卿谓我不炀帝，何如桀、纣?”张玄素回答说‘“若此殿卒兴，所谓同归于乱。”又说：“今若遵旧制，即是隋役复兴，五六年间，趋舍顿异，何以昭示子孙，光敷四海。”唐太宗听后非常赞叹，特赏赐他彩帛200匹。
唐太宗因张玄素忠直，迁他为东宫(太子住东宫)少詹事兼右庶子，让他去辅佐太子。时太子李承乾游玩不学，张玄素任职东宫后即上书谏劝他。张玄素认为：“皇天无亲，惟德是辅，苟违天道．人神同弃。…’。慎终如始，犹惧渐衰，始尚不慎，终将安保!”但太子不纳，继续游玩如故。贞观十三年(639年)，张玄素又上书谏劝太子，应该“学文以饰其表”，不可“骑射数游，酣歌戏玩，苟悦耳目，终秽心神。”太子又不纳。
唐太宗因张玄素对太子多次进谏，于是在贞观十四年（640年)，加封他为银青光禄大夫，兼太子左庶手。但太子劣性不改，一度又游宴深宫，久不见宾客。张玄素又上书谏劝太子应以国事为重，引见宫臣，“广置群僚，以辅睿德。”张玄素一再进谏引起了太子的讨厌，于是派人暗杀他，使他几乎送命，但他并不引以为训，仍劝谏不止。太子不知改悔，恶行日盛，终于被唐太宗黜废。张玄素因是东宫官员被牵连免职。
贞观十八年(644年)，张玄素被朝廷起用为潮州刺史，后又转迁邓州刺史。到唐高宗永徽年间(650--655年)，他以年老致仕，龙朔三年(663年)，加授银青光禄大夫，麟德元年(664年)去世。
[金]张玄素，字子真，与浩同曾祖。祖祐，父匡，仕辽至节度使。玄素初以廕得官。高永昌据辽阳，玄素在其中。斡鲁军至，乃开门出降，特授世袭铜州猛安。天会间，历西上阁门使、客省使、东宫计司。天眷元年，以静江军节度使知涿州，察廉最，进官一阶。皇子魏王道济遥领中京，以玄素为魏王府同提点，寻改镇西军节度使，迁东京路都转运使，改兴平军节度使。正隆末年，天下盗起，玄素发民夫增筑城郭，同僚谏止之，不听。未几，寇掠邻郡，皆无备，而兴平独安。世宗即位，玄素来见于东京。玄素在东京，希海陵旨，言世宗尝取在官黄粮，及摭其数事。至是来见，世宗一切不问。玄素与李石力言宜早幸燕京，上深然之。迁户部尚书，出镇定武，遂致仕。年八十四，卒。
金史玄素厚而刚毅，人畏惮之。往往以片纸署字其上治疟疾，辄愈，人皆异之。
