尔朱彦伯，尔朱荣从弟也。祖侯真，高祖时并安二州刺史、始昌侯。父买珍，世宗时武卫将军，出为华州刺史。
彦伯性和厚，释褐奉朝请，累迁奉车都尉，为荣府长史。元晔立，以为侍中，前废帝潜默龙花佛寺，彦伯敦喻往来，尤有勤款。废帝既立，尔朱兆以己不预谋，大为忿恚，将攻世隆。诏令华山王鸷兼尚书仆射、北道大使慰喻兆，兆犹不释。世隆复遣彦伯自往喻之，兆乃止。及还，帝燕彦伯于显阳殿。时侍中源子恭、黄门郎窦瑗并侍坐，彦伯曰："源侍中比为都督，与臣相持于河内，当尔之时，旗鼓相望，眇如天隔，宁期同事陛下今日之欢也。"子恭曰："蒯通有言，犬吠非其主。他日之事永安，犹今日之事陛下耳。"帝曰："源侍中可谓有射钩之心也。"遂令二人极醉而罢。寻除使持节、骠骑大将军、右光禄大夫、马场大都督，封博陵郡开国公。后进爵为王。又迁司徒，于时炎旱，有劝彦伯解司徒者，乃上表逊位，诏许之。俄除仪同三司、侍中。彦伯于兄弟之中，差无过患。
天光等败于韩陵，彦伯欲领兵屯河桥以为声势，世隆不从。及张劝等掩袭世隆，彦伯时在禁直从。长孙稚等于神虎门启陈齐献武王，义功既振，将除尔朱。废帝令舍人郭崇报彦伯知。彦伯狼狈出走，为人所执。寻与世隆同斩于阊阖门外，悬首于斛斯椿门树，传首于齐献武王。先是，洛中谣曰："三月末，四月初，扬灰簸土觅真珠。"又曰："头去项，脚根齐，驱上树，不须梯。"至是并验。
