第一把洛阳铲来自盗墓贼。洛阳铲，又名探铲，为一半圆柱形铁铲，一端有柄，可以接长的白蜡杆。
1923年前后，马坡村村民李某来到他家附近一个叫孟津的地方赶集，转了一会儿，他便蹲在路边休息。李某平日里以盗墓为生，所以他经常想的也是有关盗墓的问题。这时，李某看到离他不远的地方有一个包子铺，卖包子的人正准备在地上打一个小洞，他在地上打洞的工具引起了李某的兴趣。因为李某看到，这个东西每往地下戳一下，就能带起很多土。盗墓经验丰富的李某马上意识到，这东西要比平时使用的铁锨更容易探到古墓，于是他受到启发，比照着那个工具做了个纸样，找到一个铁匠照纸样做了实物，第一把洛阳铲就这样诞生了。
20世纪以来，几乎所有的盗墓事件都与这把不起眼的铲子有关。洛阳铲几乎成为盗墓者的代号。为此，常常有一些洛阳人愤怒的说“洛阳古墓‘十墓九空’，大量的珍贵文物被盗流失，洛阳铲难辞其咎”。
但是，目前洛阳铲主要应用于田野考古，对于考古工作者，洛阳铲就像手铲、小刷子一样，永远不可能被丢掉。
洛阳铲在我国著名的殷墟、偃师商城等古城址发掘过程中发挥了重要作用。1972年，我国考古代表团访问阿尔巴尼亚时，赠送的礼物就是一把打造精致的洛阳铲。
1958年大跃进的时候，有个小机械厂曾经想批量生产洛阳铲，但是根据图纸做出来的产品根本带不上来土。这次试验的失败，无形中给洛阳铲又增添了一种神秘感。
近年，洛阳铲又被精明的商家开发为洛阳特色的旅游纪念品，成为宣传洛阳的一个好的载体。