一般的针灸针由针体、针尖和针柄组成，针体的前端为针尖，后端设针柄，针体跟针尖都是光滑的，而针柄是有螺纹的，这是为了使用时可以提捻旋。
现在临床上一般并不使用银针，一般都是使用不锈钢针。对于针灸来说，银针其实不如不锈钢针，这主要是因为银针太软，而且容易断，容易造成医疗事故，另外银针的成本也高。现在还有一种象是金针，是金黄色的，其实还是不锈钢针，只不过外面镀了一层黄色的东西。
针灸针最早的雏形是针石。针砭治病在殷商甲骨卜辞中就像一个人手持尖锐器具，治疗病人腹病疾病。殷商至西周针刺治疗，或者用的是砭石，隋代医家全元起认为：“砭石者，是古外治之法，……，古来未能铸铁，故用石为针，故命之针石。”近年出土的殷周随葬品中，有一种柄部雕作动物形态的玉制弯锥器，器形精美，据有关专家认为当是奴隶主专用的砭石针。如殷墟出土的原名“玉虎”，全长6厘米，虎作匍伏状，嘴下有穿孔，尾为锥体，锥角约40°。殷墟西区出土的一件原名“玉鱼”，近鱼口处穿孔，鱼身有鳍纹，鱼尾之外附加一鸟嘴形弯锥，锥角约45°等等。这些随葬品形小巧，针身细长而锋利，不可能是兵器、饰物或生产工具，当是为奴隶主制作的精美医疗工具--针石。考古工作者1985年10月在广西武鸣县马义乡一处西周墓葬群中发掘出土青铜针两枚。据鉴定，确认为西周时期的针灸针。
