金线泉位于趵突泉东北侧，尚志堂与皇华轩之间。泉池呈长方形，原长４丈，宽２丈。由于水面有一条游移飘动的水线波纹，映日凝望，宛如一条金光闪闪的金线浮于水面，故而得名。宋人吴曾在《能改斋漫录》中作了极为生动的描述：“石甃方池，广袤丈余，泉乱发其下，东注城濠中。澄澈见底，池心南北有金线一道隐起水面，以油滴一隅，则线纹远去。或以杖乱之，则线辄不见，水止如故，天阴亦不见。”曾巩《金线泉》诗云：“玉甃常浮灏气鲜，金丝不定路南泉，云依美藻争成缕，月照灵漪巧上弦。”
明清时期，金线尚能清晰地见到，后因改建泉池，基底遭到破坏，水面亦随之缩小，水势减弱，金线则从此消失。１９５６年，趵突泉公园扩建时，在原金线泉东约２０米处一所石砌雕刻的小池中，也出现了金线。于是人们便将这泉称为“金线泉”，并将清同治九年（１８７０）江苏吴兴丁彦臣题写的“金线泉”三字石刻移嵌在这泉的东壁上。而将原金线泉改称“老金线泉”，由济南书法家李仲余新题“老金线泉”（隶书）四字嵌刻于池壁。