主要与济南的地形结构有关系。它的南面是一片山区，是山东有名的千佛山；北面是平原，济南位于山区和平原的交界线上。
这里的山区是由石灰岩组成的，而平原的泥土底下也隐藏着岩浆岩。山区的石灰岩大约是在4亿年前形成的，其质地比较纯，它以大约30 ℃的斜度由南向北倾斜。
石灰岩本身不很紧密，有空隙、裂隙和洞穴，能储存和输送地下水。地下顺着石灰岩层的倾斜，大量地流向济南。成了济南泉水的水源。
在平原下的岩浆岩，它的组织很紧密。所以地下水流到这里后碰到岩浆岩的阻挡就流不过去了。岩浆岩上又覆盖着一层不透水的粘土层，地下水就不能自由地流出地面。
这些被拦阻的大量地下水凭着强大的压力，从地下的裂隙中涌上地面，就形成了这些著名的泉水，趵突泉就是其中最著名的一个。