趵突泉上游的山区是由石灰岩组成的，而平原的泥土底下也隐藏着岩浆岩。山区的石灰岩大约是在4亿年前形成的，其质地比较纯，以大约30度的斜度由南向北倾斜。石灰岩本身有空隙、裂隙和洞穴，能储存和输送地下水，地下水顺着石灰岩层的倾斜，大量地流向下游，在平原下的岩浆岩组织紧密，地下水流到这里后碰到岩浆岩的阻挡就流不过去，加上岩浆岩上又覆盖着一层不透水的粘土层，地下水就不能自由地流向下游，这些被拦阻的大量地下水凭着强大的压力，从地下的裂隙中涌上地面，就形成了趵突泉。