甘谷县在秦朝时叫做冀县，据《史记》记载，公元前688年，秦武公征伐冀地的西戎部族，战胜后设立了冀县，这是秦国最早设立的县，也是中国历史上最早设立的县。而《史记》上记载的冀县就在现在甘肃省东南部、渭河上游的甘谷县一带，当地民间也有“华夏第一县”的说法。

中国设县制度始于春秋时期，当时一些诸侯国开始在新兼并的领土设县，秦国是最早设县的诸侯国之一。最初的县，类似于边防重镇，后来逐渐成为地方县。秦始皇统一中国之后，将郡县制推行全国，渐渐发展为县。