漢武帝元狩一年(公元前121年)置枝陽縣,有人認為“枝”指黃河支流,即大通河。《穀梁傳》:“水北為陽”,其地在大通河北,今甘肅永登縣苦水鎮稍南,轄今苦水鎮及西固區黃河以北地。漢光武帝建武十二年(36年)省金城郡,枝陽縣屬隴西郡。次年恢復金城郡,枝陽縣還屬。魏,西晉因之。前涼、前秦、後涼、南涼、西秦、後秦、北涼時,枝陽縣屬廣武郡。北魏太延五年(439年),滅北涼,省並了原來的令居、永登、枝陽三縣,置廣武縣,為廣武郡治。