晋太元元年（公元376年），前秦灭前凉，金城郡属前秦，领5县，郡所在治榆中县。太元十一年（公元386年），后凉领金城郡。元兴二年（公元403年），后凉覆灭后，南凉占领广武、金城2郡。
北魏神府二年（公元429年），吐谷浑攻占西秦金城郡，不设郡县，臣服北魏。太延五年（公元439年），碑文占领今兰州地区，初在汉榆中县治设榆中镇，沿治广武郡。太平真君六年（公元445年），置临洮郡，后置子城县，属临洮郡，撤并广武郡的令居、永登、枝阳3县，置广武县，为郡治，撤金城郡及金城、浩亹、允街3县，划金城县地于武始郡勇田县。北魏孝明帝（公元516-528年）时，复置金城郡，领子城、榆中2县，郡治在子城县（在今东岗镇一带），属河州；并永登、令居、枝阳3县为广武县，属广武郡，为郡治，属都州，所辖包括今永登县、天祝县。北周沿袭北魏建制。