先秦時期，秦國在隴西設置隴西郡，這里是秦國的核心統治區域。
但是涼州的大部分土地并不屬于秦國，更不屬于漢人，而是原本就屬于異族。
而大漢對涼州的統治，則要從漢匈戰爭說起，因為涼州的土地打從一開始就是屬于匈奴的。所以大漢建國四百年，在涼州這邊土地上和異族也打了四百年，西涼這片土地一直到現在也不太平。
最早是大漢與匈奴之間的戰爭，這場戰爭一直持續了近一百年，期間總共可以分為四個階段。
第一階段，從漢高祖七年（前200年）開始，至漢武帝元光元年（前134年）結束。
這一階段采取了和親政策，大漢對匈奴人進行妥協，漢文帝時“與匈奴和親，匈奴背約入盜，然令邊備守，不發兵深入，惡煩苦百姓”。
第二階段，從漢武帝元光二年（前133年）馬邑之戰開始，至漢武帝元狩四年（前119年）的漠北之戰結束。
漢武帝的元朔二年（前127年），衛青、李息出云中，西經高闕，直到符離，取得河南之戰的勝利，順利奪取了河套地區，大漢在此設置了朔方郡。
次年，漢武帝又派遣校尉蘇建率領十萬人興筑陰山甫麓的長城，同年開始修筑長城。
河套地區、朔方郡、長城內外，便是如今大秦國的地盤，更確切地說應該是赫連勃勃的地盤。
元狩二年（前121年），霍去病出隴西，殲滅匈奴渾邪王的部隊，并越過焉支山一千余里，取得了河西之戰的勝利，并獲得隴西，大漢在此設置涼州四郡。
匈奴人哀嘆：“亡我祁連山，使我六畜不繁息；失我胭脂山，使我婦女無顏色。”
匈奴單于恨渾邪王損兵折將，渾邪王和休屠王害怕，便投降漢朝。
這是秦朝滅亡后，大漢首次占領涼州的土地，是付出了不小的代價從匈奴人手里搶過來的。
元狩四年（前119年），霍去病率軍北進兩千余里，越離侯山，渡弓閭河，與匈奴左賢王部接戰。此戰，殲敵七萬人，俘虜匈奴屯頭王、韓王等3人及將軍、相國、當戶、都尉等83人，乘勝追殺至狼居胥山。在狼居胥山舉行了祭天封禮，一直打到翰海，方才回兵。
史稱“封狼居胥山，禪于姑衍，登臨翰海，執虜獲丑七萬有四百四十三級”。
元狩六年（前117年），霍去病病逝，年僅二十四歲。霍去病一生戰無不勝，凡六擊匈奴，斬俘敵12萬余人，收降4萬余人。
這一階段，通過以衛青、霍去病為首的將領，對匈奴進行了三次大規模戰爭。大漢消滅了匈奴的有生力量，收復了河套，占據了河西走廊，切斷了匈奴與西羌的關系，為漢朝與西域之間開辟通道。
而匈奴則狼狽北徙漠北，匈奴帝國從此逐漸走向衰亡，匈奴威脅基本解除。
第三階段，從漢武帝太初二年（前103年）的浚稽山之戰開始，至漢武帝征和三年（前90年）結束。
漢武帝太初二年（前103年），趙破奴率領漢軍攻打匈奴，被匈奴圍困全軍覆沒。
漢武帝天漢二年（前99），李廣利攻打匈奴，慘敗，差點就沒有逃脫，六七成的漢軍將士被殺。
漢武帝天漢四年（前97），李廣利率領六萬騎、步兵七萬人出朔方攻擊匈奴單于，公孫敖率領一萬騎兵、三萬步兵出雁門攻擊匈奴左賢王，漢軍戰不利，皆引還。
漢武帝征和三年（前90年），李廣利率軍深入漠北，漢軍再一次全軍覆沒。
這一階段，因為大漢的人才斷代，導致對匈奴作戰連連失利。
至此，漢朝暫時停止了對匈奴的進攻，匈奴人得以重新掌控漠北。
第四階段，從漢元帝即位開始，到漢元帝建昭三年（公元前36年）陳湯滅郅支單于之戰結束。
在此期間，漢朝共取得六次大勝：
第一次，西祁王之戰；
第二次，田廣明等六路擊匈奴之戰；
第三次，西漢三路擊匈奴之戰；
第四次，甌脫王之戰；
第五次，犁污王之戰；
第六次，陳湯滅郅支單于之戰。
至此西漢與匈奴之間的百年大戰結束，北匈奴滅亡，南匈奴歸附稱臣。
漠北之戰后，匈奴汗國在歷經漢軍屢次重創后元氣大傷，內外交困，流年不利。
公元前60年又爆發了匈奴五單于爭位戰，分裂為南北兩支，均向漢朝遣使朝獻。
南匈奴首領呼韓邪單于主動要求向大漢稱臣，漢元帝將王昭君嫁與呼韓邪單于，是為昭君出塞。
北匈奴單于“怨漢擁護呼韓邪而不助己”，向西域進兵，出爾反爾，殺害漢使。
時任西域都護府副校尉陳湯發出“敢犯強漢者，雖遠必誅”的時代強音，矯詔發兵。陳湯調集了大漢在車師國的駐軍，還集合了大漢西域各屬國兵，于康居斬殺北匈奴單于郅支，宣告漢朝取得了漢匈戰爭的徹底勝利。
直到東漢時期，本來已經奄奄一息的匈奴由于天災和內亂又分為了兩部，分別為南、北匈奴。
其中，南匈奴立呼韓邪之孫比為單于，與大漢關系友好；北匈奴立蒲奴為單于，在漢明帝時期一度侵擾漢朝邊境，后被擊退。
章和元年，北匈奴為鮮卑所破，單于被殺，其中五十八部降漢。
直到章和二年，大將軍竇憲、耿秉深入瀚海沙漠，出擊鹿塞三千里。大破匈奴于金微山，斬名王以下萬三千級，獲生口馬、牛、羊、橐駝百余萬頭。匈奴八十一部率眾降者，前后二十余萬人。
竇憲在燕然山，刻石勒功，紀漢威德而還。
東漢王朝前后經歷稽落山之戰、伊吾之戰、河云北之戰、金微山之戰——四次戰役，徹底解決了漢朝歷時三百年之久的匈奴之患。
匈奴之后，大漢也徹底將河套、涼州的土地納入了統治，并就此打通了西域、開辟了絲綢之路。
注：漢匈之戰期間，大漢帝國五大名將：衛青、霍去病、陳湯、竇憲、耿秉。