西域，历来是汉族与匈奴的第二战场。早在汉朝张骞出使西域之前，匈奴就已经在西域建立势力，并设有西域总督（撞仆都尉），驻扎在焉耆一带，管辖西域诸国。可见那一时期匈奴所掌控的区域范围已经是极大的了。
汉武帝时期推行了一系列扩张政策使得大汉王朝声威远震，特别是张骞通西域后，汉使开始在西域各国间往来不绝，并屯田渠犁。汉匈关系愈发复杂，二者在西域展开了拉锯战，你来我往，此消彼长。
汉匈的强弱关系也很明显地体现在西域各国对待使者的态度上，匈奴强盛时，所有匈奴使节到西域，一切费用，都由所在王国供应。汉朝出于弱势时，其使节在西域的一饮一食，却要用钱购买，这让汉朝情何以堪？再加上各国在匈奴的压力下，往往截杀汉朝使节，遂使汉朝终于发动一连串报复性的战争。
傅介子是北地（今甘肃庆阳西北）人。昭帝登基、霍光辅政之时，面对西域龟兹、楼兰均联合匈奴杀汉使官、掠劫财物的现状，傅介子遂要求出使大宛，汉昭帝和霍光准许了他的请求，并让他路过楼兰和龟兹时，责备两国国王背叛汉朝，杀害汉朝官员和使者的行为。到达西域之后，傅介子以汉帝诏令责问楼兰、龟兹，并杀死匈奴使者，返朝后被任为平乐监。元凤四年（公元前77年）又奉命以赏赐为名，携带黄金锦绣至楼兰，于宴席中斩杀楼兰王，另立在汉楼兰质子为王。以功封义阳侯。最后，还由汉朝向其送去一位宫女做新王的王后。傅介子以百人入虏廷，取番王首级如拾芥，其过人的胆略和高超的智谋为世人所推崇，至上世纪五十年代仍然在其故乡有“傅家巷”流传，可惜后来被拆毁。
本始三年（公元前71年），汉朝与乌孙王国（吉尔吉斯伊什提克城）最终达成一致，决意联合出兵，夹攻匈奴，企图使匈奴在两面作战的苦境中崩溃。其中，汉朝派遣了田广明等五位大将，发铁骑十六万余兵马，分别自云中（今内蒙古托克托）、西河（今内蒙古准格尔旗西南）、张掖（今甘肃张掖）、五原（今内蒙古包头）、酒泉（今甘肃酒泉）五路出兵。乌孙王国方面，则派遣校尉常惠前往，节制乌孙骑兵五万余，与汉军东西并进，形成一个巨大的钳形攻势，夹击匈奴。
匈奴得到消息，立刻做大规模紧急撤退。以致汉朝声势浩大的五路大军，深入沙漠一千余公里，仍捕捉不到敌人主力。惊惶西逃的匈奴主力，竟然恰遇乌孙兵，一场激战后大败而归，乌孙俘虏匈奴亲王以下四万余人，常惠也因此被封为长罗侯。第二年冬，匈奴不甘心自己竟然败在曾被自己奴役的小国手中，遂率领大军袭击乌孙，然而天不佑匈奴，待得大军行至半途，却遇大雪，生还者不及十分之一。乌孙、乌桓与丁令等闻讯，急忙调集大军乘势攻击，匈奴“国人亡十分之三，畜亡十分之五，国力大为削弱也。”
自此不久，汉军三千骑北击匈奴，都能捕得几千匈人而还，匈奴亦不敢报复，遂产生了与汉朝和亲的意图。这次胜利不仅是武帝以来坚决执行联乌击匈政策结出的硕果，更是张骞断匈奴右臂的西进政策在半世纪之后显出的功效。从这一点而言，张骞敏锐的眼光能远瞻到六十年之后，这样的智谋表明他不仅是伟大的探险家，更是伟大的政治家。自此，匈奴更加衰弱，此消彼长之下，汉朝更加强盛，也就直接决定了西域诸方的局势，大部分国家从此就归附于大汉朝麾下。
位于天山以北的面积广袤的车师王国（新疆吉木萨尔），是汉朝前往乌孙王国的要道之一。车师国王乌贵娶了匈奴的公主，所以跟匈奴结盟，继续遮杀汉朝使节。
宣帝地节三年（公元前67年），汉朝在渠犁王国的屯垦长官郑吉在汉宣帝的授意下，率领屯垦兵团一千五百人，同时调发各国军队，集结一万余人，攻击车师，不久便将其军队打得溃不成军。匈奴派兵来助阵，郑吉领兵迎击，两军遭遇，匈奴竟害怕退去。乌贵自知不能抵抗，但投降又恐惧匈奴报复。两难之下，乌贵索性放弃王位，向西投奔乌孙王国。汉朝就把车师国民东迁到交河城（新疆吐鲁番），而在车师故地屯垦，并派遣三百汉兵屯驻车师。宣帝元康元年（公元前65年），南道的莎车王弟呼屠徵，杀了亲汉国王万年。
万年何以会被其王弟呼屠徵杀害呢？
这涉及西域各国与汉朝和亲的公主地位。无可厚非，当时的冲国和亲公主，虽然可能是汉朝皇宫的一位名不见经传的宫女，但是到了西域，却成了西汉帝国的象征，可想而知其地位的高贵和显赫。
刘细君作为西汉的第一位进驻西域的公主，嫁给了乌孙王岑娶。及至刘细君逝世，汉朝再将另一位公主刘解忧嫁给继任的乌孙王翁归靡，生了三个儿子和两个女儿。一个女儿嫁给龟兹王绛宾，绛宾亦深以当大汉的外孙女婿为荣。汉朝公主还有一位侍婢冯氏，嫁给乌孙王国大将，她是历史上被誉为最美丽而且最成功的女政治家之一，经常代表公主和汉朝政府，出使西域各国，调解纠纷，各国对她有崇高的尊敬。
公元前65年，龟兹王绛宾夫妇为了加强汉朝和龟兹的关系，一同到长安晋见大汉宣帝刘询，刘询为其忠诚，感动万分，赐予了他们大量的钱财。等到绛宾夫妇返回西域，隆重的队伍让各国都羡慕不已，连远在西域西陲的莎车王国（新疆莎车）也心向往之。因此，在此之后莎车国就百般与汉朝使者交好，希望得到汉朝的大力支持，莎车国国王死后，没有子女，为倚仗大汉国威，就迎立刘解忧最小的儿子万年当国王。想不到万年是一个不成才的流氓，使国人大大地失望。故王的弟弟呼屠徵就把万年杀掉，自己继位。
与此同时，呼屠徵还杀掉了汉使奚充国，还煽动南道诸国叛离大汉，南道因此阻断不通，大汉震动，因为他不仅杀死了汉朝在西域的象征，更是直接侵害了大汉在西域的战略利益。于是，汉宣帝决意让汉朝在西域的使者，严厉地打击呼屠徵。
当此之时，大将郑吉还在北道屯垦区，恰奉宣帝派遣冯奉世正出使大宛途中。冯奉世果断行动，在郑吉的支持下，冯奉世以大汉使者的名义，征发西域诸国兵一万五千余人，进攻莎车，不久便打下了都城，平定了南道，并把惊惧自杀的呼屠徵首级一路传送到长安。冯奉世顺势进驻大宛国，国王畏惧大汉天威，对他尤其礼敬，冯奉世更因此还得到该国名马“象龙”，带回了长安，汉宣帝大悦。
可惜，郑吉在北方的屯垦区大大地威胁了匈奴的利益，因为此前匈奴和汉朝都是以天山南北为界限，分开治理的。此次汉军深入到匈奴势力范围内，匈奴便不断派兵骚扰。三年后，汉朝认为在天山以北不可能保持据点，便把屯垦区撤销，退回天山以南，与渠犁王国的屯垦区合并。
此屯垦区虽然不复，但天山以北郑吉所部的中心交河城，并没有就此损坏，被称为车师前王国，故地则称车师后王国，而且对于天上北麓的控制，因为不需要担心匈奴的骚扰，遂变得更为方便。
宣帝神爵二年（公元前60年），匈奴日逐王先贤掸，仰慕汉朝天威，遂带着数万人投降大汉，宣帝特派郑吉，发渠犁、龟兹诸国兵五万，前往迎降，一直护送至京师长安，路上有逃亡者，即斩杀。郑吉破车师，降日逐王，声威大震西域，宣帝乃拜之为西域都护，封安远侯，兼护车师以西北道诸国。郑吉遂在西域中心，大汉政府任命郑吉担任首位西域都护，都护府设在乌垒王国（今新疆轮台东北），并修筑乌垒城，距阳关两千七百余里，统领天山南北，大汉号令得以正式颁行于辽阔广大的西域地区。
西域都护的设置，是中国历史上一个划时代的大事件。从此之后，汉匈相斗七十余年，东自车师、鄯善，西抵乌孙、大宛，西域诸国尽归大汉之列，匈奴在对汉的交锋中，则处于弱势。
有人评论道：“张骞之始，郑吉之终，汉武之愿，汉宣实现。”
大汉在西域势力，不断增强，连一向强势的匈奴也不得不甘拜下风，不敢再与汉争锋西域，以前设置的僮仆都尉，也在形同虚设之后，被废除了，从此以后，天山南北广袤之土，雄阔之地，终属大汉之域。
经过不断的和亲、战争等出色的外交政策，汉朝在天山南麓的统治逐渐巩固，匈奴对于汉朝的压力也有所降低，使得汉朝得以将触角一度伸到了天山以北的匈奴控制地区。
匈奴在经历了西域的沉重失败之后，其颓败的趋势变得一发不可收拾。匈奴为了巩固自己在西域的势力，与汉朝军队在天山南北展开了生死角逐，然而，匈奴没有料到，自己没有被强大的汉军击败，却在曾经的弹丸小国、自己的附庸乌孙王国的迎头痛击下，兵败如山。匈奴本希望东西两面同时进军，可以花开双朵，皆大欢喜，及至西域的失败，他们不得不将目光重新锁定在东方。因为此时的西域，已经逐渐被汉朝铸炼得如铁桶一般，匈奴唯一可以做的，就是在天山北麓地区不断袭扰，同时构筑一定的防线，防止汉军的乘胜追击。
毫无疑问，匈奴的做法是行之有效的，汉朝军队其实并不想在这时候彻底地打垮匈奴，因为他们找不到一个理由，可以允许汉王朝以举国之力去霸占一个贫瘠的草原荒漠构成的大陆。而且匈奴此时还是很强势，汉朝军队和西域联军的攻击，并没有伤害他们的元气。马上民族灵活机动的性能，使得过去吃过无数次亏的汉朝军队不敢轻举妄动。即便如此，匈奴竟然也未能够挽回颓势。它在东方的战争中，被新兴的乌桓部落（内蒙古西辽河上游）击败，国势日渐萎缩。国势衰微，单于的权威也日渐下降，国人对此怨声载道，又加上此时在位的单于暴虐好杀，更促使危机加重，匈奴帝国陷入了即将四分五裂的困境之中。