此刻，匈奴的势力虽然复振，却无法与冒顿单于时代相提并论。汉军虽然实力不济，只要把守好雁门、云中一带的要隘，匈奴人无法对中原形成致命的威胁。匈奴一家不足为虑，真正可怕的是匈奴与羌人、鲜卑、乌桓等新兴势力联合起来向中原发动进攻！建武十六年卢芳集团垮台以后，匈奴、鲜卑、乌桓三部以及羌人联合起来，向汉朝不断发动攻势。
      
      　　由于天下初定，疮痍未平。对于北方西方边患，与当年的文、景时期一样，由于实力不足，刘秀只好采取战略防御，只能是隐忍待机。
      　　建武十七年，匈奴、鲜卑、赤山乌桓多次组成联军入塞南下，屠杀官吏百姓，大肆掠夺。刘秀下诏任命前征虏将军祭遵之堂弟、襄贲令祭肜为辽东太守。
      　　在西线，羌人在湟水流域的持续骚扰，对关中三辅地区的威胁极大。建武二十年春，匈奴入侵上党郡、天水郡，到达扶风进犯。这年十二月，匈奴入侵天水、扶风、上党。同年，鲜卑、乌桓则仗恃着马快刀沉，不断对渔阳、辽东诸郡侵扰。建武二十年之后，鲜卑、乌桓的南侵逐步深入，竟然渗透到渔阳、辽东腹地！其中，乌桓势力相对更大。他们世居上谷郡塞外白山之中，最为强悍富庶，代郡以东受其侵害尤为严重。乌桓部落地近边塞，朝发夕至，烧杀抢掠，沿边五郡大震，屡屡举烽示警。人民惊恐，无法安居。几年下来，边境五郡一片萧条，几乎不见人烟。
      
      　　建武二十一年八月，刘秀派马援及谒者分别修筑城堡要塞，逐渐恢复郡县，在有些地方虚设太守、县令，招集百姓返回故乡。马援率领三千名骑兵袭击，不能取胜而返回。
      　　不久，鲜卑部落一万余骑兵侵犯辽东郡。辽东太守祭肜率领数千人迎击。祭肜为人质朴敦厚，沉着坚毅。他的性格勇猛有力，擅以恩信招抚外族，外族敬畏，皆愿拼死效力。每当蛮族侵犯边境，他总是身先士卒，多次打败击退来犯者。面对来犯之敌，他顶盔贯甲，亲自上阵冲杀。一交手，鲜卑骑兵大败，被汉军杀的人仰马翻，狼狈而逃，落水而死的超过一半，祭肜穷追不舍，一直将其逐至塞外。鲜卑人在急迫中，全都抛弃武器，赤身裸体四散逃命。以后，鲜卑人震恐畏惧，不敢再窥伺边塞。这年冬天，匈奴再次进犯上谷、中山，官军无力围剿，只能眼睁睁地看着匈奴人在境内大肆抢掠而去。
      
      
      日期：2008-6-8　23:10:16
      
      　　建武二十二年，匈奴单于舆死了，其子左贤王乌达侯继位，很快却又死了。乌达候之弟左贤王蒲奴继位。此时，由于匈奴地区连年发生旱灾、蝗灾，赤地千里，人畜饥疫流行，死亡大半。蒲奴担心汉军乘机来攻，赶紧派使者到渔阳郡请求和亲，刘秀也不想打，就遣中郎将李茂为使者回报：“大汉忠信立国，岂能趁人之危！”蒲奴见汉使前来安抚，心中宽慰。不料，他的盟友乌桓却要落井下石！他们趁着匈奴疲弱，大举来攻。匈奴打败，死伤累累。蒲奴无奈，只好率部撤出漠南，向北迁徙数千里，漠南地空。刘秀见北边诸夷自相攻伐，料定必无大事，用金钱和绢帛招降乌桓部落，以为分化、瓦解之策。为了休养生息，他下诏裁撤沿边各郡亭候及边防官兵。
      
      　　按照西汉旧制，对于西域各国的管辖是由安西都护府来完成。由于疮痍初复，国力不足，对西域各国刘秀根本是鞭长莫及，无力驾驭：连自己的家门口都不安全，哪里有心思拓取边功？恢复安西都护府一事，自然成了遥遥无期之事了！
      　　此刻，刘秀只能将西域各国充当人质的王子暂留在敦煌。这些异国王子，由于长期滞留内地而不能返回家乡，心中异常惆怅。他们思乡心切，情知洛阳朝廷无力西向，失望之极，纷纷逃回本国。
      　　面对匈奴的大兵压境，莎车王贤畏惧不已。知道洛阳朝廷不会派都护来，于是出兵击败附庸匈奴的鄯善、击杀龟兹国王以自卫。情急之下，他不得不上奏洛阳：“臣贤愿再派王子到洛阳为质，恳请朝廷派都护抚慰西域。如若大汉不派都护，臣等也只好归降匈奴了！”刘秀无奈，只好下诏作答：“而今国家疲敝，无力遣使出兵相助！如果西域各国感到力不从心，卿等自己选择吧！何去何从，悉听尊便！”于是，鄯善国、车师国又归附匈奴。
      
      　　随着莎车、鄯善、龟兹诸国的归附匈奴，汉朝在西域的领地全部丧失，形势日益危急。再加上西羌、乌桓、鲜卑在边境的侵扰，局势日益严峻。
      　　不料，次年（建武二十三年）匈奴却爆发了内乱，使其内部大为削弱。这次匈奴内乱几乎是当年“五单于之乱”的翻版，这一惊人的意外事件，为洛阳朝廷赢得了喘息的机会。
      　　本来，按照匈奴人尚左的习俗，一向是以左贤王为储君的标志。也就是说，谁要是做了左贤王，谁就是下一任单于！同时，按照“兄终弟及”的老规矩，单于舆之弟右谷蠡王知牙师应该做左贤王―――也就是太子！然而，单于舆却打算将其位传给自己的儿子乌达侯。为了确保乌达侯即位，他设计杀死了知牙师。这一事件，立即在匈奴帝国上层引发了雪崩！此刻，单于舆的前任乌珠留单于之子比，时任右日逐王，统领南边靠近长城的八大部落。比听说知牙师被杀，极为愤慨，对部将道说：“若以‘兄终弟及’之次序，右谷蠡王知牙师应当继位。若论以传子之次序，我是乌珠留单于之长子，这个单于的位子，本来应该是我的！”
      
      　　从此，右日逐王比对单于舆心怀怨恨，不再单于王庭参加朝会。时间长了，单于舆就对他起了疑心，就派两名骨都侯去监督南部兵马。不久，单于舆死了，其子即位，这就是蒲奴单于。右日逐王比越发愤怒，决心与其分庭抗礼。
      　　他密遣汉人郭衡诣见西河太守，献上匈奴地图，请求归附。两名骨都侯监军察觉了比的图谋，立即密奏蒲奴单于。他们建议，应在五月龙城祭祀天神之时，将右日逐王比杀死！
      　　不料，右日逐王比之弟渐将王在单于帐中做事，阴知知晓。渐将王急忙派人密报兄长。右日逐王比大惊，即刻召集南边八大部落的头领前来议事，并汇集了人马四五万人，准备在两骨都侯归来之时，将其杀死。这两个骨都侯也很警觉，在即将回到营地之时，他们突然发觉情况不对，赶紧带人掉头逃走。蒲奴单于得报，急遣骑兵一万余去南下围剿比，因见其军容强大，未敢进兵就撤了回来。
      
      
      日期：2008-6-8　23:11:39
      
      　　建武二十四年春，南部匈奴八大部落首领共同议定，拥立日逐王比为呼韩邪单于。
      　　至此，匈奴再次分裂为南北两部，蒲奴单于所部被称为“北匈奴”，呼韩邪单于所部被称为“南匈奴”。呼韩邪单于自立之后，派使者进入五原要塞，表示愿永做大汉北部屏藩，世为臣属，以御北方之敌。刘秀得报，将此事交付公卿商议。朝臣们大都认为：“天下方才安定，中原空虚，而夷狄意图真假难辨，不可应许。”唯独五官中郎将耿国独树一帜，他认为：“应依孝宣皇帝成例，接受其归附。可命其在东面抵御鲜卑，在北面抗拒匈奴，做四方蛮夷的表率，修复沿边诸郡！”刘秀准奏，同意了比单于的要求。
      
      　　十月，呼韩邪单于比自立为南单于，遣使诣阙奉籓称臣。刘秀召问朗陵侯臧宫：“以将军之见，且当如何？”臧宫慨然道：“匈奴饥疫分争，臣愿得五千骑以立功，横扫大漠！”刘秀不以为然，笑道：“面对常胜将军，难以虑敌情？对于此事，朕要深思啊！”
      　　建武二十五年正月，辽东郡塞外的貊人侵犯边境，太守祭肜招诱他们归降。祭肜以重金厚贿鲜卑首领偏何，令其招集其他部落到边塞归降。祭肜道：“尔等若是真想为国家立功，就应去打匈奴，斩下匈奴首领的头送来，本官才相信你们！”偏何等人斩杀二千余人，将人头献到辽东郡官府。此后，他们每年都去打匈奴，送来人头，接受赏赐。从此，匈奴势力日益衰落，边境无警。匈奴远遁之后，鲜卑、乌桓失去了依托，只好一同朝贡。此后，南单于比派其弟左贤王莫率兵一万余北征，生擒北单于蒲奴之弟左贤王。蒲奴震恐不已，率众后撤一千余里，其所属的左骨都侯、右骨都侯带领三万余人归附南单于。
      
      　　三月，南单于再度遣使者到朝廷进贡，请洛阳再派使者进行监护，并请求送王子入质，重修旧约。
      　　至此，由于匈奴的南北分裂，给汉朝休生养息，恢复元气，提供了一个相对稳定的环境。“按下葫芦起来瓢”，此后乌桓、鲜卑却又成了威胁汉朝北方诸郡的大患。至此，天下局势进入了一个多元争雄的时代。
      　　建武二十五年，乌桓部落从雁门、定襄等五郡塞外南迁至塞内的辽东、渔阳及朔方等十郡，即今辽河下游、山西河北北部及河套一带驻牧。
      　　建武二十六年正月，刘秀下诏，派中郎将段彬、副校尉王郁出使南匈奴，为南匈奴建立王庭，距五原西部塞八十里。使者令单于伏地跪拜接受诏书。单于犹豫片刻，伏地自称臣属。谒见完毕，他命翻译告诉使者：“单于新近即位，在群臣面前跪拜汉使实在羞惭，望贵使今后尽量避免令单于在大庭广众之下屈节跪拜！”刘秀准允，同时下诏：设立使匈奴中郎将，领军护卫南匈奴诸部。听任南单于进入云中郡居住。