汉武帝即位以来，汉王朝国力逐渐强大，他才决定改变长期以来的和亲政策，反之实施长久的打击。卫青、霍去病连连收复“失地”，并逐渐将匈奴赶往离大汉更远的沙漠深处。可以说汉武帝对匈奴的猛烈反击，大伤了匈奴的元气。到西汉晚期，匈奴最终在内忧外患中发生了分裂，呼韩邪单于率部归顺汉朝，而流窜到中亚与汉朝为敌的郅支单于也被汉将陈汤以“明犯强汉者，虽远必诛”为理由消灭掉了，汉匈关系从此走向和解。
东汉初年，在匈奴贵族中反汉的势力重新抬头，导致匈奴再次分裂，南匈奴归顺汉朝，而北匈奴则坚持与汉为敌，经常发动对南匈奴和汉人的掠夺。而当时东汉刚刚建立，国力还属于恢复期，因此，直到汉明帝时，才发动了对北匈奴的反击战。91年，汉军再次出击北匈奴，在金山(今阿尔泰山)大败北单于，北单于只得向西逃窜。至此，东汉对北匈奴的战争取得了全面胜利，而与汉为敌的北匈奴，则受到汉与南匈奴的合击，已无法在漠北蒙古高原立足，只得退出蒙古高原向西逃窜。
归汉内迁的南匈奴部落与汉民族之间不断融合，不断繁衍生息。到了西晋末年八王之乱时期，南匈奴部落在领袖刘渊的带领下，与北方汉族的豪强势力联手推翻了西晋政权，建立了后汉国。之后随着五胡内迁，以及长达五百年的南北朝政权更替，南匈奴完全融入了北方汉族之中，除个别家族还保留了民族姓氏如鲜于、呼延等外，大部分都改成了刘、王、张等汉族大姓。而那些没有内迁的原匈奴草原部落则归入了鲜卑一族，两族不断通婚，形成了一个新的民族“拓跋鲜卑”，后来更是建立了强大的北魏帝国。
但随着隋唐帝国的崛起，鲜卑族最终还是融入了北方汉族之中，他们从此改姓为高、宇文、元、慕容、胡、长孙、孙、段、陈、李、王等。至此，匈奴族便彻底融入到了汉族的大家庭中来，不再见载于历史。当然，就算这样，也不能说现代所有这些姓氏的人都是匈奴人，或拥有匈奴人的血统。中国境内现在还有哪些人可能是匈奴人的后裔，只有留给民族学家去考虑了。
