北魏的援军部队在交战期间用皮绳将横木围成营寨，并在营垒前设下鹿角和拦马桩，依此为样一连筑起十三道营垒。为了击破这些营垒，陈庆之率领一部分精锐的部队，每个人嘴里含着纸片（以便不发出声音），于一天夜里对北魏的营垒发起夜袭，一口气就攻陷了其中的四个，涡阳城的守将王纬为陈庆之的勇毅所折服，请求归降。而剩下的九座城池仍然兵力雄厚，防卫森严。于是陈庆之就将其俘虏的首级列在阵前，擂起战鼓奋力进攻，许是被阵前的首级吓破了胆，或是陈庆之所部攻击太过猛烈，剩下的九座城池中的魏军随即崩溃而至一败涂地。
这一仗打下来，车甲狼藉，尸横遍野，根据当时史书的记载\"涡水咽流\"，即淮河的一部分支流为之阻塞。梁高祖萧衍对陈庆之的这次指挥大加赞赏，亲自写了诏书称他是：\"本非将种，又非豪家，觖望风云，以至于此。可深思奇略，善克令终。开朱门而待宾，扬声名于竹帛，岂非大丈夫哉！”不是名将的后代，也不是豪族的门下，但是在这次战役中，深思熟虑，屡建奇功，终于使得最后获得了成功。建立了自己的勋业，寒门变为朱门，使自己的勇名传诸于史册，这难道不是大丈夫的本色吗？
这时候，北魏的本土发生了大乱，西有萧宝寅占据长安妄图恢复南齐的霸业，在河北北镇流民葛荣拥师号称百万，而北魏招来的用于镇压叛乱的尔朱荣更是在北魏皇室中屠杀了将近两千人，并且擅自另立新帝，因此导致的结果是元氏宗族人人自危，纷纷起兵造反投向南梁。
公元528年，北魏的北海王元颢以本朝大乱为由，自己率领一部分部队来向萧衍投诚，并请求萧衍帮助其成为北魏的皇帝。出于战略上的考虑，梁武帝认为这是一个向魏土拓境的大好时机，于是便欣然同意了。再一次地，陈庆之以假节的身份、受任为飚勇将军（还是属于二流的杂号将军），送元颢北上洛阳。照理说这是一次具有相当规模的军事行动，可是梁武帝仅仅让陈庆之所部七千人孤军北上，并未在别处派军加以协助，这不由得令人怀疑起梁武帝的真正用意，很有可能梁武帝并不愿花费太多精力浪费在这个北魏的流亡贵族身上，只是想派陈庆之率领少部分军队敷衍一下，不过梁武帝这次的无心之举却在无意中促成了陈庆之个人生平足以不朽的武勋。
元颢于涣水边迫不及待地即位称帝，授予陈庆之使节、任命他为镇北将军、护军、前军大都督，不过这些都没什么用，因为他自己也只不过是一个光干皇帝而已。军队从县出发，随即就攻克了荥城，进逼睢阳城下。守城的魏将丘大千（呵呵，又见面了，前面输的还不够吗）有着将近七万人马，在上次被陈庆之一举击溃后，他似乎并不领取教训，这一次他仗着十倍于对方的兵力，筑起九座营垒阻挡陈庆之前进的步伐。进攻，不断地进攻，从早上到下午大约四点的时候，陈庆之已经攻陷了三座营垒。服了，真的服了，这或许就是当时丘大千内心的真实写照。丘大千随即率部众向陈庆之投降。北魏的七万军队一日之间就覆没了。
随后不久，北魏的魏征东将军济阴王元晖业率领羽林军即皇室的近卫队将近二万人来阻击陈庆之的部队。他将自己的部队进入考城驻扎。这是一座易守难攻的城池。城的四面为河水包围，城内守备严固。很像三国时的军事重镇合肥。陈庆之命令属下在水面修造浮垒，随后借助浮垒，乘筏顺流而下，一举就攻陷了这个水上城堡，并且还生擒了敌方主将元晖业，这一战获得战车七千八百辆。此后陈庆之继续挥师北上，不屈不挠的指向洛阳，沿路不少城池看见他的旗帜就请求归降。元颢充分认识到了陈庆之的价值，随即晋升陈庆之为卫将军（这是仅次于大将军以下的高级军衔了）、徐州刺史、武都公。
与此同时当然，虽然内乱不止，但是负责平乱的尔朱荣本人也是一位杰出的骑兵指挥家，在他的指挥下，北魏的军队先后击败了长安的萧宝寅和各地的反乱将领，而他本人更是以七千精骑大败葛荣，一时也是风光无限。于是，自然而然地北魏的军队开始将眼光集中到这支仅有数千军力，却要执意入洛的部队身上。这时陈庆之的部队在荣阳受阻。当时荣阳集结了北魏方面的左仆射杨昱、西阿王元庆、抚军将军元显恭所率领的羽林军和驻扎军队的混合编队将近七万人。他们的军队训练有素，而且装备精良，更令人头疼的是荣阳城异常险固，陈庆之屡次进攻都未能攻陷。
而与此同时，奉尔朱荣的命令魏将元天穆率领大军截断了陈庆之的后路，并且派遣他麾下的骠骑将军尔朱吐没儿率领胡骑（即散居在关外的少数民族骑兵部队，这种部队以劫掠为生，战斗力极强）五千人，骑兵将领鲁安率领夏州步骑混合军九千余人，来支援杨昱；又让右仆射尔朱世隆（尔朱荣的弟弟）、西荆州刺史王罴率领一万骑兵，占据虎牢关使得陈庆之无路可退。元天穆、尔朱吐没儿一前一后对陈庆之形成夹击之势，旗鼓相望，声震百里。
当此之时荥阳城还没有攻陷，四面又全是敌人的精卒，换作任何人恐怕都是只有等死的份了，而一直跟随陈庆之出生入死的常胜军们也头一次感到了死亡的逼近，军队上下布满了绝望不安的气氛。陈庆之见到这种情况就向军士们大声说：\"我们从出发至今，攻陷城池侵略土地，实在已经不少了；你们一路上所歼灭的敌军中有的是他人的父亲，有的是他人的兄长弟弟，这又是无法计算的。元天穆所集结的部队，都把我们当作仇敌。我们才有七千人，敌人却有将近众三十余万，今日事已至此，就不要再考虑如何求生了。我想和敌人的骑兵不可以在平原上一决高下，必须等他们还没到来之际，攻克眼前这座城垒，大家不要再犹豫惶恐，那样只能是自取灭亡啊！”于是他亲自擂鼓攻城，一通战鼓下来，士卒奋勇登城，来自东阳的勇士宋景休、和义兴的鱼天愍首先登上城楼，竟然一口气攻陷了荣阳城。
《梁史》的作者给于他的评价是\"所向无前”四个字。而毛主席在批阅二十五史时，看到这一段，写下这么一行字\"读来令人神往”，可见评价之高。