后来，因为立了军功，授官职为都督，新安太守，慢慢地提升到仪同三司，世袭新义郡公。
北周武帝宇文邕攻打北齐时，北齐将领独孤永业镇守金墉城，韩擒虎说服他投降，进军平定范阳，他又被加授上仪同，授官职为永州刺史。
南陈军队逼进光州城，韩擒虎以行军总管之职打败了他们，又跟从宇文忻平定合州，杨坚做丞相后，他为合州刺史。
陈将甄庆、任蛮奴、萧摩诃等互相声援，多次侵犯江北，先后侵入北周边界，韩擒虎多次挫败他们的锐气，使南陈士气大丧。
公元581年，隋文帝杨坚暗中怀有吞并江南的志向，认为韩擒虎有文武之才，平素很有名气，于是就授他为庐州总管，委韩擒虎以平定南陈的重任。
公元588年，隋文帝大举伐陈，以韩擒虎为先锋，他率领五百士卒夜里渡江，袭击采石，守城的陈军都醉了，韩擒虎于是就攻取了它，进攻姑苏，半天时间就攻了下来，紧接着又夺取了新林。
杨广派遣行军总管杜颜与韩擒虎会合，步兵和骑兵达两万人，这时，陈叔宝派领军蔡征镇守朱雀航，听说韩擒虎将到，众士兵因害怕韩擒虎而溃逃。
任蛮奴被贺若弼战败，丢下军队向韩擒虎投降，韩擒虎以精锐的骑兵五百人直攻朱雀门，南陈士兵打算迎战，任蛮奴指着他们说：
“我尚且投了降，你们还干什么！”
大家都纷纷溃散逃走，于是平定金陵，活捉了陈后主陈叔宝，当时贺若弼也有一部分功劳，于是隋文帝就下诏对杨广说：
“这两个人深谋大略，在东南防备侵犯之敌，我本委任他们，平定东南，安抚百姓，一切都跟我想的一样。
九州不统一，已经有几百年了，凭他们这些名臣的功劳，来完成太平盛世的大业，天下大事，还有什么能超过这些呢？
听到这情况感到很欣慰，实在是很高兴，平定江南，是这两个人的力量啊！”
于是赏赐绢帛万段，随后又下诏对韩擒虎、贺若弼二人说：
“你们扬国威于万里之外，宣扬教化于江南一隅，使东南百姓从水深火热中摆脱出来，几百年的敌人十来天的时间就清除干净，这只是你们的功劳啊。
你们高高的名声塞于宇宙，昌盛的大业显耀于天地，远听前世古人之事，很少与你们能够匹敌，军队凯旋，知道为期不远了，我很想念你们，度日如年。”
等到回到京城，贺若弼和韩擒虎在隋文帝面前争功，贺若弼说：
“我在蒋山殊死作战，打败敌人精锐的部队，活捉敌人的勇将，威风大振，于是平定陈国，韩擒虎并不怎么与敌人交锋，怎么能与我的功劳相比！”
韩擒虎说：
“我奉晋王的指示，让我和你的军队合在一起，来攻打陈国都城，你贺若弼竟敢在我前面冒险出兵，一遇到贼人就展开战斗，致使将士们死伤很多。
我带领精锐的骑兵五百人，武器不沾血，就攻下金陵，使任蛮奴投降，捉住陈叔宝，占据他们的府库，把他们的巢穴都倾覆了。
贺若弼到晚上，方才叩响北掖门，我打开城门接纳他，他连补救罪过都来不及，怎能与我相比！”