但严助这人没过几天就暴露出文人性情的一面，将刘从戎嘱咐自己的话全都忘掉在了脑后，认为自己现在是无官一身轻了还不真正放飞下自己，就又跑到畅春楼等地方快活潇洒起来，最终给自己招来了性命之祸。刘从戎将审核张汤办理案件的后续工作，交给了自己的夫人吕幼兰，由她代表自己与赵禹和汲黯继续办理，自己则一门心思制定起了河西战役第二阶段的具体作战计划。因为按照刘从戎制定的整个河西战役的计划，胶东康王刘寄早已开始进行第二阶段的准备了，所以对准备工作他并不担心。他结合第一阶段中出现的问题，决定在第二阶段作战中，实施兵分三路出击为好。由于第一阶段战役中汉军只出动了二万重装骑兵，实际作战的只有一万人。而这一次他准备六万以上人马展开夏季的攻势。而第二阶段分西路和东路两个方向同时出击，以西路为主要进攻方向。东路由老将军李广和张骞率领骑兵一万五千人出右北平，去直接攻击匈奴左贤王。借以掩护西部主力出击。
西路部队由他和霍去病率主力骑兵三万人主攻，而公孙敖率领骑兵二万人进行配合，再次进攻匈奴人的河西地区。在第二阶段战役中，公孙敖领兵出陇西从正面吸引和牵制敌人。而他和霍去病率精锐骑兵的主力，采取远距离、大迂回的方式，从北地郡（今甘肃庆阳市西北）前出到塞外，从灵武（今宁夏银川南）渡过黄河，翻越过贺兰山后，“涉钧耆（水名），济居延（居延海）”，从居延海（今内蒙古额济纳旗境内）折向东南，沿弱水河进至祁连山与合黎山之间的黑水流域，出敌不意插至匈奴休屠王与浑邪王领地的侧后。关于各路统军将领的人选，则是和卫青还有汉武帝刘彻提前商量好的。刘从戎花了两天时间快速制定完河西战役作战计划之后，又将卫青、李息、霍去病等在长安的将领还有胶东康王刘寄请来。对于河西战役第二阶段的准备工作，胶东康王刘寄讲是按照十万人左右来进行准备的，现在出兵不到七万人，各项准备工作肯定在四月底之前就全部完成了。
刘从戎确定的河西战役第二阶段进攻的时间，是在这年阴历五月初左右发起。若再往后拖，则天气就热了。如今看来，现在刚三月下旬，准备的时间完全充裕。刘从戎结合在长安城内将领们的意见又对具体作战计划做了调整，便进宫觐见汉武帝刘彻做了详细汇报。刘彻见刘从戎关于河西战役第二阶段的作战计划很是全面和周全，便十分痛快地批准了。君臣两人聊完这件事情，汉武帝又拿出一份奏疏请刘从戎观看。原来汉军进攻南越进来十分不顺利，战斗打得始终别别扭扭的，无法实现汉武帝刘彻尽快解决南越的战略设想。刘从戎见此情况早已明白了刘彻的用意，便主动讲正好自己也不忙，现在刚三月二十二号，他明日即可启程前往南部前线，亲自去协调进攻南越的部署。汉武帝刘彻一听不禁大喜，当即直接授予他由进攻南越部队的指挥与调配权，诏书随后下发。刘从戎对汉武帝讲自己明日出发，争取八天左右时间赶到南部前线，再经过相应的调整，力争在四月下旬之前扭转局面，然后自己返回长安。
与汉武帝商议完，刘从戎立即与刘彻告辞回去做准备。望着他远去的背影，汉武帝刘彻由衷赞叹了一句，讲关键时刻还得说是定国公啊！刘从戎从万岁殿出来后，先去椒房殿看了看太子刘据，安排好他近期的功课。接着，他又去长信宫探望了下王太后。王太后经过最近半个多月的调养，身体好了许多。知道汉武帝刘彻又将派刘从戎前往对付南越的前线，歉疚地表示实在是难为他了，并让他注意自己的安全。刘从戎拜别王太后出宫后，则又去了绣衣府。他将卫青、霍去病、李息、赵禹、汲黯和胶东康王刘寄等人全部请了过来，说明自己被汉武帝刘彻派往南部前线的事情，并将这一段的工作逐一给众人做了安排和交代。第二天一早，他便率领着自己的亲兵卫队去了南部前线。一路上刘从戎不敢有片刻懈怠，日夜兼程在阴历四月初一的中午，赶到了南部前线临时指挥部。因为汉军参加南部作战的统军将领大多是他原来的下属，都是被汉武帝刘彻新提拔上来委以重任的。
这些人见他到了后，无不欢欣鼓舞。刘从戎经过几天的走访调查后，发觉进攻南越的兵力汉军过于分散，总共五万人马却分成了四个方向上实施突破，显然无法很快获取效果。他又结合绣衣府陆续传来对于南越地区的相关情报，大胆采用了欺骗战术，假装天气太热不利进攻汉军准备撤退，并派人四处散布此消息。而南越国的统军将领没有很好进行分析便信以为真，准备在汉军撤退时，在路上实施追击。刘从戎见南越人中了自己的圈套，则用一万人马佯装汉军主力进行撤退，将汉军主力四万人马全部集中到必经之路两侧实施埋伏。见到汉军果然撤退了，南越国统军将领则率领三五主力部队进行追击，结果被汉军引诱到刘从戎提前设置好的埋伏圈内，一仗全部消灭了个干净。汉军经过此战士气高涨，一扫以往的失望情绪。刘从戎又利用这五万汉军中的一万五千名骑兵，采用骑兵迂回穿插，步兵紧随其后实施分割进攻的战术，六天内五战五捷，一下子干掉了南越国的大半部队，迫使其只剩下了今天的广州等几个城市。
捷报传回长安后，汉武帝刘彻大为欣喜，直接又颁布诏令奖励了刘从戎千金。刘从戎见南部前线大局已定，汉军解决南越国只是时间问题了后，便于阴历四月十八当日率领自己的亲兵卫队返回长安。这时，他接到自己夫人吕幼兰传来的消息讲他走后没几天，公孙弘和张汤又神气活现活跃了起来，这几天很是能表现。而绣衣府这边也在廷尉府的配合下，将伍被的情况彻底查清楚了，也证明了严助与淮南王刘安谋反一事并无瓜葛。刘从戎一听心里挺高兴，又担心张汤与公孙弘等人再生出什么幺蛾子出来，便加快速度往回赶。刚过了长江，就得到绣衣府有关严助被张汤秘密逮捕的情报，这下刘从戎更着急了，率领自己的亲兵卫队以一天狂奔将近二百里的速度往长安城进发。等刘从戎于四月二十五这天傍晚赶回长安城后，便遇见了刚从宫内出来胶东康王刘寄。刘寄告诉他张汤自作主张，听取了公孙弘的意见，竟然在昨晚在处决伍被时，也将严助给杀了。