会议结束后，第三师加紧了改编工作。王仁斋派出多股小分队寻找马匹，从通化、桓仁、兴京、清源等地搞来了数百匹骏马分到各团。参谋长杨俊衡和二团团长乔荫堂，三团团长程国钧披星戴月训练骑术，李成明和独立营的骑兵都成了教员。就连王仁斋、周建华的警卫员都抽到部队教战士们骑马。因为部队里大多数战士都不会骑马，训练骑术成了出兵前的一件大事。杨俊恒整天在马背上上下翻滚，一遍又一遍地给战士们作示范。如何抓缰绳，如何上马，如何踩蹬，如何控制奔跑的速度、如何劈刀和射击等等。从早晨练到晚上，有的战士半夜起来撒一泡尿，就牵着军马继续苦练。仅仅半个多月时间，除了老弱病残的战士外，第三师成了名副其实的骑兵师。柳万熙、金山、陈兴樵、仪兆祥等天天下到部队进行动员和检查给养装备工作；第三师上上下下忙得不亦乐乎。战士们憋足劲，要为早日打通与关内的联系，做着充分准备。
经过第一次西征失利和此后的多次战斗，第三师减员三百多人，部队得不到及时补充；能够参加战斗的只有四百人。这四百多人马时刻准备着，向敌人的心脏插上一刀；完成杨将军交给的历史使命。
时间进入了十一月下旬。有一天晚上，一阵集合号响起，第三师近四百名战士整装齐发；在师长王仁斋、政委周建华、参谋长杨俊恒、政治部主任柳万熙的带领下跃上战马，冒着凛冽的寒风，挥师北进，开始了第二次西征。
为了隐蔽起见，部队白天休息，夜间行军。当队伍走出山地，进入丘陵地带时，还是被敌人发现了踪迹。日本关东军三木少将，派出鬼子一个联队约一千多人，紧紧“咬”住抗联部队不放。当队伍来到一个地势较高的山坡时，王仁斋、周建华决定狠狠地教训他们一下。于是，王仁斋把队伍隐蔽起来，在山包上等待鬼子的到来。约过了半个小时，鬼子的先头部队进入了伏击范围。王仁斋手持双枪在前，杨俊恒手提大刀在后；“冲啊！”率先冲进了敌群，战士们紧随其后，冲进敌群展开了肉搏。一时枪声震天，地上的雪花被战马溅起半米高；不可一世的日军突然遭受攻击，惊慌失措落慌而逃。如此几次，第三师西征部队冲破敌人重重封锁，途经清原、铁岭，跨越南满铁路北段；历经一个月，终于抵达了法库县与开原县交界的仿佛寺。
然而天公不做美，1936年关东的冬季，气温偏高。已经到了十二月下旬了，辽河
不但没有结冰；反而河水暴涨、水面增宽、喘急的河水奔流不息。同时，各渡口也早有日军严密把守，渡船被严格控制起来。王仁斋、周建华心急如焚，他们怎么也没有想到，一路血战到了辽河岸边却被暖冬的辽河挡住了去路。
王仁斋下令部队夺取船只，强渡辽河。擅长山区作战的战士们不习惯平原作战，
面对滚滚辽河无计可施；再加上当地没有了山谷青纱帐，队伍的一举一动都在敌人的掌握之中。这边刚准备过河，就被对面的敌人发现了；顿时，飞来如雨般的子弹，把第三师挡在了河岸。开原城的敌人听到密集的枪声，也闻风而动，大队鬼子伪军向辽河涌来。第三师在腹背受敌的情况下，只得边打边撤，穿过南满铁路向清源方向退去。
这里是东北平原的起点，茫茫草原一望千里；我军的一举一动，都在敌人的监视之下。前有追兵、后有堵者，队伍被困在一个树木稀疏的小山包，进退不得。王仁斋急忙找到周建华、杨俊衡、柳万熙等将领说道：“西征困难要比我们想象的多，经过两天的战斗我军损失近半，人马疲乏不堪；但不能在这儿休息，必须马上向山区突围。这里是一马平川，我们的一举一动都在敌人掌握之中，我们必须趁着黑夜突出重围，否则将全军覆没。”
少顷片刻，王仁斋继续说道：“同志们，向导已经阵亡，我们只能靠北斗星判别方向；无论付出多大牺牲，只要撤到山区就是胜利。政委，你看呢？”
周建华也意识到了问题的严重性，接过话茬说道：“经过几天的战斗，已经看出我军虽然做了充分的准备，对于丘陵作战、平原作战和骑兵作战还有很多不足。作战失利，再加上摔伤掉队者，部队的伤亡剧增。我同意师长的意见，把队伍撤到山区从长计议。”
“那么好！参谋长你带一团打前阵，左翼有乔荫堂的二团，右翼有程国钧的三团作策应；政委和柳主任带领伤员和机关居中撤退。我带独立营断后，掩护主力转移。”
柳万熙说道：“不行！你是全军的主帅，怎么能担任掩护；还是我来殿后吧！”
“时间紧迫，不容我们在此争论；就这么定了。”然后，王仁斋转向大家说道：“同志们，能否冲出重围在此一举。马上行动吧！”说过和周建华、杨俊衡、柳万熙和团营长们一一握手。
杨俊衡和一团在前，二、三团从两翼突然向敌人发起了进攻。围着火堆烤火的伪军毫无准备，立刻被冲开了一道口子；第三师仅存的二百四十多人冲出了包围圈。王仁斋带领李成明、仪兆祥的独立营五十余人走在队伍的后面，隐进茫茫夜色之中。队伍跑出去不到五里地，鬼子的骑兵就追了上来。由于几天来的连续作战，第三师人困马乏，前进的速度减缓了许多。特别严重的是，在茫茫草原上落马掉队者逾来逾多，加之战斗减员；队伍下剩下了不到二百人。等到东方微明的时候，英雄的三师终于赶到了龙岗山边缘的莫日山。经过一夜一百多里的奔袭，战马口吐白沫大汗淋漓。战士们也被颠簸的散了骨架，没有了一点力气。等王仁斋赶到时，政委周建华、参谋长杨俊衡正在和团营长们清点突围出来的人数。看到他过来，周建华悄悄说道：“队伍掉队甚多，一些伤员刚开始突围时还好好的，后来都坚持不了掉了队；还有一些同志因
为战马死伤也掉了队。现在三个团加上独立营，幸存下来的战士只有一百四十人了。”