张景惠接到杜立三正法的消息，立即率部驰往杜立三的老巢——青麻坎，层层包围。张派人劝杜母不要抵抗，可以保住全家性命，杜立三的大哥乘机逃跑，杜老疙瘩不肯投降，拼命到底，杜母见大势已去，劝小儿子不要反抗，打开大门，张景惠的队伍开进去，杜老疙瘩又开枪射击，被束手就擒，拉出院外，将头砍下。解决了杜立三的老巢以后，进行搜索，装载几十辆大车的金银财宝、枪支弹药等，拉回新民。
此刻，杜泮林还蒙在鼓里，听到杜立三被正法时，对张作霖破口大骂，说张作霖卖友求荣，背信弃义。张作霖并不生气，说：“义父在上，我奉总督之命，为地方除害，实出无奈，也是全靠义父的帮助，我一定呈报总督大人从优奖叙。”杜泮林凄然说：“事已至此，无可奈何，你为奉天除害，算是做对了，立三已死，不能复生，但望你能善待他的家人，对他的部下妥为安抚，老夫于愿已足矣。”
杜立三巨匪被消灭，徐世昌喜出望外，立即报请清廷为张作霖请功：“今兵不血刃，渠魁接首，不但江西安枕，即他处匪徒，亦闻而知惧，该统领等赴机迅速，实属异常出力，奋勇可嘉，应准其择优请奖，以昭激励。”旋清廷朱批。“予都司张作霖等五员奖叙。”赏银5000两，并升任奉天巡防营前路统领。从此，经张作霖五载剿匪，辽西一带匪患基本肃清了，社会治安渐趋稳定。
张作霖在驻防新民期间，又娶了两房姨太太，三姨太戴氏，是广宁县捕盗班头的女儿，容貌美丽，被张看中，托杜泮林从中说合，用重金聘娶。戴氏性情暴躁，婚后感情不睦，张初任督军时，戴氏因打骂使女，被张赶出府门，削发为尼，郁闷而死。四姨太许氏，名澍肠，直隶宛平人，随母亲流落到新民，以缝补浆洗为生，一日在井台打水，被张看中，1906年与戴氏同日进门。许氏性情刚强，遇事有见解，教育子女有方。
徐世昌对张作霖效忠清廷，机智勇敢，剿匪有方，甚有成效，颇为赞许。1908年调张作霖前路巡防营移驻挑南府。消息传开，新民府文武官员、士绅名士纷纷设宴饯行。张作霖领兵开拔那天，又热烈欢送。不料，新民府商会会长姜雨四拦住张作霖，扯住马缰绳向张索要在新民府驻防期间，为筹措粮饷，向商家挪借的款项，非让张作霖偿清欠债再走，闹得张作霖很难为情，经其他官员出面调解，并应允承担偿还这笔债务，才要张作霖开拔。后来，张作霖当了东三省巡阅使，筹办兴业银行，聘请善于理财人才，想起当年在新民府拦马索债的姜雨田了，遂派人把姜雨田请到奉天。姜一路心惊肉跳，害怕报复。出人意料，张作霖见到姜雨四十分高兴，哈哈大笑：“多年未见，你没忘记我这个债主吧！”姜雨田害怕地说：“都怪小的办事死板，当年多有冒犯大帅。”张作霖说：“办事死板也大有用处，像你这样一个心眼的人还真难选哩！我派你做我的兴业银行去当襄理，干好了还要高升”。从此，姜雨田成为张作霖手下理财的得力助手，张作霖对姜十分信赖依重，至死不渝。
蒙匪陶克陶胡、白音大贲在郑家屯、洮南府一带活动猖撅，打起反清大旗，对百姓烧杀掠夺。沙俄对我国东北垂涎已久，在哈尔滨设立了蒙务机关，设立据点，以美女、枪械、黄金为诱铒，网罗内蒙的王公、喇嘛、牧主、匪首作为他们的侵略工具，并派出便衣特务潜入内蒙各地，专门从事挑拨民族关系，制造事端，煽动民族分裂。蒙匪陶克陶胡原系郭尔罗斯前旗（今在吉林省）的一个没落贵族，早年投靠沙俄。1907年清廷在内蒙东部大村招垦，毁坏草地，激起内蒙人民一场声势浩大的抗垦斗争。这时陶克陶胡奉沙俄蒙务机关指示混入抗垦队伍，窃踞了首领地位，他利用民族仇恨，率领骑兵队伍越过边境，烧杀抢掠，无所不为，这是一股名为反抗清廷，实为沙俄假借蒙匪之手对我国东北进行侵略活动。清廷曾调张勋、倪嗣冲、赵佣等部队进行围剿，均不能奏效。徐世昌又派张作霖、冯德麟（即冯麟阁，受抚后改为现名）和马龙潭等巡防营进剿。张作霖率部队同陶克陶胡、白音大贲匪帮激战于内蒙东部大草原。
内蒙东部是广袤无垠的大草原，一望无边的沙漠，没有村庄，也没有森林，蒙匪非常强悍，熟悉当地地形，精于骑射，行动敏捷，时隐时现。张作霖的巡防营，面对强悍的蒙匪和生疏的环境，兵分三路进入大兴安岭的索伦河一带剿匪。蒙匪同辽西的胡匪大不相同，他们多用奇袭，乘清兵不备，进行偷袭，然后骑马逃逸，当清兵追袭时，早已不见踪影。小股清兵追袭往往脱离部队，又难于联系，吹号鸣枪又易被蒙匪发现，后勤供应也极困难，因此，剿匪初期困难较多。这时，徐世昌把奉天的八路巡防营改为中、前、左、右、后五路巡防营，仍以张作霖为前路统领，并将五营扩充为七营，除原有的汤玉麟、张景惠、张作相、邹芬等营外，又将驻在洮南的孙烈臣部划归张作霖的建制。孙烈臣，字赞尧，奉天省黑山县人。幼年丧父，家境贫寒，少时好学尚武，能骑善射，及长，租地耕田或打短工，为财主充当炮手。1900年，庚子之乱，沙俄军队占据奉天，奉天将军增棋被迫出走，行至黑