此时形势对黑山军相当有利。东汉朝廷名存实亡，再也无法像镇压黄巾军那样调动中央军和地方军对其实行围剿。关东各军事集团忙于争夺地盘，无力也无心与黑山军开战。
黑山军则在张燕的率领下投入到关东军阀的混战之中。为在乱世中求生存谋发展，张燕采取以太行山脉为依托，在坚持独立自主的山地游击战的同时，不放弃有利的平原运动战，不断向邻近的魏郡、东郡、阳平郡等黄河中下游平原郡县发展。而这些地方都是袁绍的势力范围，双方的冲突也就不可避免。与袁绍对敌的公孙瓒成为黑山军的盟友，黑山军倒向了公孙瓒一边。
初平二年（191）秋，黑山军趁袁绍与公孙瓒在冀东、青州激战之际，于毒、白绕、眭固等十余万众攻掠魏郡、东郡，对袁绍的大本营邺城及其南翼安全构成威胁。与此同时，受青州刺史臧洪、徐州刺史陶谦的军事压力，初平二年（191），青、徐黄巾三十万众入渤海界，欲与黑山军会师河北，如果此计得逞，势必会改变关东黄河流域的军事对比。黑山军的盟友公孙瓒出于自身利益考虑，在渤海郡东光县将黄巾军击溃，并趁势将势力深入青州。而袁绍却将镇压黑山军的重任交给了曹操。经过激战，曹操在初平三年（192）春才将这股黑山军消灭。