张凉大骂了公孙瓒一番，心中恶气才稍有缓解，然后召集众将，让周仓再把情况向大家汇报一番，接着问道：“诸位看，如今我军该当如何？”
此时田畴进谏道：“主公，刘州牧兵微将寡，恐难以抵挡公孙瓒的围攻，况且渔阳乃我军之根基，万一有失，我等将无处安身。属下建议尽早拔寨，回军相助。”
张凉点点头，又询问其他将领，全都一致同意罢兵回幽州。
张辽又道：“既然已经决定退兵，应当速行，避免消息泄露，让九原城内须卜骨有机可乘。”
听了这话，张凉猛然一惊，自己听到渔阳有事，心乱如麻，一心只想着回救，忘了此时正处于战斗中。
心想一个人的智慧与精力真有限，真必须多听人的建议。
于是下令道：“全军早点休息，今晚乘着夜色拔寨回渔阳，人衔枚，马去铃，不可闹出声响；命张辽带领精兵两千断后，确保大军安全。那须卜骨不来则已，若敢追来，定叫他有来无回。”
“属下遵命！”各位将领准备去了。
当夜张凉全军悄悄地撤离了九原，精兵断后计策也没起到什么作用，因为须卜骨根本没追来，至于是他不敢来追还是没有发现就不得而知了。
190年10月，二十一岁的张凉官职扬威将军，任渔阳郡守，带领三万军队撤离九原。
这一次虽然没有攻下九原，但威震了须卜骨，且收复了云中，对于夫罗总算有了交代。
张凉让于夫罗在云中就任了匈奴单于的位置，于夫罗对张凉千恩万谢，答应以后只要张凉有任何需要用得上他的地方，尽管开口。
而张凉则趁机和于夫罗建立商业联盟，以后南匈奴的牛羊马匹，只能在张凉的上古郡交易。
另外张凉还以保护地方安全，抵挡须卜骨反扑为名，让郝昭带领两千兵马驻扎在云中城，和上古郡相呼应。
这样一来，张凉实际上已经控制了云中这个和幽州、冀州、并州都有关系的交通枢纽。