马超对杨阜等人的密谋一无所知。占领冀城后,建安十七年(212)九月,马超自封征西将军,领并州牧。不久,杨阜、姜叙在历城起兵,赵昂、尹奉等人也占据祁山反马超。马超听说后,立即领兵来攻历城。马超前脚刚出冀城,城内的梁宽、赵衢就发动兵变,把马超留在城里的老婆孩子一家大小全部杀死,马超闻讯,急忙带兵赶回,拼命攻城,但冀城城高池深,上次攻城就打了八个月,也没打下来,这会儿更是只能望城兴叹。马超看着城上的梁宽、赵衢,恨得双眼喷火、咬牙切齿。
马超见冀城打不下来,返身去打历城,破城之后杀了姜叙的母亲(杨阜的姑姑),杨阜亲自率领宗族家兵与马超激战。马超这时四面受敌进退失据,在陇右不能立足,只好南下投奔汉中张鲁。
这时,马超身边兵将所剩无几,亲人不是死在邺城,就是被杀于冀城,只有从弟马岱跟部将庞德追随左右。
马超在张鲁处郁郁不得志,连遭大败,亲人多死于非命,只剩孤身一人,客居他乡、寄人篱下,其中甘苦也只有马超自己知道。
建安十八年(213)的元旦,马超一个人在家中喝闷酒,这时马超的小舅子来府上探望。新年佳节,别人家都是张灯结彩、一家团圆,只有马超家冷冷清清。马超跟小舅子两人相对而坐,显得十分凄凉。马超的小舅子斟了一杯酒给马超,又拿起自己的酒杯向马超祝贺新年。