章、韩遂就起兵反叛。第二年春天，他们率军数万进攻长安附近地区，侵逼刘氏皇陵。朝廷派车骑将军皇甫嵩征讨，无功而还。后来又任命张温为车骑将军，董卓为破虏将军，与荡寇将军周慎一起率领官军数万进行征讨，先败后胜，边章、韩遂败回金城。后来，韩遂和边章起了内讧，杀边章等人以后，拥兵十余万，进围陇西。陇西太守李相如反叛，与韩遂联合，击杀了凉州刺史耿鄙。耿鄙的下属，担任司马的马腾随即也拥兵反叛，起兵响应韩遂。一时间天下震动，朝廷惊恐，百姓人心惶惶，都感觉到了乱世即将到来。
发生在凉州附近的这些叛乱，不同于黄巾军的叛乱，他们原本就是朝廷的官军，拥有一定的政治基础，得到了当地的一些士族地主的支持，朝廷想要平息叛乱，比镇压黄巾军要难上百倍，况且朝廷内部，也已经出现裂痕，不像当年宦官独掌朝政时，那样一致对外。