184年(甲子年),张角相约信众在3月5日以“苍天已死,黄天当立,岁在甲子,天下大吉”为口号兴兵反汉;“苍天”是指东汉,“黄天”指的就是太平道,而且跟据五德终始说的推测,汉为火德,火生土,而土为黄色,所以众信徒都头绑黄巾为记号,象征要取代腐败的东汉。张角一面派人在政府机关门上写上“甲子”二字为记认,另一方面派马元义到洛阳勾结宦官,想要里应外合。
可是在起义前一个月,张角一名叫做唐周的门徒告密,供出京师的内应马元义,官兵大力逮杀信奉太平道信徒,诛连千余人。由于事出突然,张角被迫提前一个月在二月发难,史称黄巾起义或黄巾之乱。张角自称“天公将军”,张宝、张梁分别为“地公将军”、“人公将军”在北方冀州一带亲自领军战斗,而张曼成就在宛城起兵,波才、彭托则在豫州转战。一个月内,全国八州二十八郡都发生战事,黄巾军势如破竹,威震京师。
汉灵帝派皇甫嵩、卢植及朱隽等率中央军压制,又令地方州郡政府和豪强地主招募军队协助。最后黄巾军的主力虽然很快被击溃,不过余部仍然散布各地。随着各地山贼土匪陆续出现,汉朝的中央军精疲力竭。
188年汉灵帝采纳刘焉的建议,将负责监察各郡的刺史赋予兼有地方军政权力,以加强对各郡的控管,并且将部分刺史升为州牧,由刘姓宗室或重臣担任。这一措施使得州正式成为一级行政区,虽有利于镇压各地叛乱,但当朝廷发生内乱后,掌握地方权力的州牧及刺史纷纷割据一方,不再受朝廷节制。例如益州牧刘焉割据巴蜀,借由五斗米道首领张鲁占领汉中,切断与朝廷的关系。东汉为解决黄巾之乱而制定的州牧制度,在朝廷不断衰弱下,反而开启群雄割据的局面。
188年汉灵帝驾崩,戚宦之争又起。宦官蹇硕等意图杀害外戚大将军何进,改立太子刘辩弟陈留王刘协。汉少帝刘辩顺利继立后,何进又与袁绍等士大夫企图去除以张让为首的十常侍及其他宦官。何进还令凉州董卓、并州丁原带兵增援。宦官们先发制人,在董卓军到达洛阳前杀死何进。而袁绍则以为何进报仇为名率军入宫,杀死十常侍等宦官二千人。虽然困扰东汉上百年的外戚与宦官之争就此终结,却也方便了率军入都城的董卓顺势夺取朝政大权。
184年黄巾之乱被平息,不过各地还不断发生小形叛乱。直至188年再次发生起义,但今次不只是黄巾军,还有许多分散的势力,如黑山、白波、黄龙、左校、牛角、五鹿、羝根、苦蝤、刘石、平汉、大洪、司隶、缘城、罗市、雷公、浮云、飞燕、白爵、杨凤、于毒等,势力小的也有数千人,势力大的甚至有百万人,如张燕的黑山贼。
为了镇压平乱,汉灵帝决定将部份刺史改为州牧,由宗室或重臣担任,让其拥有地方军、政之权,以便加强地方政权的实力,更易控制地方,有效进剿黄巾余部,并且召集各地义勇军平乱,如孙坚、刘备、关羽、张飞等都有参战、立功,但乱事要到东汉后期才被较大的割据群雄所平定。