天宝十四载(755年)十一月，范阳(治幽州，今北京城西南)、平卢(治今辽宁朝阳)、河东(治今山西太原)三镇节度使安禄山以讨宰相杨国忠为名，从范阳发兵十五万，南下反唐。次年，郭子仪欣赏李光弼的军事才能，向玄宗推荐他。玄宗下诏命李光弼摄御史大夫，持节、河东节度副大使，知河东节度事兼云中太守，后又加魏郡太守、河北采访使。
李光弼受命后，第一个目标是收复被叛军攻占的常山郡(今河北正定)，该郡地处叛军南北咽喉，战略位置十分重要。李光弼率领朔方军五千进攻常山，当地团练兵将自己的将领史思义绑来投降，李光弼善待史思义，亲自为其松绑，使他真心归顺，供出叛军动向。次日，史思明率二万骑兵直压常山城下，李光弼接受史思义“按军入守”、以逸待劳的策略，守城不出，分属下兵马为四部，以劲弩五百连番射敌，叛军死伤惨重，只得退兵。当叛军在野外吃饭时，李光弼派轻骑数千，突然袭击，一举消灭叛军五千，收复常山郡九县中的七县。其后，李光弼与郭子仪又率领唐军在嘉山(今河北曲阳东)与叛军决战，大破叛军，斩首四万级，俘一千余人、战马五千匹。河北十余郡闻讯，纷纷重新归顺了唐军。
太原之战嘉山之战后，李光弼想趁势攻取叛军的老巢范阳郡，以绝其根基。但适逢潼关失守，长安沦陷，玄宗逃奔蜀地，人心惊骇。此事遂被搁置。
至德元载(756年)七月，在灵武(今宁夏灵武)即位的唐肃宗遣使追命郭子仪和李光弼赶赴灵武。八月，二人抵达，受到肃宗召见。肃宗授李光弼为户部尚书、同中书门下平章事，成为使相，仍任节度使之职。并特加其为北都太原留守。此后，李光弼奉命由灵武率军五千赴太原，继续征讨叛军。
至德二载(757年)正月，叛军史思明、蔡希德等发兵十万进攻太原，并企图占领太原后，由北道夺取灵武。当时李光弼手中只有不满万人的弱卒，听闻史思明即将攻城，都非常害怕，想要筑墙抗敌。李光弼说：“太原城方圆四十里，叛军快到了才修墙，只能空耗人力。”在兵力悬殊情况下，李光弼一面防御固守，一面守中有攻。他让战士从城中挖地道通城外，打击敌军;他还在城上安装石炮(抛石器)，击毙大量叛军;地道后来挖到史思明大营，俘斩叛军一万多人。
此时，叛军内讧，安庆绪杀父安禄山，自立为帝，史思明退兵范阳，留驻的蔡希德等人疲惫不堪。同年二月，李光弼率敢死队向叛军发动进攻，斩首七万余级，缴获大批军械。太原之战取得完全胜利。他又进收清夷、横野等军，击破攻击好畤、大横关一带的叛军分支。战后，李光弼转拜检校司徒。
太原之战是平乱战争第一次重大胜利和重要转折点，是以少胜多、以弱制强的典型战例。李光弼充分发挥了军事才能，此战为后来胜利收复两京奠定了基础，具有重要战略意义。胜利消息传到灵武，肃宗下诏奖赏李光弼，加他为司空、兼兵部尚书，仍兼同平章事，封魏国公。
