杨素，字处道，出生于上流社会。他的祖父杨暄，北魏时任辅国将军、谏议大夫。父亲杨敷，北周时任汾州刺史。
少年杨素长相俊美，体态挺拔，性格大度，是个标准的帅哥，还是很有气质的那类。他学习很用功，熟悉各种典籍，还善于撰文赋诗，写得一手好字。即便如此，世人并不会因此而看重他，长得帅学习又好的人多了去了!倒是他那个曾做过北魏尚书仆射的从叔祖，却很是推崇他，认为他是一个具有非常之器的人，有超逸群伦的才能，非一般人所能企及。当然这些都是后人记载，名人嘛，从小总得有点异兆才好。
后来发生了一件事，打乱了贵族子弟杨素平静安逸的生活：他的老爸在与北齐打仗的时候战死了。本来一家人够悲痛了，北周朝廷居然还不给抚恤金!这真是，是可忍孰不可忍!于是年轻的杨素上书周武帝，要他给个说法。人家皇帝日理万机的，哪有空闲和你讲理去!杨素这孩子也是被宠坏了，见自己没有引起足够的重视，他就一而再、再而三的上奏，终于惹得武帝恼了。“来人啊!给我把这浑小子拉出去砍了!”
杨素才不怯他，也或许年轻气盛的他根本没把皇帝的话放在眼里，他神情愤激、捶胸顿足：“谁让我遇上了个蛮横不讲理的天子啊，死了也是活该的!”周武帝非常赏识他的胆量，不仅下令赦免了他，还赠给他父亲荣誉称号，谥号“忠壮”。
经过这件事后，武帝逐渐开始重用杨素，让他做了车骑大将军。有一次武帝命杨素起草诏书，杨素一气呵成，写的诏书通顺流畅，词语华丽。武帝非常赞赏，对杨素说：“好好努力呀年轻人!不用担忧不富贵”。一般人听皇上这样说，肯定就会顺势爬杆，对皇上的栽培感恩戴德。而杨素则不然，他答道：“臣但恐富贵逼臣，臣无心图富贵。”意思是说，只要自己努力工作，表现好了，富贵将不求而自至。杨素也确实没有说错，由于他的能征善战，终其一生，他被两朝五个皇帝重用，可谓富贵已极。
【军事才能不凡】
北周建德四年，也就是公元575年，这年七月，杨素参加了生平第一个比较重要的战役。这时候北齐和北周正“礼尚往来”打得热乎。为了替父报仇，杨素向周武帝请求做先锋，而且率领的是他父亲的旧部。不用说这一仗打胜了，因为杨素一生几乎没有打过败仗。此后一发不可收拾，随着连年的征战，杨素在军事上的天分显露无遗。
北周大象二年(公元580年)，年幼的周静帝宇文衍即位，左丞相杨坚专政。杨素知道杨坚不是池中之物，于是主动投到杨坚门下，和他拉拢关系，称兄道弟。杨坚也知道杨素是个人才，对于自己成就帝业会很有帮助，两人一拍即合，开始为改朝换代做准备。
公元581年，北周和平改革为大隋，杨素随即被杨坚任命为上柱国。后来在统一全国的平陈战争中，自然少不了杨素的功劳，这里就不用再提了。比起其他将军来，杨素最突出的功劳当属制造战舰。杨素造的大战舰名叫“五牙”，上面有五层楼，高百余尺，能容纳战士800人。次一等的叫“黄龙”，能容纳百余士兵。还有“平乘”、“舴艋”等，大小不一。打仗的时候杨素威风凛凛地率领着几千艘“黄龙”直捣黄龙，让南陈军措手不及，杨素顺利地将南陈水军全部俘虏了回去。
杨素打仗很不要命，他敢于突破常规，尝试新的战术。让杨素威名更盛的一仗当属与突厥的正面交锋。
由于突厥的慓悍威猛，隋朝很少直接和突厥开战，一直都是采用长孙晟的离间计来瓦解突厥。开皇十九年，也就是公元599年，突厥都兰可汗进犯大隋边境，隋文帝派杨素、高颍、燕荣等大将出兵抵挡。
都兰可汗听说隋军来打他了，便与达头可汗结盟，共同对抗隋军。四月，杨素在灵州与达头可汗的军队遭遇，开打已经不可避免。
突厥的骑兵十分慓悍，对敌的时候往来冲杀，锐不可当。在此之前，隋朝与突厥打仗时，因为害怕他们的骑兵，所以都采用战车、骑兵和步兵相互交叉配合的阵法，阵外四周摆上很多鹿角、蒺藜，大概是用来避免突厥的骑兵突然杀过来。拼命三郎杨素很不认同这种打法，认为过于被动，难道你想光靠一些蒺藜、鹿角，就能扎死敌人?
豪气冲天的杨素决心改变战术，他下令把战车和步兵都撤下去，直接和突厥人来个骑兵对骑兵，就不信我的兵比你们差!达头可汗听到杨素下这样的命令，高兴得快晕过去了：这不明摆着老天给我送战利品来了?这家伙还“下马仰天而拜”，感谢苍天给了自己这样一个“愚蠢”的对手。拜完之后达利可汗就率十万精骑直朝隋军扑去。突厥求胜心切，杨素令骑兵迎了上去，他指挥大军随后跟进掩杀。突厥大败，达头可汗带着重伤逃跑，他的部众死伤无数，号哭而去，自此远遁，再不敢觊觎大隋边境。
这一仗再一次显示了杨素杰出的军事才能。战后，隋文帝下诏褒奖，赐杨素缣二万匹，及万钉宝带。连他的儿子杨玄感也位列大将军，其他儿子杨玄奖、杨玄纵、杨积善都被封官，可谓荣宠冠绝一时。
