楊素字處道，從小就胸懷磊落，志向遠(yuǎn)大，不拘小節(jié)。一般人大多不了解他，惟有從祖楊寬驚異他的才能，常常對(duì)子孫們說(shuō)“：處道出類拔萃，是一個(gè)特殊的人才，不是你們所能趕得上的?！睏钏睾髞?lái)與安定的牛弘志同道合，兩人酷愛(ài)學(xué)習(xí)，研討經(jīng)典精義，不斷有所貫通和發(fā)揮。他善于寫文章，工于草書和隸書，十分留意于占卜之術(shù)。胡須飄逸秀美，大有英雄豪杰的儀表。

　　北周大冢宰宇文護(hù)請(qǐng)他做中外記室，又轉(zhuǎn)禮曹，加大都督銜。周武帝即位，親自管理朝政，楊素因?yàn)樗母赣H楊敷堅(jiān)守節(jié)操，被齊軍俘獲，因而不被朝廷使用。他上表申辯，以至于好多次。周武帝十分惱怒，命令侍衛(wèi)將他斬首。楊素又進(jìn)言說(shuō)：“我侍奉無(wú)道的昏君，死是應(yīng)該的?！蔽涞勖靼琢怂捴械暮x，便贈(zèng)楊敷為使持節(jié)、大將軍，和譙、廣、復(fù)三州刺史，謚號(hào)忠壯。拜楊素為車騎大將軍、儀同三司，他逐漸被重用。武帝常命他起草詔書，落筆很快寫成，文詞和內(nèi)容都很精彩，武帝十分贊賞，對(duì)他說(shuō)“：好好的自相勉勵(lì)，不要擔(dān)憂得不到富貴。”楊素應(yīng)接道：“只恐怕富貴來(lái)逼迫我，我卻無(wú)心追求富貴呀！”

　　平定北齊的戰(zhàn)役時(shí)，楊素請(qǐng)求率領(lǐng)部下作為先鋒，武帝答應(yīng)了他，賜給他一根竹杖，說(shuō)：“我正想大張旗鼓地驅(qū)趕齊軍，所以把這件東西賜給你?！睏钏馗S齊王宇文憲與齊軍在河陰大戰(zhàn)，因建立軍功被封為清河縣子，授予司城大夫，又與宇文憲一起攻克晉州，率軍隊(duì)駐扎在雞棲原。北齊君主率大軍迎戰(zhàn)，宇文憲害怕，乘夜逃跑，被齊兵追趕，他的部下四散奔走。楊素與驍勇將領(lǐng)十余人奮力苦戰(zhàn)，宇文憲才幸免于難。北齊平定后，楊素被加授開(kāi)府職銜，改封為成安縣公。

　　不久，又跟隨王軌打敗南陳將領(lǐng)吳明徹于呂梁一帶，奉命管理東楚州的政務(wù)。他的弟弟楊慎被封為義安侯。南陳將領(lǐng)樊毅在泗口修筑城池，楊素將陳兵趕走，摧毀了樊毅修筑的城堡。宣帝即位，楊素繼承父親楊敷的爵位為臨貞縣公，他的弟弟楊約為安城縣公。不久，他又隨韋孝寬巡行淮南。

　　隋文帝楊堅(jiān)任北周的丞相時(shí)，楊素與他交情很深，文帝很器重他，命他做汴州刺史。到了洛陽(yáng)，恰逢尉遲迥叛亂，滎州刺史宇文胄占據(jù)武牢關(guān)，與尉遲迥遙相呼應(yīng)，楊素?zé)o法東進(jìn)。文帝拜楊素為大將軍，率軍進(jìn)攻宇文胄。楊素將他擊敗，被調(diào)遷為徐州總管，位至柱國(guó)，被封為清河郡公，他的弟弟楊岳被封為臨貞公。到了隋文帝即位，他被封為上柱國(guó)，官至御史大夫。他的妻子鄭氏性情偏狹兇悍，楊素對(duì)她十分忿怒，說(shuō)“：我如果做了皇帝，你一定沒(méi)資格做皇后?！编嵤蠈⑺脑拡?bào)告給文帝，楊素因而獲罪被免職。

　　隋文帝正圖謀取得江南。先是楊素多次進(jìn)呈攻取南陳的建議。不久，文帝就授他為信州總管，賜錢一百萬(wàn)、錦緞一千匹、馬二百匹，派他討陳。楊素駐扎在永安，建造大型戰(zhàn)艦，取名叫“五牙”。船上建起五層樓，高一百多尺，左右前后豎起六根桅桿，加起來(lái)高一百五十尺，可容納戰(zhàn)士八百人，艦上遍扎旗幟。小一點(diǎn)的戰(zhàn)艦叫“黃龍”，可乘士兵一百多人。其余“平乘”、“舴艋”等戰(zhàn)船大小各有差別。等到大舉討伐南陳，朝廷命他為行軍元帥，率領(lǐng)船隊(duì)直趨三硤。隋軍來(lái)到流頭灘，南陳將領(lǐng)戚欣率青龍艦一百余艘屯兵守衛(wèi)在狼尾灘，以阻止隋軍的道路。這里地勢(shì)險(xiǎn)要，隋將們十分憂慮。楊素說(shuō)“：勝負(fù)就在此一舉。如果白天開(kāi)船進(jìn)攻，對(duì)方則能看清我們的行動(dòng)。加之水流迅急，水手無(wú)法控制，那么，我們就會(huì)失掉這里的有利條件?！庇谑?，隋軍夜間發(fā)動(dòng)進(jìn)攻。楊素親自率領(lǐng)黃龍艦十艘，悄悄順流而下；派開(kāi)府王長(zhǎng)襲從南岸襲擊戚欣別處營(yíng)寨的柵欄；命大將軍劉仁恩直趨白沙的北岸。天明到達(dá)，進(jìn)攻陳軍，戚欣失敗。俘虜了許多陳軍，安撫后全部釋放。隋軍秋毫不犯，陳人十分高興。楊素率領(lǐng)水軍順江東下，戰(zhàn)艦船只覆蓋了江面，軍旗盔甲耀日蔽天。楊素坐在平乘大船上，容貌偉岸雄奇，南陳人看了，都驚懼地說(shuō)：“清河公楊素真是一尊江神?。　?br />
　　南陳的南康內(nèi)史呂仲肅領(lǐng)軍駐扎在岐亭，正把守著江峽，在江北岸的山崖上固定三條鐵鎖鏈，攔江橫截在上游，用來(lái)阻擋敵軍的戰(zhàn)船。楊素與劉仁恩登上江岸一起進(jìn)發(fā)，先進(jìn)攻陳軍的柵欄，呂仲肅的軍隊(duì)夜間潰敗，楊素除掉了攔江的鐵鎖鏈。呂仲肅又據(jù)守荊州轄下的延洲，楊素派遣巴譙兵卒數(shù)千人，乘坐五牙艦四艘，依靠艦上的檣竿搗碎敵軍的十多艘戰(zhàn)艦，將陳軍打得大敗，呂仲肅僅保全了自己的性命。南陳后主派信州刺史顧覺(jué)鎮(zhèn)守安蜀城，荊州刺史陳紀(jì)鎮(zhèn)守公安，都因懼怕隋軍而逃之夭夭。巴陵以東再?zèng)]有人敢于堅(jiān)守。湘州刺史、岳陽(yáng)王陳叔慎請(qǐng)求投降。楊素來(lái)到漢口，與秦孝王會(huì)合后才返師。被授予荊州總管，晉爵為郢國(guó)公，授給長(zhǎng)壽縣食邑一千戶；封他的兒子楊玄感為儀同三司，楊玄獎(jiǎng)為清河郡公；賜給綢緞一萬(wàn)匹、糧食一萬(wàn)石，又加上許多金銀財(cái)寶；又將陳后主的妹妹和十四名女妓賞賜給了他。楊素對(duì)隋文帝說(shuō)：“有地名叫勝母，曾子都不進(jìn)入。叛逆王誼過(guò)去封在郢地，我不愿與他封在同一個(gè)地方?！庇谑?，改封為越國(guó)公。不久，又授予納言，轉(zhuǎn)為內(nèi)史令職。

　　時(shí)隔不久，江南人李棱等叛亂，朝廷命楊素為行軍總管去討伐叛軍。文帝命平定叛亂以后，將男子全部殺掉，婦女都賞給士兵，在戰(zhàn)場(chǎng)上僥幸活下來(lái)的罰做苦役。叛逆朱莫問(wèn)自稱為南徐州刺史，用重兵把守京口。楊素率水師從楊子津進(jìn)擊，將朱莫問(wèn)打敗。晉陵顧世興自稱為太守，與他的都督鮑遷等人前來(lái)抗拒，楊素將他們攻破，抓住了鮑遷，俘虜賊兵三千多人。他進(jìn)擊無(wú)錫的賊帥葉皓，又將他們平定。吳郡的沈玄忄會(huì)、沈杰等率兵圍困蘇州，刺史皇甫績(jī)屢戰(zhàn)失利。楊素率軍隊(duì)救援他。沈玄忄會(huì)形勢(shì)窘迫，逃去投奔南沙的賊帥陸孟孫。楊素在松江向陸孟孫的部隊(duì)發(fā)動(dòng)進(jìn)攻，將他打得大敗，擒獲了陸孟孫、沈玄忄會(huì)。黟、歙一帶的賊帥沈雪、沈能據(jù)守柵欄以自我鞏固，也被攻下。

　　江浙賊人高智慧自號(hào)為東揚(yáng)州刺史，吳州總管、五原公元契鎮(zhèn)守會(huì)稽，因?yàn)閼峙赂咧腔鄣谋?qiáng)盛而向他投降。高智慧將元契的部下全部殺死，元契自殺。高智慧有戰(zhàn)艦船只一千多艘，占據(jù)了要害地方，軍隊(duì)十分強(qiáng)勁。楊素領(lǐng)軍向他進(jìn)攻，從清晨到下午申時(shí)，經(jīng)過(guò)艱苦戰(zhàn)斗，打敗了賊兵。高智慧逃入大海。楊素追趕他，從余姚渡海直趨永嘉。高智慧抵抗，楊素又將他擊敗逃走。賊帥汪文進(jìn)自稱為天子，占據(jù)東陽(yáng)，任命他的同黨蔡道人為司空，駐守樂(lè)安。楊素領(lǐng)兵進(jìn)討，全部平定。又攻破永嘉賊首沈孝徹。隋軍從這里步行向天臺(tái)進(jìn)發(fā)，直指臨?？ぃ鹨徊东@漏網(wǎng)的賊兵，前后打了一百多仗。高智慧又逃到閩越堅(jiān)守。文帝因楊素長(zhǎng)時(shí)間在外面征戰(zhàn)，所以下詔派人騎快馬傳命令他還朝，給他的兒子玄感加上開(kāi)府銜，賜給綢緞八千段。楊素因余寇沒(méi)有掃除，恐怕成為后患，又請(qǐng)求出發(fā)。朝廷下詔命他為元帥，他又率軍來(lái)到會(huì)稽。

　　先前，泉州人王國(guó)慶是南安一帶的豪門大族，殺死了刺史劉弘，占據(jù)州城發(fā)動(dòng)叛亂。他認(rèn)為海上艱難險(xiǎn)阻，不是北方人所習(xí)慣的，所以不設(shè)任何防備。楊素率軍渡海，突然前來(lái)，王國(guó)慶十分驚慌，忙棄城逃走。楊素分別派遣各路將領(lǐng)，從水上和陸地分頭追擊。此時(shí)，南海原有五六百戶人家，居住在水上成為亡命之徒，號(hào)稱為游艇子，高智慧、王國(guó)慶想去投靠他們。楊素便秘密派人勸說(shuō)王國(guó)慶，讓他殺死高智慧以立功，王國(guó)慶在泉州殺死高智慧，余黨全部投降，江南徹底平定。文帝派左領(lǐng)軍將軍獨(dú)孤陀到浚儀迎接慰勞楊素。他回到京城，慰問(wèn)者天天不斷。朝廷授楊素的兒子楊玄獎(jiǎng)為儀同，賜給黃金四十斤，又加上銀瓶，里面裝上金錢；細(xì)絹三千段、馬二百匹、羊三千只、田地一百頃、住宅一處。

　　楊素代替蘇威為尚書右仆射，與高赹一起掌管朝政。楊素性情疏懶而又好計(jì)較，大事小事都放在心上。朝臣之間，他只推崇高赹，敬重牛弘，厚待薛道衡，看待蘇威好像不存在一樣。其他朝臣，大多受他輕慢排斥。他的才情風(fēng)度超過(guò)高赹；至于誠(chéng)心體國(guó)，待人接物的公平恰當(dāng)，宰相應(yīng)具有的識(shí)見(jiàn)氣度，與高赹差得太遠(yuǎn)了。

　　不久，文帝令楊素監(jiān)造仁壽宮，楊素便平山填谷，督責(zé)工役十分嚴(yán)厲緊急，工役們死了很多，宮墻旁邊常常聽(tīng)到鬼的哭聲。等到仁壽宮建成，文帝命高赹前去視察，高赹奏稱宮殿過(guò)于綺麗豪華，損傷人丁太多，文帝不高興。楊素害怕，便在皇宮北門啟奏獨(dú)孤皇后說(shuō)“：帝王按法規(guī)定應(yīng)該有離宮別館，現(xiàn)在天下太平，建造一座宮殿怎么能算浪費(fèi)？”皇后將這個(gè)道理告訴文帝，文帝的情緒才緩和下來(lái)。于是賜給他錢一百萬(wàn)、錦絹三千段。

　　開(kāi)皇十八年(598)，突厥達(dá)頭可汗進(jìn)犯邊塞，文帝命楊素為靈州道行軍總監(jiān)，率兵出塞討伐，賜給他綢緞二千段、黃金一百斤。原來(lái)的邊疆守將與突厥打仗，因?yàn)閾?dān)心他們的騎兵來(lái)回沖突，因而將戰(zhàn)車、步兵、騎兵互相交錯(cuò)配合，用鹿角布置成方陣，騎兵屯扎在里面。楊素說(shuō)：“這是自我束縛的辦法?！庇谑牵麑⑴f的戰(zhàn)法全部拋棄，命令全軍變?yōu)轵T兵的陣勢(shì)。達(dá)頭聽(tīng)后十分高興，認(rèn)為是天賜的良機(jī)，下馬對(duì)天祝拜，然后率領(lǐng)數(shù)十萬(wàn)精銳騎兵殺來(lái)。楊素?fù)]軍奮擊，將敵人打敗，達(dá)頭受重傷逃跑，敵人哭喊著四散而去。文帝下詔賞賜給他細(xì)絹二萬(wàn)匹和一根萬(wàn)釘寶帶，封他的兒子楊玄感為大將軍，楊玄獎(jiǎng)、楊玄縱、楊積善都被封為上儀同。

　　楊素深于權(quán)謀韜略，利用機(jī)會(huì)進(jìn)攻敵人，戰(zhàn)術(shù)變幻沒(méi)有定則，然而，總體上，治軍嚴(yán)肅整齊，有違犯軍令的，立即斬首，毫不寬待。每次將要與敵人開(kāi)戰(zhàn)，往往尋找將士的過(guò)失而將他們處死，多的處死一百余人，少的也不下數(shù)十人，他面前流滿了鮮血，卻談笑自若。等到與敵人開(kāi)戰(zhàn)，先命一二百人進(jìn)攻敵人，如能攻破敵陣就算了；如不能攻破而失敗回來(lái)，不管剩下多少人，全部斬首；再命二百人進(jìn)攻，方法同前面一樣。將士們個(gè)個(gè)心驚肉跳，下定了必死的決心，所以戰(zhàn)無(wú)不勝，他被稱為名將。楊素受到文帝的寵愛(ài)，他說(shuō)的話隋文帝沒(méi)有不聽(tīng)從的，與他一起作戰(zhàn)的將士，就是立有很小的功勞也會(huì)被記錄獎(jiǎng)賞。至于別的將領(lǐng)，雖然立有大功，也多被文官們阻止不報(bào)。所以，楊素雖然嚴(yán)酷殘忍，將士們也愿意跟從他。

　　開(kāi)皇二十年，晉王楊廣為靈、朔道的行軍元帥，楊素做他的長(zhǎng)史。晉王屈尊與他交往。楊廣被立為太子，出自楊素的計(jì)謀。

　　仁壽初年，他代替高赹為尚書左仆射，朝廷賜給他好馬十匹、母馬二百匹、奴婢一百口。這年，又命楊素為行軍元帥，至云中進(jìn)擊突厥，連續(xù)把敵兵打敗。突厥逃走，他追到夜里趕上了他們，將要再戰(zhàn)，恐怕他們逃跑，便令其他騎兵走在后面，自己親率兩名騎兵和兩名投降的突厥人，悄悄地與敵兵一起行走，對(duì)方?jīng)]有覺(jué)察。等到他們駐扎時(shí)還沒(méi)穩(wěn)定下來(lái)，他指揮后面的騎兵突然掩殺過(guò)來(lái)，將敵人打得大敗。從此，突厥人遠(yuǎn)遠(yuǎn)地逃去，沙漠以南再也沒(méi)有他們蹤跡。因立戰(zhàn)功將他的兒子楊玄感晉位為柱國(guó)，玄縱為淮南郡公，賞賜物品二千件。

　　獻(xiàn)皇后駕崩，喪葬制度多出于楊素之手。文帝很是贊賞他，下詔說(shuō)：“君主如人的頭腦，大臣好比人的股與肱。共同治理百姓，職責(zé)同為一體。上柱國(guó)、尚書左仆射、仁壽宮大監(jiān)、越國(guó)公楊素，志向氣度恢宏寬闊，對(duì)事物變化的洞鑒透徹遠(yuǎn)大，胸懷輔助時(shí)事的韜略，包涵治理國(guó)家的才干。我朝王業(yè)初開(kāi)，稱霸天下的宏圖剛剛奠基，他一出仕就被委以重任。受命出師，擒獲和消滅兇惡的賊首，平定了虢和鄭。多次秉承朝廷制定的謀略，指揮大軍縱橫江南；常常接受朝廷頒布的軍令，率軍長(zhǎng)驅(qū)于北疆要塞。大軍南指，吳越之地便被肅清；王師北臨，匈奴族的軍隊(duì)就被摧垮折服。位居尚書省長(zhǎng)官，參與軍國(guó)大事的計(jì)謀籌劃，在朝廷端正嚴(yán)肅，不諂不驕；說(shuō)話直抒胸意，毫不隱瞞。談文學(xué)則詞氣縱橫，語(yǔ)言華麗；論武功則謀深慮遠(yuǎn)，奇招迭出。既能文，又能武，對(duì)朕惟命是從。凡委以職責(zé)，從早到晚都不怠懈。獻(xiàn)皇后氣息奄絕，駕離六宮，遠(yuǎn)別日月，融入白云。墳塋的選擇，靈柩的厝置，都委托楊素來(lái)料理。皇后的喪事可以依照定禮，但占卜風(fēng)水，趨吉避兇，卻不出于此。楊素對(duì)朝廷義重，為國(guó)家情深，想使生者和死者都安康泰然，永遠(yuǎn)無(wú)窮。他認(rèn)為闡釋陰陽(yáng)的書雖然都是圣人所作，但體察其中禍福的道理，尤其需要慎重。便踏遍山川原野，親自占卜選擇，為了尋求最大的吉利，孜孜不倦，奔波不已。終于在京城附近找到一塊福地，用以營(yíng)建陵墓。論起楊素的這種心情，對(duì)朝廷實(shí)在至誠(chéng)至孝。他平定賊寇，建立豐功偉業(yè)，如不給予獎(jiǎng)賞，怎么能申張勸勉獎(jiǎng)勵(lì)功臣的風(fēng)氣！可再封他的一個(gè)兒子為義康郡公，食邑一萬(wàn)戶，子子孫孫繼承不斷，其余賞賜仍按舊章?！蓖瑫r(shí)賜給他田地三十頃、絹一萬(wàn)匹、米一萬(wàn)石；金缽一個(gè)，里面裝滿黃金；銀缽一個(gè)，里面裝滿珍珠。又贈(zèng)給綾羅錦緞五百段。

　　這時(shí)，楊素受文帝寵愛(ài)越來(lái)越重，他的兄弟楊約、從父楊文思、兄弟楊紀(jì)以及族父楊異都被封為尚書、列卿。所有的兒子沒(méi)有任何汗馬功勞，都位至柱國(guó)、刺史。家里僮仆數(shù)千人，后宅的妻妾歌伎，穿著華麗的綢衣的數(shù)以千計(jì)。府第豪華奢侈，形制有如皇宮。有個(gè)叫鮑亨的善于寫文章，一個(gè)叫殷胄的工于草書和隸書，都是江南的讀書人，因?yàn)槭芨咧腔蹱窟B淪為奴仆。楊素的親友故舊，都地位顯要。他權(quán)勢(shì)的興盛，近古以來(lái)從未聽(tīng)聞，煬帝楊廣初為太子時(shí)，猜忌蜀王楊秀，便與楊素密謀，構(gòu)陷他的罪狀，后來(lái)竟被廢黜。朝臣有違逆他的，雖然忠誠(chéng)體國(guó)有如賀若弼、史萬(wàn)歲、李綱、柳..等人，楊素也暗中中傷他們。如果有人趨附他和他的親友，雖然沒(méi)有才干，也一定提拔。朝廷上下都成了這個(gè)樣子，人們無(wú)不因畏懼而依附他。惟有兵部尚書柳述，憑借他是文帝女婿的特殊地位，多次在文帝面前抨擊楊素；大理卿梁毗上表說(shuō)楊素作威作福。文帝漸漸疏遠(yuǎn)并忌諱楊素，后來(lái)詔諭說(shuō)：“仆射，是國(guó)家的輔政大臣，不可以親自處理細(xì)小的事務(wù)。只需三五天到尚書省議論一下大事就行了?！北砻姹硎緝?yōu)崇，實(shí)際是在削弱他的權(quán)力。直到仁壽末年，不再讓他全面負(fù)責(zé)尚書省的事。文帝賜王公以下的大臣射箭，楊素的射術(shù)為第一，文帝親手將外國(guó)貢獻(xiàn)的價(jià)值數(shù)萬(wàn)的金精盤賞賜給他。仁壽四年(604)，跟隨文帝到仁壽宮，賞賜給他的酒宴十分豐盛。

　　文帝身體不好，楊素與兵部尚書柳述、黃門侍郎元巖等入宮侍奉他的疾病。這時(shí)，皇太子楊廣入宮居住在大寶殿，擔(dān)心文帝會(huì)有不測(cè)，必須早作防備，便親手寫信，封上送給楊素。楊素便將文帝的情況記錄下來(lái)，報(bào)告給太子，宮人將他的信悄悄送給文帝，文帝看后十分惱怒，文帝寵愛(ài)的陳貴人也說(shuō)太子對(duì)她輕狂無(wú)禮。文帝發(fā)怒，想要召回被廢為庶人的長(zhǎng)子楊勇。太子與楊素謀劃，楊素假借文帝的詔命，讓東宮的兵士來(lái)宮中守衛(wèi)，宮門禁止出入，讓宇文述、郭衍來(lái)指揮。又讓張衡侍奉文帝的病。文帝就在這天駕崩，因此頗引起不同的議論。

　　適逢漢王楊諒反叛，派茹茹天保向東進(jìn)至蒲州，燒斷黃河上的橋；又派王身冉子率軍與天保合力堅(jiān)守。楊素率輕騎五千人襲擊，埋伏在渭水渡口，乘夜渡過(guò)，天明發(fā)動(dòng)進(jìn)攻，天保兵敗，王身冉子懼怕，獻(xiàn)城投降。煬帝下詔將他征還。楊素最初將要出發(fā)時(shí)，計(jì)劃著破賊的日子，實(shí)際發(fā)展都和他估計(jì)的一樣，煬帝于是命楊素為并州道行軍總管、河北道安撫大使，去討伐楊諒。當(dāng)時(shí)，晉、絳、呂三州州城都被楊諒把守，楊素每地各用二千人吸引他們。楊諒派趙子開(kāi)率軍十余萬(wàn)，修筑險(xiǎn)絕的道路，屯據(jù)在高壁，布下五十里大陣。楊素命諸將領(lǐng)兵逼近敵營(yíng)，自己用奇兵進(jìn)入霍山，攀緣懸崖，越過(guò)深谷，急速前進(jìn)，直搗楊諒的大營(yíng)，一戰(zhàn)將其攻破。楊諒任命的介州刺史梁修羅駐扎在介休，他一聽(tīng)說(shuō)楊素率軍到來(lái)，害怕得棄城逃走。楊素領(lǐng)兵進(jìn)至清源，離并州三十里，楊諒率他的將領(lǐng)王世宗、趙子開(kāi)、蕭摩訶等迎戰(zhàn)，又被打破，俘獲了蕭摩訶，楊諒?fù)耸夭⒅?，楊素進(jìn)兵將并州包圍，楊諒處境困窘，被迫投降，他的余黨全被平息。煬帝派楊素的兄弟修武公楊約拿著他親手寫的詔書慰勞楊素，楊素上表感謝。這一月，他回到京城，又跟隨煬帝到洛陽(yáng)，煬帝命他為營(yíng)造東京大監(jiān)。因?yàn)槠蕉钫彽墓?，朝廷授予他的兒子萬(wàn)石、仁行，侄子玄挺為儀同三司，賞賜布帛五千段、羅綺一千匹，楊諒的歌妓二十人也賞賜給他。

　　大業(yè)元年(605)，他升為尚書令，朝廷賞賜給東京的住宅一處、布帛二千段。不久，又被授予太子太師，其他官職和過(guò)去一樣。朝廷前后給他的賞賜無(wú)法計(jì)算。第二年，又被授予司徒，改封為楚公，實(shí)授給食邑二千五百戶。這一年因病去世，謚號(hào)景武，贈(zèng)為光祿大夫、太尉公和弘農(nóng)、河?xùn)|、絳郡、臨汾、文城、河內(nèi)、汲郡、長(zhǎng)平、上黨、西河十郡太守；送給..車京喪車一部、手執(zhí)木刻班劍的儀仗三十人，前后手執(zhí)羽葆的儀仗和吹鼓手，谷和麥五千石、布帛五千段，鴻臚寺負(fù)責(zé)料理喪事。煬帝又下詔為他立碑，以表彰他的豐功偉業(yè)。楊素曾將一首長(zhǎng)達(dá)七百字的五言詩(shī)贈(zèng)給番州刺史薛道衡，詞意新穎警拔，風(fēng)格秀雅超群，成為一時(shí)難得的佳作。詩(shī)寫成不久，就去世了。薛道衡嘆息說(shuō)“：人之將死，其言也善，果然是這樣?。　睏钏赜形募?。

　　楊素雖有扶立煬帝的謀略和平定楊諒叛亂的功勞，然而卻特別被煬帝所猜忌。煬帝對(duì)他表面禮遇優(yōu)隆，而實(shí)際上情義甚薄。太史說(shuō)楚地將有大喪，煬帝因而將他改封到楚。他臥病在床的時(shí)候，煬帝每次都令名醫(yī)去診治，賜給上等好藥，然而卻私下問(wèn)大夫病情，惟恐楊素不死。楊素也知道自己的名位已達(dá)到巔峰，所以不肯用藥，也不慎重調(diào)養(yǎng)。常常對(duì)兄弟楊約說(shuō)：“我難道還需再活下去嗎？”

　　楊素貪圖財(cái)貨，大肆營(yíng)求產(chǎn)業(yè)，東西兩京的住宅宏麗奢華，往往早晨建好，晚上又拆掉重造，營(yíng)建修理沒(méi)有停止的時(shí)候。四方都會(huì)繁盛之地，都有他家的旅店、磨房、田園、住宅，其數(shù)量以千百計(jì)。當(dāng)時(shí)輿論都因此而鄙視他。