初，杨素尝以少谴敕送南台，命治书侍御史柳彧治之。素恃贵，坐彧床。彧从外来，于阶下端笏整容谓素曰：“奉敕治公之罪！”素遽下。彧据案而坐，立素于庭，辨诘事状。素由是衔之。蜀王秀尝从彧求李文博所撰治道集，彧与之；秀遗彧奴婢十口。及秀得罪，素奏彧以内臣交通诸侯，除名为民，配戍怀远镇。
帝使司农卿赵仲卿往益州穷按秀事，秀之宾客经过之处，仲卿必深文致法，州县长吏坐者太半。上以为能，赏赐甚厚。
久之，贝州长史裴肃遣使上书，称：“高颎以天挺良才，元勋佐命，为众所疾，以至废弃；愿陛下录其大功，忘其小过。又二庶人得罪已久，宁无革心！愿陛下弘君父之慈，顾天性之义，各封小国，观其所为：若能迁善，渐更增益；如或不悛，贬削非晚。今者自新之路永绝，愧悔之心莫见，岂不哀哉！”书奏，上谓杨素曰：“裴肃忧我家事，此亦至诚也。”于是征肃入朝。太子闻之，谓左庶子张衡曰：“使勇自新，欲何为也？”衡曰：“观肃之意，欲令如吴太伯、汉东海王耳。”肃至，上面谕以勇不可复收之意而罢遣之。肃，侠之子也。
杨素弟约及从父文思、文纪、族父忌并为尚书、列卿，诸子无汗马之劳，位至柱国、刺史；广营资产，自京师及诸方都会处，邸店、碾硙、便利田宅，不可胜数；家僮数千，后庭妓妾曳绮罗者以千数；第宅华侈，制拟宫禁；亲故吏布列清显。旣废一太子及一王，威权愈盛。朝臣有违忤者，或至诛夷；有附会及亲戚，虽无才用，必加进擢，朝廷靡然，莫不畏附。敢与素抗而不桡者，独柳彧及尚书右丞李纲、大理卿梁毗而已。
始，毗为西宁州刺史，凡十一年，蛮夷酋长皆以金多者为豪隽，递相攻夺，略无宁岁，毗患之。后因诸酋长相帅以金遗毗，毗置金坐侧，对之恸哭，而谓之曰：“此物饥不可食，寒不可衣，汝等以此相灭，不可胜数，今将此来，欲杀我邪！”一无所纳。于是蛮夷感悟，遂不相攻击。上闻而善之，征为大理卿，处法平允。
毗见杨素专权，恐为国患，乃上封事曰：“臣闻臣无有作威作福，其害于而家，凶于而国。窃见左仆射越国公素，幸遇愈重，权势日隆，搢绅之徒，属其视听。忤旨者严霜夏零，阿旨者甘雨冬澍；荣枯由其唇吻，废兴候其指麾；所私皆非忠谠，所进咸是亲戚，子弟布列，兼州连县。天下无事，容息异图；四海有虞，必为祸始。夫奸臣擅命，有渐而来，王莽资之于积年，桓玄基之于易世，而卒殄汉祀，终倾晋祚。陛下若以素为阿衡，臣恐其心未必伊尹也。伏愿揆鉴古今，量为处置，俾洪基永固，率土幸甚！”书奏，上大怒，收毗系狱，亲诘之。毗极言“素擅宠弄权，将领之处，杀戮无道。又太子、蜀王罪废之日，百僚无不震竦，唯素扬眉奋肘，喜见容色，利国家有事以为身幸。”上无以屈，乃释之。
其后上亦寖疏忌素，乃下敕曰：“仆射国之宰辅，不可躬亲细务，但三五日一向省，评论大事。”外示优崇，实夺之权也。素由是终仁寿之末，不复通判省事。出杨约为伊州刺史。