胜等都是丞相旁县的人，因此楚盗公然过三川，城守却不肯攻击他们。赵高听说他们互相之间书信往来，因为未得其实，臣也未敢告诉陛下。况且丞相居外，权重于陛下。陛下应该提早防备。”
二世以为有道理，将要案验丞相。恐其不能坐实，就先使人案验三川太守与盗贼交通的情状。李斯听说了，就上书言赵高之短。说：“赵高擅利擅害，权利等同于陛下。当初田常为齐简公之相，窃其恩威，下得百姓，上得群臣最后终于弑齐简公而窃齐国。这是天下人都明白的事。如今赵高有邪佚之志，危反之行，私家之富，超过当初田氏在齐国。他又贪欲无厌，求利不止。权势仅次于人主。而欲求无穷。陛下不图，日后恐将为变。”
二世说：“怎么能这么说？赵高不过一个宦者，然而不因为安逸而肆呈其志。不因为危难就改变初心。洁行修善，自始至终，以忠得进。以信守位。朕只是觉着他这人很贤能。而相君为什么怀疑他？况且朕不信任赵高，该信任谁？赵君这个人为人精廉强力，下知人情，上体朕心。相君不要怀疑他。“
二世雅爱赵高，恐李斯杀他，就将李斯的话告诉了赵高。赵高说：”丞相所忌的就是赵高。赵高已死，丞相就将做当初田常所做的事了。“
当时，天下大乱，盗贼益多。而关中发往中原剿贼的士卒络绎不绝。右丞相冯去疾，左丞相李斯，将军冯劫进谏说：”关东群盗并起，秦发兵击诛，杀亡甚重而盗贼愈多，这都是因为戍漕运作事苦。赋税过重所致。请且停下阿房宫的建造，减省四边的转戍。“
二世说：”贵有天下的人之所以为贵，就是可以肆意极欲，主重明法。使为下者不敢为非。以制御四海。虞夏之主贵为天子，亲处穷苦之实，以徇百姓，这样怎能体现法的尊严？先帝起诸侯并天下，天下已定。外攘四夷以安边境。作宫室以彰显得意。如今先帝功业有绪，朕即位二年，天下群盗并起。诸君不能禁，却又劝朕罢先帝之政，这是上无以报先帝，下不肯为朕尽忠力。既如此，怎么还有脸面窃据高位？“因将去疾，李斯，冯劫下狱。责以他罪，去疾与冯劫自杀。只有李斯就狱。