李斯到了秦國以後，很快就得到秦相呂不韋的器重，當上了秦國的小官，有了接近秦王的機會。一次，李斯對秦王說：“凡是幹成事業的人，都必須要抓住時機。過去秦穆公時雖然很強，但未能完成統一大業，原因是時機還不成熟。自秦孝公以來，周天子徹底衰落下來，各諸侯國之間連年戰爭，秦國才乘機強大起來。現在秦國力量強大，大王賢德，消滅六國如同掃除灶上的灰塵那樣容易，現在是完成帝業，統一天下的最好時機，千萬不能錯過。”
秦王聽取李斯離間各國君臣之計，對於六國，李斯還提出了“先滅韓，以恐他國”的吞併順序。於是他得到了秦王的賞識，因而被提拔為長史。李斯勸秦王派人持金玉去各國收買、賄賂，離間六國的君臣，果然也收到了效果，他又被封為客卿。
正當秦王下決心統一六國的時候，韓國怕被秦國滅掉，派水工鄭國到秦鼓動修建水渠，目的是想削弱秦國的人力和物力，牽制秦的東進。後來，鄭國修渠的目的暴露了。這時，東方各國也紛紛派間諜來到秦國做賓客，群臣對外來的客卿議論很大，對秦王說：“各國來秦國的人，大抵是為了他們自己國家的'利益來秦國做破壞工作的，請大王下令驅逐一切來客。”秦王下了逐客令，李斯也在被逐之列。
李斯給秦王寫了一封信，勸秦王不要逐客，這就是有名的《諫逐客書》。他說：“我聽說群臣議論逐客，這是錯誤的。從前秦穆公求賢人，從西方的戎請來由余，從東方的楚國請來百里奚，從宋國迎來蹇叔，任用從晉國來的丕豹、公孫支。秦穆公任用了這五個人，兼併了二十國，稱霸西戎。秦孝公重用商鞅，實行新法，移風易俗，國家富強，打敗楚、魏，擴地千里，秦國強大起來。秦惠王用張儀的計謀，拆散了六國的合縱抗秦，迫使各國服從秦國。秦昭王得到范雎，削弱貴戚力量，加強了王權，蠶食諸侯，秦成帝業。這四代王都是由於任用客卿，對秦國才做出了貢獻。，如果這四位君王也下令逐客，只會使國家沒有富利之實，秦國也沒有強大之名。”