司馬遷在《史記·卷八十七·李斯列傳》中記載：年少時，為郡小吏。傳聞這時候的李斯因為家族富裕，在當地當過一段時間掌管文書的小吏，不算什麼高官，卻能安然度日，不但每日都能偷得清閒，薪酬也不算低。

後來，傳聞他轄下一糧倉裡有妖魔作怪，李斯去檢視後發現不過是一隻老鼠，不過和外面的老鼠不同的是，這隻老鼠肥碩壯大，似乎一點都不怕人的樣子，看見李斯來了不但沒有被嚇跑，反而大搖大擺的在李斯面前啃食著存糧。

李斯倒也沒驅趕他，不過他回憶了一番尋常遇到的老鼠，遇到人時往往被嚇得倉皇逃竄，可這糧倉中的老鼠卻在糧倉中過得悠然自得，不但體型肥碩，還不害怕人類，李斯頓悟這就是不同環境造成的，如果自己繼續當小吏，那就一輩子只是一個小吏罷了，如果想成就一番功名，只有自己去尋求變化。

於是李斯辭去官職來到了齊國投身於荀子門下學習，後來學有所成後他並沒有返回自己的家鄉，反而是去了當時廣納天下賢才的秦國，根據《史記·卷八十七·李斯列傳》記載：乃從荀卿學帝王之術。學已成，度楚王不足事，而六國皆弱，無可為建功者，欲西入秦。

剛入咸陽不久，因為李斯的學問，他又是荀子的門下弟子，很快便被當時的秦國丞相呂不韋重用，得到了直面秦王嬴政的機會，藉此，他向秦王說：現在秦國力量強大，大王賢德，消滅六國如同掃除灶上的灰塵那樣容易，現在是完成帝業，統一天下的最好時機，千萬不能錯過。

為了實現這個目標，李斯向秦王獻計，據《史記·卷八十七·李斯列傳》記載：不肯者利劍刺之，離其君臣之計，秦王乃使良將隨其後。因此，李斯也受到了秦王的賞識，不多時便被提拔為長吏。

後來秦始皇統一六國，李斯也官居丞相，由於這些年的功績和當初勸諫秦始皇統一六國的諫言，其在朝中的地位穩固，其子嗣也因此受到重用，據《史記·卷八十七·李斯列傳》記載：斯長男由為三川守，諸男皆尚秦公主，女悉嫁秦諸公子。

不過李斯雖然是荀子門生，因為其是小吏出身，李斯和商鞅一樣是法家學派的堅實擁護者，因此李斯在理政時也常常遵循法家經典，不過法家適合打天下，秦國統一六國的道路中處處有法家的影子，卻不適合治天下，因為法律過於嚴謹的話，不但起不到維護社會的作用，反而會影響民眾生活。

為此秦始皇也發現了法家的弊端，因此選擇了儒家的公子扶蘇來作為自己的繼承人，以求更適合治國的儒家思想來維繫自己‘萬世一統’的幻想，不過公元前210年時，秦始皇突然在沙丘暴斃，讓丞相李斯來傳達繼承人的詔書。

早些年間，公子扶蘇曾與宦官趙高有過矛盾，因此趙高並不希望扶蘇進位，因此趙高找到李斯密謀，稱扶蘇是堅定地儒家思想擁護者，而趙高所研習的法家卻從思想根本與扶蘇的儒家對立，因此只要扶蘇即位，李斯便只能辭官歸隱。

不願意放棄權力的李斯爽快的答應了趙高的要求，背叛了秦始皇的遺命與趙高聯手篡改詔書，立秦始皇幼子胡亥即位，不過扶蘇雖然不喜歡李斯，那也不代表胡亥就喜歡李斯，胡亥看重的是趙高。

最初，趙高和李斯是一條船上的螞蚱，趙高就借用李斯手中的特權剷除異己，慢慢攫取李斯的權力，直到最後李斯僅有丞相的空名，卻沒有丞相的權力，後知後覺的李斯為了奪回權力，向胡亥上書請求加強皇權，削減宦官權力，沒想到卻被趙高誣陷謀反成功。

在獄中，李斯被趙高嚴刑逼供，為了保護自己兒子李由，最終被迫承認了自己一人謀反的罪名，《史記·卷八十七·李斯列傳》記載李斯被腰斬時終於看清了秦朝的衰亡，高呼：今反者已有天下之半矣，而心尚未寤也，而以趙高為佐，吾必見寇至咸陽，麇鹿遊於朝也。

李斯死後不久，兒子李由在雍丘與項羽劉邦大戰後戰敗，被起義軍斬於雍丘，沒過多久，公元前206年10月劉邦率領的起義軍率先攻入咸陽，秦三世嬴子嬰向劉邦投降，一月後，項羽攻入咸陽，縱火屠城，正應了李斯那句：寇至咸陽，麇鹿遊於朝也。