公元前12世紀初，摩西把希伯萊人帶回了迦南的門口，但他自己卻在進入迦南之前去世了。摩西的繼承人是約西亞，他是一個意志堅定、足智多謀的領袖。在他的帶領下，希伯萊人又經過七年征戰，逐個擊敗了迦南境內林立的各個土邦，攻陷了一座又一座城池，殺死了31名土王，征服了除沿海地區和耶路撒冷等少數幾個地方的迦南全境。接下來，約西亞把迦南從南到北平均分給12個以色列部落。從此，直到公元135年被羅馬人逐出巴勒斯坦，希伯萊人在這裡連續生活了1000年；也正是從此時起，他們的命運才同這片土地緊密地連在了一起。征服和定居是一個漫長的過程。回到迦南的希伯萊人，逐漸向當地居民學會了農業生產技術，開始從一個遊牧或者半遊牧的民族轉變為一個定居的民族。以色列人與迦南的各部落混居雜處，甚至通婚融合。在這個過程中，一個新的猶太民族逐漸形成了。

此時，各個部落中出現了一些被稱為“士師”（意為“審判官”或“拯救者”）的部落首領。這些由推選產生計程車師既是軍事統帥，又是宗教領袖，平時管理內部事務，解決民事糾紛，戰時則指揮族人作戰，但他們的職位和權力不能傳給自己的兒子。這是一種軍事民主制度，這個時期也就被稱為“士師時代”。這一時期從公元前13世紀猶太人定居迦南，到公元前11世紀希伯萊王國建立，約有200年的時間。

《舊約聖經》中《士師記》記載了這段歷史，集中敘述了12位士師的事蹟，他們包括俄陀聶、以笏、底波拉、基甸、耶弗他、參孫、珊迦、陀拉、睚珥、以比贊、以倫和押頓。最後的參孫，畫中描繪的是士師表奉孫最後弄塌房屋，與非利士人同歸於盡。此時，古老的部落氏族制度開始解體。在北方，10個以色列人部落組成了部落聯盟，叫“以色列”；在南方，便雅憫和猶大兩個部落組成了另一個聯盟，被稱為“猶太”。各個部落或部落聯盟之間常常會聯合起來抵禦外敵，但也不時會發生內部衝突，自相殘殺。

以法蓮部落與迦得部落有一次在約旦河兩岸發生了衝突，以法蓮部落有42000人死於同族人的刀劍之下，實力被大大削弱了。《聖經》記載說：“那時以色列中沒有王，各人任意而行。”惟一能保持各部落之間聯絡的大約只有共同的信仰——猶太教。這種割據和混亂局面持續了大約200年。到士師時代末期（大約公元前12世紀後期），來自愛琴海諸島和小亞半島沿岸的海上民族非利士人日益強大。他們從赫梯人那裡學會了冶鐵技術，憑藉先進的武器，佔領了迦南的沿海地區，並不斷向東擴張，奪佔希伯萊人的土地。

亞弗一役，希伯萊人損失慘重，連宗教聖物約櫃也被非利士人掠走。外部強敵使希伯萊人面臨著巨大的危機。希伯萊人迫切地感到需要結束內部紛爭，團結一致對付外侮。大約公元前1025年，掃羅在迦南建立了統一的希伯萊人國家，都城在便雅憫屬地的基比亞。這樣，士師制度就過渡到了君主制度，統一的希伯萊王國誕生了。