犹太人的祖先是希伯来人，是古代北闪米特的分支，历史学家们通常把《旧约全书》中的族长们等人的后裔称为希伯来人，它的时间就是从族长们生活的时候一直到他们在公元前十四世纪末征服迦南为止，后来他们被称为以色列人，直到公元前六世纪末，他们从巴比伦流亡到迦南，从此之后，这个民族就被称为犹太人。

希伯来人属于闪族的一种，它在公元前十三世纪的时候游牧于幼发拉底河流域的草原，公元前十二世纪中叶进入迦南，就是后来称为巴勒斯坦的地区，当时的迦南人把外来的人叫做希伯来人，《旧约》中的希伯来这个名称几乎总是其他民族对以色列人的称呼，而不是希伯来人的自称。

根据《圣经·旧约》的历史记载，他们的远祖亚伯拉罕原来居住在苏美尔人的乌尔帝国附近，后来迁移到迦南今巴勒斯坦一带，他有两子，嫡幼子以撒成为犹太人祖先，根据《圣经》和《古兰经》的记载，亚伯拉罕与侍女夏甲所生的庶长子以实玛利的后代就是阿拉伯人，所以在原始血缘上，犹太人和阿拉伯人很近。