Anadolu yarımadasında, Yahudilerin ne zamandan beri yaşadıklarına dair kesin bir bilgi yoktur. Ancak, Filistin'deki bir kısım Yahudilerin daha İkinci Tapınak'ın M.S.70'de yıkılmasından çok önce bu bölgeye ve Balkanlara göç ederek Roma İmparatorluğu'nun büyük kentlerine yerleşmeye başladığı bilinir.

Ancyr (Ankara), Sardis (Sart), Hypaepe (Ödemiş), Aphrodisias (Karacasu-Aydın), Korykos (Fethiye) , Laodiceia (Pamukkale), Myndos (Gümüşlü Liman), Plateia (Milet), Andriake (Antalya) gibi eski kent kazılarında bulunan arkeolojik kalıntılardan yörede M.Ö. IV. Yüzyıldan itibaren yaşayan Yahudilerin bulunduğu saptanabilmektedir.