Galata Musevi Cemaati yöneticileriyle yabancı uyruklu mensupları arasında, düğün ve cenaze gibi hizmetlere ait harçların tahakkuku konusunda çıkan ciddi anlaşmazlıklar sonrasında çoğu İtalyan uyruklu bazı üyeler ayrılarak yeni bir cemaat kurdular. 1862 yılında, İtalya Kralı’nın himayesinde kurulan ”İstanbul İspanyol-Portekiz ritinde Yabancılar Yahudi Cemaati”, o zamanki adıyla Comunita Israelitico-Straniera di Constantinopoli ilk olarak Karaköy’de bir yer edinerek sinagog olarak kullanmaya başlamıştır. Cemaat Yönetim Kurulunda, yeni bir sinagogun inşası için karar çıkması üzerine Şair Ziyapaşa Yokuşun’da sinagogun halen bulunduğu arsa satın alınmıştır.

İtalyan Sinagogu uzun yıllar boyunca, Pesahtan (Hamursuz Bayramı) önceki oniki hafta süresince Cuma akşamları düzenlediği Minha Gedola (Musevilikte ikindi duası) vaaz ve konferansları ile, İstanbul Yahudileri’nin bir kültür ve irfan ocağı olmuştur.

1999 yılından itibaren Şavuot Bayramı (On Emrin verilişinin kutlandığı bayram) kutlamalarının her yıl bu sinagogda düzenlenmesi geleneği yerleşmiştir.