西元初猶太人在反對羅馬帝國的“猶太戰爭”中失敗，不少人被迫離開故土，陸續流散在世界各地，因此，在地域上未能形成一個固定的文化中心。但其古老的文化，尤其是音樂，卻通過猶太教的世代流傳，在一定程度上通過口頭傳授而將其特點保持下來。
據《舊約》所載，古代猶太音樂已相當發達，用於宗教、宮廷和日常生活之中。當時還有多種樂器，如銀號、羊角號、豎笛、各種利拉、鈸、水鈴、手鼓和鼓等。樂器除用於伴唱外，還可獨奏。據西方音樂學傢的考證，留存存在也門、巴比倫、伊朗、敘利亞各地的猶太宗教歌曲可能比較接近古代猶太音樂的原型，有些曲調的骨架與天主教的格列高利聖詠頗為相似，並有多種調式，每一種調式都表現一種氣質。
有關猶太音樂的文獻不多，已知的約到7世紀。在巴勒斯坦和巴比倫的猶太教堂中所吟唱的宗教歌曲與基督教早期音樂比較相近，沒有純器樂演奏，隻有經文吟誦調、詩篇的歌調以及祈禱文，主要是單旋律的歌曲。9世紀時，猶太教的經文吟誦已具有一定的重音規則，用記號記載在經文之上，其意義及唱法由歌唱者口頭傳授，不同的經文各有不同的吟誦方式。祈禱文根據不同的儀式要求有不同的旋律模式，歌唱時可由歌手即興地加以裝飾性的發展。7世紀時出現合唱隊。9世紀以後，出現一些旋律比較定型的歌調，這些歌調往往帶有阿拉伯民歌與天主教聖歌的影響。
10世紀以後，猶太人的音樂因分佈地區不同而逐漸分為東方與歐洲兩大系統。東方的猶太人散居在中東、近東、印度以及中亞等地區，其音樂仍能保持自己的鮮明特色。歐洲的猶太人又可分為兩部分。居住在伊比利亞半島的塞法爾迪姆派與居住在西歐（主要是德國）、東歐（波蘭、匈牙利、俄羅斯等）的阿什肯納吉姆派。塞法爾迪姆派分佈在西班牙、北非、地中海東部地區，其音樂文化受西班牙及阿拉伯的影響，並已與西班牙音樂融合，除少數宗教歌曲外，頗難區分。阿什肯納吉姆派約自9世紀起移居德國，對德國民間音樂有一定影響。東歐的猶太人在17世紀與德國猶太人混合，並產生新的共同語言依地語，其宗教歌曲也受德國音樂的影響，歌唱發聲喜好用柔和的鼻音，可能還留有猶太的古老傳統。18世紀初，波蘭及俄羅斯的猶太人中出現瞭哈西蒂茲姆派，他們反對嚴格正統的猶太教，奉行新的教規，產生瞭具有較強節奏性的宗教歌曲“尼根”，富於即興變化。
16世紀以後，猶太人的專業音樂傢中，意大利的S.羅西（約1587～1630）是寫作小提琴音樂的先驅之一，他寫瞭許多牧歌和多聲部宗教歌曲。B.馬切洛(1686～1739)寫瞭大量的聖歌，並收集瞭不少傳統的猶太曲調加以模仿發展。19世紀初，S.祖爾策(1804～1890)主張改進猶太宗教音樂，除收集瞭大量宗教歌曲之外，並創作瞭一些新的贊美詩。這一世紀中，對歐洲浪漫派音樂作出貢獻的作曲傢有不少是猶太人，如G.邁耶貝爾、F.門德爾松、J.奧芬巴赫、G.比才、G.馬勒等。20世紀音樂傢中的猶太人有A.勛伯格、G.格什溫、M.埃爾曼、D.米約、A.科普蘭、J.海費茲、Y.梅紐因等。