Identifying Similarity of Song Lyrics with Contrastive Learning

Zusammenfassung

Analyse eines Sentence Transformers Modells mit ca. 480k selbstgecrawlten Songtexten.

Schlüsselbegriffe

NLP, Deep Learning, Transformers, Contrastive Learning, Bert (Language Model), Text Similarity, Recommender Systems, Data Crawling, Python

Zielsetzung

Das Ziel war es, eine grosse Anzahl an Songtexte aus der Seite Genius.com zu crawlen und diese für die Spotify Million Playlist Dataset Challenge auf AIcrowd.com zu nutzen, wo wiederum das Ziel war, Songs für gegebene Playlisten zu empfehlen. Anschliessend sollte ein Language Model mit Contrastive Learning trainiert, fine-tuned und analysiert werden, um ein Recommender System für die Challenge zu bauen.

Ausgangslage

Viele Recommender Systems basieren ihre Empfehlungen anhand von Benutzerdaten. Der Inhalt der zu empfehlenden Objekte wird oft vernachlässigt und neue Objekte können nicht immer richtig empfohlen werden. In diesem Projekt wird im Fall von Songempfehlungen anhand einer gegebenen Playlist versucht, mit den jeweiligen Songtexten ein Recommender System zu bauen. Während Song Recommender Systems sich beim Inhalt eher auf die Metadaten fokussieren, ist hier die Frage, ob man mit den Songtexten das System verbessern kann. Das Modell sollte den Contrastive Learning Ansatz nutzen, um zu lernen, wie ähnlich einzelne Songtexte sind. Datensatz waren 1 Million Playlisten mit unterschiedlicher Anzahl Songs aus der Spotify Million Playlist Dataset Challenge auf AIcrowd.com.

Ergebnisse

• Crawling und Säubern von ca. 480'000 englischer Songtexten aus einer Sammlung aus ca. 2.26 Mio. Songs aus der Challenge mittels Genius- und Spotify-API.
• Training eines Sentence Transformers Modell (SimCSE) mit dem Contrastive Learning Ansatz der gecrawlten Songtexte.
• Anhand eines Text Similarity Benchmarks (Semantic Textual Similarity) erreichte das Modell eher schlechte Ergebnisse im Vergleich zum Leaderboard. Jedoch sind die Resultate erstaunlich, wenn man bedenkt, dass das Modell wenig Parameter hat und es vergrössert werden kann. Besonders im Benchmark "SICKRelatedness" konnte ein gutes Ergebnis erzielt werden, obwohl andere Modelle mit mehr/besseren Daten trainiert wurden.
• Viele Playlists werden anhand eines Genres erstellt. Hypothese: "Gehören ähnliche Lyrics (anhand des Modells) zu ähnlichen Genres?". Die Hypothese konnte nur durch die Genres Rap und Hip-Hop klar angenommen werden. Für andere Genres war das Ergebnis unklar.
• Das Recommender System leidet unter rechnerischen Einschränkungen und erzielt keine guten Ergebnisse. Es fehlen jedoch die Songtexte von über 75% der Songs in der Challenge, welche nicht zu den Empfehlungen beisteuern.

Projektdaten

Projektdauer: 19.09.2022 - 20.01.2023

Aufwand: 360 Personenstunden

Teamgrösse: 2

Auftraggeber

FHNW Campus Brugg-Windisch

FHNW University of Applied Sciences and Arts Northwestern Switzerland

Bahnhofstrasse 6

5210 Windisch

https://www.fhnw.ch/

Projektteam

Bruno Baptista Kreiner, BSc Data Science

Lukas Gysin, BSc Computer Science

Kontakt

Daniel Perrouchoud, daniel.perruchoud@fhnw.ch

Fernando Benites, fernando.benites@fhnw.ch

<< zurück