[PYTHON] Ich habe den Akkord des Songs mit word2vec vektorisiert und mit t-SNE visualisiert

Es ist also ein komplizierter Prozess, aber schauen wir uns den Code an.

scraping.py

import csv
import glob
import collections
import re
import os

artist = "aiko"
#Datenverzeichnis
fdir = "chord_data/" + artist + "/"
os.makedirs(fdir,exist_ok=True)
#Schlüsselart
key_list = ["C","C#","D","D#","E","F","F#","G","G#","A","A#","B"]
#Römische Zahlen
rome_list = ["Ⅰ","#I","Ⅱ","#Ⅱ","Ⅲ","Ⅳ","#Ⅳ","Ⅴ","#Ⅴ","Ⅵ","#Ⅵ","Ⅶ"]
#Diatonischer Code
dtnc_chord_list_num = ["Ⅰ","Ⅱm","Ⅲm","Ⅳ","Ⅴ","Ⅵm","Ⅶm7-5"]
#Alle alle halb alle alle halb
dtnc_step = [2,2,1,2,2,2,1]
#♭#Konvertieren zu
r_dict = {'D♭':'C#', 'E♭':'D#', 'G♭':'F#','A♭':'G#','B♭':'A#'}
#Laden des Code-Fortschritts
flist = glob.glob(fdir+"*")

dtnc_chord_list_arr = []

for idx,key in enumerate(key_list):
    pos = idx
    dtnc_chord_list = []
    for num,step in enumerate(dtnc_step):
        #Grundton + Dur oder Moll
        dtnc_chord_list.append(key_list[pos]+dtnc_chord_list_num[num][1:])
        pos += step
        #Drücken Sie pos als eine Zahl von 12 oder weniger aus
        if pos >= len(key_list):
            pos -= len(key_list)
    #Speichert eine Liste mit diatonischen Codes für 12 verschiedene Tasten
    dtnc_chord_list_arr.append(dtnc_chord_list)


for fname in flist:
    with open(fname,encoding='cp932',mode='r+') as f:
        f.readline().rstrip('\n')
        chord_list = f.readline().rstrip('\n')
        f.readline().rstrip('\n')
        lyric_list = f.readline().rstrip('\n')
        #♭#Konvertieren zu
        chord_list = re.sub('({})'.format('|'.join(map(re.escape, r_dict.keys()))), lambda m: r_dict[m.group()], chord_list)
        chord_list = chord_list.split(',')
        chord_list_origin = chord_list.copy()
        # N.C.Beseitigen, abschütteln
        chord_list = [chord for chord in chord_list if "N" not in chord]
        #Nur Triade
        def get_triad(chord):
            split_chord = list(chord)
            triad = split_chord[0]
            if len(split_chord )>=2 and split_chord[1]=='#':
                triad += split_chord[1]
                if len(split_chord )>=3 and split_chord[2]=='m':
                    triad += split_chord[2]
                    if len(split_chord )>=5 and split_chord[4]=='-':
                        triad += split_chord[3]
                        triad += split_chord[4]
                        triad += split_chord[5]

            elif len(split_chord )>=2 and split_chord[1]=='m':
                triad += split_chord[1]
                if len(split_chord )>=4 and split_chord[3]=='-':
                        triad += split_chord[2]
                        triad += split_chord[3]
                        triad += split_chord[4]
            else:
                pass

            return triad
        #Wechseln Sie zur Triade
        chord_list_triad = [get_triad(chord) for chord in chord_list]
        length = len(chord_list)
        #Eindeutige Anzahl von Codes
        chord_unique = collections.Counter(chord_list_triad)
        #print(chord_unique)

        #################
        ###Bestimmen Sie den Schlüssel###
        #################

        match_cnt_arr = []
        #Berechnen Sie die Anzahl der Übereinstimmungen mit 12 Schlüsseltypen
        for dtnc_chord_list in dtnc_chord_list_arr:
            match_cnt = 0
            #Akkordieren Sie jeden der 7 diatonischen Codes_Vergleichen Sie mit dem eindeutigen Schlüsselwert,
            #Wenn es eine Übereinstimmung gibt, stimmen Sie überein_Zu cnt hinzufügen
            for dtnc_chord in dtnc_chord_list:
                if dtnc_chord in chord_unique.keys():
                    match_cnt += chord_unique[dtnc_chord]
            match_cnt_arr.append(match_cnt)
        #Maximale Anzahl von Übereinstimmungen zwischen 12 Typen
        max_cnt = max(match_cnt_arr)
        #Anzahl übereinstimmender Codes/Gesamtzahl der Codes(%)
        match_prb = int((max_cnt/length)*100)

        #Schlüsselbestimmung
        key_pos = match_cnt_arr.index(max_cnt)
        key = key_list[key_pos]
        dtnc_chord_list = dtnc_chord_list_arr[key_pos]
        file_name = os.path.basename(fname).replace('.csv','')
        print('Song Titel:{0} , key:{1} , prob:{2}'.format(file_name,key,match_prb))
        print(dtnc_chord_list)
        key_list_chromatic = key_list[key_pos:] + key_list[:key_pos]
        # key_list_chromatic.extend(key_list[key_pos:])
        # key_list_chromatic.extend(key_list[:key_pos])
        print(key_list_chromatic)

        #Konvertieren Sie Code in römische Zahlen und schreiben Sie in eine Datei
        #Funktion zum Konvertieren
        def convert_num_chord(chord_list):
            s_list = []
            n_list = []
            for idx, root in enumerate(key_list_chromatic):
                #Trennen Sie die Wurzeln nach Vorhandensein oder Nichtvorhandensein des Schärfens, um die Wurzeln zuerst durch Schärfen zu ersetzen.
                if '#' in root:
                    s_list.append([idx,root])
                else:
                    n_list.append([idx,root])
            chord_list = ['*' if "N" in chord else chord for chord in chord_list]
            for idx,root in s_list:
                chord_list = [chord.replace(root,rome_list[idx]) if root in chord else chord for chord in chord_list]
            for idx,root in n_list:
                chord_list = [chord.replace(root,rome_list[idx]) if root in chord else chord for chord in chord_list]
            chord_list = ['N.C.' if "*" in chord else chord for chord in chord_list]
            
            return chord_list

        chord_list_converted = convert_num_chord(chord_list_origin)
        print(chord_list_origin)
        print(chord_list_converted)
    with open(fname, "w", encoding="cp932") as f:
        writer = csv.writer(f)
        writer.writerow('key:{0},prob:{1}'.format(key,match_prb).split(','))
        writer.writerow(chord_list_origin)
        writer.writerow(chord_list_converted)
        writer.writerow(lyric_list.split(','))

Wie war das. Es ist lang und schwer zu verstehen, was Sie tun, aber Sie können erkennen, dass Sie es standardisiert haben. Es ist keine große Sache, also ist es sofort erledigt. Wenn ich diesen Code ausführe, erhalte ich die folgenden Ergebnisse:

Sie können sehen, dass der Schlüssel = D # in der ersten Zeile ist, seine Zugehörigkeitswahrscheinlichkeit 67% beträgt und der Code-Fortschritt der standardisierten römischen Zahlen in der dritten Zeile hinzugefügt wird. (Da der Code von aiko ziemlich kompliziert ist und viele nicht-diatonische Codes auftreten, beträgt die Wahrscheinlichkeit, zu diatonischen Codes zu gehören, 67%. Trotzdem kann der Schlüssel korrekt geschätzt werden, sodass die Richtigkeit dieses Prozesses korrekt ist. Ich denke du kannst es beweisen.)

Lassen Sie uns nun im letzten Kapitel diesen standardisierten Code vektorisieren und zeichnen.

Kapitel 3: Vektorisieren Sie den Code mit word2vec und zeigen Sie ihn mit t-SNE an

Lassen Sie uns nun die Daten von ungefähr 200 Songs von aiko in word2vec einfügen und vektorisieren. Die Anzahl der Dimensionen ist auf 10 festgelegt, da es höchstens 100 Arten von Ausgabecodes gibt. Für Fenster kann die Rolle des Codes mit 4 Codes vorher und nachher ausreichend beurteilt werden, daher habe ich ihn als 4 angegeben. Zusätzlich wurde sg = 0 gesetzt, um CBOW (Continuous Bag-of-Words) zu verwenden, das das zentrale Wort von der Peripherie schätzt. Dies transformiert jeden Code in einen 10-dimensionalen Vektor. Um dieses Ergebnis als Abbildung zu sehen, wurde es mit t-SNE zweidimensional komprimiert und in der Abbildung dargestellt. Die Ratlosigkeit hier ist schwierig, aber ich habe sie auf 3 gesetzt, weil die kleinere für jeden Cluster leichter zu trennen ist.

Wenn es darum geht, die Dimensionen zu komprimieren, warum nicht die Darstellungsdimension des Codes zweidimensional machen? Ich bin mir sicher, dass es Leute gibt, die das denken, aber dann gibt es fast keinen Unterschied im Code, also habe ich es 10 Dimensionen gemacht, um es auf die Ausdruckskraft zu bringen.

Schauen wir uns nun den Code an.

analyze.py

from gensim.models import Word2Vec
import glob
import itertools
import matplotlib.pyplot as plt
from sklearn.manifold import TSNE

artist = "aiko"
#Datenverzeichnis
fdir = "chord_data/" + artist + "/"
#Laden des Code-Fortschritts
flist = glob.glob(fdir+"*")
music_list = []
for fname in flist:
    with open(fname,encoding='cp932',mode='r+') as f:
        f.readline().rstrip('\n')
        f.readline().rstrip('\n')
        chord_list = f.readline().rstrip('\n').split(',')
        f.readline().rstrip('\n')
        lyric_list = f.readline()
        chord_list = [chord for chord in chord_list if "N" not in chord]
        music_list.append(chord_list)

#Code vektorisieren
model = Word2Vec(music_list,sg=0,window=4,min_count=0,iter=100,size=10)
chord_unique = list(set(itertools.chain.from_iterable(music_list)))
data = [model[chord] for chord in chord_unique]
print(model.most_similar('Ⅱ'))


#Auf 2 Dimensionen komprimieren und zeichnen
tsne = TSNE(n_components=2, random_state = 0, perplexity = 3, n_iter = 1000)
data_tsne = tsne.fit_transform(data)

fig=plt.figure(figsize=(50,25),facecolor='w')

plt.rcParams["font.size"] = 10

for i,chord in enumerate(data_tsne):
    #Punktdiagramm
    plt.plot(data_tsne[i][0], data_tsne[i][1], ms=5.0, zorder=2, marker="x",color="red")
    plt.annotate(chord_unique[i],(data_tsne[i][0], data_tsne[i][1]), size=10)
    i += 1

#plt.show()
plt.savefig("chord_data/" + artist + ".jpg ")
 

Das mit diesem Code erhaltene Ergebnis ist wie folgt.

aiko hat viele Arten von Code und es ist schwierig, einen Cluster zu finden. Zum Beispiel sind in dem Kreis unten links von der Mitte die Triaden I, IV und V in der Nähe aufgereiht. Dies ist auch in der Musiktheorie richtig, und diese Liste von Akkordkombinationen ist der am häufigsten vorkommende Akkord, und aufgrund seiner Relevanz sind die Vektoren wahrscheinlich näher. Im selben Kreis gibt es einen Code namens II, der kein diatonischer Code ist, aber ich denke, dass es leicht war, in der Nähe als Doppel-Dominant vor dem Code V zu existieren. Es gibt auch # V und # VI, die häufig in der berühmten Folge von # V → # VI → I verwendet werden, und es wird angenommen, dass diese beiden Codes nahe beieinander liegen. Außerdem gibt es eine Reihe von Codes mit dem 7. im oberen Kreis, daher denke ich, dass es ein interessantes Ergebnis war, dies zu sehen.

Da es eine große Sache ist, werde ich auch die Ergebnisse anderer Künstler veröffentlichen. Erstens ist das Folgende Official Beard Man dism.

Und der andere ist ein Künstler namens Andymori. Dies ist möglicherweise einfacher zu lesen, da weniger Code verwendet wird.

Fazit und Zukunftsaussichten

Zusammenfassend stellte ich fest, dass das Einfügen des Codes in word2vec zu aussagekräftigen Daten führt.

Erinnern wir uns als Zukunftsperspektive im Voraus an die berühmte Akkordfolge und teilen Sie das Lied dafür durch etwa 4 Akkordfolgen. Es könnte interessant sein, eine spärliche Matrix als Akkordfolge zu erstellen, ein Thema in LDA zu erstellen und die Ähnlichkeit von Songs innerhalb eines Künstlers zu bestimmen. Darüber hinaus wäre es noch besser, wenn wir unter Künstlern Empfehlungen aussprechen könnten. Für diejenigen, die sich nur für Musik interessieren, hätte ich gerne ein Tool, mit dem Sie leicht erkennen können, wo die Änderungen durch die Arbeit in Kapitel 2 vorgenommen werden.

Wenn Sie einen Artikel schreiben, der Musik und Programmierung kombiniert, schließen Sie bitte Freunde. ..

Danke fürs Lesen.