Überprüfung 5) Überprüfen Sie, wie viele Cluster gültig sind

• 4 Cluster, die den 4 als Kanji registrierten Zeichen entsprechen.
• Dann habe ich mir die Ergebnisse von 4 Clustern angesehen und versucht, sie in 8 Cluster zu unterteilen.
• Wirklich ** Wie viele Cluster sind angemessen? ** ** **
• Als Methode zur Auswahl der Anzahl der Cluster möchte ich hier den Status der Cluster mithilfe der folgenden drei Methoden visualisieren und untersuchen.

1. Elbow Chart
2. Silhouette Chart
3. dendrogram

Elbow Chart

• Das Ellbogendiagramm ist ein Diagramm mit ** Datenvariationen in jedem Cluster ** auf der vertikalen Achse und ** Anzahl der Cluster ** auf der horizontalen Achse.
• Sie können die Abweichung verringern, indem Sie die Anzahl der Cluster erhöhen. Es ist jedoch auch ein Problem, dass zu viele Cluster vorhanden sind.
• Daher werden in dieser Abbildung ** die Anzahl der Cluster ** und ** die Anzahl der Cluster berücksichtigt, die Datenschwankungen unterdrücken können **.
• Yellowbrick wird zum Zeichnen verwendet.

from yellowbrick.cluster import KElbowVisualizer
vis = KElbowVisualizer(
    KMeans(random_state=42),
    k=(1,34) #Anzahl der Cluster (Bereich auf der horizontalen Achse))
)
vis.fit(embeddings)
vis.show()

• Das Gefühl, das Sie sehen, ist
• Bis zu 5 Cluster, ** Datenvariabilität (Durchschnitt) nahm ab **, danach wurde sie jedoch flach.
• Daher scheint ** in 5 Cluster eingeteilt ** gut zu sein = repräsentatives Kanji ist ** 5 Typen ** scheint gut zu sein.
• Aber schauen wir uns die vergrößerte Version an (vergrößert um 4-18)
• Es scheint einen Wendepunkt in 5 zu geben, aber er ist von ** um 10 ** flach geworden.
• Mit anderen Worten, es scheint kein Fehler zu sein, ** in 8 Cluster zu klassifizieren und 8 repräsentative Kanji zu entscheiden **.

from yellowbrick.cluster import KElbowVisualizer
vis = KElbowVisualizer(
    KMeans(random_state=42),
    k=(4,19) #Anzahl der Cluster (Bereich auf der horizontalen Achse))
)
vis.fit(embeddings)
vis.show()

Silhouette Chart

• Silhouette Chart ist ein Diagramm, das für jeden Cluster Folgendes ausdrückt.
• Vertikale Achse (Dicke des Diagramms): Anzahl der Proben im Cluster
• Horizontale Achse (Diagrammlänge): Silhouette-Koeffizient des Clusters
• Gestrichelte Linie: Durchschnittlicher Silhouette-Koeffizient
• Aus der Perspektive geht es darum, die Anzahl der Glasta zu ermitteln, die die folgenden Anforderungen erfüllt.
• Gleiche Anzahl von Proben für alle Cluster = gleiche Dicke
• Der Silhouette-Koeffizient aller Glasta liegt nahe am Durchschnitt = die Länge liegt nahe an der gestrichelten Linie
• Ebenso wird Yellowbrick zum Zeichnen verwendet.

from yellowbrick.cluster import silhouette_visualizer
fig = plt.figure(figsize=(15,25))
#Zeichnen Sie 4 bis 9 Cluster zusammen
for i in range(4,10):
    ax = fig.add_subplot(4,2,i-1)
    silhouette_visualizer(KMeans(i),embeddings)

• Wie Sie sehen können, ist das Muster oben rechts (** 5 Cluster) schön.

dendrogram

• Es ist ein Diagramm, das die ** Nähe ** zwischen Clustern wie eine Turniertabelle ausdrückt.
• Da es sich um ein Diagramm handelt, das beim hierarchischen Clustering verwendet werden kann, wird das hierarchische Clustering von Scipy anstelle von KMeans verwendet.
• Die Ansicht ist wie folgt.
• Cluster mit Blättern als Daten und Zweige derselben Farbe mit demselben Bereich
• Höhe ist der Abstand zwischen Clustern

from scipy.cluster.hierarchy import linkage, dendrogram
Z = linkage(
    y = embeddings,
    method = 'weighted',
    metric = "euclidean",
)

R = dendrogram(
    Z=Z,
    color_threshold=1.2, #Passen Sie die Anzahl der Cluster mit diesem Schwellenwert an
    show_contracted=False,
)

• ** Es wäre schön, wenn die Anzahl der Zweige jeder Farbe gut ausbalanciert und die Höhen gleich wären. Ist die Anzahl der Cluster schließlich etwa 5?

Anzahl der Cluster	Dendrogramm	Kommentar
４		rotNur ein bisschen teuer
５		Die Höhe ist gleichmäßig lilaIch mache mir Sorgen um ein paar Es fühlt sich ziemlich gut an
８		Die Höhe und Anzahl sind gleich, Ist es zu fein geteilt?

Überprüfung 6) Versuchen Sie, 5 Cluster zu erstellen

• Da ich die Anzahl der Cluster untersucht habe, möchte ich noch einmal darstellen, wie es mit 5 Clustern aussehen wird.
• Klingt ziemlich gut. Immerhin sind es 5 Cluster?

from sklearn.cluster import KMeans
# clustering(Anzahl der Cluster: 5)
clustering = KMeans(n_clusters=5, random_state=42)
# fit_predict cluster
cl_y = clustering.fit_predict(embeddings)
# visualize
showScatter(embeddings, cl_y, clustering.cluster_centers_)

No	Cluster	Schwerpunkt	Andere Zeichen enthalten
1	Blau
2	lila
3	Grün
4	rot
5	Orange

Zusammenfassung

Impressionen

• Als Fluss,
• Wählen Sie zunächst einen Vertreter mit 4 als Kanji registrierten Zeichen aus
• Wählen Sie für alle 33 Zeichen, die nicht als Kanji registriert sind, 1, 4 oder 8 Zeichen aus.
• In Anbetracht der angemessenen Anzahl von Clustern habe ich am Ende 5 Zeichen ausgewählt, da 5 Cluster gut zu sein schienen.
• Die repräsentativen Kanji sind wie folgt, aber mehr als die Entscheidung über den Vertreter
• Es ist auch interessant, dass ** Kanji mit ähnlichen Formen in der Nähe ** auf der XY-Ebene mit 3000 komprimierten Dimensionen platziert werden.
• Es war interessant, ** Gruppen nach Kopf ** mit entfernungsbasiertem Clustering erstellen zu können.
• Die Anzahl der Cluster wurde basierend auf den Ergebnissen der Ellbogenmethode, der Silhouette-Methode und des Dendogramms ebenfalls mit 5 Clustern bewertet.
• Es war auch interessant, dass die ** Ergebnisse der Cluster-Visualisierung von 5 Clustern ziemlich gut waren **.

Bestätigungsliste

No	Wie man wählt	Vertreter Saito
1	Von 4 erkannten Kanji 1 ZeichenWenn Sie möchten, ist der Vertreter
2	Von allen 33 Kanji 1 ZeichenWenn du wählst
3	Von allen 33 Kanji 4 ZeichenWenn du wählst
4	Von allen 33 Kanji 8 CharaktereWenn du wählst
5	Alle 33 Kanji Wie viele ClusterSollte unterteilt werden in	Über 5 ClusterSieht gut aus
6	Von allen 33 Kanji 5 ZeichenWenn du wählst

Schließlich

• Danke, dass du dich mit so einer dummen Geschichte befasst hast.
• Wenn Sie möchten, würde ich es begrüßen, wenn Sie es teilen könnten.

Referenzinformationen

• Über UMAP
  • https://umap-learn.readthedocs.io/en/latest/index.html
• Diskussion über Clustering in UMAP (scheint zu sein)
  • https://umap-learn.readthedocs.io/en/latest/index.html
• Über KMeans
  • https://scikit-learn.org/stable/modules/generated/sklearn.cluster.KMeans.html
• Untersuchen der Anzahl der Cluster (gelber Backstein)
  • https://www.scikit-yb.org/en/latest/api/cluster/elbow.html
  • https://www.scikit-yb.org/en/latest/api/cluster/silhouette.html
• Dendogrammzeichnung
  • https://docs.scipy.org/doc/scipy-0.14.0/reference/generated/scipy.cluster.hierarchy.dendrogram.html

Visualisierungsfunktion

• Ich habe auf [diesen Artikel] verwiesen (https://qiita.com/stwind/items/1c1025799b8e7a274c0f). Vielen Dank. Ich werde verlinken.

%matplotlib inline
%config InlineBackend.figure_format = 'retina'

import numpy as np
import seaborn as sns
import matplotlib.pyplot as plt
import matplotlib.lines as mlines
from matplotlib import offsetbox
from sklearn.preprocessing import MinMaxScaler
from PIL import Image
import matplotlib.patches as patches

rc = {
  'font.family': ['sans-serif'],
  'font.sans-serif': ['Open Sans', 'Arial Unicode MS'],
  'font.size': 12,
  'figure.figsize': (8, 6),
  'grid.linewidth': 0.5,
  'legend.fontsize': 10,
  'legend.frameon': True,
  'legend.framealpha': 0.6,
  'legend.handletextpad': 0.2,
  'lines.linewidth': 1,
  'axes.facecolor': '#fafafa',
  'axes.labelsize': 10,
  'axes.titlesize': 14,
  'axes.linewidth': 0.5,
  'xtick.labelsize': 10,
  'xtick.minor.visible': True,
  'ytick.labelsize': 10,
  'figure.titlesize': 14
}
sns.set('notebook', 'whitegrid', rc=rc)

def colorize(d, color, alpha=1.0):
  rgb = np.dstack((d,d,d)) * color
  return np.dstack((rgb, d * alpha)).astype(np.uint8)

colors = sns.color_palette('tab10')

def showScatter(
    embeddings,
    clusterlabels,
    centers = [],
    imgs = all.T.reshape(-1,h,w),
):
    fig, ax = plt.subplots(figsize=(15,15))
    
    #Skalierung vor dem Zeichnen des Streudiagramms
    scaler = MinMaxScaler()
    embeddings = scaler.fit_transform(embeddings)
    
    source = zip(embeddings, imgs ,clusterlabels)
    
    #Zeichnen Sie Kanji auf ein Streudiagramm
    cnt = 0
    for pos, d , i in source:
        cnt = cnt + 1
        img = colorize(d, colors[i], 0.5)
        ab = offsetbox.AnnotationBbox(offsetbox.OffsetImage(img),0.03 + pos * 0.94,frameon=False)
        ax.add_artist(ab)
          
    #Zeichnen Sie konzentrische Kreise vom Schwerpunkt
    if len(centers) != 0:
        for c in scaler.transform(centers):
            for r in np.arange(3,0,-1)*0.05:
                circle = patches.Circle(
                    xy=(c[0], c[1]),
                    radius=r,
                    fc='#FFFFFF', 
                    ec='black'
                )
                circle.set_alpha(0.3)
                ax.add_patch(circle)

            ax.scatter(c[0],c[1],s=300,marker="X")
  

    #Achsenzeichnungsbereich
    limit = [-0.1,1.1]
    plt.xlim(limit)
    plt.ylim(limit)
    plt.show()