Zusammenfassung

Es gibt einen Dimensionsreduktionsalgorithmus für die Datenvisualisierung namens t-SNE.
Da t-SNE ein Algorithmus ist, der sich der lokalen Struktur von Daten bewusst ist, ist er mit DBSCAN kompatibel, einer Clustering-Methode, die sich der lokalen Struktur bewusst ist.
Wenn die DBSCAN-Ergebnisse durch einen Entscheidungsbaum weiter klassifiziert werden, können die Eigenschaften der Cluster, die in den von t-SNE visualisierten Daten erscheinen, automatisch erklärt werden?

Ich habe es mit der Idee versucht. Tatsächlich habe ich nicht darüber nachgedacht, wie es angewendet werden kann.

Versuchen Sie es mit sklearns load_boston

Importieren Sie zuerst das, was Sie brauchen

import numpy as np
from sklearn import datasets
from sklearn.manifold import TSNE
from matplotlib import pyplot as plt

Laden Sie Boston und versuchen Sie es mit TSNE zu visualisieren Visuell werden einige Cluster angezeigt

boston = datasets.load_boston()
model = TSNE(n_components=2)
tsne_result = model.fit_transform(boston.data) 
plt.plot(tsne_result[:,0], tsne_result[:,1], ".")

Versuchen Sie zum Vergleich einmal, mit kmeans zu gruppieren

from sklearn.cluster import MiniBatchKMeans
#Anzahl der Cluster`n_clusters`Sah auf die TSNE-Grafik und entschied durch Gefühl
kmeans = MiniBatchKMeans(n_clusters=10, max_iter=300)
kmeans_tsne = kmeans.fit_predict(tsne_result)

#Färbe es schön
color=cm.brg(np.linspace(0,1,np.max(kmeans_tsne) - np.min(kmeans_tsne)+1))
for i in range(np.min(kmeans_tsne), np.max(kmeans_tsne)+1):
    plt.plot(tsne_result[kmeans_tsne == i][:,0],
             tsne_result[kmeans_tsne == i][:,1],
             ".",
             color=color[i]
             )
    plt.text(tsne_result[kmeans_tsne == i][:,0][0],
             tsne_result[kmeans_tsne == i][:,1][0],
             str(i), color="black", size=16
             )

Die Cluster (1,5), (2,8) und (4,7,9) sind geteilt, aber strukturell verbunden, was (für mich) nicht sehr wünschenswert ist.

Versuchen Sie das Clustering mit DBSCAN

from sklearn.cluster import DBSCAN
# `eps`Ist das Ergebnis von Versuch und Irrtum
dbscan = DBSCAN(eps=3)
dbscan_tsne = dbscan.fit_predict(tsne_result)

#Färbe es schön
color=cm.brg(np.linspace(0,1,np.max(dbscan_tsne) - np.min(dbscan_tsne)+1))
for i in range(np.min(dbscan_tsne), np.max(dbscan_tsne)+1):
    plt.plot(tsne_result[dbscan_tsne == i][:,0],
             tsne_result[dbscan_tsne == i][:,1],
             ".",
             color=color[i+1]
             )
    plt.text(tsne_result[dbscan_tsne == i][:,0][0],
             tsne_result[dbscan_tsne == i][:,1][0],
             str(i), color="black", size=16
             )

In DBSCAN ist dies wünschenswert, da sich die verbundenen Inseln im selben Cluster befinden. (-1 ist ein Cluster, der Dinge enthält, die nicht in Ordnung sind.)

Generieren Sie außerdem einen Entscheidungsbaum und versuchen Sie, jeden Cluster gut zu erklären.

from sklearn import tree
clf = tree.DecisionTreeClassifier()
#dbscan-Die Bezeichnung ist, weil 1 Cluster generiert wird-Beginnen Sie mit 1
clf.classes_ = np.max(dbscan_tsne) - np.min(dbscan_tsne) + 1
clf.fit(boston.data, dbscan_tsne)

#Generieren Sie eine Punktdatei für graphviz
with open("boston_tsne_dt.dot", 'w') as f:
    tree.export_graphviz(
        clf,
        out_file=f,
        feature_names=boston.feature_names,
        filled=True,
        rounded=True,  
        special_characters=True,
        impurity=False,
        proportion=False,
        class_names=map(str, range(-1, np.max(dbscan_tsne) - np.min(dbscan_tsne)+1))
    )

dot -T png boston_tsne_dt.dot > boston_tsne_dt.png

Das Ergebnis ist in der folgenden Abbildung dargestellt.

Zeichnen Sie als Referenz das Ziel (Hauspreis) jedes Clusters.

plt.boxplot([boston.target[dbscan_tsne == i]
             for i in range(np.min(dbscan_tsne), 
                            np.max(dbscan_tsne)+1)],
            labels=range(np.min(dbscan_tsne), 
                         np.max(dbscan_tsne)+1)
            )

Erwägung

Um zusammenzufassen, woran ich interessiert war,

Cluster mit hohen Steuersätzen (TAX) (6,7) bedeuten keine höheren Preise
Mit anderen Worten, ist der Preis nicht hoch, weil es sich um ein städtisches Gebiet handelt?
Cluster mit hohen Preisen (0,1,2) befinden sich an Orten mit niedrigen Steuersätzen und sind subtil durch das Verhältnis von Wohngrundstücken (ZN) und Altersgruppe (AGE) getrennt.
Aufgrund der großen Preisspanne sind Cluster und Preis jedoch weniger relevant.
Die Preisverteilung der Cluster (2,5) ist eng, sie werden jedoch durch den Steuersatz geteilt.
Vielleicht hat der Steuersatz einige andere Merkmale, also haben die TSNE-Ergebnisse eine klare Unterscheidung zwischen den beiden gemacht?
Unter den Clustern mit niedrigen Steuersätzen ist 3 ein spezieller Cluster

Wenn es jedoch darum geht, einige Informationen bereitzustellen, bin ich ziemlich misstrauisch. Übrigens, selbst wenn Sie "boston.target" mit den Originaldaten mischen, ist das Ergebnis ziemlich nahe.

[PYTHON] Führen Sie (Visualisierung> Clustering> Funktionsbeschreibung) mit (t-SNE, DBSCAN, Entscheidungsbaum) durch.

Zusammenfassung

Versuchen Sie es mit sklearns load_boston

Erwägung