Zusammenfassung des maschinellen Lernens von Python-Anfängern

Einführung

Ab November 2019 lerne ich Python bei PyQ, habe aber tendenziell zu viele Eingaben, daher möchte ich es als Ausgabe meiner Erkenntnisse veröffentlichen.

Es gibt einige Teile, die nicht gut verstanden werden, daher denke ich, dass es viele Teile gibt, die schwer zu verstehen sind, aber ich würde gerne mein Bestes geben.

Inhaltsverzeichnis

1. Logistische Regression
2. Entscheidungsbaum
3. Vektormaschine unterstützen

1. Was ist logistische Regression?

Das Hauptthema ist von hier. In einem Wort ... Teilen Sie die beiden Daten durch eine Linie!

• Im Detail handelt es sich um eine Methode zur Rückkehr mit einer Sigmoidkurve (S-förmige Kurve) anstelle einer geraden Linie. Es ist cool, in Katakana Logistik zu sagen, aber es ist doch eine Linie. Die Zielvariable ist binär (z. B. 1 oder 0 oder O oder ×).

• Es scheint, dass es sich nicht um ein lineares Modell handelt, da der Fehler nicht der Normalverteilung folgt ...

• Es scheint, dass logistische Kurven durch logistische Gleichungen behandelt werden können, aber denken Sie diesmal, wenn Sie logistische Regression sagen, daran, dass sie durch eine gerade Linie in zwei gleiche Teile geteilt wird.

• Lineare nicht trennbare Daten können auch durch logistische Regression getrennt werden, indem eine dreidimensionale Achse hinzugefügt wird, die den Wert x1 * x2 annimmt. Eine Technik namens SVM (Support Vector Machine) behandelt solche Klassifizierungen automatisch.

Programmgrundlagen

python

from sklearn.model_selection import train_test_split
#Teilen Sie die Daten für Training und Bewertung (Test)
X_train, X_test,y_train, y_test= train_test_split(X, y, test_size=0.3, random_state=0)

#Extrahieren Sie das Modul mit der logistischen Regression aus sklearn
from sklearn.linear_model import LogisticRegression
# C=0.01, 0.1, 1, 10,Versuchte 100
lr = LogisticRegression(C=0.01, random_state=0)
scores = cross_val_score(lr, X, y, cv=10)

print("Richtige Antwortrate", np.mean(scores), "Standardabweichung+/-", np.std(scores))

Programm Beschreibung

1. Teilen Sie die Daten für Training und Test
2. Initialisieren Sie den Klassifikator
3. Lernen Sie mit Trainingsdaten --lr.fit (...): Lernen mit Feature-Matrix und Zielvariable
4. Ergebnismessung mit Testdaten --lr.score (...): Gibt basierend auf den Daten eine Punktzahl von 0 bis 1 zurück lr.score gibt das richtige Ergebnis als Prozentsatz der richtigen Antwort zurück. Intern wird lr.predict (X_test) ausgeführt und die Punktzahl durch Vergleich mit y_test berechnet.

Ergänzung

--C wird als Argument von LogisticRegression angegeben. Dieses C ist ein Parameter für die Regularisierung. Regularisierung ist die Anpassung von Modellformeln, um ein Übertraining zu verhindern. Übertraining gilt für Trainingsdaten, da das Modell zu komplex ist, nicht jedoch für Testdaten. Die Stärke der Regularisierung nimmt mit abnehmendem Parameter C zu.

――Cross_val_score ist eine Überprüfungsmethode, die Daten aufteilt und das Lernen und Beurteilen wiederholt. Sie können die geteilten Trainingsdaten weiter aufteilen und die Leistung überprüfen, damit die Daten nicht verzerrt werden. Da cv = 10 ist, geben wir diesmal den Durchschnittswert an, nachdem wir das Muster 10 Mal analysiert haben.

Verwandte Wörter

Logistische Funktion

• Logistikfunktion und Sigmoidfunktion werden häufig synonym verwendet. Wahrscheinlichkeitsfunktion: Wahrscheinlichkeit des Erhaltens von Trainingssatzdaten unter der Annahme, dass die Hypothese korrekt ist Wahrscheinlichste Schätzmethode: Eine Methode zur Bestimmung der Parameter, die die Wahrscheinlichkeitsfunktion maximieren

2. Was ist ein Entscheidungsbaum?

In einem Wort ... Das Analyseergebnis wird durch eine Reihe von if-Anweisungen ausgegeben. Das Folgende ist ein Zitat von der offiziellen Website. Sie können sehen, dass es eine baumartige Struktur hat. Eine maschinelle Lernmethode, die eine Baumstruktur zur Klassifizierung und Regression verwendet, ist ein entscheidender Baum.

Programmgrundlagen

python

#Extrahieren Sie ein Modul mit einem Entscheidungsbaum aus sklearn
from sklearn.tree import DecisionTreeClassifier
tree = DecisionTreeClassifier()
#Klassifiziert nach Entscheidungsbaum
tree.fit(X, y)
#Ergebnisberechnung mit Testdaten
tree.score(X, y)
#Zeichnen Sie die Ergebnisse
plot_tree(tree, X, y)

Verwandte Wörter

• Hyperparameter: Ein im Trainingsmodell angegebener Wert zur Angabe der Lernmethode, der Verarbeitungskomplexität, der Berechnungsparameter usw. → Geben Sie im Entscheidungsbaum max_depth an. Dies ist ein Parameter, der die Tiefe des Baums angibt. Je kleiner dieser ist, desto einfacher ist die Entscheidungsgrenze. Dies verringert die Genauigkeit der Validierungsdaten, verringert jedoch das Risiko eines Übertrainings.
• Übertraining: Die Daten enthalten sowohl Informationen, die für die Schätzung nützlich sind, als auch Informationen, die für die Schätzung nicht nützlich sind (z. B. Rauschen). Modelle mit Rauschen eignen sich gut für Trainingsdaten, aber nicht so sehr für Testdaten.
• Ensemble-Lernen: Ein allgemeiner Begriff für Methoden, die versuchen, durch die Kombination mehrerer Algorithmen ein stärkeres Lernmodell zu erstellen.
• Zufälliger Wald: Eine Kombination aus mehreren Entscheidungsbäumen und einer Mehrheitswahl

3. Was ist eine Support-Vektor-Maschine?

In einem Wort ... Es kann zur Klassifizierung und Regression verwendet werden! Mit demselben Algorithmus in Python können Sie zwei Funktionen verwenden: Klassifizierung und Regression. SVC (Support Vector Classification): Klassifizierung SVR (Support Vector Regression): Regression

In einer linearen SVM wird sie wie in der folgenden Abbildung gezeigt klassifiziert und zurückgeführt.

• Ich erklärte, dass logistische Regression das lineare, nicht trennbare Problem irgendwie lösen kann. SVM erleichtert die Behandlung nichtlinearer Probleme.

Programmgrundlagen

python

#SVM SVC(Einstufung)wählen
from sklearn.svm import SVC
#Modellierungs- und Trainingstrainingsdaten
svm = SVC(C=1.0, kernel='linear')
svm.fit(X_train, y_train)
#Ergebnisberechnung mit Testdaten
svm.score(X_test, y_test)
#Grundstück des erlernten Gebiets
plot_regions(svm, X, y);

Rufen Sie mit SVC () den Klassifizierer von der Support-Vektor-Maschine auf und speichern Sie ihn einmal in einer Variablen namens clf. Die inneren Parameter C und Kernel sind die Arten von Strafbeitrags- bzw. Unterstützungsvektormaschinen. Der Strafbeitrag C ist die Höhe des Strafbeitrags bei der Bestimmung der Grenze. Je größer C, desto größer die Strafe für falsch erkannte Punkte. "Kernel = 'linear'" bedeutet die Verwendung einer linearen Unterstützungsvektormaschine.

Verwandte Wörter

Harter Rand: Einfacher Einstieg in die lineare Trennung, und eine lineare Trennung ist möglich Weicher Rand: SVM klüger als harter Rand

Referenz-URL

https://kenyu-life.com/2019/02/11/support_vector_machine/

https://qiita.com/t-yotsu/items/1a6bf3a4f3242eae7857