[PYTHON] Lernen mit dem Lehrer (Rückkehr) 2 Advanced Edition

Aidemy　2020/10/28

Einführung

Hallo, es ist ja! Ich bin eine knusprige Literaturschule, aber ich war an den Möglichkeiten der KI interessiert, also ging ich zur AI-spezialisierten Schule "Aidemy", um zu studieren. Ich möchte das hier gewonnene Wissen mit Ihnen teilen und habe es in Qiita zusammengefasst. Ich freue mich sehr, dass viele Menschen den vorherigen zusammenfassenden Artikel gelesen haben. Vielen Dank! Dies ist der zweite Beitrag des überwachten Lernens. Freut mich, dich kennenzulernen.

• Dieser Artikel ist eine Zusammenfassung dessen, was Sie in "Aidemy" "in Ihren eigenen Worten" gelernt haben. Es kann Fehler und Missverständnisse enthalten. Bitte beachten Sie.

Was diesmal zu lernen ・ Informationen zur Modellverallgemeinerung

Verallgemeinerung des Modells

(Rückblick) Was ist Verallgemeinerung?

• Obwohl die Vorhersagen in der Regressionsanalyse auf Funktionen basieren, variieren die tatsächlichen Preisschwankungen, und selbst wenn die Eingabedaten gleich sind, können die Ergebnisse abweichen. ・ Unter diesen Annahmen schlägt die Vorhersage fehl, wenn das Modell zu stark auf früheren Daten beruht. Dies wird als Überlernen bezeichnet, und das Verhindern von Überlernen wird als Generalisierung bezeichnet.

Regulierung

• Als Mittel zur Verallgemeinerung der linearen Regression wird Regularisierung verwendet. Regularisierung ist der Versuch, das Modell zu verallgemeinern, indem die Komplexität des __- Modells bestraft wird. -Es gibt zwei Arten der Regularisierung: __ "L1-Regularisierung" __ und __ "L2-Regularisierung" __. -L1-Regularisierung dient dazu, unnötige Informationen zu reduzieren und eine Regularisierung durchzuführen, indem der Datenkoeffizient, der einen geringen Einfluss auf die Vorhersage hat, näher an 0 gebracht wird. ・ Die L2-Regularisierung soll ein Überlernen verhindern und eine Regularisierung durchführen, indem die Größe des __- Koeffizienten begrenzt wird.

Lasso kehrt zurück

-__ Lasso-Regression __ bezieht sich auf ein Regressionsmodell, das die L1-Regularisierung verwendet. Die -L1-Regularisierung ist sehr effektiv, wenn viele zusätzliche Informationen vorhanden sind. Wenn beispielsweise die Anzahl der Parameter (Anzahl der Spalten) im Verhältnis zur Anzahl der __ Daten (Anzahl der Zeilen) groß ist, wird die Lasso-Regression verwendet. -Wie man die Lasso-Regression verwendet, sollte wie folgt aussehen: __model = Lasso () __.

Ridge kehrt zurück

-__ Ridge-Regression __ bezieht sich auf ein Regressionsmodell, das die L2-Regularisierung verwendet. ・ Die L2-Regularisierung ist leicht zu verallgemeinern, da der Koeffizientenbereich eine Obergrenze hat. -Die Verwendung der Ridge-Regression sollte wie folgt aussehen: __model = Ridge () __.

ElasticNet-Regression

-__ ElasticNet-Regression__ bezieht sich auf ein Regressionsmodell, das eine Kombination aus L1-Regularisierung und L2-Regularisierung verwendet. -Es hat einen großen Vorteil, weil es einen Punkt hat, der __ Informationen der L1-Regularisierung __ auswählt, und einen Punkt, an dem es einfach ist, __ der L2-Regularisierung __ zu verallgemeinern.

• Um die ElasticNet-Regression zu verwenden, setzen Sie __model = ElasticNet () __. -Auch wenn Sie im Argument __ "l1_ratio = 0.3" __ usw. angeben, können Sie das Verhältnis von L1-Regularisierung und L2-Regularisierung angeben.

・ Führen Sie die oben genannten drei Regressionsmodelle aus

・ Ergebnis

Zusammenfassung

-Es gibt __ Regularisierung__ als Mittel zur Verallgemeinerung in der linearen Regression. ・ Es gibt zwei Arten der Regularisierung: __L1-Regularisierung und L2-Regularisierung __. Die erstere ist __Lasso-Regression __, die letztere ist Ridge-Regression und die Regression, die beide verwendet, ist _ElasticNet-Regression. Namens _.

Diese Zeit ist vorbei. Vielen Dank für das Lesen bis zum Ende.