Kapitel 6 Überwachtes Lernen: Klassifizierung pg212 ~ [Lernen Sie, indem Sie sich mit Python bewegen! Neues Lehrbuch für maschinelles Lernen]

w = 1/4 ist die wahrscheinlichste Schätzung.

** Höchstwahrscheinlich Schätzung Elementarversion fertig! ** ** **

Logistisches Regressionsmodell (P216)

• Durch Verwendung des logistischen Regressionsmodells kann die Eingabe x im Bereich von 0 bis 1 komprimiert werden, sodass sie einfach als Wahrscheinlichkeit für die Klassifizierung verwendet werden kann.

Durch Durchlaufen der Sigmoidfunktion durch das lineare Modell kann die Wahrscheinlichkeit, dass x zu t = 1 wird, wie folgt ausgedrückt werden. ** Logistische Rückgabe ** $ y=w_0x+w_1\\ $ $ y=\sigma(w_0x+w_1)=\frac{1}{1+exp(-(w_0x+w_1))} $

(Durchschnitt) Kreuzentropiefehler

・ Logistische Regression wird als Wahrscheinlichkeit angesehen (vorheriger w-Wert) ・ Daher ab dem Eingabewert x ・ Ich möchte ein gutes Gewicht w finden. Geben Sie als Nächstes unter Verwendung des erhaltenen w den Wert von x in das erstellte Modell ein, um den vorhergesagten Wert zu erhalten.

Zu diesem Zeitpunkt repräsentiert y die Wahrscheinlichkeit. Plötzlich kam eine Sigmoidfunktion heraus, aber diese ist diejenige, die die Wahrscheinlichkeit w, die bisher behandelt wurde, in y setzt. (Mit der Sigmoid-Funktion kann y, das aus dem Eingabewert x ($ y = w_0x + w_1 $) erhalten wird, als Wahrscheinlichkeit ausgedrückt werden. Ich sage das.

⭐️ ** Aus dem Obigen ergibt sich $ y = w = \ sigma (w_0x + w_1) = P (t = 1 | x) $. ** ** **

(wichtig): In P218 wird geschätzt, dass die Parameter $ w_0 $ und $ w_1 $ dieses Modells höchstwahrscheinlich mit den Insektendaten übereinstimmen. "Unter der Annahme, dass aus diesem Modell Insektendaten generiert wurden, werden wir die wahrscheinlichsten (wahrscheinlich hohen) Parameter finden."

In der vorherigen Theorie haben wir T = [0,0,0,1] betrachtet, aber dieses Mal werden wir es betrachten, damit es auf alle Fälle angewendet werden kann.

P218

Wenn es nur ein Datenelement gibt und t = 1 für ein bestimmtes Gewicht x ist, ist die Wahrscheinlichkeit, dass t = 1 aus dem Modell generiert wird, der Ausgabewert y des logistischen Regressionsmodells selbst.

Es gibt eine Beschreibung, aber was bedeutet das?

Dies ist das Bild auf der vorherigen Seite. ** Wenn man dies betrachtet, kann das logistische Regressionsmodell als Wahrscheinlichkeit behandelt werden, da das lineare Modell (dieser lineare Ausdruck ist ein linearer Ausdruck, der den Wert y aus dem Eingabewert x erhält) durch die Sigmoidfunktion im Bereich von 1 bis 0 zerquetscht wird. es kann. ** ** **

Also hier y = (Wahrscheinlichkeit, dass t = 1) 1-y = (Wahrscheinlichkeit, dass t = 0) Behandeln wie.

Das Modell, das dies verallgemeinert, ist der Pfeil $ P(t|x)=y^t(1-y)^{1-t} $

Betrachten wir nun den Fall, in dem die Anzahl der Daten N beträgt Wo ich im vorherigen Abschnitt über T = [0,0,0,1] nachgedacht habe X = [$ x_0, x_1, ..., x_n ] T = [ t_0, t_1, ..., t_n $] Betrachten Sie das Muster (T = [0,0,0,1,1,1,0,1, ... N Teile]).

Wie im vorherigen Abschnitt ist das, was wir als [$ 0,8 * 0,8 * 0,8 * 0,2 = 0,104 $] gefunden haben, auch in der verallgemeinerten Formel am wahrscheinlichsten, wenn T = [0,0,0,1] ist. Schätzungen sollten berechnet werden, daher sollten alle Muster von $ x_0 bis x_n $ multipliziert werden.

Dies ist, was P219 sagt: "Da alle Daten mit der Generierungswahrscheinlichkeit jeder Daten multipliziert werden können, wird es wie Gleichung (6-15). Dies ist die Wahrscheinlichkeit."

Dies ist der Teil von.

Gleichung (6-15) lautet also wie folgt (weil sie alle multipliziert werden) $ P(T|X)=\prod_{n=0}^{N-1}P(T|X)=\prod_{n=0}^{N-1}y_n^{t_n}(1-y_n)^{1-t_n} $ ** _, was die Wahrscheinlichkeit darstellt. (Das Chevron-Diagramm auf Seite 214) _ ** </ font>