2. Analyse multivariée expliquée dans Python 5-3. Analyse de régression logistique (modèles statistiques)

Chances

• Les cotes sont synonymes de «multiplicateur» dans les courses de chevaux, et si le billet de pari touche, un remboursement sera effectué en fonction des cotes. Si la cote était 10 fois plus élevée, la mise serait 10 fois plus élevée et retournée ...
• En statistique, ** les probabilités ** sont le rapport ** de la probabilité qu'un événement se produise (P) à la probabilité qu'il ne se produise pas (1-P), et la méthode de calcul est $ \ displaystyle \ frac { C'est P} {1-P} $.
• Par exemple, il existe des médicaments A et B, et les résultats de chaque essai clinique sont présentés sous la forme de deux événements, «efficace» et «inefficace».

Rapport de cotes

** Le rapport de cotes ** est le rapport de deux cotes **. Le rapport de cotes entre le médicament A et le médicament B est de 0,250 $ / 0,053 = 4,75 $, ce qui correspond à la cote de A divisée par la cote de B.

• Des rapports de cotes plus élevés (ou plus petits) signifient qu'il existe une relation entre les événements, et un rapport de cotes de 1,0 signifie que les relations entre les événements sont indépendantes et ne s'influencent pas mutuellement. plus loin···
• ** L'odds ratio logarithmique est l'odds ratio logarithmique, et le coefficient de régression est l'odds ratio logarithmique lorsque la variable explicative est modifiée d'une unité. ** **

Relation entre le rapport de cotes et le coefficient de régression dans la régression logistique

Pour considérer **, supposons un modèle qui prédit la réussite / l'échec du test (1 en cas de réussite, 0 en cas d'échec) à partir du nombre d'heures d'étude. ** **

⑴ Bibliothèque d'importation

#Bibliothèque utilisée pour le calcul numérique
import numpy as np
import pandas as pd
import scipy as sp
from scipy import stats

#Bibliothèque pour dessiner des graphiques
from matplotlib import pyplot as plt
%matplotlib inline
import seaborn as sns

#Bibliothèque d'estimation de modèles statistiques
import statsmodels.formula.api as smf
import statsmodels.api as sm

#Spécification du nombre de chiffres d'affichage
%precision 3

• scipy est une bibliothèque pour effectuer des calculs scientifiques avancés, et dispose d'un module qui résume les fonctions statistiques appelées stats.
• https://docs.scipy.org/doc/scipy/reference/stats.html
• seaborn est une bibliothèque de visualisation basée sur matplotlib qui rend les graphes matplotlib plus expressifs.
• https://seaborn.pydata.org/introduction.html
• statsmodels, comme son nom l'indique, est un module qui fournit des classes et des fonctions pour estimer divers modèles statistiques.
• https://www.statsmodels.org/devel/

⑵ Lecture et confirmation des données

#Obtenez des données
url = 'https://raw.githubusercontent.com/yumi-ito/sample_data/master/6-3-1-logistic-regression.csv'

#Lire les données
df = pd.read_csv(url)

# #Sortir les 5 premières lignes de données
df.head() 

#Sortie des statistiques de base des données
df.describe().apply(lambda s: s.apply(lambda x: format(x, 'g')))

• Il y a 10 variables explicatives, "0, 1, 2, ..., 8, 9 heures" uniquement pour le temps d'étude (heures).
• La variable objective est le résultat du test, qui est en moyenne de 0,46, donc 46 sur 100 réussissent.

#Dessinez un graphique à barres
sns.set()
sns.barplot(x = "hours", y = "result", data = df, palette='summer_r')

• sns.set () spécifie le style de la zone graphique, qui est l'état par défaut. Vous pouvez également utiliser sns.set (style =" whitegrid ") pour créer une ligne d'échelle de gris sur un fond blanc.
• L'argument est seaborn.barplot (x nom de colonne, y nom de colonne, nom DataFrame, nom de palette de couleurs).
• Par défaut, une barre d'erreur (plage d'erreur) indiquant l'intervalle de confiance à 95% est dessinée. Ajoutez ci = None à l'argument pour le masquer.
• https://seaborn.pydata.org/generated/seaborn.barplot.html

• Plus la durée de l'étude est longue, plus le taux de réussite a tendance à être élevé et le niveau de taux de réussite varie considérablement selon qu'il est de 5 heures ou moins ou de 6 heures ou plus.
• Calculons le taux de réussite pour chaque temps d'étude.

pass_rate = df.groupby("hours").mean()

• Utilisez la fonction pandas groupby () pour regrouper les mêmes éléments dans les colonnes spécifiées dans les arguments, et calculez la moyenne de chacun avec .mean ().
• Le taux de réussite augmente considérablement lorsque la durée d'étude est de 6 heures ou plus.

(3) Estimation du modèle et confirmation des résultats

#Estimer le modèle
mod_glm = smf.glm(formula = "result ~ hours",
                  data = df,
                  family = sm.families.Binomial()).fit()

• Si vous voulez estimer un modèle linéaire généralisé avec des statsmodels, utilisez la fonction smf.glm (). glm est une abréviation de modèles linéaires généralisés.
• Le premier argument, «formule», spécifie la structure du modèle, la variable objectif étant «résultats» et la variable explicative étant «heures».
• Le troisième argument, «family», est la spécification de la distribution de probabilité. Puisque cet exemple est une distribution binomiale, «sm.families.Binomial ()» est appliqué.

#Produire un résumé des résultats de l'estimation
mod_glm.summary()

#Dessinez une courbe de régression
sns.lmplot(x = "hours", y = "result",
           data = df,
           logistic = True,
           scatter_kws = {"color": "green"},
           line_kws = {"color": "black"},
           x_jitter = 0.1, y_jitter = 0.02)

• Si l'argument «logistique» est Vrai, alors y est supposé être une variable binaire et statsmodels est utilisé pour estimer le modèle de régression logistique. Une variable binaire est une variable qui ne peut prendre que deux valeurs, 0 et 1.
• Les arguments scatter_kws et line_kws sont des arguments de mots-clés supplémentaires passés à plt.scatter et plt.plot qui spécifient la couleur des points et des courbes de régression dans le diagramme de dispersion.
• Les arguments x_jitter et y_jitter spécifient que les points doivent être dispersés légèrement de haut en bas, juste pour l'apparence. Étant donné que la réussite / l'échec n'est que de 1 ou 0, les points sont contrôlés pour se chevaucher.

• Essayez d'obtenir le taux de réussite pour chaque temps d'étude numériquement.

#Colonne de nombre de différence égal avec le nom de la colonne heures(0～9)Créer un DataFrame pour
predicted_value = pd.DataFrame({"hours": np.arange(0, 10, 1)})

#Calculez le taux de réussite prévu
pred = mod_glm.predict(predicted_value)

• Pour le modèle mod_glm, utilisez la fonction predict () pour calculer la valeur prédite en fonction du bloc de données créé preded_value.

⑷ Trouvez le rapport de cotes logarithmique et comparez-le avec le coefficient

#Obtenez un taux de réussite de 1 heure et 2 heures
pred_1 = pred[1]
pred_2 = pred[2]

#Calculez les cotes pour chacun
odds_1 = pred_1 / (1 - pred_1)
odds_2 = pred_2 / (1 - pred_2)

#Calculer le rapport de cotes du journal
print("Rapport de cotes:", round(sp.log(odds_2 / odds_1), 3))

#Calculer les coefficients du modèle
value = mod_glm.params["hours"]
print("Coefficients du modèle:", round(value, 3))

• ** Le rapport des cotes logarithmiques correspond au coefficient de régression **.
• De plus, si vous prenez l'exp (fonction exponentielle) du coefficient de régression, cela correspond au rapport de cotes.
• numpy.exp (x) renvoie la puissance logarithmique naturelle $ e $ à la puissance $ x $.

#Prendre exp du coefficient de régression
exp = sp.exp(mod_glm.params["hours"])
print("Coefficient exp:", round(exp, 3))

#Calculer le rapport de cotes
odds = odds_2 / odds_1
print("Rapport de cotes:", round(odds, 3))

• En d'autres termes, lorsque la variable explicative change de 1, la variable objective change par l'odds ratio.
• Dans certains cas, il peut être plus facile à comprendre ou à expliquer en convertissant en un rapport de cotes plutôt qu'en un coefficient de régression.