[PYTHON] Analyse des données Titanic 3

Aidemy　2020/10/31

introduction

Bonjour, c'est Yope! Bien que ce soit un système littéraire croustillant, j'étais intéressé par les possibilités de l'IA, alors je suis allé à l'école spécialisée en IA "Aidemy" pour étudier. Je voudrais partager les connaissances acquises ici avec vous, et je les ai résumées dans Qiita. Je suis très heureux que de nombreuses personnes aient lu l'article de synthèse précédent. Merci! Ceci est le troisième article de "Data Analysis Titanic". Ravi de vous rencontrer.

• Cet article est un résumé de ce que vous avez appris dans "Aidemy" "dans vos propres mots". Il peut contenir des erreurs et des malentendus. Notez s'il vous plaît.

Quoi apprendre cette fois ・ ⑤ Modélisation, prédiction et solution de problèmes

Créer un modèle

Sélection de l'algorithme à utiliser

-Depuis que le traitement des données est terminé au chapitre 2, à partir de là, nous passerons les données au modèle __, ferons une prédiction et effectuerons le processus jusqu'à ce qu'il soit résolu. -D'abord, il est nécessaire de décider __ quel algorithme doit être utilisé pour créer le modèle. Il y a __ "classification" et "retour" __ dans le problème de prédiction. Le premier divise les données en classes et prédit à quelle "classe" les données transmises appartiennent, et le second est la "valeur" des données. Est de prédire. ・ Le problème de prédiction de ce problème Titanic est de «classer» si __Survived est 0 ou 1. L'algorithme à utiliser crée un modèle avec __ "régression logistique" "SVC" "k-NN" "arbre de décision" "forêt aléatoire" __.

Préparation des données

-Préparer __ "X_train" "y_train" "X_test" __ à passer au modèle. J'utilise habituellement __train_test_split () __ dans sklearn.model_serection, mais cette fois je l'ai divisé moi-même . -Pour X_train, remplacez train_df autre que Survived, pour y_train, remplacez train_df pour Survived uniquement, et pour X_test, remplacez test_df autre que __PassengerId.

・ Code

Retour logistique

・ (Review) __Régression logistique __ utilise __ la fonction sigmoïde __ pour classer les valeurs binaires La fonction sigmoïde est une fonction __ qui prend une valeur comprise entre __0 et 1. Créez un modèle à l'aide de __LogidticRegression () __. -Cette fois, prédire si la variable objective __Survivé est 0 ou 1 en utilisant les variables explicatives Age et Pclass.

-De plus, en ce qui concerne les données à transmettre au modèle, uniquement pour la régression logistique, __X_train et Y_train sont ensuite divisés en données d'entraînement et données de test dans un rapport de 8: 2 __.

-Code (y compris les résultats)

Visualisez quelles variables explicatives (caractéristiques) sont susceptibles d'influencer les résultats

-__ Pour savoir «Quelle variable explicative (valeur de caractéristique) a tendance à influencer le résultat» _, calculez le __ coefficient de régression partielle __ entre la variable objective et la variable explicative. On peut dire que plus la valeur est élevée, plus il est facile d'influencer le résultat. -Calculer le coefficient de régression partielle avec __ "model.corf" __. Puisque je veux le gérer dans DataFrame, créez un DataFrame qui a des colonnes de train_df dans la ligne ("Feature"), créez un "Coefficient de régression partiel" en tant que nouvelle colonne, et stockez le coefficient de régression partiel là. -La raison pour laquelle delete (0) est défini lors de la création d'un DataFrame est que si 0 apparaît dans le processus de calcul du coefficient de régression partielle, le calcul ne peut pas être effectué et il devient NaN.

・ Code

・ Résultat

SVM

• (Examen) __Support Vector machine (SVM) __ algorithme de classification. Puisque la limite de classification est tracée de manière à être la plus éloignée des autres classes, il est facile de généraliser __. Comme il est converti de non-linéaire en linéaire par la méthode du noyau __, il peut gérer __ données non linéaires __. SVM linéaire est utilisé dans __LinearSVC () __ et SVM non linéaire est utilisé dans __SVC () __.

・ Code (Si vous créez LinearSVC de la même manière, c'est OK. Ce résultat est "83.84")

k-NN

• (Review) k-NN est un algorithme qui extrait k données d'enseignant similaires aux __ données de prédiction__ et génère la classe la plus courante comme résultat de prédiction. La caractéristique est que le coût d'apprentissage est de 0__ et la précision de la prédiction est élevée __. Il peut être utilisé avec __KNeighborsClassifier () __, et le nombre de données à extraire k peut être défini en spécifiant __ "n_neighbours" __ comme argument.

・ Code

Arbre de décision

• (Review) Decision tree est nommé ainsi parce que les règles extraites des données sont représentées par une structure arborescente. La règle est, par exemple, que si la variable explicative Age est 1 (16 à 32 ans), elle est jugée pour Pclass. Au fur et à mesure de leur progression, les classes peuvent être finalement classées. Peut être utilisé avec __DecisionTreeClassifier () __.

Forêt aléatoire

• (Review) __Random Forest __ est un algorithme qui construit un grand nombre d'arbres de décision __ et génère le plus grand nombre de chaque résultat comme résultat final. L'apprentissage à l'aide de plusieurs classificateurs comme celui-ci s'appelle __ensemble learning __. Il peut être utilisé avec __RandomForestClassifier () __, et le nombre d'arbres déterminés peut être déterminé en spécifiant __ "n_estimators" __ comme argument.

Évaluation du modèle

-Déterminer quel modèle doit être utilisé en listant la précision (acc) __ de chaque __ modèle créé ci-dessus dans DataFrame.

・ Code

・ Résultat

Enregistrer le modèle

-Comme vu dans les résultats de la section précédente, il a été constaté que la précision du modèle utilisant __ arbre de détermination et forêt aléatoire est la plus élevée __. Cette fois, j'ai décidé d'utiliser le modèle de forêt __random, qui semble être plus généralisé, et de sauvegarder ce modèle sous forme de fichier csv. -Exporter et enregistrer les fichiers csv peut être fait avec __ "to_csv" __. Dans le fichier, créez un fichier en tant que DataFrame qui a une colonne qui stocke le PassengerId de test_df comme «PassengerId» et une colonne qui stocke le résultat de la prédiction «Y_pred» de la forêt aléatoire (arbre de décision) comme «survécu».

・ Code (le chemin du fichier est fictif)

Sommaire

-Split les données créées jusqu'à la dernière fois dans __train_X, train_y, test_X . Créez un modèle en utilisant ces données. - Pour savoir «quelle variable explicative (valeur de caractéristique) a tendance à influencer le résultat» __, il est préférable de calculer et de visualiser le __ coefficient de régression partielle __. -Comparez quel modèle a la __précision (acc) __ la plus élevée à partir du score de chaque modèle, et enregistrez la __précision (acc) __ la plus élevée dans un fichier csv.

Cette fois, c'est fini. Merci d'avoir lu jusqu'au bout.