[PYTHON] <Cours> Machine learning Chapitre 4: Analyse des principaux composants

Apprentissage automatique

table des matières Chapitre 1: Modèle de régression linéaire [Chapitre 2: Modèle de régression non linéaire] (https://qiita.com/matsukura04583/items/baa3f2269537036abc57) [Chapitre 3: Modèle de régression logistique] (https://qiita.com/matsukura04583/items/0fb73183e4a7a6f06aa5) [Chapitre 4: Analyse des composants principaux] (https://qiita.com/matsukura04583/items/b3b5d2d22189afc9c81c) [Chapitre 5: Algorithme 1 (méthode de voisinage k (kNN))] (https://qiita.com/matsukura04583/items/543719b44159322221ed) [Chapitre 6: Algorithme 2 (k-means)] (https://qiita.com/matsukura04583/items/050c98c7bb1c9e91be71) [Chapitre 7: Support Vector Machine] (https://qiita.com/matsukura04583/items/6b718642bcbf97ae2ca8)

Chapitre 4: Analyse en composantes principales

Qu'est-ce que l'analyse en composantes principales?

• Compresser la structure des données multivariées en un plus petit nombre d'indicateurs
• Je souhaite minimiser la perte d'informations associée à la réduction du nombre de variables
• Réalisation d'analyse et de visualisation (dans le cas de 2 ou 3 dimensions) à partir de variables minoritaires

• Si le vecteur de coefficient change, la valeur après conversion linéaire change
• Considérez la quantité d'informations comme la taille de la dispersion
• Recherche de l'axe de projection qui maximise la variance de la variable après transformation linéaire 90 Dispersion après transformation linéaire 90 Analyse en composantes principales

• Résolvez les problèmes d'optimisation contraints suivants
• Insérer une contrainte dont la norme est 1 (sans la contrainte, il y a des solutions infinies)

(Pratique 4) Compression dimensionnelle des données de test du cancer du sein à l'aide de scicit learn

• Paramètres
• Créer un modèle de régression logistique à partir des données de test du cancer du sein
• Compression dimensionnelle dans l'espace 2D à l'aide du composant principal
• Nombre d'enregistrements 569 Nombre de colonnes 33
• Défi
• Vérifiez si les données 32D peuvent être bien discriminées lorsqu'elles sont compressées en 2D

Commencez avec Google Drive Map

from google.colab import drive
drive.mount('/content/drive')

import pandas as pd
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
from sklearn.linear_model import LogisticRegressionCV
from sklearn.metrics import confusion_matrix
from sklearn.decomposition import PCA
import matplotlib.pyplot as plt
%matplotlib inline

paramètres sys.path

Ci-dessous, nous créons un dossier study_ai_ml directement sous Mon Drive dans Google Drive.

cancer_df = pd.read_csv('/content/drive/My Drive/study_ai_ml/data/cancer.csv')
print('cancer df shape: {}'.format(cancer_df.shape))

résultat

cancer df shape: (569, 33)

cancer_df

cancer_df.drop('Unnamed: 32', axis=1, inplace=True)
cancer_df

** ・ Diagnostic: résultat du diagnostic (B bénin / M malin) ・ Les variables explicatives sont classées par régression logistique avec la variable objective dans la deuxième colonne après la troisième colonne **

#Extraction de la variable objective
y = cancer_df.diagnosis.apply(lambda d: 1 if d == 'M' else 0)
#Extraction de variables explicatives
X = cancer_df.loc[:, 'radius_mean':]
#Données séparées pour la formation et les tests
X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=0)

#Standardisation
scaler = StandardScaler()
X_train_scaled = scaler.fit_transform(X_train)
X_test_scaled = scaler.transform(X_test)

#Apprendre avec la régression logistique
logistic = LogisticRegressionCV(cv=10, random_state=0)
logistic.fit(X_train_scaled, y_train)

#Vérification
print('Train score: {:.3f}'.format(logistic.score(X_train_scaled, y_train)))
print('Test score: {:.3f}'.format(logistic.score(X_test_scaled, y_test)))
print('Confustion matrix:\n{}'.format(confusion_matrix(y_true=y_test, y_pred=logistic.predict(X_test_scaled))))

résultat

Train score: 0.988
Test score: 0.972
Confustion matrix:
[[89  1]
 [ 3 50]]

** ・ Confirmé qu'il peut être classé avec un score de vérification de 97% **

pca = PCA(n_components=30)
pca.fit(X_train_scaled)
plt.bar([n for n in range(1, len(pca.explained_variance_ratio_)+1)], pca.explained_variance_ratio_)

# PCA
#Comprimé à 2 dimensions
pca = PCA(n_components=2)
X_train_pca = pca.fit_transform(X_train_scaled)
print('X_train_pca shape: {}'.format(X_train_pca.shape))
# X_train_pca shape: (426, 2)

#Taux de cotisation
print('explained variance ratio: {}'.format(pca.explained_variance_ratio_))
# explained variance ratio: [ 0.43315126  0.19586506]

#Tracer sur un nuage de points
temp = pd.DataFrame(X_train_pca)
temp['Outcome'] = y_train.values
b = temp[temp['Outcome'] == 0]
m = temp[temp['Outcome'] == 1]
plt.scatter(x=b[0], y=b[1], marker='o') #Benness est marqué avec ○
plt.scatter(x=m[0], y=m[1], marker='^') #Malin est marqué par △
plt.xlabel('PC 1') #Axe X du premier composant principal
plt.ylabel('PC 2') #Axe Y pour le deuxième composant principal

#Standardisation
scaler = StandardScaler()
X_train_scaled = scaler.fit_transform(X_train)
X_test_scaled = scaler.transform(X_test)

#Apprendre avec la régression logistique
logistic = LogisticRegressionCV(cv=10, random_state=0)
logistic.fit(X_train_scaled, y_train)

#Vérification
print('Train score: {:.3f}'.format(logistic.score(X_train_scaled, y_train)))
print('Test score: {:.3f}'.format(logistic.score(X_test_scaled, y_test)))
print('Confustion matrix:\n{}'.format(confusion_matrix(y_true=y_test, y_pred=logistic.predict(X_test_scaled))))

résultat

Train score: 0.927
Test score: 0.944
Confustion matrix:
[[87  3]
 [ 5 48]]

** ・ Confirmé qu'il peut être classé avec un score de vérification de 94% ** Même si le nombre de dimensions était réduit à 2, le score de vérification n'a pas chuté beaucoup de 97% à 94%, et le résultat a été que le nombre de dimensions a été réduit tout en maintenant la précision.

Sites connexes

Chapitre 1: Modèle de régression linéaire [Chapitre 2: Modèle de régression non linéaire] (https://qiita.com/matsukura04583/items/baa3f2269537036abc57) [Chapitre 3: Modèle de régression logistique] (https://qiita.com/matsukura04583/items/0fb73183e4a7a6f06aa5) [Chapitre 4: Analyse des composants principaux] (https://qiita.com/matsukura04583/items/b3b5d2d22189afc9c81c) [Chapitre 5: Algorithme 1 (méthode de voisinage k (kNN))] (https://qiita.com/matsukura04583/items/543719b44159322221ed) [Chapitre 6: Algorithme 2 (k-means)] (https://qiita.com/matsukura04583/items/050c98c7bb1c9e91be71) [Chapitre 7: Support Vector Machine] (https://qiita.com/matsukura04583/items/6b718642bcbf97ae2ca8)