introduction

Nous avons résumé la classification de l'apprentissage automatique et une implémentation simple à l'aide d'une bibliothèque de ces algorithmes. Le code de chaque algorithme comprend des exemples de données, il peut donc être exécuté tel quel. Étant donné que seuls les paramètres minimaux requis sont définis, veuillez vous reporter au document officiel, etc. pour les paramètres détaillés.

Chaque algorithme a une brève explication, mais aucune explication détaillée.

Public cible

--Je veux connaître la classification des algorithmes d'apprentissage automatique --Je souhaite implémenter et exploiter un algorithme d'apprentissage automatique

objectif

--Comprendre la classification des algorithmes d'apprentissage automatique --Peut implémenter des algorithmes d'apprentissage automatique

Classification de l'apprentissage automatique

L'apprentissage automatique est classé comme suit.

--Apprentissage avec un enseignant --Revenir --Catégorie --Apprendre sans professeur

Renforcer l'apprentissage

Cette fois, nous ne traiterons pas de la mise en œuvre de l'apprentissage amélioré.

Apprendre avec un enseignant

L'apprentissage supervisé est une méthode d'apprentissage de la réponse à un problème à partir de données qui représentent des caractéristiques (caractéristiques, variables explicatives) et des données qui constituent la réponse (étiquettes, variables objectives).

L'apprentissage supervisé peut être divisé en deux catégories.

--Return: prédire des nombres continus

Prédiction de hauteur, etc. --Catégorie: prédire les étiquettes non ordonnées
Prédiction de genre, etc.

Des données d'utilisation

Je vais expliquer brièvement les données utilisées dans la mise en œuvre.

Ici, nous utiliserons les exemples de données de scicit-learn. Les données utilisées sont les suivantes pour la régression et la classification.

--Revenir

Boston Home Price ――13 fonctionnalités
La variable objective est le prix du logement --Catégorie
Qualité du vin ――13 fonctionnalités
Les classes à classer sont 3

algorithme

Je présenterai l'algorithme de l'apprentissage supervisé. Il décrit si chaque algorithme peut être appliqué à la régression ou à la classification.

Régression linéaire

--Revenir

Méthode de modélisation de la relation dans laquelle la variable objectif devient plus grande (plus petite) à mesure que la quantité de caractéristique devient plus grande.

Document officiel

from sklearn.datasets import load_boston
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LinearRegression

#Lire les données
boston = load_boston()
X = boston['data']
y = boston['target']
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=0)

model = LinearRegression()
model.fit(X_train, y_train)

score = model.score(X_test, y_test)

print('score is', score)

Retour logistique

--Catégorie

Une méthode d'apprentissage de la probabilité qu'un événement se produise.

Document officiel

from sklearn.datasets import load_wine
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LogisticRegression

#Lire les données
wine = load_wine()
X = wine['data']
y = wine['target']
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=0)

model = LogisticRegression()
model.fit(X_train, y_train)

score = model.score(X_test, y_test)

print('score is', score)

Forêt aléatoire

--Revenir --Catégorie

Une méthode de prédiction à la majorité à partir de plusieurs arbres de décision.

Retour version

Document officiel

from sklearn.datasets import load_boston
from sklearn.model_selection import train_test_split
from sklearn.ensemble import RandomForestRegressor

#Lire les données
boston = load_boston()
X = boston['data']
y = boston['target']
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=0)

model = RandomForestRegressor(random_state=0)
model.fit(X_train, y_train)

score = model.score(X_test, y_test)

print('score is', score)

Version de classification

Document officiel

from sklearn.datasets import load_wine
from sklearn.model_selection import train_test_split
from sklearn.ensemble import RandomForestClassifier

#Lire les données
wine = load_wine()
X = wine['data']
y = wine['target']
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=0)

model = RandomForestClassifier(random_state=0)
model.fit(X_train, y_train)

score = model.score(X_test, y_test)

print('score is', score)

Machine de vecteur de soutien

Une technique pour obtenir de meilleures limites de décision en maximisant les marges.

--Revenir --Catégorie

Retour version

Document officiel

from sklearn.datasets import load_boston
from sklearn.model_selection import train_test_split
from sklearn.svm import SVR

#Lire les données
boston = load_boston()
X = boston['data']
y = boston['target']
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=0)

model = SVR(kernel='linear', gamma='auto')
model.fit(X_train, y_train)

score = model.score(X_test, y_test)

print('score is', score)

Version de classification

Document officiel

from sklearn.datasets import load_wine
from sklearn.model_selection import train_test_split
from sklearn.svm import SVC

#Lire les données
wine = load_wine()
X = wine['data']
y = wine['target']
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=0)

model = SVC(gamma='auto')
model.fit(X_train, y_train)

score = model.score(X_test, y_test)

print('score is', score)

kNN

Une méthode de mémorisation de toutes les données d'entraînement et de prise de décision majoritaire à partir de k données proches des données que vous souhaitez prédire.

--Revenir --Catégorie

Retour version

Document officiel

from sklearn.datasets import load_boston
from sklearn.model_selection import train_test_split
from sklearn.neighbors import KNeighborsRegressor

#Lire les données
boston = load_boston()
X = boston['data']
y = boston['target']
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=0)

model = KNeighborsRegressor(n_neighbors=3)
model.fit(X_train, y_train)

score = model.score(X_test, y_test)

print('score is', score)

Version de classification

Document officiel

from sklearn.datasets import load_wine
from sklearn.model_selection import train_test_split
from sklearn.neighbors import KNeighborsClassifier

#Lire les données
wine = load_wine()
X = wine['data']
y = wine['target']
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=0)

model = KNeighborsClassifier(n_neighbors=3)
model.fit(X_train, y_train)

score = model.score(X_test, y_test)

print('score is', score)

réseau neuronal

Une méthode qui imite les circuits neuronaux du cerveau humain, qui a une structure composée d'une couche d'entrée, d'une couche cachée et d'une couche de sortie.

--Revenir --Catégorie

Document officiel

Retour version

from sklearn.datasets import load_boston
from sklearn.model_selection import train_test_split
from tensorflow.keras import models
from tensorflow.keras import layers

#Lire les données
boston = load_boston()
X = boston['data']
y = boston['target']
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=0)

model = models.Sequential()
model.add(layers.Dense(64, activation='relu', input_shape=(X_train.shape[1],)))
model.add(layers.Dense(64, activation='relu'))
model.add(layers.Dense(1))
model.compile(optimizer='rmsprop', loss='mse', metrics=['mae'])

model.fit(X_train, y_train)

mse, mae = model.evaluate(X_test, y_test)

print('MSE is', mse)
print('MAE is', mae)

Version de classification

from sklearn.datasets import load_wine
from sklearn.model_selection import train_test_split
from tensorflow.keras import models
from tensorflow.keras import layers
from tensorflow.keras import utils

#Lire les données
boston = load_wine()
X = boston['data']
y = utils.to_categorical(boston['target'])
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=0)

model = models.Sequential()
model.add(layers.Dense(64, activation='relu', input_shape=(X_train.shape[1],)))
model.add(layers.Dense(64, activation='relu'))
model.add(layers.Dense(3, activation='softmax'))
model.compile(optimizer='rmsprop', loss='categorical_crossentropy', metrics=['accuracy'])

model.fit(X_train, y_train)

crossentropy, acc = model.evaluate(X_test, y_test)

print('Categorical Crossentropy is', crossentropy)
print('Accuracy is', acc)

Augmentation du gradient

L'un des ensembles apprenant à former plusieurs modèles. Méthode d'extraction répétée de certaines données et d'entraînement séquentiel de plusieurs modèles d'arbres de décision.

--Revenir --Catégorie

Document officiel

Retour version

from sklearn.datasets import load_boston
from sklearn.model_selection import train_test_split
from sklearn.metrics import mean_squared_error
import lightgbm as lgb
import numpy as np

#Lire les données
wine = load_boston()
X = wine['data']
y = wine['target']
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=0)

lgb_train = lgb.Dataset(X_train, y_train)
lgb_eval = lgb.Dataset(X_test, y_test)

params = {
    'objective': 'regression',
    'metric': 'mse',
}
num_round = 100

model = lgb.train(
    params,
    lgb_train,
    valid_sets=lgb_eval,
    num_boost_round=num_round,
)

y_pred = model.predict(X_test)

score = mean_squared_error(y_test, y_pred)

print('score is', score)

Version de classification

from sklearn.datasets import load_wine
from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score
import lightgbm as lgb
import numpy as np

#Lire les données
wine = load_wine()
X = wine['data']
y = wine['target']
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=0)

lgb_train = lgb.Dataset(X_train, y_train)
lgb_eval = lgb.Dataset(X_test, y_test)

params = {
    'objective': 'multiclass',
    'num_class': 3,
}
num_round = 100

model = lgb.train(
    params,
    lgb_train,
    valid_sets=lgb_eval,
    num_boost_round=num_round,
)

pred = model.predict(X_test)
y_pred = []
for p in pred:
    y_pred.append(np.argmax(p))

score = accuracy_score(y_test, y_pred)

print('score is', score)

Apprendre sans professeur

L'apprentissage non supervisé est une méthode d'apprentissage à partir des seules données qui représentent les caractéristiques sans aucune donnée de réponse.

Des données d'utilisation

Dans l'utilisation de l'apprentissage non supervisé, ce sont les données de qualité du vin utilisées dans l'apprentissage supervisé.

Qualité du vin ――13 fonctionnalités
Les classes à classer sont 3

algorithme

Je vais présenter l'algorithme de l'apprentissage non supervisé.

K-means

Une des méthodes de clustering. Une méthode d'organisation des données en k classes.

Document officiel

from sklearn.datasets import load_wine
from sklearn.cluster import KMeans

#Lire les données
wine = load_wine()
X = wine['data']

model = KMeans(n_clusters=3, random_state=0)
model.fit(X)

print("labels: \n", model.labels_)
print("cluster centers: \n", model.cluster_centers_)
print("predict result: \n", model.predict(X))

Distribution gaussienne mixte

Une des méthodes de clustering. Une méthode de classification des données selon la distribution gaussienne à laquelle elles appartiennent, en supposant que les données sont générées à partir de plusieurs distributions gaussiennes.

Document officiel

from sklearn.datasets import load_wine
from sklearn.mixture import GaussianMixture

#Lire les données
wine = load_wine()
X = wine['data']

model = GaussianMixture(n_components=4)
model.fit(X)

print("means: \n", model.means_)
print("predict result: \n", model.predict(X))

Analyse des composants principaux

Une des méthodes de réduction de dimension. Une méthode d'expression de données à partir d'un grand nombre de variables avec moins de variables (composants principaux) tout en préservant les caractéristiques des données.

Document officiel

from sklearn.datasets import load_wine
from sklearn.decomposition import PCA

#Lire les données
wine = load_wine()
X = wine['data']

model = PCA(n_components=4)
model.fit(X)

print('Before Transform:', X.shape[1])
print('After Transform:', model.transform(X).shape[1])

Résumé

L'apprentissage enseigné peut être divisé en régression et classification
Il existe plusieurs types d'apprentissage non supervisé ――Vous pouvez faire du machine learning avec un peu de code si vous l'essayez --Il existe plusieurs paramètres, alors reportez-vous à la documentation officielle si nécessaire.

Je n'ai pas suffisamment étudié l'apprentissage non supervisé et le renforcement de l'apprentissage, je vais donc continuer à étudier.

Les références

[Mécanisme d'algorithme d'apprentissage automatique pouvant être compris en le regardant](https://www.amazon.co.jp/%E8%A6%8B%E3%81%A6%E8%A9%A6%E3% 81% 97% E3% 81% A6% E3% 82% 8F% E3% 81% 8B% E3% 82% 8B% E6% A9% 9F% E6% A2% B0% E5% AD% A6% E7% BF% 92% E3% 82% A2% E3% 83% AB% E3% 82% B4% E3% 83% AA% E3% 82% BA% E3% 83% A0% E3% 81% AE% E4% BB% 95% E7% B5% 84% E3% 81% BF-% E6% A9% 9F% E6% A2% B0% E5% AD% A6% E7% BF% 92% E5% 9B% B3% E9% 91% 91-% E7% A7% 8B% E5% BA% AD-% E4% BC% B8% E4% B9% 9F / dp / 4798155659)
[Apprenez en exécutant avec Python! Nouveau manuel d'apprentissage automatique](https://www.amazon.co.jp/Python%E3%81%A7%E5%8B%95%E3%81%8B%E3%81%97%E3%81%A6 % E5% AD% A6% E3% 81% B6% EF% BC% 81% E3% 81% 82% E3% 81% 9F% E3% 82% 89% E3% 81% 97% E3% 81% 84% E6 % A9% 9F% E6% A2% B0% E5% AD% A6% E7% BF% 92% E3% 81% AE% E6% 95% 99% E7% A7% 91% E6% 9B% B8-% E7% AC% AC2% E7% 89% 88-AI-TECHNOLOGY-% E4% BC% 8A% E8% 97% A4 / dp / 4798159913 / ref = pd_aw_sbs_14_49? = HfV8H & pd_rd_wg = ub3Ib & pf_rd_p = 1893a417-ba87-4709-ab4f-0dece788c310 & pf_rd_r = 874Z4AYT8W8GD6QQK6TT & psc = 1 & refRID = 874Z4AYT8W8
[Apprentissage en profondeur avec Python et Keras](https://www.amazon.co.jp/Python%E3%81%A8Keras%E3%81%AB%E3%82%88%E3%82%8B%E3% 83% 87% E3% 82% A3% E3% 83% BC% E3% 83% 97% E3% 83% A9% E3% 83% BC% E3% 83% 8B% E3% 83% B3% E3% 82% B0-François-Chollet / dp / 4839964262)
[Texte officiel du Deep Learning Textbook Deep Learning G Test (Generalist)](https://www.amazon.co.jp/%E6%B7%B1%E5%B1%A4%E5%AD%A6%E7%BF % 92% E6% 95% 99% E7% A7% 91% E6% 9B% B8-% E3% 83% 87% E3% 82% A3% E3% 83% BC% E3% 83% 97% E3% 83% A9% E3% 83% BC% E3% 83% 8B% E3% 83% B3% E3% 82% B0-G% E6% A4% 9C% E5% AE% 9A-% E3% 82% B8% E3% 82 % A7% E3% 83% 8D% E3% 83% A9% E3% 83% AA% E3% 82% B9% E3% 83% 88-% E5% 85% AC% E5% BC% 8F% E3% 83% 86% E3% 82% AD% E3% 82% B9% E3% 83% 88 / dp / 4798157554)
Liste des méthodes typiques d'apprentissage automatique
scikit-learn Choosing the right estimator¶

[PYTHON] Résumé de la classification et de la mise en œuvre des algorithmes d'apprentissage automatique

introduction

Public cible

objectif

Classification de l'apprentissage automatique

Apprendre avec un enseignant

Des données d'utilisation

algorithme

Régression linéaire

Retour logistique

Forêt aléatoire

Retour version

Version de classification

Machine de vecteur de soutien

Retour version

Version de classification

Retour version

Version de classification

réseau neuronal

Retour version

Version de classification

Augmentation du gradient

Retour version

Version de classification

Apprendre sans professeur

Des données d'utilisation

algorithme

Distribution gaussienne mixte

Analyse des composants principaux

Résumé

Les références