Implémenter l'algorithme PRML en Python (presque uniquement Numpy)

Pour ma propre étude (algorithme d'apprentissage automatique et étude de Python), je vais implémenter la méthode publiée en PRML en Python.

En règle générale, dans la partie algorithme, en plus de la bibliothèque standard Python, ** seul Numpy peut être utilisé **. Nous n'utilisons pas de packages d'apprentissage automatique tels que scikit-learn ou tensorflow. Les packages qui illustrent les résultats, tels que matplotlib, seront utilisés à moins qu'ils ne concernent la mise en œuvre de l'algorithme. J'utilise aussi occasionnellement d'autres packages tels que scipy lorsque cela est nécessaire (déjà utilisé pour les fonctions digamma, etc.). Cependant, nous n'utilisons pas d'outils d'optimisation (tels que scipy.optimize ou la fonction de différenciation automatique de tensorflow) qui facilitent considérablement sa mise en œuvre.

Fondamentalement, nous implémenterons une méthode pour chaque chapitre. ~~ Si vous avez terminé toutes les étapes, vous pouvez entrer dans le deuxième tour. ~~ C'est pour ma propre étude, donc je ne vais pas tout expliquer en détail. J'omettrai l'explication qui, selon moi, n'était pas nécessaire pour regarder en arrière par moi-même.

article

Liens vers des articles déjà implémentés et liste des méthodes qui seront implémentées.

PRML article
Chapitre 1 Introduction Ajustement de courbe de Bayes
Chapitre 2 Distribution des probabilités Distribution t de Student
Chapitre 3 Modèle de régression linéaire Approximation des preuves
Chapitre 4 Modèle de discrimination linéaire Retour logistique Bayes
Chapitre 5 Réseau neuronal Erreur de propagation de retourRéseauàdensitémixte
Chapitre 6 Loi du noyau Régression du processus gaussien
Chapitre 7 Machine du noyau avec des solutions éparses Régression vectorielle associée
Chapitre 8 Modèle graphique Algorithme de somme de produits
Chapitre 9 Modèle mixte et EM Estimation la plus probable de la distribution gaussienne mixte
Chapitre 10 Méthode de raisonnement approximative Variante de distribution gaussienne mixte
Chapitre 11 Méthode d'échantillonnage Chaîne Markov Monte Carlo
Chapitre 12 Variables latentes continues Analyse en composantes principales bayésiennes
Chapitre 13 Données de la série Estimation la plus probable du modèle de Markov caché
Chapitre 14 Joindre des modèles Modèle mixte conditionnel

Recommended Posts

Implémenter l'algorithme PRML en Python (presque uniquement Numpy)
Algorithme génétique en python
Mettre en œuvre des recommandations en Python
Implémenter XENO avec python
Algorithme en Python (méthode Bellman-Ford, Bellman-Ford)
Implémenter sum en Python
Implémenter Traceroute dans Python 3
Implémenté en Python PRML Chapitre 4 Classification par algorithme Perceptron
Algorithme en Python (jugement premier)
Implémenter Naive Bayes dans Python 3.3
Implémenter d'anciens chiffrements en python
Produit matriciel en python numpy
Reproduire la méthode de division mutuelle euclidienne en Python
Algorithme en Python (dichotomie)
Implémenter Redis Mutex en Python
Implémenter l'extension en Python
Mettre en œuvre un RPC rapide en Python
Accélérer l'algorithme de Zhang-Suen dans Numpy
Mettre en œuvre l'apprentissage de l'empilement en Python [Kaggle]
Algorithme en Python (recherche de priorité de largeur, bfs)
Algorithme de tri et implémentation en Python
Mettez python, numpy, opencv3 dans ubuntu14
Ecrire des algorithmes A * (A-star) en Python
Carte auto-organisée dans la version Python NumPy
Implémenter le modèle Singleton en Python
Algorithme en Python (recherche de priorité en profondeur, dfs)
Implémentation d'un algorithme simple en Python 2
Implémentez rapidement l'API REST en Python
Algorithme (arborescence de segments) en Python (s'entraîner)
Exécutez un algorithme simple en Python
PRML Chapitre 8 Algorithme Somme des produits Implémentation Python
J'ai essayé d'implémenter PLSA en Python
Implémenter __eq__ etc. de manière générique dans la classe Python
J'ai essayé d'implémenter la permutation en Python
Livre Ali en python: méthode Dyxtra Sec.2-5
Algorithme en Python (ABC 146 C Dichotomy
Implémenté en Python PRML Chapitre 7 SVM non linéaire
Mettre en œuvre collectivement des tests d'hypothèses statistiques en Python
J'ai essayé d'implémenter PLSA dans Python 2
Algorithme Python
J'ai essayé d'implémenter ADALINE en Python
Ecrire une méthode de cupidité simple en Python
J'ai essayé d'implémenter PPO en Python
Implémenté dans Python PRML Chapter 5 Neural Network
Implémenté en Python PRML Chapitre 1 Estimation bayésienne
Algorithme d'alignement par méthode d'insertion en Python
Introduction à l'algorithme Implémentation de 4 types de tri en Python à partir du pseudo code de la 3ème édition
Implémenté en Python PRML Chapitre 3 Régression linéaire bayésienne
Essayez d'implémenter Oni Mai Tsuji Miserable avec python
Comment implémenter la mémoire partagée en Python (mmap.mmap)
3 étapes pour mettre Python + mecab dans yum uniquement
Implémenté dans Python PRML Chapitre 1 Ajustement de courbe polygonale
Implémentons le dialogue vocal anglais en Python [hors ligne]
J'ai essayé d'implémenter TOPIC MODEL en Python
[Implémentation pour l'apprentissage] Implémentation de l'échantillonnage stratifié en Python (1)
Implémentez "Tout ce dont vous avez besoin, c'est tuer" en Python
Obtenez uniquement des articles de pages Web en Python
Utilisez python + galbé pour générer des points uniquement à Tokyo
Quadtree en Python --2