[Python] Mémo de création de l'outil de grattage

Principalement des mémos pour moi.

objectif

Créer un outil de grattage pour obtenir des données pachinko

conception

Acquisition des données de l'unité [OK jusqu'au test]

C'est un programme pour obtenir le nombre de G et le nombre de grands succès. C'est presque terminé, et nous avons pu acquérir 5 unités dans le test, nous devrions donc pouvoir les acquérir toutes sans aucun problème. Cliquez ici pour le flux d'acquisition

  1. Créez une liste d'URL
  2. Accédez à la liste d'URL dans l'ordre
  3. Obtenez les informations souhaitées lorsque vous y accédez et créez une liste → Par exemple, si vous souhaitez obtenir le nombre de BB et le nombre de G, créez une liste pour chacun.
  4. Convertissez la liste en bloc de données

J'ai également essayé de l'obtenir avec read_html dans une table, mais lorsque je rejoins chaque bloc de données, je ne peux pas bien me joindre, donc je n'ai obtenu que les informations que je veux dans une liste et les ai converties et jointes dans un bloc de données. ..

Après cela, ajustez le type des données acquises.

Acquisition du graphe d'affaissement [OK jusqu'au test]

C'est un programme pour acquérir le graphe d'affaissement de chaque unité.

Cliquez ici pour le flux d'acquisition auquel vous pensez

  1. Créez une liste d'URL (la liste est la même que les données de la machine)
  2. Créez une liste d'URL d'image
  3. Obtenez l'URL de l'image et ajoutez-la à la liste → Le point à noter est que vous n'avez pas à vous soucier de le tourner avec une instruction for car vous ne voulez qu'une image sur chaque page.
  4. Créez une fonction pour télécharger des images
  5. Télécharger l'exécution → Correction pour imprimer l'erreur

Il est à noter sur l'image que le SRC est en partie un chemin relatif, si le site prend des mesures pour les données du jour. Je ne peux pas sentir la régularité de quel modèle a un chemin relatif. Par conséquent, les données à acquérir sont essentiellement les données de la veille. Il est nécessaire de rechercher à quelle heure le site changera.

Conversion des données du graphique [OK jusqu'au test]

Ensuite, c'est un programme qui analyse l'image du graphique d'affaissement et la convertit en données.

Cliquez ici pour le flux de réflexion

  1. Analyse basée sur l'image acquise
  2. Ajoutez des informations d'analyse à la liste
  3. Recalculez les informations d'analyse dans la liste
  4. Convertir en bloc de données
  5. Fusionner avec la première trame de données

Sommaire

C'est particulièrement proche de mes propres notes, donc je ne pense pas que cela soit utile à personne.

Recommended Posts

[Python] Mémo de création de l'outil de grattage
Création d'outils de grattage
Remarques sur la création d'outils de mise en forme de texte
Un mémo lors de la création d'un environnement python avec miniconda
Notes sur la création d'un environnement python par les débutants
Problèmes lors de la création d'un outil de conversion csv-json avec python
mémo python
Mémo Python
Une note lors de la création d'un graphe dirigé à l'aide de Graphviz en Python
[Scraping] Scraping Python
mémo python
Précautions lors de la création d'un générateur Python
Mémo d'apprentissage "Scraping & Machine Learning avec Python"
[Python] Chapitre 03-01 graphiques de tortues (création d'une tortue)
Mémo Python
Créer un fichier power simple avec Python
Un mémo contenant Python2.7 et Python3 dans CentOS
AtCoderBeginnerContest154 Mémo de participation (Python, problème A ~ E)
Scraping de sites Web à l'aide de JavaScript en Python
[Python] Création d'un graphique de tirage des actions
Essayez le scraping HTML avec la bibliothèque Python
Un outil pour saisir facilement du code Python
Mémo sur Sphinx Partie 1 (Création d'un projet)
J'ai créé un outil de mot de passe en Python.
[Python] Mémo sur le dictionnaire
Mémo de raclage Python
Scraping Python get_ranker_categories
Grattage avec Python
mémo débutant python (9.2-10)
Grattage avec Python
mémo débutant python (9.1)
Python racle eBay
★ Mémo ★ Python Iroha
[Mémo Python] Soyez prudent lors de la création d'un tableau à deux dimensions (liste de listes)
Grattage Python get_title
[Python] Mémo EDA
Python: grattage partie 1
[Mon mémo] python
Mémo de métaclasse Python3
[Python] Mémo de fond de carte
Mémo débutant Python (2)
Scraping à l'aide de Python
[Python] Mémo Numpy
Python: grattage, partie 2
Un mémo qui a fait un tutoriel pour exécuter python sur heroku
Un outil pour créer des liens symboliques sous Windows
Un mémo que j'ai écrit un tri rapide en Python
[Python] Un outil qui permet une importation relative intuitive
python Remarque: Traitez les listes collectivement comme un ensemble
DJango Memo: depuis le début (création d'une vue)
Un mémo que j'ai écrit un tri de fusion en Python
Commandes pour créer un environnement python3 avec virtualenv
Procédure de création d'un environnement d'isolation Python (environnement venv)
J'ai essayé d'exécuter alembic, un outil de migration pour Python
Créer un outil de génération de documents Python car il est difficile d'utiliser sphinx