Python) Speichern Sie Scraping-Inhalte auf dem lokalen PC

Programmieranfänger lernen das Schaben. Vorerst können die abgekratzten Inhalte in eine lokale Datei heruntergeladen werden. Machen Sie sich also eine Notiz als Memorandum, bevor Sie sie vergessen.

#Beispiel für das Scraping von Artikeln und URLs von Websites und das Herunterladen von Ergebnissen auf den lokalen PC

#Importieren Sie die erforderlichen Module
from bs4 import BeautifulSoup
import requests
import pandas as pd

#Erstellen Sie einen Datenrahmen
columns = ["Artikelüberschrift", "URL"]
df = pd.DataFrame(columns = columns)

#Holen Sie sich den Inhalt von der Website mit Anfragen und verarbeiten Sie den Inhalt mit Beautiful Soup
res = requests.get("https:~~ URL der Website, die Sie kratzen möchten ~~")
soup = BeautifulSoup(res.content, 'html.parser') #Schöne Suppeninitialisierung
tags = soup.find_all("XXXXX", {"class": "YYYYYY"}) #X und Y variieren je nach Website

#Fügen Sie dem Datenrahmen den Artikelnamen und die URL hinzu
for tag in tags:
 article = tag.a.string
 url = tag.a.get("href")
 se = pd.Series([article, url], columns)
 df = df.append(se, columns)

#「to_Speichern Sie die CSV-Datei in demselben Ordner, in dem der Code mit "CSV" gespeichert ist.
df.to_csv("./news.csv")
print("Ende")

Recommended Posts

Python) Speichern Sie Scraping-Inhalte auf dem lokalen PC
[Python] Bis ein Scraping-Anfänger die J-League-Rangliste in einer CSV-Datei speichert
[Scraping] Python-Scraping
Funktion zum Speichern von Bildern nach Datum [python3]
[Teil1] Scraping mit Python → Organisieren Sie bis zu CSV!
Was ich getan habe, um Python-Speicher zu speichern
Python-Scraping-Memo
Auf Python 2.7.9 aktualisiert
Kratzen Sie das Essen mit Python und geben Sie es an CSV aus
Strategie, um lokale Schabearbeiten an GCP zu bringen (Teil 1)
Python Scraping eBay
[Python] Fluss vom Web-Scraping zur Datenanalyse
Python Scraping get_title
Python: Scraping Teil 1
Ich möchte die Produkte verkaufen, die ich durch Python Scraping Mercari aufgelistet habe
Scraping mit Python
"Backport" zu Python 2
Python: Scraping Teil 2
[Python] Lokal → Verfahren zum Hochladen von Dateien in S3 (boto3)
Ich war süchtig danach, 2020 mit Selen (+ Python) zu kratzen
Speichern Sie Listen, Wörterbücher und Tabellen in externen Python-Dateien
Installieren Sie die Python-Umgebung auf einem lokalen PC (pyenv, venv auf einem Mac).
Scraping in Python (Vorbereitung)
Versuchen Sie es mit Python.
Änderungen von Python 3.0 zu Python 3.5
UnicodeEncodeError: 'cp932' während des Python-Scrapings
Grundlagen der Python-Scraping-Grundlagen
Scraping mit Python + PhantomJS
Erste Schritte mit Web Scraping
So installieren Sie Python
Einführung in die Python-Sprache
Scraping: Website lokal speichern
Beachten Sie, dass Python ein Daemon ist
Einführung von Python 2.7 in CentOS 6.6
Schaben mit Selen [Python]
Verbinden Sie Python mit MySQL
Scraping mit Python + PyQuery
Lokaler Server mit Python
Scraping von RSS mit Python
Festlegen des Bibliothekspfads zum Bestehen des lokalen GAE / Python-Komponententests
Speichern Sie Bilder im Web mit Python (Colab) auf einem Laufwerk.