Holen Sie sich Python-Webseite, Zeichenkodierung und Anzeige

Annahme

Ich denke, es gibt verschiedene Methoden, aber es ist die grundlegende Methode in den Grundlagen.

Holen Sie sich die WEB-Seite

Verwenden Sie Anfragen aus einer Bibliothek eines Drittanbieters. Sie können es auch aus der Standardbibliothek urllib.request abrufen. Mit der Standardbibliothek nur grundlegende GET- und POST-Anforderungen. Das Hinzufügen von HTTP-Headern und die grundlegende Authentifizierung sind problematisch. Verwenden Sie also die Bibliothek "Requests".

import requests

# GET
r = requests.get(URL)
#
r = requests.get(URL, params={'key': 'val'})

# POST
p = requests.post(URL, data={'key': 'val'})

#
b = requests.get(URL, auth=('', ''))

import sys
import requests

url = sys.argv[1]
r = requests.get(url)
#r.json()Grundlegende Authentifizierung Benutzer-ID-Kennwort WEB-Seite erfassen und codieren Es ist auch möglich, mit json zu erfassen, indem die Codierung anhand der Byte-Zeichenfolge des Antwortkörpers geschätzt wird

r.encoding = r.apparent_encoding
print(r.text)

Holen Sie sich die Codierung vom Meta-Tag

import sys
import re
import requests

url = sys.argv[1]
r = requests.get(url)

#Angenommen, der Zeichensatz befindet sich am Anfang, wird nur der Anfang als ASCII-Zeichenfolge dekodiert
scanned_text = r.content[:1024].decode('ascii', errors='replace')

#Extrahieren Sie den Zeichensatzwert mit einem regulären Ausdruck aus der dekodierten Zeichenfolge
match = re.search(r'charset=["\']?([\w-]+)', scanned_text)
if match:
    r.encoding = match.group(1)
else:
    r.encoding = 'utf-8'

print(r.text)

Recommended Posts

Holen Sie sich Python-Webseite, Zeichenkodierung und Anzeige
Holen Sie sich ein Bild von einer Webseite und ändern Sie die Größe
[Python3] Machen Sie einen Screenshot einer Webseite auf dem Server und schneiden Sie sie weiter zu
Python VBA, um mit Selenium die gesamte WEB-Seite zu erfassen
[Persönliches Memo] Holen Sie sich Daten im Web und machen Sie daraus einen DataFrame
Erstellen Sie eine Webmap mit Python und GDAL
Starten Sie einen Webserver mit Python und Flask
Schreiben wir ein Python-Programm und führen es aus
Extrahieren Sie mit Python Daten von einer Webseite
Versuchen Sie, mithilfe der Python-Anforderungsbibliothek eine Webseite und eine JSON-Datei abzurufen
Erhalten Sie E-Mails von Google Mail und beschriften Sie sie mit Python3
Holen Sie sich die passende Zeichenfolge in den regulären Ausdruck und verwenden Sie sie beim Ersetzen unter Python3 erneut
3-3, Python-Zeichenfolge und Zeichencode
Verknüpfen Sie Python Enum mit einer Funktion, um es aufrufbar zu machen
Rufen Sie die Excel-Liste rekursiv in einem bestimmten Ordner mit Python ab und schreiben Sie sie in Excel.
Holen Sie sich eine globale IP und exportieren Sie sie in Google Spreadsheets
Webcrawlen, Web-Scraping, Zeichenerfassung und Speichern von Bildern mit Python
Grundlagen des Python-Lernens ~ Wie wird eine Zeichenkette ausgegeben (angezeigt)? ~
[Python] Quotient und Überschuss erhalten
Google Maps auf der Webseite anzeigen (Spring Boot + Thymeleaf)
Webseite mit FastAPI + uvicorn + Nginx anzeigen (SSL / HTTPS-Konvertierung)
[Python, Ruby] Selen-Holen Sie sich Webseiteninhalte mit Webdriver
Löschen Sie ein bestimmtes Zeichen in Python, wenn es das letzte ist
Holen Sie sich Daten von VPS MySQL mit Python 3 und SQL Alchemy
Ich habe ein Skript geschrieben, um Webseiten-Links in Python zu extrahieren
Python, eine beliebte Web-Trinkparty, erkennt einen stillen Zustand und spielt eine Stimme.
Python a + = b und a = a + b sind unterschiedlich
Holen Sie sich Web-Screen-Capture mit Python
Python2 str / unicode und codieren / decodieren
[Python] gibt A [oder / und] B zurück
Python - Holen Sie sich in regelmäßigen Abständen die Bitcoin-Rate BTC / JPY von Bitflyer und speichern Sie sie in einer Datei
So geben Sie eine Zeichenfolge in Python ein und geben sie unverändert oder in die entgegengesetzte Richtung aus.
2. Erstellen Sie mit Python einen Entscheidungsbaum von 0 und verstehen Sie ihn (2. Grundlagen des Python-Programms)
Zeigen Sie eine Webseite mit FastAPI + uvicorn + Nginx an (Vorlagenfunktion von Jinja2)
Bis Sie einen Schnappschuss des Amazon Elasticsearch-Dienstes erhalten und wiederherstellen
Lassen Sie uns JavaScript wegwerfen und ein Web-Frontend in Python schreiben!
Ein Python-Programm, das die Größe eines Videos ändert und es in ein Bild verwandelt
Erstellen Sie eine Python3-Umgebung mit pyenv auf einem Mac und zeigen Sie NetworkX-Diagramme an
Machen Sie mit Python einen Entscheidungsbaum von 0 und verstehen Sie ihn (4. Datenstruktur)
Erstellen Sie mit Python einen Entscheidungsbaum von 0 und verstehen Sie ihn (5. Information Entropy)
Ich möchte eine Webanwendung mit React und Python Flask erstellen
Berechnen Sie das Standardgewicht und zeigen Sie es mit Python an
Zeigen Sie eine Liste der Alphabete in Python 3 an
Anzeigen von Matplotlib-Diagrammen in einer Webanwendung
Ich habe mit Python einen Zeichenzähler erstellt
Ein Memo mit Python2.7 und Python3 in CentOS
# 5 [python3] Extrahiert Zeichen aus einer Zeichenfolge
Verbinde viel Python oder und und
[Python] So invertieren Sie eine Zeichenfolge
Dämonisieren Sie eine Python-Webanwendung mit Supervisor
Wie bekomme ich Stacktrace in Python?
[Persönlicher Hinweis] Scraping von Webseiten in Python3
[Python] Eine schnelle Webanwendung mit Bottle!
[Python] Ruft eine Liste der Instanzvariablen ab
Holen Sie sich ein Zeichen für Conoha mit Python