Python-Skript, das SQL-Dateien liest, BigQuery ausführt und CSV speichert

Funktioniert mit Python 3.6.1.

bq_runnner.py


import argparse
import pandas as pd


def run_query(sql_file):
    with open(sql_file, 'r') as f:
        query = f.read()
    
    project_id = 'YOUR_PROJECT_ID'
    df = pd.read_gbq(query, project_id=project_id, dialect='standard')
    return df


if __name__ == '__main__':
    parser = argparse.ArgumentParser()
    parser.add_argument('sql_file')
    parser.add_argument('--output_csv', default='output.csv')

    args = parser.parse_args()

    df = run_query(args.sql_file)
    df.to_csv(args.output_csv, index=False)

Wie benutzt man

$ python bq_runnner.py YOUR_QUERY.sql

Sie können die CSV-Datei beliebig benennen.

Erforderliche Bibliothek

requirements.txt


pandas==0.25.3
pandas-gbq==0.13.0

Recommended Posts

Python-Skript, das SQL-Dateien liest, BigQuery ausführt und CSV speichert
Ein Python-Skript, das eine datierte CSV-Datei als Zeitpartitionstabelle in BigQuery importiert
Derjenige, der die CSV-Datei teilt, liest und parallel verarbeitet
Ein Skript, das Tweets mit Python abruft, sie in einer externen Datei speichert und morphologische Analysen durchführt.
Python-Skript, das eine JSON-Datei aus einer CSV-Datei erstellt
Ein Hinweis, der einen Job in Python implementiert, der eine GCS-Datei in BigQuery lädt
[Python] Ein Notizbuch, das die ipynb-Datei von GitHub ins Japanische übersetzt und herunterlädt.
[Python] Lesen Sie die CSV-Datei und zeigen Sie die Abbildung mit matplotlib an
Erstellen eines Python-Skripts, das die e-Stat-API unterstützt (Version 2)
Ein Shell-Skript, das nur das Ergebnis der SQL-Ausführung per E-Mail sendet
Ein Python-Skript, das Oracle-Datenbankdaten in CSV konvertiert
Python-Skript, das den Inhalt zweier Verzeichnisse vergleicht
Ein Skript, das die in CSV geschriebenen URLs der Reihe nach öffnet und einen Vollbild-Screenshot erstellt
Python-Programm, das täglich Tweets mit bestimmten Schlüsselwörtern sammelt und in CSV speichert
Lesen und Schreiben von Python CSV-Dateien
Erstellen Sie ein Shell-Skript, um die Python-Datei mehrmals auszuführen
Ein Skript, das 0, 1 an die erste Python-Primzahl zurückgibt
Ein Python-Skript, das auf dem Mac erstellte ._DS_Store- und ._ * -Dateien löscht
Lesen und formatieren Sie CSV-Dateien gemischt mit Komma-Registerkarten mit Python-Pandas
Extrahieren Sie mit Python Zeilen, die den Bedingungen entsprechen, aus einer Textdatei
Führen Sie den Python-Interpreter im Skript aus
Python-Skript, das alle Datensätze der Oracle-Tabelle in eine CSV-Datei ausgibt
[Python] Ein Programm, das die Partitur rundet
Ich habe in Python ein Programm erstellt, das FX-CSV-Daten liest und eine große Anzahl von Diagrammbildern erstellt
Verschiedene Möglichkeiten, die letzte Zeile einer CSV-Datei in Python zu lesen
Testen Sie das Hochladen von Bildern, indem Sie in Python erstellen, ohne Dummy-Bilddateien in Django zu platzieren
[Python, PyPDF2] Ein Skript, das ein verbreitetes PDF in zwei links und rechts unterteilt
Python - Lesen Sie Daten aus einer numerischen Datendatei und suchen Sie die multiple Regressionslinie.
[Python] Ein Programm, das die minimalen und maximalen Werte ohne Verwendung von Methoden findet
[Python] Ein Programm, das die Anzahl der Aktualisierungen der höchsten und niedrigsten Datensätze berechnet
Zeichnen Sie ein Faltlinien- / Streudiagramm mit Python Matplotlib für die CSV-Datei (2 Spalten).
Lesen einer CSV-Datei mit Python 2/3
Ein netter Nimporter, der Nim und Python verbindet
ffmpeg-Erstellen Sie eine Python-Umgebung und teilen Sie das Video
Ich habe versucht, eine CSV-Datei mit Python zu lesen
"Python Kit", das Python-Skripte von Swift aufruft
Berücksichtigung der Stärken und Schwächen von Python
Skript-Python-Datei
Python-Skript, das das Azure-Status-RSS crawlt und an Hipchat sendet
Ein Python-Skript, das die Anzahl der Jobs für eine bestimmte Bedingung von Indeed.com abruft
Ein Skript, das Ihre bevorzugten Python-Module und Binärdateien in einer einzigen Lambda-Ebene kombiniert
Programm, das die CSV-Daten der Transaktionshistorie der SBI Securities-Aktie zusammenfasst [Python3]
[Python] Ein Programm, das die Anzahl der Täler zählt
Vorlage des Python-Skripts zum Lesen des Inhalts der Datei
Versuchen Sie, eine komprimierte Datei mit Python und zlib zu erstellen
Ich habe versucht, eine CSV-Datei mit Python zu berühren
Lesen Sie die CSV-Datei und zeigen Sie sie im Browser an
Ein Memorandum zum Ausführen eines Python-Skripts in einer Bat-Datei
Was ist in dieser Variablen (wenn das Python-Skript ausgeführt wird)?
Python-Programm, das nach demselben Dateinamen sucht
PHP- und Python-Beispiele, die die ChatWork-API treffen
Ein Memo, dass ich den Datenspeicher mit Python berührt habe
Geben Sie das Ausgabeergebnis von sklearn.metrics.classification_report als CSV-Datei aus
[Python] Ein Programm, das die Positionen von Kängurus vergleicht.
[Python] Starten Sie eine Batchdatei aus Python und übergeben Sie Variablen.
[C / C ++] Übergeben Sie den in C / C ++ berechneten Wert an eine Python-Funktion, um den Prozess auszuführen, und verwenden Sie diesen Wert in C / C ++.
Ein Skript, das Dateiaktualisierungen erkennt, Coffee and Sass automatisch kompiliert und den Browser neu lädt
Ich habe ein Python-Skript geschrieben, das alle meine Beiträge mit der Qiita API v2 exportiert