Extrahieren Sie das Bigquery-Dataset und die Tabellenliste mit Python und geben Sie es in CSV aus

Gibt eine CSV mit dem Datasetnamen in Spalte A und dem Tabellennamen in Spalte B aus. Das Zielprojekt wird angezeigt, wenn Sie Folgendes in das Terminal eingeben.

gcloud config list

Code

import datetime
import pandas as pd
from google.cloud import bigquery

bigquery_data = pd.DataFrame(
    index   = [] ,
    columns = ['dataset','table']
)

client = bigquery.Client()
datasets = list(client.list_datasets())
project = client.project

for dataset in datasets:
    dataset_id = '{}.{}'.format(project , dataset.dataset_id)
    dataset = client.get_dataset(dataset_id)
    tables = list(client.list_tables(dataset))
    for table in tables:
        dataset_table = pd.Series({'dataset' : dataset.dataset_id ,'table' : table.table_id})
        bigquery_data = bigquery_data.append(dataset_table , ignore_index = True)
make_day = datetime.datetime.today().strftime('%Y-%m-%d')
bigquery_data.to_csv('bigquery_data_{}.csv'.format(make_day) , index = False)

Recommended Posts

Extrahieren Sie das Bigquery-Dataset und die Tabellenliste mit Python und geben Sie es in CSV aus
Lesen Sie JSON mit Python und geben Sie CSV aus
Extrahieren Sie das Ergebnis des TOP-Befehls mit USER und geben Sie es als CSV aus
In Python werden die Elemente in der Liste sortiert und als Elemente und Vielfache ausgegeben.
Ausgabe in eine CSV-Datei mit Python
Lesen und Schreiben von CSV mit Python
Datenbanktabellen mit CSV extrahieren [ODBC-Verbindung von R und Python]
Lesen Sie die CSV-Datei mit Python und konvertieren Sie sie unverändert in DataFrame
CSV-Ausgabe der Google-Suche mit [Python]! 【Einfach】
Kratzen Sie das Essen mit Python und geben Sie es an CSV aus
[Automatisierung] Extrahieren Sie die Tabelle als PDF mit Python
Beispiel für das Lesen und Schreiben von CSV mit Python
[Python] So benennen Sie Tabellendaten und geben sie mit csv aus (to_csv-Methode)
Extrahieren Sie "Nur aktuelles Datum" und "Aktuelles Datum und Uhrzeit" mit Python datetime.
Extrahieren Sie die Tabelle der Bilddateien mit OneDrive & Python
Prozedur zum Laden von MNIST mit Python und zur Ausgabe an png
Ein Python-Skript, das eine datierte CSV-Datei als Zeitpartitionstabelle in BigQuery importiert
Lesen und analysieren Sie den Datensatz im Arff-Format mit python scipy.io
[Python] Japanische CSV mit Pandas ohne verstümmelte Zeichen lesen (weitere auf Japanisch geschriebene Spalten extrahieren)
Python-Eingabe und Ausgabe
Lesen Sie die json-Datei mit Python, formatieren Sie sie und geben Sie json aus
[Python-pptx] Gibt PowerPoint-Schriftinformationen mit Python in CSV aus
Liste mit Python initialisieren
Holen Sie sich eine Liste der CloudWatch-Metriken und eine Entsprechungstabelle der Einheiteneinheiten mit Python boto
[Python] Lesen Sie die CSV-Datei und zeigen Sie die Abbildung mit matplotlib an
Lösen mit Ruby und Python AtCoder ABC138 D Benachbarte Liste
Programmieren mit Python und Tkinter
Stellen Sie mit Python eine Verbindung zu BigQuery her
Ver- und Entschlüsselung mit Python
Lesen Sie CSV mit Python-Pandas
Python und Hardware-Verwenden von RS232C mit Python-
Extrahieren Sie Twitter-Daten mit CSV
Probieren Sie die Python-Ausgabe mit Haxe 3.2 aus
Schreiben Sie mit Python in csv
Python-Liste und Tapples und Kommas
Python-Listeneinschlussnotation und Generator
Python mit Pyenv und Venv
Laden Sie die CSV-Datei mit Python herunter
Funktioniert mit Python und R.
CSV-Daten extrahieren und berechnen
[Python] So kratzen Sie eine lokale HTML-Datei und geben sie mit Beautiful Soup als CSV aus
Führen Sie Jupyter mit der REST-API aus, um Python-Code zu extrahieren und zu speichern
So importieren Sie CSV- und TSV-Dateien mit Python in SQLite
Extrahieren Sie Text aus [python] pdf und lesen Sie Zeichen mit Open-Jtalk vor
Listen Sie Split- und Join-Zeichenfolgen mit Split und Join auf (Perl / PowerShell / Java / Kotlin / Python).
Lösen mit Ruby, Python und networkx AtCoder ABC168 D Benachbarte Liste
[python3] Implementieren Sie die Debug-Protokollausgabefunktion einfach mit Protokollierung und Klicken
Geben Sie den Bericht mit Python aus DB in PDF aus, hängen Sie ihn automatisch an eine E-Mail an und senden Sie ihn
[Python] Erstellen einer Wörterbuchtypliste, Hinzufügen / Ändern / Löschen von Elementen und Extrahieren mit einer for-Anweisung
Kommunizieren Sie mit FX-5204PS mit Python und PyUSB
Extrahieren Sie mehrere Listenduplikate in Python
Leuchtendes Leben mit Python und OpenCV
Extrahieren Sie die xz-Datei mit Python
Roboter läuft mit Arduino und Python
Installieren Sie Python 2.7.9 und Python 3.4.x mit pip.
Unterschied zwischen list () und [] in Python
Ausgabe 2017 Premium Friday List in Python
Graustufenbild und als CSV speichern
Neuronales Netzwerk mit OpenCV 3 und Python 3
AM-Modulation und Demodulation mit Python