[PYTHON] Ich habe versucht, BigQuery-Daten mit Jupyter Lab mit GCP zu visualisieren

Hinweis

Ich bin neu in GCP, Python und Jupiter. Ich war sehr froh, dass ich es bewegen konnte, während ich herumging, also habe ich es gepostet. Ich würde mich freuen, wenn Sie mich wissen lassen könnten, wenn Sie Fehler haben.

Referenz

Erstellen Sie BigQuery-Daten

Öffnen Sie die GCP-Konsole

https://console.cloud.google.com/

Wählen Sie "Big Query" aus dem Seitenmenü

Screen Shot 2020-08-23 at 18.27.52.png

Klicken Sie auf "Datensatz erstellen".

Screen Shot 2020-08-23 at 18.32.48.png

Ich habe versucht, es mit der Datensatz-ID "test_data_set" zu erstellen.

Screen Shot 2020-08-23 at 18.33.46.png

Erstellen Sie einfach Tabellen und Daten zum Testen

Fügen Sie die folgende Abfrage in den Abfrageeditor ein und klicken Sie auf Ausführen

create table test_data_set.t (i INT64);
insert into test_data_set.t values (1),(2),(5),(7),(12);

Screen Shot 2020-08-23 at 18.45.00.png

Nachdem wir die Daten haben, schauen wir sie uns mit Jupyter an.

Screen Shot 2020-08-23 at 18.45.59.png

Notebook-Instanziierung

Wählen Sie Seitenmenü> "AI Platform"> "Notebook"

Screen Shot 2020-08-23 at 17.36.45.png

"Neue Instanz"> "Python 2 und 3" wurde ausgewählt

Screen Shot 2020-08-23 at 17.53.28.png

Sie können die Region usw. auswählen und der geschätzte Betrag wird ebenfalls angezeigt. Dieses Mal werde ich die Instanz jedoch löschen, sobald ich es versuche. Daher habe ich mit den Standardeinstellungen auf "Erstellen" geklickt

Screen Shot 2020-08-23 at 18.03.53.png

Klicken Sie auf "JUPYTER LAB öffnen".

Screen Shot 2020-08-23 at 18.10.47.png

Jupyter Lab wird geöffnet

Screen Shot 2020-08-23 at 19.14.42.png


Als ich zum ersten Mal versuchte, Bigquery-Daten zu erhalten

"UserWarning: Cannot create BigQuery Storage client, the dependency google-cloud-bigquery-storage is not installed."

Ich habe einen Fehler erhalten, also installiere zuerst "google-cloud-bigquery-storage".

Klicken Sie auf "Konsole"

Screen Shot 2020-08-23 at 19.12.40.png

Installieren Sie "google-cloud-bigquery-storage"

$ pip install google-cloud-bigquery-storage

Screen Shot 2020-08-23 at 19.09.06.png


Drücken Sie Python 3, um ein neues Notizbuch zu erstellen

Screen Shot 2020-08-23 at 18.55.47.png

Standardmäßig verfügt JupyterLab über eine Datei mit dem Namen "/ tutorials / bigquery / BigQuerygrundlagen.ipynb", und es gab eine leicht verständliche Erklärung. Daher habe ich versucht, einen Prozess zum Erfassen von Daten aus BigQuery zu erstellen, indem ich auf diesen Bereich verwies.

from google.cloud import bigquery

client = bigquery.Client(location="US")

query = """
    select *
    from test_data_set.t
    order by i
"""

query_job = client.query(
    query,
    # Location must match that of the dataset(s) referenced in the query.
    location="US",
)  # API request - starts the query

dv = query_job.to_dataframe()
print(df)
df.plot()

Drücken Sie zum Ausführen "▷"

Screen Shot 2020-08-23 at 19.33.57.png

Ich konnte die Daten der großen Abfrage, die ich zuerst gemacht habe, als Grafik anzeigen!


Am Ende wird eine Gebühr erhoben. Stoppen Sie also mit "Stop".

Screen Shot 2020-08-23 at 19.41.54.png


Vielen Dank für das Anschauen bis zum Ende m (_ _) m

Recommended Posts

Ich habe versucht, BigQuery-Daten mit Jupyter Lab mit GCP zu visualisieren
Ich habe versucht, Jupyter zu verwenden
[Pythonocc] Ich habe versucht, CAD auf einem Jupyter-Notebook zu verwenden
Ich habe versucht, BigQuery ML zu verwenden
Ich habe versucht, PySpark von Jupyter 4.x auf EMR zu verwenden
jupyter ich habe es berührt
Ich habe versucht, Videos mit der Youtube Data API (Anfänger) zu suchen.
Ich habe versucht, mit "Syncthing" Dateien auf mehreren PCs zu synchronisieren
[TF] Ich habe versucht, das Lernergebnis mit Tensorboard zu visualisieren
Ich habe versucht, scRNA-seq-Daten mithilfe der topologischen Datenanalyse (TDA) zu analysieren.
Ich habe versucht, mit pypyodbc schnell Daten von AS / 400 abzurufen
Ich habe AdaNet gegen Tabellendaten ausprobiert
Ich habe irgendwie versucht, ein Jupyter-Notebook zu verwenden
Ich habe versucht, den auf Papier gestempelten Stempel mit OpenCV zu digitalisieren
[Python] Ich habe versucht, mithilfe der YouTube-Daten-API verschiedene Informationen abzurufen!
Ich habe versucht, mit pypyodbc Preparation 1 schnell Daten von AS / 400 abzurufen
Ich habe versucht, AutoEncoder mit TensorFlow zu visualisieren
Ich habe versucht, YOUTUBE Data API V3 zu verwenden
Ich habe versucht, Text mit TensorFlow zu klassifizieren
Ich habe versucht, die BigQuery-Speicher-API zu verwenden
[Python] Ich habe versucht, die Nacht der Galaxienbahn mit WordCloud zu visualisieren!
Ich habe versucht, jpholidayp über Proxy zu verwenden, um cron nur an Wochentagen auszuführen
Ich möchte ein Bild auf Jupyter Notebook mit OpenCV (Mac) anzeigen.
Ich habe versucht, eine Clusteranalyse von Kunden anhand von Kaufdaten durchzuführen
Ich habe versucht, Remote API mit GAE / J zu verwenden
Ich habe versucht, die Daten mit Zwietracht zu speichern
Ich habe versucht, WAV-Dateien mit Pydub zu synthetisieren.
Ich möchte CSV-Dateien mit Vega-Lite visualisieren!
Ich habe versucht, CloudWatch-Daten mit Python abzurufen
Ich habe versucht, jupyter nteract auf dem Heroku-Server zu starten
Ich habe versucht, Jupyter mit allen Amazon-Lichtern zu starten
Ich habe DBM mit Pylearn 2 unter Verwendung künstlicher Daten ausprobiert
Ich habe ein ○ ✕ Spiel mit TensorFlow gemacht
Ich habe versucht, einen Übersetzungs-BOT zu erstellen, der mit Discord unter Verwendung von Googletrans funktioniert
Ich habe versucht, die Daten des Laptops durch Booten unter Ubuntu zu retten
Ich habe versucht, eine verdächtige Person mithilfe von Geolonia-Adressdaten schnell zu einem MAP zu machen
Eine Bibliothek für Datenwissenschaft "Ich möchte das tun" auf dem Jupyter Notebook
Ich habe versucht, parametrisiert zu verwenden
Ich habe versucht, Argparse zu verwenden
Ich habe versucht, Mimesis zu verwenden
Ich habe versucht, anytree zu verwenden
Ich habe versucht, Mine Sweeper auf dem Terminal mit Python zu implementieren
Ich habe versucht, Summpy zu verwenden
Ich habe versucht, das Spiel in der J League vorherzusagen (Datenanalyse)
Python-Übung 100 Schläge Ich habe versucht, den Entscheidungsbaum von Kapitel 5 mit graphviz zu visualisieren
Ich habe versucht, Coturn zu verwenden
Ich habe versucht, Pipenv zu verwenden
Ich habe versucht, Matplotlib zu verwenden
Ich habe versucht, "Anvil" zu verwenden.
Ich habe versucht, Hubot zu verwenden
Ich habe versucht, ESPCN zu verwenden
Ich habe versucht, openpyxl zu verwenden
Ich habe versucht, EKG-Daten mit der K-Shape-Methode zu gruppieren
Ich habe versucht, Ipython zu verwenden
Ich habe versucht zu debuggen.
Ich habe versucht, mit AWS Lambda einen AMI zu erhalten
Ich habe versucht, die Sündenfunktion mit Chainer zu approximieren
Ich habe versucht, PyCaret zu verwenden
Ich habe versucht, Cron zu verwenden
Ich habe versucht, mit OpenCV Ann Man zu werden