[PYTHON] Speichern und laden Sie Daten mit joblib, pickle

Speichern und laden Sie Daten mit joblib, pickle

Ich werde es oft benutzen, also werde ich es für Notizen hinterlassen.

joblib und pickle sind ** Bibliotheken, die verschiedene Daten auf nette Weise speichern können **. Es kann nicht nur für Text und CSV verwendet werden, sondern auch zum Speichern trainierter Modelle. Ich habe auch das Gefühl, dass das Lesen und Schreiben schnell ist. (Es scheint, dass Speicher ziemlich viel verwendet wird)

Grundsätzlich scheint es, dass die Verwendung von joblib in Bezug auf den Speicher besser ist als die Verwendung von pickle.

Beispiel

import pandas as pd

arr = ['a','b','c','d','e']
df = pd.DataFrame({'data':arr})
df.head(5)

# data
#0	a
#1	b
#2	c
#3	d
#4	e

Speichern und laden Sie Daten mit joblib

import joblib

#Datenspeicher
joblib.dump(df,'test_jb.pkl', compress=3)
#Daten lesen
load_df = joblib.load('test_jb.pkl')
load_df.head()

# data
#0	a
#1	b
#2	c
#3	d
#4	e

Daten mit pickle speichern und laden

import pandas as pd

#Datenspeicher
df.to_pickle('test_pk.pkl')
#Daten lesen
load_df2 = pd.read_pickle('test_pk.pkl')
load_df2.head()

# data
#0	a
#1	b
#2	c
#3	d
#4	e

Wenn Sie den Teil "Daten" in "Gelerntes Modell" ändern, können Sie das Modell so speichern, wie es ist.

Recommended Posts

Speichern und laden Sie Daten mit joblib, pickle
LADEN SIE DATEN mit PyMysql
Verwenden Sie Django, um Tweet-Daten zu speichern
Speichern / Laden Sie die In-Memory-Datenbank mit pythons sqlite3
Ich habe versucht, die Daten mit Zwietracht zu speichern
Speichern Sie Daten zum Flashen mit STM32 Nucleo Board
Speichern Sie das Objekt in einer Datei mit pickle
Datenanalyse mit Python 2
Speichern Sie Speicher mit `` __slots__``
Daten mit TensorFlow lesen
Datenvisualisierung mit Pandas
Datenmanipulation mit Pandas!
Daten mit Pandas mischen
Datenerweiterung mit openCV
Daten mit Scipy normieren
Datenanalyse mit Python
Betten Sie Audiodaten in Jupyter ein
Zeichnen Sie Excel-Daten mit matplotlib (1)
Laden Sie verschachtelten Json mit Pandas
Künstliche Datengenerierung mit Numpy
Extrahieren Sie Twitter-Daten mit CSV
Speichern Sie Bilder mit Web Scraping
Holen Sie sich Youtube-Daten mit Python
Lernen Sie neue Daten mit PaintsChainer
Binarisieren Sie Fotodaten mit OpenCV
Zeichnen Sie Excel-Daten mit matplotlib (2)
Laden Sie den Test-Websocket mit Locust
Datenverarbeitungstipps mit Pandas
Lesen von JSON-Daten mit Python
So aktivieren Sie das Speichern von Keras Regressor mit pickle oder joblib
Speichern Sie das Ergebnis des Crawls mit Scrapy im Google Data Store
Lassen Sie uns mit Pylearn2 eine Drei-Wege-KI erstellen - Modell speichern und laden -