[PYTHON] Version vom Juni 2017 zum Erstellen einer Tensorflow / Keras-Umgebung auf einer GPU-Instanz von AWS

Überblick

Erstellen Sie eine Umgebung, in der Tensorflow und Keras auf einer GPU auf einer AWS-GPU-Instanz ausgeführt werden.

Ich weiß, dass diese Artikel das n-te Gebräu sind, aber trotzdem gibt es verstreute Materialien im Netz, die zu jedem Zeitpunkt geschrieben werden, und ich weiß nicht, ob sie die neuesten sind oder nicht, also werde ich die aktuelle Situation schreiben, indem ich sie durch solche Artikel teile. .. Es scheint, dass es aus der manuellen Installation von Nouveau und CUDA Toolkit freigegeben wurde, obwohl es noch einige manuelle Teile gibt.

Referenzmaterial

Verweisen Sie grundsätzlich auf den Inhalt der folgenden URL. Detaillierte Versionen usw. wurden geändert.

Umgebung

Arbeit

GPU-Instanz einrichten

Das zu wählende Betriebssystem ist Ubuntu 16.04, und die detaillierten Einstellungen werden weggelassen. Die Einschränkung hierbei ist, dass die CUDA Toolkit-Dateien sehr groß sind. Daher empfiehlt es sich, die Speichergröße etwas größer als die Standardgröße von 8 GB festzulegen.

Installieren Sie den NVIDIA-Treiber

$ sudo add-apt-repository ppa:graphics-drivers/ppa -y
$ sudo apt-get update
$ sudo apt-get install -y nvidia-375 nvidia-settings

Installieren des CUDA Toolkit

Installieren Sie das CUDA Toolkit. Dieses Mal werde ich 8.0 verwenden. Hier wird es von wget abgerufen, aber es ist dasselbe wie das Installationsprogramm, das von "Linux> x86_64> Ubuntu> 16.04> deb (local)" von der folgenden URL erhalten wurde.

CUDA Toolkit Download | NVIDIA Developer

$ wget https://developer.nvidia.com/compute/cuda/8.0/Prod2/local_installers/cuda-repo-ubuntu1604-8-0-local-ga2_8.0.61-1_amd64-deb
$ sudo dpkg -i cuda-repo-ubuntu1604-8-0-local-ga2_8.0.61-1_amd64-deb
$ sudo apt-get update
$ sudo apt-get install -y cuda nvidia-cuda-toolkit

Stellen Sie nun sicher, dass es erfolgreich mit nvidia-smi und nvcc --version installiert wurde.

CuDNN installieren

** Ergänzung: Es scheint, dass Sie direkt von der folgenden URL herunterladen können. ** ** ** $ wget http://developer.download.nvidia.com/compute/redist/cudnn/v5.1/cudnn-8.0-linux-x64-v5.1.tgz

~~ cuDNN muss von der NVIDIA-Site heruntergeladen und auf Ihre AWS-Instanz übertragen werden. ~~

~~ Klicken Sie auf den Download-Button unter der folgenden URL, um der "cuDNN-Softwarelizenzvereinbarung" zuzustimmen, und klicken Sie dann auf "Download cuDNN v5.1 (20. Januar 2017) für CUDA 8.0" "cuDNN v5.1 Library for Linux" (Dateiname: Laden Sie cudnn-8.0-linux-x64-v5.1.tgz) herunter. Anmeldung erforderlich. ~~

NVIDIA cuDNN | NVIDIA Developer

~~ Kopieren Sie die heruntergeladene Datei auf Ihre AWS GPU-Instanz. ~~

# local
$ scp cudnn-8.0-linux-x64-v5.1.tgz aws-gpu-instance:

Entpacken Sie die Dateien und legen Sie sie darin ab.

$ tar zxvf cudnn-8.0-linux-x64-v5.1.tgz 
$ sudo mv cuda/lib64/* /usr/local/cuda/lib64/
$ sudo mv cuda/include/* /usr/local/cuda/include/

Umgebungsvariablen einstellen

Fügen Sie der Einstellungsdatei der verwendeten Shell die folgenden Einstellungen hinzu. Diesmal habe ich es zu .bashrc hinzugefügt.

export LD_LIBRARY_PATH="$LD_LIBRARY_PATH:/usr/local/cuda/lib64"
export CUDA_HOME=/usr/local/cuda

Installieren Sie Tensorflow und Keras

Jetzt ist es Zeit, Tensorflow und Keras einzurichten. Ich werde das Erstellen der Python-Umgebung unterlassen, aber wenn Sie [diesem Artikel] folgen (http://qiita.com/bathtimefish/items/9f62042c7424486f514c), können Sie eine Python3-Umgebung mit pyenv / virtualenv erstellen.

$ pip install tensorflow-gpu
$ pip install keras

Testen Sie, ob eine GPU verfügbar ist

Laden Sie den Keras-Quellcode herunter und führen Sie einige der darin enthaltenen Beispiele aus.

$ git clone https://github.com/fchollet/keras.git
$ cd keras/examples
$ python mnist_cnn.py

Versuchen Sie, etwas entsprechend zu verschieben, und wenn GPU-Util mit nvidia-smi arbeitet oder wenn es deutlich schneller als die lokale oder CPU-Nutzungsversion ist, ist es in Ordnung. Danke für deine harte Arbeit.

Referenz: Fehler beim Ausprobieren

Eine der Referenz-URLs Wenn Sie wie oben beschrieben installieren, tritt aufgrund des Versionsunterschieds von cuDNN ein Fehler auf. Verwenden Sie v5.1 anstelle von v5.0.

Loaded runtime CuDNN library: 5005 (compatibility version 5000) but source was compiled with 5110 (compatibility version 5100)

Recommended Posts

Version vom Juni 2017 zum Erstellen einer Tensorflow / Keras-Umgebung auf einer GPU-Instanz von AWS
Erstellen einer Keras-Umgebung auf einer AWS E2 G2-Instanz Februar 2017
Führen Sie TensorFlow auf einer GPU-Instanz in AWS aus
Erstellen einer Umgebung zum Ausführen von ChainerMN auf einer AWS-GPU-Instanz
Versuchen Sie Tensorflow mit einer GPU-Instanz unter AWS
# 2 Erstellen Sie eine Python-Umgebung mit einer EC2-Instanz von AWS (ubuntu18.04).
[Umgebungskonstruktion] @anaconda, die Keras / Tensorflow auf der GPU ausführt
Führen Sie den Tensorflow der GPU-Version vor Ort in AWS EC2 aus
Verwenden Sie jupyter für eine GPU-Instanz in AWS
# 3 Erstellen Sie eine Python-Umgebung (Django) mit einer EC2-Instanz (ubuntu18.04) von AWS part2
Umgebungskonstruktion von TensorFlow + JupyterNotebook + Matplotlib unter Windows Version Anaconda (Version August 2017)
Ich habe versucht, TensorFlow (GPU-Version) unter Ubuntu zu installieren
Bereiten Sie die Umgebung von Chainer auf der EC2-Spot-Instanz mit AWS Lambda vor
[Version 2020] So installieren Sie Python3 auf EC2 von AWS
So erstellen Sie eine Umgebung für die Verwendung mehrerer Python-Versionen auf einem Mac
Erstellen Sie eine AWS-GPU-Instanz, um StyleNet zu trainieren
[TF] So erstellen Sie Tensorflow in einer Proxy-Umgebung
[Windows] Memo zur Verwendung von Keras auf der GPU [Tensorflow-GPU]
[Ist es explosiv?] Setup für die Verwendung der GPU-Version von Tensorflow unter OSX
Lassen Sie Keras 2.0 und OpenCV 3.2 in einer GPU-Umgebung arbeiten
Bereitstellungsverfahren in den Umgebungseinstellungen von AWS (2) Server (EC2-Instanz)
Erstellen einer TensorFlow-Umgebung, die GPUs unter Windows 10 verwendet
So erstellen Sie eine Django (Python) -Umgebung auf Docker
So erstellen Sie eine Entwicklungsumgebung für TensorFlow (1.0.0) (Mac)
So erstellen Sie eine Python-Umgebung unter Amazon Linux 2
Tensorflow / Keras-Zusammenfassung
Erstellen Sie TensorFlow unter Windows
Verwalten der Python-Nebenversion (Erstellen einer virtuellen Umgebung) unter Windows (ohne Pyenv oder WSL)
Wenn Sie glauben, dass Tensorflow Ihre GPU in AWS nicht erkennt
Einführung in Kaggles Docker Image unter Windows zum Erstellen einer Umgebung
Erstellen einer Umgebung zum Ausführen von Python-Programmen unter AWS EC2
Ich bin auf TensorFlow gestoßen (Was ist außerhalb des GPU-Speichers)?
[AWS] Flask-Anwendungsbereitstellungsversion, die versucht hat, eine Python-Umgebung mit eb zu erstellen [Elastic Beanstalk]
[Ubuntu 18.04] Aufbau einer Tensorflow 2.0.0-GPU-Umgebung
Erstellen Sie eine Python-Umgebung unter Windows
Erstellen Sie eine Python-Umgebung mit Windows
Aufbau der Ubuntu14.04 + GPU + TensorFlow-Umgebung
[Tensorflow] Aufbau der Tensorflow-Umgebung unter Windows 10
Ich habe versucht, eine Umgebung von MkDocs unter Amazon Linux zu erstellen
Erstellen Sie eine Chainer-Umgebung mit CUDA und cuDNN auf einer p2-Instanz
Umgebungskonstruktion von Tensorflow und Chainer durch Fenster mit CUDA (mit GPU)
So erstellen Sie eine Python-Umgebung mit Virtualenv unter Ubuntu 18.04 LTS
Die erste künstliche Intelligenz. So überprüfen Sie die installierte Version von Tensorflow.
So aktualisieren Sie die Python-Version von Cloud Shell in GCP
[AWS / Tello] Aufbau eines Systems zum Betrieb von Drohnen in der Cloud
So richten Sie die Entwicklungsumgebung von ev3dev ein [Windows-Version]
Shellscript zum Erstellen einer Pyenv-Umgebung auf Ubuntu auf einmal
[TensorFlow 2.x-kompatible Version] So trainieren Sie eine große Datenmenge mit TFRecord & DataSet in TensorFlow (Keras)