[PYTHON] [PyTorch] CPU vs. GPU vs. TPU [Feinabstimmung]
Hintergrund
[Lerne beim Machen! Development Deep Learning von PyTorch](https://www.amazon.co.jp/%E3%81%A4%E3%81%8F%E3%82%8A%E3%81%AA%E3%81%8C% E3% 82% 89% E5% AD% A6% E3% 81% B6% EF% BC% 81PyTorch% E3% 81% AB% E3% 82% 88% E3% 82% 8B% E7% 99% BA% E5% B1% 95% E3% 83% 87% E3% 82% A3% E3% 83% BC% E3% 83% 97% E3% 83% A9% E3% 83% BC% E3% 83% 8B% E3% 83% B3% E3% 82% B0-% E5% B0% 8F% E5% B7% 9D-% E9% 9B% 84% E5% A4% AA% E9% 83% 8E-ebook / dp / B07VPDVNKW) Ich habe versucht, mit Google Colaboratory eine Feinabstimmung von -5 vorzunehmen. (Sie können den gesamten Code unter [Author GitHub] sehen (https://github.com/YutaroOgawa/pytorch_advanced/blob/master/1_image_classification/))
wichtiger Punkt
- Der Inhalt von make_folders_and_data_downloads.ipynb muss innerhalb von 1-5 ipynb ausgeführt werden.
- Sie müssen einen utils-Ordner im ipynb-Ordner erstellen und die Dateien in den utils-Ordner in GitHub kopieren.
Ausführungsergebnis
CPU
Es dauerte ungefähr 10 Minuten.
GPU
Es dauert keine 20 Sekunden.
TPU
Dies dauerte ebenfalls etwa 10 Minuten.
Kommentar
――Die GPU war extrem schnell. Die CPU hat jedoch nicht viel Zeit in Anspruch genommen, als ich erwartet hatte. Die Ursache für die Niederlage ist, dass die TPU als CPU behandelt wurde. Spätere Untersuchungen ergaben, dass Sie, wenn Sie TPU mit PyTorch verwenden möchten, Code schreiben müssen, um dies zu ermöglichen. Ich werde es das nächste Mal versuchen.
- [Buch](https://www.amazon.co.jp/%E3%81%A4%E3%81%8F%E3%82%8A%E3%81%AA%E3%81%8C%E3% 82% 89% E5% AD% A6% E3% 81% B6% EF% BC% 81PyTorch% E3% 81% AB% E3% 82% 88% E3% 82% 8B% E7% 99% BA% E5% B1% 95% E3% 83% 87% E3% 82% A3% E3% 83% BC% E3% 83% 97% E3% 83% A9% E3% 83% BC% E3% 83% 8B% E3% 83% B3% E3% 82% B0-% E5% B0% 8F% E5% B7% 9D-% E9% 9B% 84% E5% A4% AA% E9% 83% 8E-ebook / dp / B07VPDVNKW), AWS EC2 GPU Ich habe versucht zu verwenden, aber es scheint, dass diese Art der Verarbeitung sogar mit einem nicht aufgeladenen Google Colaboratory betrieben werden kann.