Was machst du normalerweise?
Es wird davon ausgegangen, dass Sie einen GPU-Treiber von NVIDIA verwenden.
Es scheint, dass es als Teil eines Frameworks implementiert ist, aber ich kann es nicht finden, also schreibe ich auf, was ich in meinem Fall tue. (Wenn Sie tatsächlich eine haben, sagen Sie es mir bitte heimlich ...)
Ermitteln Sie zunächst den Status des verwendeten Speichers für jede ID, indem Sie Folgendes als Shell-Befehl eingeben.
nvidia-smi --query-gpu=index,memory.used --format=csv,noheader
Extrahieren Sie das Ergebnis, für das Sie den folgenden regulären Ausdruck verwenden möchten, im zurückgegebenen Ergebnis.
^([0-9]+),(\s+)?([0-9]+)(\s+)?MiB$
Der obige zweistufige Prozess wird als Python-Code beschrieben.
Recommended Posts