[PYTHON] J'ai pris un benchmark de compression h5py

Cette fois, j'ai à nouveau sauvegardé les grandes données d'image au format h5. Dans h5py, vous pouvez compresser des variables avec gzip en écrivant comme suit.

x = cv2.imread("Grande image 1.png ")
y = cv2.imread("Grande image 2.png ")
with h5py.File("out.h5", "w") as f:
    f.create_dataset("data1", data=X, compression="gzip", compression_level=4)
    f.create_dataset("data2", data=y, compression="gzip", compression_level=4)

Je ne suis pas sûr de l'heure car ce n'est pas la moyenne des résultats que j'ai fait plusieurs fois.

Niveau de compression Taille du fichier de sortie(GB) Temps de sortie(sec) Temps de chargement(sec)
Non compressé 6.83 7.7 10.1
1 1.48 81.3 53.7
4(Défaut) 1.47 107.8 57.2
9 1.46 204.3 56.6

Si les données changent, le résultat peut changer,

――Il existe une grande différence de taille de fichier entre non compressé et compressé, mais le temps requis pour l'entrée et la sortie augmente également considérablement. ――Si vous augmentez le niveau de compression, le temps de traitement sera relativement long, mais le taux de compression n'augmentera pas autant.

Je pense que c'est tout simplement la même tendance que la référence gzip, Il semble qu'il y ait des cas où la différence de temps d'entrée / sortie avec et sans compression est inquiétante.

Recommended Posts

J'ai pris un benchmark de compression h5py
J'ai essayé la détection 3D d'une voiture
Flask + PyPy J'ai pris un benchmark de vitesse avec Blueprint pour le Web à grande échelle
J'ai jeté un œil au contenu de sklearn (scikit-learn) (1) ~ Qu'en est-il de l'implémentation de CountVectorizer? ~
Un résumé divers de ce que j'ai recherché sur Ansible
J'ai créé une boîte de changement de seuil pour Pepper's Dialog
Je souhaite installer un package de Php Redis
Un résumé des choses que j'ai touchées comme un blog
J'ai essayé d'utiliser Python (3) au lieu d'un calculateur de fonctions
〇✕ J'ai fait un jeu
J'ai un sqlite3.OperationalError
Compression / décompression du fichier zip
J'ai écrit un programme de démonstration pour la transformation linéaire d'une matrice
Je veux démarrer beaucoup de processus à partir de python
J'ai fait une fonction pour vérifier le modèle de DCGAN
J'ai essayé un peu le comportement de la fonction zip
J'ai fait une image ponctuelle de l'image d'Irasutoya. (partie 2)
J'ai essayé de simuler la probabilité d'un jeu de bingo avec Python