[LINUX] Comment créer des fichiers volumineux à haute vitesse

introduction

Quelle commande utilisez-vous pour créer un fichier vide? Dans mon cas, j'ai utilisé la commande touch si la taille du fichier était de 0, et la commande dd si j'avais besoin d'un fichier d'une certaine taille, comme indiqué ci-dessous.

Cependant, en dehors de la commande dd, j'ai appris qu'il existe une commande appelée fallocate pour créer un fichier d'une certaine taille, j'ai donc comparé les performances des deux.

[nkojima@akagi sample_files]$ touch sample.txt
[nkojima@akagi sample_files]$ dd if=/dev/zero of=./sample2.txt bs=1K count=1024
1024+0 Entrée d'enregistrement
1024+0 sortie d'enregistrement
1048576 octets(1.0 MB)Copié, 0.00580267 secondes, 181 Mo/Secondes
[nkojima@akagi sample_files]$ ls -lah
Total 1.0M
drwxrwxr-x 2 nkojima nkojima 43 21 juin 12:18 .
drwx------.5 nkojima nkojima 175 21 juin 12:17 ..
-rw-rw-r--1 nkojima nkojima 0 21 juin 12:17 sample.txt
-rw-rw-r--  1 nkojima nkojima 1.0M 21 juin 12:18 sample2.txt

Environnement utilisé pour les tests

Méthode d'essai

[root@akagi ~]# date; dd if=/dev/zero of=dd.txt bs=1M count=100; date;
Dimanche 21 juin 2020 12:48:28 JST
100+0 Entrée d'enregistrement
100+0 sortie d'enregistrement
104857600 octets(105 MB)Copié, 0.0362178 secondes, 2.9 GB/Secondes
Dimanche 21 juin 2020 12:48:29 JST
[root@akagi ~]# date; fallocate -l 100m ./fallocate.txt; date;
Dimanche 21 juin 2020 12:48:52 JST
Dimanche 21 juin 2020 12:48:52 JST

résultats de test

taille du fichier Temps de traitement de la commande dd(Secondes) Temps de traitement de la commande fallocate(Secondes)
100MB <1 <1
500MB <1 <1
1GB 1 <1
2GB 2 <1
4GB 4 <1
8GB 7 <1
16GB 15 <1

Article associé

Recommended Posts

Comment créer des fichiers volumineux à haute vitesse
Comment créer un fichier * .spec pour pyinstaller.
Comment trouver des fichiers volumineux sous Linux
[Python] Comment obtenir la fraction d'un nombre naturel à grande vitesse
One-liner qui crée un grand nombre de fichiers de test à la fois sous Linux
[Flask + Keras] Comment déduire plusieurs modèles à grande vitesse sur le serveur
PostgreSQL - Pour vous qui voulez INSÉRER à grande vitesse
Comment gratter en quelques secondes avec le sélénium de Python
Comment créer un package Conda
Comment créer un pont virtuel
Comment créer / supprimer des liens symboliques
Comment créer un Dockerfile (basique)
Comment accélérer les calculs Python
Comment créer un fichier de configuration
Comment créer une grande quantité de données de test dans MySQL? ??
Script pour télécharger les fichiers journaux AWS RDS à grande vitesse
Comment créer un clone depuis Github
[Linux] Comment subdiviser des fichiers et des dossiers
Comment accélérer la belle instanciation de soupe
Comment créer un dossier git clone
Comment créer un environnement NVIDIA Docker
Comment créer un référentiel à partir d'un média
Comment lire des fichiers CSV avec Pandas
[Python] Comment ouvrir deux fichiers ou plus en même temps
Comment télécharger automatiquement des fichiers .gpx sur Strava
Comment enregistrer toutes les photos Instagram à la fois
Comment organiser un concours au Coda Lab
Comment créer un objet fonction à partir d'une chaîne
Résumé de la façon d'importer des fichiers dans Python 3
Comment accélérer Scicit-Learn comme Conda Numpy
Comment créer des variables explicatives et des fonctions objectives
Comment créer un fichier JSON en Python
Comment créer un agent de ressources compatible OCF
Comment vérifier / extraire des fichiers dans un package RPM
Comment créer des données à mettre dans CNN (Chainer)
Comment mesurer la vitesse de la ligne depuis le terminal
Comment obtenir les fichiers dans le dossier [Python]
[Note] Comment créer un environnement de développement Ruby
Comment créer une boîte de saisie Kivy 1 ligne
Procédure de création d'application multi-plateforme avec kivy
Comment créer une API Rest dans Django
[Note] Comment créer un environnement de développement Mac
Comment créer des nombres aléatoires avec le module aléatoire de NumPy
Exemple d'agrégation d'une grande quantité de données de séries temporelles à l'aide de Python dans un petit environnement de mémoire à une vitesse raisonnable
Lire la source Python-Markdown: Comment créer un analyseur
Comment créer un article à partir de la ligne de commande
Les débutants essaient de convertir des fichiers Word en PDF à la fois
Comment créer un sous-menu avec le plug-in [Blender]
Créez des projets d'apprentissage automatique à une vitesse explosive à l'aide de modèles
Comment créer rapidement des exemples de données pour un tableau pendant le codage
[Go] Comment créer une erreur personnalisée pour Sentry
Comment charger des fichiers dans Google Drive avec Google Colaboratory
Comment utiliser des variables dans les fichiers de définition d'unité systemd
Comment télécharger des fichiers depuis Selenium of Python dans Chrome
Comment créer un référentiel local pour le système d'exploitation Linux