Comment surveillez-vous les progrès du jj?


655

ddest une merveille. Il vous permet de dupliquer un disque dur sur un autre, de mettre complètement zéro un disque dur, etc. Mais une fois que vous lancez une ddcommande, rien ne vous indique sa progression. Il reste juste là au curseur jusqu'à la fin de la commande. Alors, comment surveiller les progrès de dd?

Réponses:


729

Mise à jour 2016 : Si vous utilisez GNU coreutils> = 8.24 (par défaut à partir de Ubuntu Xenial 16.04), reportez-vous à la méthode 2 ci-dessous pour obtenir un autre moyen d'afficher la progression.


Méthode 1: en utilisant pv

Installez-le pvet mettez-le entre les commandes d'entrée / sortie uniquement dd.

Remarque : vous ne pouvez pas l'utiliser lorsque vous avez déjà commencé dd.

De la description du paquet :

pv- Pipe Viewer - est un outil basé sur un terminal permettant de surveiller la progression des données via un pipeline. Il peut être inséré dans tout pipeline normal entre deux processus pour donner une indication visuelle de la vitesse à laquelle les données transitent, de la durée de leur acheminement, de son achèvement et de son estimation, ainsi que de sa durée approximative.

Installation

sudo apt-get install pv

Exemple

dd if=/dev/urandom | pv | dd of=/dev/null

Sortie

1,74MB 0:00:09 [ 198kB/s] [      <=>                               ]

Vous pouvez spécifier la taille approximative avec le --sizesi vous voulez une estimation du temps.


Exemple En supposant qu'un disque de 2 Go soit copié à partir de / dev / sdb

Commande sans pvserait:

sudo dd if=/dev/sdb of=DriveCopy1.dd bs=4096

Commande avec pv:

sudo dd if=/dev/sdb | pv -s 2G | dd of=DriveCopy1.dd bs=4096

Sortie:

440MB 0:00:38 [11.6MB/s] [======>                             ] 21% ETA 0:02:19

Autres utilisations

Vous pouvez bien sûr utiliser pvdirectement pour diriger la sortie vers stdout:

pv /home/user/bigfile.iso | md5sum

Sortie

50,2MB 0:00:06 [8,66MB/s] [=======>         ] 49% ETA 0:00:06

Notez que dans ce cas, pvreconnaît automatiquement la taille.


Méthode 2: nouvelle statusoption ajoutée à dd(GNU Coreutils 8.24+)

dddans GNU Coreutils 8.24+ (Ubuntu 16.04 et plus récente) a une nouvelle statusoption pour afficher la progression:

Exemple

dd if=/dev/urandom of=/dev/null status=progress

Sortie

462858752 bytes (463 MB, 441 MiB) copied, 38 s, 12,2 MB/s

76
pv bigfile.iso | dd of = / dev / yourdevice
Ion Br.

18
Notez que les paramètres pour « dd » sont appropriés dans la première moitié (la partie d'entrée du tuyau) dd if=/dev/zero bs=1M count=35000 | pv | dd of=VirtualDisk.raw.
Sopalajo de Arrierez

6
pv bigfile.iso | dd of=VirtualDisk.raw bs=1M count=35000fonctionne, vérifié. @SopalajodeArrierez, les paramètres peuvent être donnés dans le deuxième jour.
SiddharthaRT

11
utiliser pv < /dev/sda > /dev/sdbsemble avoir une meilleure vitesse ( source )
Nicola Feltrin

14
Pour info sur la vitesse. Tests sur mon ordinateur avec Samsung 840 PRO SSD: dd if=/dev/urandom | pv | of=/dev/sdbdonne environ 18 Mo / s en écriture, dd if=/dev/zero | pv | of=/dev/sdbenviron 80 Mo / s, et tout à fait ancien dd if=/dev/zero of=/dev/sdbdonne environ 550 Mo / s (vitesse d’écriture maximale proche du SSD). Tous avec bs=4096000.
Tedd Hansen

462

De HowTo: Surveiller la progression de jj

Vous pouvez surveiller la progression de dd sans l'arrêter à l'aide de la killcommande.

Pour voir la progression de ddson exécution, ouvrez un autre terminal et entrez:

sudo kill -USR1 $(pgrep ^dd)

Cela affichera la ddprogression dans la ddfenêtre du terminal sans interrompre le processus. Si vous utilisez BSD ou OS X, utilisez INFOplutôt que USR1. Le USR1signal fin dd.

Si vous souhaitez recevoir des mises à jour régulières sur les ddprogrès, entrez:

watch -n5 'sudo kill -USR1 $(pgrep ^dd)'

watchanalysera le ddprocessus toutes les -n secondes ( -n5= 5 secondes) et signalera sans l’arrêter.

Notez les guillemets simples appropriés dans les commandes ci-dessus.


19
Cela a fonctionné, mais quelques commentaires. Tout d'abord, je ne suis pas sûr de savoir pourquoi vous avez échappé à vos backticks (si c'est pour l'éditeur de SO, vous l'avez mal fait). Deuxièmement, je vous recommande d'utiliser ^ dd $, juste au cas où quelque chose d'autre fonctionne avec le préfixe dd. Enfin, vous n'avez pas besoin de sudo pour envoyer le signal USR1. Sinon, bonne réponse, +1.
Gsingh2011

22
NB! De cette façon, les dd fonctionnent sous OSX
Maxim Kholyavkin

26
@Speakus Vous devez utiliser kill -INFO $(pgrep ^dd$)sur des systèmes BSD (comme OSX).
Torben

20
sudo pkill -usr1 ddest plus facile à retenir, fonctionne parfaitement (du moins sur Ubuntu 14.04) et est moins facile à taper.
Phizes

21
J'aime ça parce que j'ai peur de pvralentir le transfert, comme l'a montré TeddHansen. Aussi, je parie que beaucoup de gens sont en train de googler ça parce qu'ils ont déjà commencé l' ddopération;)
sudo le

103

Quelques exemples d’utilisations pratiques avec pvmoins de dactylographie ou plus de progrès que d’autres réponses:

Tout d'abord, vous devrez installer pv, avec la commande:

sudo apt-get install pv

Voici quelques exemples:

pv -n /dev/urandom | dd of=/dev/null
pv -tpreb source.iso | dd of=/dev/BLABLA bs=4096 conv=notrunc,noerror

Remarque: le premier échantillon contient 5 caractères moins la frappe dd if=/dev/urandom | pv | dd of=/dev/null.

Et mon préféré pour cloner un lecteur de disque (remplacez X par des lettres de lecteur):

(pv -n /dev/sdX | dd of=/dev/sdX bs=128M conv=notrunc,noerror) 2>&1 | dialog --gauge "Running dd command (cloning), please wait..." 10 70 0

capture d'écran

source: http://www.cyberciti.biz/faq/linux-unix-dd-command-show-progress-while-coping/

Aussi pour m'archiver moi-même.


3
vous aurez besoin d'installer aussi dialogavec la commandeapt-get install dialog
k7k0

7
Aimez l' dialogexemple. SÉRÉNITÉ MAINTENANT !
Alex Gray

Pouvez-vous seulement appeler ce dialogue avec python?
mikeymop

1
merci de cette réponse, découvert que dialogcela aidera incroyablement à écrire des scripts shell: D
holms

2
brew install pv dialogpour Mac. Aussi ce monsieur calcule avec style. Bravo.
evilSnobu

62

Utilisez Ctrl+ Shift+ tant Tqu’il ddest en cours d’exécution, et il affichera la progression (en octets):

load: 1.51  cmd: dd 31215 uninterruptible 0.28u 3.67s
321121+0 records in
321120+0 records out
164413440 bytes transferred in 112.708791 secs (1458745 bytes/sec)

5
Ça ne marche pas pour moi sur Kubuntu Trusty. Reliures de touches potentiellement conflictuelles?
Jamadagni

14
Très bon moyen. Il fonctionne sous OSX, mais pas sous Ubuntu 14.04
Maxim Kholyavkin

1
La première ligne est générée par OS X, seules les 3 dernières lignes proviennent de dd.
Itay Grudev

3
Vous devriez pouvoir utiliser kill -INFO sur un BSD comme OS X
macshome

3
Cela ne fonctionne pas sur Ubuntu. Ctrl-T / Ctrl-Maj-T uniquement en sortie ^Tsur le terminal (à l'exception de nombreuses applications pour terminaux qui interceptent Ctrl-Maj-T et ouvrent un nouvel onglet). Beaucoup de chercheurs sur OSX / BSD apprécieront peut-être cette réponse, mais il faut préciser que ce n'est pas pour Ubuntu (ou GNU / LInux en général?)
mwfearnley

60

Par souci d'exhaustivité:

La version 8.24 de GNU coreutils inclut un correctif pour dd introduisant un paramètre permettant d’imprimer la progression.

Le commit introduisant ce changement a le commentaire suivant:

dd: nouveau statut = niveau de progression pour imprimer les statistiques périodiquement

De nombreuses distributions, y compris Ubuntu 16.04.2 LTS, utilisent cette version.


je veux juste ajouter comment j'ai compilé 8.24 coreutils: apt install build-essentialet apt-get build-dep coreutils, puis téléchargez coreutils-8.25.tar.xz, tar xvf coreutils-8.25.tar.xz configure --prefix=$HOME/usr/localpuis lancez make. Nouvellement compilé ddsera sous srcdir. Vous pouvez le copier dans / bin et remplacer un
fichier

2
Cool! J'aime cette fonctionnalité. Et cela a pris à peu près 30 ans pour apprendre à dd à imprimer les résultats du progrès. :-)
Johannes Overmann

Quel soulagement! J'ajouterai immédiatement cet argument dans un alias de shell dd.
Stephan Henningsen

Notez que l'état imprimera parfois avec deux nombres, un en unités SI et la valeur équivalente en unités binaires (par exemple 10 Mo, 9,5 Mio).
palswim

33

Le mieux est d'utiliser http://dcfldd.sourceforge.net/, il est facile à installer via apt-get


3
merci pour le pointeur sur dcfldd, très compatible avec dd mais quelques bonnes nouvelles fonctionnalités. J'aime particulièrement le progrès standard.
Floyd

4
Pourquoi dcfldd n'est pas plus connu est un mystère complet pour moi.
Freedom_Ben

28
probablement pour son nom.
Giovanni Toraldo

Il a les options ddet option status=onpar défaut pour les messages de progression statusinterval=N(N en blocs) pour la fréquence de mise à jour des messages et sizeprobe=[if|of]pour un indicateur de pourcentage. Je vais alias it to DD:)
kavadias

25

Le statut de progression natif a été ajouté au jj !!!

La nouvelle version de Coreutils (8.24) ajoute un statut de progression à l' ddoutil:

Utilisation sur Xubuntu 15.10:

Ouvrez un terminal et tapez ces commandes:

wget ftp://ftp.gnu.org/pub/gnu/coreutils/coreutils-8.24.tar.xz
tar -xf coreutils-8.24.tar.xz
cd coreutils-8.24
./configure && make -j $(nproc)

Exécuter en ddtant que root:

sudo su
cd src
./dd if=/dev/sdc of=/dev/sda conv=noerror status=progress

Vous verrez: octets, secondes et vitesse (octets / seconde).

Pour vérifier les versions de dd:

Originaire de:

dd --version

Nouveau:

cd coreutils-8.24/src
./dd --version

18

Si vous avez déjà lancé dd et si vous écrivez un fichier, par exemple lors de la création d'une copie d'une clé USB sur disque, vous pouvez utiliser la commande watch pour observer en permanence la taille du fichier de sortie afin de voir les modifications et d'estimer l'achèvement.

watch ls -l /pathtofile/filename

Pour ne voir que la taille du fichier (vue h-humaine):

watch ls -sh /pathtofile/filename

Aussi une méthode viable ...
ζ--

3
Utile, bien que cela ne fonctionne pas nécessairement si vous redirigez la sortie dd vers autre chose qu'un fichier (par exemple, gzip'ing avant de l'écrire sur le disque).
Ponkadoodle

Ne fonctionne pas sur les fichiers spéciaux.
Johannes Overmann

13

Le dd | pv | ddtrio a fait ma copie de 50 Go vm prendre 800 secondes, par opposition à 260 secondes en utilisant seulement dd. Avec ce pipeline, au moins, pv n'a aucune idée de la taille du fichier d'entrée et ne peut donc pas vous dire jusqu'à quel point vous êtes, il n'y a donc aucun inconvénient à le faire comme suit, et vous obtenez un bel avantage en termes de vitesse:

Je voudrais éviter pv sur quelque chose de grand, et (si vous utilisez Bash):

Control-Z le processus DD

bgpour le mettre en arrière-plan. Observez que vous bgobtiendrez une sortie comme [1] 6011où ce dernier numéro est un identifiant de processus. Alors faites:

while true; do kill -USR1 process_id ; sleep 5; done

où id_processus est l'identificateur de processus que vous avez observé. Appuyez sur Control-C lorsque vous voyez quelque chose comme:

[1]+  Done dd if=/path/file.qcow2 of=/dev/kvm/pxetest bs=4194304 conv=sparse
-bash: kill: (60111) - No such process

Vous avez terminé.

Edit: Administrateur de systèmes stupide! Automatise ta vie, ne travaille pas! Si j'ai un long processus que je veux surveiller, voici un guide qui se chargera de toute l'enchilada pour vous; mettez tout cela sur une seule ligne:

 dd if=/path/to/bigimage of=/path/to/newimage conv=sparse bs=262144 & bgid=$!; while true; do sleep 1; kill -USR1 $bgid || break; sleep 4; done

Vous pouvez, bien sûr, le scripter, peut-être créer $ 1 votre fichier d'entrée et $ 2 votre fichier de sortie. Ceci est laissé comme un exercice pour le lecteur. Notez que vous avez besoin de ce peu de sommeil avant le kill ou le kill peut mourir en essayant d'envoyer un signal à dd quand il n'est pas encore prêt. Ajustez votre sommeil comme vous le souhaitez (peut-être même supprimez-vous complètement le deuxième sommeil).

Bash- FTW! :-)


1
Compressez la whileboucle. Utilisez watch.
muru

1
@muru ça dépend. Je ne connais pas votre système, mais sur CentOS7 *, le résultat est un peu brouillé. c'est lisible mais ça n'a pas l'air ordonné. En outre, il écrase votre sortie précédente de sorte que vous perdez l'historique de la vitesse de votre disque; Le mien varie entre 20 Mo / s et 300 Mo / s. Il est intéressant de regarder les chiffres varient et instructif aussi. Je pense que l’écart important est en partie dû au fait que les thin pools LVM ont augmenté l’allocation pour un LV auquel j’écris. * oui c'est un forum ubuntu mais je suis arrivé ici à la recherche de "dd monitor progress". C'est le premier résultat sur Google.
Mike S

Oh, je voulais dire dans un autre terminal ou une autre fenêtre d'écran, cours sudo watch pkill dd. Ensuite, regardez ddles statistiques confortablement.
muru

Pkill n'enverra-t-il pas SIGTERM par défaut? Je ne veux même pas expérimenter, car pgrep dd propose 3 pid lors de l'exécution d'un seul dd: kthreadd, oddjob et du dd. J'ai peur de ce que pkill va faire. Vous pouvez envoyer le signal -USR1 avec pkill mais encore une fois, je ne sais pas s'il est prudent d'envoyer au thread du noyau ou à obbjob. La commande watch semble plus nette, mais il semble y avoir beaucoup d’étapes supplémentaires pour éviter une boucle while. Généralement, si je fais un dd dans une fenêtre, je vais faire quelque chose tout de suite après dans le même shell. La boucle while est sûre: vous savez EXACTEMENT quel pid reçoit le signal.
Mike S

la plupart du temps, je me moque de savoir quels pids reçoivent le signal, puisque je les utilise watch pkill -USR1 -x dd. Puisque j'utilise aussi watchpour d'autres tâches similaires, celle-ci est naturelle.
muru


7

Le plus simple est:

 dd if=... of=... bs=4M status=progress oflag=dsync

oflag=dsyncmaintiendra votre écriture synchronisée afin que les informations de status=progresssoient plus précises. Cependant, cela pourrait être un peu plus lent.



Merci pour cela! Je suis en train de créer un ddm2 distant et le bs = 4M a augmenté mon transfert d'un facteur 20 et l'indication de progression est fantastique.
Lonnie Best

6

Sur Ubuntu 16.04

Ubuntu 16.04 est fourni avec dd (coreutils) version 8.25 . Par conséquent, l'option status=progress est prise en charge :-)

Pour l'utiliser, il suffit d'ajouter status=progressavec votre ddcommande.

Exemple :

dd bs=4M if=/media/severus/tools-soft/OperatingSystems/ubuntu-16.04-desktop-amd64.iso of=/dev/null status=progress && sync

Donne le statut de

1282846183 bytes (1.2 GiB, 1.1 GiB) copied, 14.03 s, 101.9 MB/s

entrez la description de l'image ici


5

Utilisez l'option status=progresspour obtenir l'avancement pendant le transfert.

En outre, conv=fsyncaffichera les erreurs d'E / S.

Exemple:

sudo dd if=mydistrib.iso of=/dev/sdb status=progress conv=fsync


3

J'ai créé le wrapper bash ddqui servira pvà montrer les progrès. Mettez-le dans votre .bashrcet utilisez ddcomme d'habitude:

# dd if=/dev/vvg0/root of=/dev/vvg1/root bs=4M
    2GB 0:00:17 [ 120MB/s] [===========================================================>] 100%            
0+16384 records in
0+16384 records out
2147483648 bytes (2.1 GB) copied, 18.3353 s, 117 MB/s

La source:

dd()
{
    local dd=$(which dd); [ "$dd" ] || {
        echo "'dd' is not installed!" >&2
        return 1
    }

    local pv=$(which pv); [ "$pv" ] || {
        echo "'pv' is not installed!" >&2
        "$dd" "$@"
        return $?
    }

    local arg arg2 infile
    local -a args
    for arg in "$@"
    do
        arg2=${arg#if=}
        if [ "$arg2" != "$arg" ]
        then
            infile=$arg2
        else
            args[${#args[@]}]=$arg
        fi
    done

    "$pv" -tpreb "$infile" | "$dd" "${args[@]}"
}

Bon moyen mais cela ne fonctionne pas avec des commandes comme sudo ou time.
Maxim Kholyavkin

1
Mettez avec ce sur / dans / usr local / bin / dd: #!/bin/bash. En bas: tmp=":${PATH}:"; tmp=${tmp/:/usr/local/bin:/:}; tmp=${tmp%:}; PATH=${tmp#:}; dd "$@"ou vous pouvez souhaiter coder en dur l' ddemplacement. Alors utilisez local dd=/usr/bin/dd. Ne pas oublier d'ajouter peu exécutable: chmod +x /usr/local/dd.
midenok

2

Alors aujourd’hui, j’étais un peu frustré d’essayer de courir killen boucle pendant que je ddcourais, et j’ai trouvé cette méthode pour les exécuter en parallèle, facilement:

function vdd {
    sudo dd "$@" &
    sudo sh -c "while pkill -10 ^dd$; do sleep 5; done"
}

Maintenant, utilisez vddn’importe où vous le feriez normalement dd(tous les arguments sont passés directement) et vous obtiendrez un rapport d’avancement imprimé toutes les 5 secondes.

Le seul inconvénient est que la commande ne retourne pas immédiatement lorsque dd est terminé; il est donc possible que cette commande vous laisse attendre 5s de plus après que dd soit revenu avant de s'en rendre compte.


2

Celui-ci oblige dd à fournir des statistiques toutes les 2 secondes, valeur par défaut pour watch:

watch killall -USR1 dd

Pour passer de toutes les 2 secondes à toutes les 5 secondes, ajoutez l'option -n 5 comme ceci:

watch -n 5 killall -USR1 dd

2

Juste au cas où quelqu'un de CentOS Land trouverait ce fil ...

L'option 'status = progress' fonctionne avec CentOS 7.5 et 7.6

La réponse ci-dessus de @davidDavidson implique que la fonctionnalité a été ajoutée récemment dans Coreutils 8.24.

La version 8.24 de GNU coreutils comprend un patch pour dd introduisant un paramètre permettant d’imprimer la progression.

Cela peut être le cas, mais CentOS pourrait ne pas suivre le même schéma de gestion de versions.

La version de Coreutils fournie avec CentOS 7.6.1810 est la suivante:

coreutils-8.22-23.el7.x86_64 : A set of basic GNU tools commonly used in shell scripts

Et la version de dd installée est la suivante:

[root@hostname /]# dd --version
dd (coreutils) 8.22
Copyright (C) 2013 Free Software Foundation, Inc.
License GPLv3+: GNU GPL version 3 or later <http://gnu.org/licenses/gpl.html>.
This is free software: you are free to change and redistribute it.
There is NO WARRANTY, to the extent permitted by law.

Written by Paul Rubin, David MacKenzie, and Stuart Kemp.

Cela montre les versions 8.22 .

Cependant, j'ai testé le 'status = progress' avec dd sur CentOS 7.5 et CentOS 7.6 (les deux avec la version 8.22 de Coreutils) et tout fonctionne correctement.

Je ne sais pas pourquoi RedHat a choisi d’utiliser une version aussi ancienne de Coreutils, mais la fonctionnalité existe avec la version 8.22.


1

Comme mentionné ci-dessus, au moins avec le "dd" de GNU coreutils, ou busybox, il répondra à un signal USR1 en imprimant des informations de progression à stderr.

J'ai écrit un petit script de wrapper pour dd qui affiche un indicateur de pourcentage complet et tente de ne pas interférer avec le processus ou le mode de fonctionnement de dd. Vous pouvez le trouver sur github:

http://github.com/delt01/dd_printpercent

Malheureusement, cette astuce SIGUSR1 ne fonctionne qu'avec GNU dd (du paquet coreutils) ou le mode "dd" de busybox avec cette fonctionnalité spécifique activée au moment de la compilation. Cela ne fonctionne pas avec le 'stock' fourni avec la plupart des systèmes BSD, y compris FreeBSD et OS X ... :(


Le lien est mort.
ishmael

1

Vous pouvez regarder la progression de n’importe quel programme coreutils en utilisant progress - Coreutils Progress Viewer.

Il peut surveiller:

cp mv dd tar chat rsync grep fgrep egrep coupe trier md5sum sha1sum sha224sum sha256sum sha384sum sha512sum adb gzip gunzip

Vous pouvez voir la page de manuel

Vous pouvez l'utiliser dans une fenêtre de terminal séparée pendant l'exécution de la commande ou le lancer avec la commande dd:

dd if=/dev/sda of=file.img & progress -mp $!

Ici, &forks la première commande et continue immédiatement au lieu d'attendre la fin de la commande.

La commande progress est lancée avec: -mafin qu’elle attende jusqu’à la fin du processus surveillé, -pelle surveille un pid donné et $!est la dernière commande pid.

Si vous publiez dd avec sudo, vous devez aussi progresser:

sudo dd if=/dev/sda of=file.img &
sudo progress -m
# with no -p, this will wait for all coreutil commands to finish
# but $! will give the sudo command's pid
En utilisant notre site, vous reconnaissez avoir lu et compris notre politique liée aux cookies et notre politique de confidentialité.
Licensed under cc by-sa 3.0 with attribution required.