btrfs/036: fix sporadic failures when unmounting scratch filesystem
[xfstests-dev.git] / common / dump
1 ##/bin/bash
2 # SPDX-License-Identifier: GPL-2.0
3 # Copyright (c) 2000-2002,2005 Silicon Graphics, Inc.  All Rights Reserved.
4 #
5 # Functions useful for xfsdump/xfsrestore tests
6
7 # --- initializations ---
8 rm -f $seqres.full
9
10 if [ -n "$DEBUGDUMP" ]; then
11         _dump_debug=-v4
12         _restore_debug=-v4
13         _invutil_debug=-d
14
15         # Use dump/restore in qa directory (copy them here) for debugging
16         export PATH="$here:$PATH"
17         export __XFSDUMP_PROG=$(type -P xfsdump)
18         export XFSDUMP_PROG="$__XFSDUMP_PROG -e"
19         export XFSRESTORE_PROG=$(type -P xfsrestore)
20         export XFSINVUTIL_PROG=$(type -P xfsinvutil)
21         [ -x $here/xfsdump ]    && echo "Using xfstests' xfsdump for debug"
22         [ -x $here/xfsrestore ] && echo "Using xfstests' xfsrestore for debug"
23         [ -x $here/xfsinvutil ] && echo "Using xfstests' xfsinvutil for debug"
24 fi
25
26 [ "$XFSDUMP_PROG" = "" ]    && _notrun "xfsdump not found"
27 [ "$XFSRESTORE_PROG" = "" ] && _notrun "xfsrestore not found"
28 [ "$XFSINVUTIL_PROG" = "" ] && _notrun "xfsinvutil not found"
29
30 # status returned for not run tests
31 NOTRUNSTS=2
32
33 # name those directories
34 dump_file=$tmp.dumpfile
35 # dump_file=$here/dumpfile #TEMP OVERRIDE DUMP FILE
36 dump_sdir=dumpdir
37 dump_dir=$SCRATCH_MNT/$dump_sdir
38 restore_sdir=restoredir
39 restore_dir=$SCRATCH_MNT/$restore_sdir
40 multi=3
41 dumptape=$TAPE_DEV
42 media_label="stress_tape_media"
43 session_label="stress_$seq"
44
45 nobody=4 # define this uid/gid as a number
46 do_quota_check=true # do quota check if quotas enabled
47
48 # start inventory from a known base - move it aside for test
49 for dir in /var/xfsdump/inventory /var/lib/xfsdump/inventory; do
50     if [ -d $dir ]; then
51         [ -d $dir.$seq ] && rm -rf $dir.$seq
52         mv $dir $dir.$seq
53     fi
54 done
55
56 have_mtvariable=false
57 [ `uname` = "Linux" ] && have_mtvariable=true
58
59
60 _require_multi_stream()
61 {
62     $XFSDUMP_PROG -JF -f /dev/null -f /dev/null 2> /dev/null |
63     grep -q "too many -f arguments" &&
64     _notrun "xfsdump multi-stream support required"
65 }
66
67 _require_legacy_v2_format()
68 {
69     $XFSDUMP_PROG 2>&1 |
70     grep -q "generate format 2 dump" ||
71     _notrun "xfsdump -K option required"
72
73     $XFSRESTORE_PROG 2>&1 |
74     grep -q "force use of format 2 generation" ||
75     _notrun "xfsrestore -K option required"
76 }
77
78 #
79 # do a remote/local mt
80 #
81 _mt()
82 {
83     op=$1
84     if _isrmt; then
85         # REMOTE
86         _rmtdev=`echo $dumptape | $AWK_PROG -F: '{print $2}'`
87
88         if echo $dumptape | grep '@' >/dev/null; then
89             _spec=`echo $dumptape | $AWK_PROG -F: '{print $1}'`
90             _rmtuser=`echo $_spec | $AWK_PROG -F@ '{print $1}'`
91             _rmthost=`echo $_spec | $AWK_PROG -F@ '{print $2}'`
92             rsh -n -l $_rmtuser $_rmthost "mt -t $_rmtdev $op"
93         else
94             _rmthost=`echo $dumptape | $AWK_PROG -F: '{print $1}'`
95             rsh -n $_rmthost "mt -t $_rmtdev $op"
96         fi
97     else
98         #LOCAL
99         mt -t $dumptape $op
100     fi
101 }
102
103 _check_onl()
104 {
105     _limit=10
106     i=0
107     while [ $i -lt $_limit ]; do
108         echo "Checking online..." >>$seqres.full
109         if _mt status >$tmp.status 2>&1; then
110             break;
111         else
112             sleep 1
113         fi
114         let i=$i+1
115     done
116
117
118     if [ $i -eq $_limit ]; then
119         echo "ERROR: mt -f $dumptape failed"
120         cat $tmp.status
121
122         _notrun "mt -f $dumptape failed"
123     fi
124
125
126     if egrep -i 'onl|ready' $tmp.status | grep -iv 'not ready' >/dev/null; then
127         :
128     else
129         echo "ERROR: $dumptape is not online"
130         cat $tmp.status
131
132         _notrun "dumptape, $dumptape, is not online"
133     fi
134 }
135
136 _wait_tape()
137 {
138     echo "Wait for tape, $dumptape, ..." >>$seqres.full
139
140     i=0
141     while [ $i -lt 20 ]; do
142         echo "Checking status..." >>$seqres.full
143         if _mt status 2>&1 | tee -a $seqres.full | egrep -i "onl|ready" >/dev/null; then
144             break;
145         else
146             sleep 1
147         fi
148         let i=$i+1
149     done
150 }
151
152 #
153 # Keep trying so we know we really have rewound
154 #
155 _rewind()
156 {
157     echo "Initiate rewind..." >>$seqres.full
158     _wait_tape
159     _mt rewind >/dev/null
160     _wait_tape
161 }
162
163 #
164 # Do a custom erase because:
165 # (i) some machines don't support it
166 # (ii) some machines take forever to do it
167 #
168 _erase_soft()
169 {
170     echo "Erasing tape" | tee -a $seqres.full
171     _rewind
172     _mt weof 3
173     _rewind
174 }
175
176 _erase_hard()
177 {
178     echo "Erasing tape" | tee -a $seqres.full
179     _mt erase
180 }
181
182 _isrmt()
183 {
184     echo $dumptape | grep ':' >/dev/null
185 }
186
187 #
188 # Get tape ready
189 #
190 _set_variable()
191 {
192     $have_mtvariable || return
193
194     if _isrmt; then
195         :
196     else
197         # LOCAL
198         echo "Put scsi tape driver into variable block size mode"
199         mt -f $dumptape setblk 0
200     fi
201 }
202
203 _require_tape()
204 {
205     dumptape=$1
206
207     if [ -z "$dumptape" -o "@" == "$dumptape" ]; then
208         _notrun "No dump tape specified"
209     fi
210
211     _check_onl
212     _set_variable
213 }
214
215 _wipe_fs()
216 {
217     _require_scratch
218
219     _scratch_mkfs_xfs >>$seqres.full || _fail "mkfs failed"
220     _scratch_mount >>$seqres.full
221 }
222
223 #
224 # Cleanup created dirs and files
225 # Called by trap
226 #
227 _cleanup_dump()
228 {
229     # Some tests include this before checking _supported_fs xfs
230     # and the sleeps & checks here get annoying
231     if [ "$FSTYP" != "xfs" ]; then
232        return
233     fi
234
235     cd $here
236
237     if [ -n "$DEBUGDUMP" ]; then
238         # save it for inspection
239         for dir in /var/xfsdump/inventory /var/lib/xfsdump/inventory; do
240             [ -d $dir ] || continue
241             tar -cvf $seqres.inventory.tar $dir
242             ls -nR $dir >$seqres.inventory.ls
243         done
244     fi
245
246     # put inventory dir back
247     for dir in /var/xfsdump/inventory /var/lib/xfsdump/inventory; do
248         [ -d $dir.$seq ] || continue
249         rm -rf $dir             # get rid of new one
250         mv $dir.$seq $dir
251     done
252
253     if [ -f ${RESULT_DIR}/require_scratch ] && [ $status -ne $NOTRUNSTS ]; then
254         # Sleep added to stop _check_scratch_fs from complaining that the
255         # scratch_dev is still busy
256         sleep 10
257
258         _check_scratch_fs
259     fi
260 }
261
262 #
263 # ensure that bulkstat data will
264 # match with incore data
265 # by forcing disk data to be written out
266 #
267 _stable_fs()
268 {
269     _saveddir=`pwd`; cd /
270     _scratch_unmount >>$seqres.full || _fail "unmount failed"
271     _scratch_mount >>$seqres.full
272     cd $_saveddir
273 }
274
275 #
276 # Run fsstress to create a mixture of
277 # files,dirs,links,symlinks
278 #
279 # Pinched from test 013.
280 # Takes one argument, the number of ops to perform
281 #
282 _create_dumpdir_stress_num()
283 {
284     echo "Creating directory system to dump using fsstress."
285
286     _count=$1
287     _wipe_fs
288
289     _param="-f link=10 -f creat=10 -f mkdir=10 -f truncate=5 -f symlink=10"
290     rm -rf $dump_dir
291     if ! mkdir $dump_dir; then
292         echo "    failed to mkdir $dump_dir"
293         status=1
294         exit
295     fi
296
297     # Remove fsstress commands that aren't supported on all xfs configs so that
298     # we always execute exactly the same sequence of operations no matter how
299     # the filesystem is configured
300     if $FSSTRESS_PROG | grep -q clonerange; then
301         FSSTRESS_AVOID="-f clonerange=0 $FSSTRESS_AVOID"
302     fi
303     if $FSSTRESS_PROG | grep -q deduperange; then
304         FSSTRESS_AVOID="-f deduperange=0 $FSSTRESS_AVOID"
305     fi
306     if $FSSTRESS_PROG | grep -q copyrange; then
307         FSSTRESS_AVOID="-f copyrange=0 $FSSTRESS_AVOID"
308     fi
309     if $FSSTRESS_PROG | grep -q splice; then
310         FSSTRESS_AVOID="-f splice=0 $FSSTRESS_AVOID"
311     fi
312
313     echo ""
314     echo "-----------------------------------------------"
315     echo "fsstress : $_param"
316     echo "-----------------------------------------------"
317     if ! $here/ltp/fsstress $_param -s 1 $FSSTRESS_AVOID -n $_count -d $dump_dir >$tmp.out 2>&1
318     then
319         echo "    fsstress (count=$_count) returned $? - see $seqres.full"
320
321         echo "--------------------------------------"       >>$seqres.full
322         echo "output from fsstress:"                        >>$seqres.full
323         echo "--------------------------------------"       >>$seqres.full
324         cat $tmp.out                                        >>$seqres.full
325         status=1
326     fi
327
328     _stable_fs
329 }
330
331 _create_dumpdir_stress() {
332         _create_dumpdir_stress_num 240
333 }
334
335 _mk_fillconfig1()
336 {
337     cat <<End-of-File >$tmp.config
338 # pathname      size in bytes   owner   group
339 #
340 small           10      $nobody $nobody
341 big             102400  daemon  sys
342 sub/small       10      bin     bin
343 sub/big         102400  $nobody sys
344 #
345 sub/a           1       $nobody $nobody
346 sub/b           2       $nobody $nobody
347 sub/c           4       $nobody $nobody
348 sub/d           8       $nobody $nobody
349 sub/e           16      $nobody $nobody
350 sub/f           32      $nobody $nobody
351 sub/g           64      $nobody $nobody
352 sub/h           128     $nobody $nobody
353 sub/i           256     $nobody $nobody
354 sub/j           512     $nobody $nobody
355 sub/k           1024    $nobody $nobody
356 sub/l           2048    $nobody $nobody
357 sub/m           4096    $nobody $nobody
358 sub/n           8192    $nobody $nobody
359 #
360 sub/a00         100     $nobody $nobody
361 sub/b00         200     $nobody $nobody
362 sub/c00         400     $nobody $nobody
363 sub/d00         800     $nobody $nobody
364 sub/e00         1600    $nobody $nobody
365 sub/f00         3200    $nobody $nobody
366 sub/g00         6400    $nobody $nobody
367 sub/h00         12800   $nobody $nobody
368 sub/i00         25600   $nobody $nobody
369 sub/j00         51200   $nobody $nobody
370 sub/k00         102400  $nobody $nobody
371 sub/l00         204800  $nobody $nobody
372 sub/m00         409600  $nobody $nobody
373 sub/n00         819200  $nobody $nobody
374 #
375 sub/a000        1000    $nobody $nobody
376 sub/e000        16000   $nobody $nobody
377 sub/h000        128000  $nobody $nobody
378 sub/k000        1024000 $nobody $nobody
379 End-of-File
380 }
381
382 _mk_fillconfig2()
383 {
384     cat <<End-of-File >$tmp.config
385 # pathname      size in bytes
386 #
387 smalll          10      $nobody $nobody
388 biggg           102400  $nobody $nobody
389 sub/smalll      10      $nobody $nobody
390 sub/biggg       102400  $nobody $nobody
391 End-of-File
392 }
393
394 _mk_fillconfig_perm()
395 {
396     cat <<End-of-File >$tmp.config
397 # pathname      size/dir  user group mode
398 #
399 file_suid       10      $nobody $nobody 04777
400 file_guid       10      $nobody $nobody 02777
401 file_sticky     10      $nobody $nobody 01777
402 file_mix1       10      $nobody $nobody 761
403 file_mix2       10      $nobody $nobody 642
404 dir_suid        d       $nobody $nobody 04777
405 dir_guid        d       $nobody $nobody 02777
406 dir_sticky      d       $nobody $nobody 01777
407 dir_mix1        d       $nobody $nobody 761
408 dir_mix2        d       $nobody $nobody 642
409 End-of-File
410 }
411
412 _mk_fillconfig_ea()
413 {
414     cat <<End-of-File >$tmp.config
415 # pathname      size    user    group    perm   name value namespace
416 #
417 smalll          10      $nobody $nobody  777    attr1 some_text   user
418 biggg           102400  $nobody $nobody  777    attr2 some_text2  root
419 sub/smalll      10      $nobody $nobody  777    attr3 some_text3  user
420 sub/biggg       102400  $nobody $nobody  777    attr4 some_text4  root
421 dir             d       $nobody $nobody  777    attr5 dir_text    user
422 #
423 # Add more files so that there are more than the number
424 # of streams.
425 # There are bugs in dump/restore for # non-dir files < # streams
426 # It can be tested in another configuration.
427 # It is a pathalogical case.
428 #
429 sub/a           1       $nobody $nobody
430 sub/b           2       $nobody $nobody
431 sub/c           4       $nobody $nobody
432 sub/d           8       $nobody $nobody
433 sub/e           16      $nobody $nobody
434 sub/f           32      $nobody $nobody
435 sub/g           64      $nobody $nobody
436 sub/h           128     $nobody $nobody
437 sub/i           256     $nobody $nobody
438 sub/j           512     $nobody $nobody
439 sub/k           1024    $nobody $nobody
440 sub/l           2048    $nobody $nobody
441 sub/m           4096    $nobody $nobody
442 sub/n           8192    $nobody $nobody
443 End-of-File
444 }
445
446 #
447 # extended file attribute flags
448 #
449 _mk_fillconfig_xattr()
450 {
451     cat <<End-of-File >$tmp.config
452 # pathname      size    user    group    perm   name
453 #
454 xflag_realtime  10      $nobody $nobody  777    XFS_XFLAG_REALTIME
455 xflag_prealloc  10      $nobody $nobody  777    XFS_XFLAG_PREALLOC
456 xflag_immutable 10      $nobody $nobody  777    XFS_XFLAG_IMMUTABLE
457 xflag_append    10      $nobody $nobody  777    XFS_XFLAG_APPEND
458 xflag_sync      10      $nobody $nobody  777    XFS_XFLAG_SYNC
459 xflag_noatime   10      $nobody $nobody  777    XFS_XFLAG_NOATIME
460 xflag_nodump    10      $nobody $nobody  777    XFS_XFLAG_NODUMP
461 xflag_hasattr   10      $nobody $nobody  777    XFS_XFLAG_HASATTR
462 End-of-File
463 }
464
465 #
466 # Create a bunch of directories/files of different sizes
467 # filled with data.
468 #
469 # Pinched from test 001.
470 #
471 _do_create_dumpdir_fill()
472 {
473     echo "Creating directory system to dump using src/fill."
474
475     mkdir -p $dump_dir || _fail "cannot mkdir \"$dump_dir\""
476     cd $dump_dir
477
478     $verbose && echo -n "Setup "
479     sed -e '/^#/d' $tmp.config \
480     | while read file nbytes owner group perms ea_name ea_value namespace
481     do
482         if [ $nbytes = "d" ]; then
483             # create a directory
484             dir=$file
485             if [ ! -d $dir ]
486             then
487                 if mkdir $dir
488                 then
489                     :
490                 else
491                     $verbose && echo
492                     echo "Error: cannot mkdir \"$dir\""
493                     exit 1
494                 fi
495             fi
496         else
497             # create a directory/file
498             dir=`dirname $file`
499             if [ "$dir" != "." ]
500             then
501                 if [ ! -d $dir ]
502                 then
503                     if mkdir $dir
504                     then
505                         :
506                     else
507                         $verbose && echo
508                         echo "Error: cannot mkdir \"$dir\""
509                         exit 1
510                     fi
511                 fi
512             fi
513             rm -f $file
514             if $here/src/fill $file $file $nbytes
515             then
516                 :
517             else
518                 $verbose && echo
519                 echo "Error: cannot create \"$file\""
520                 exit 1
521             fi
522         fi
523         if [ -n "$owner" -a -n "$group" ]; then
524             chown $owner.$group $file
525         fi
526         if [ -n "$perms" ]; then
527             chmod $perms $file
528         fi
529
530         # extended attributes (EA)
531         if [ -n "$ea_name" -a -n "$ea_value" ]; then
532             if [ "X$namespace" = "Xroot" ]; then
533                 attr -R -s $ea_name -V $ea_value $file
534             else
535                 attr -s $ea_name -V $ea_value $file
536             fi
537         # extended file attribute flags - no value - NOT EAs
538         elif [ -n "$ea_name" -a -z "$ea_value" ]; then
539             # set the flag
540             # TODO XXX
541             # use xfs_io to send the ioctl
542             :
543         fi
544         $verbose && echo -n "."
545     done
546     $verbose && echo
547
548     cd $here
549 }
550
551 _mk_fillconfig_multi()
552 {
553     _mk_fillconfig1
554     cat <<End-of-File >>$tmp.config
555 # pathname      size in bytes
556 #
557 large000        8874368 $nobody $nobody
558 large111        2582912 $nobody $nobody
559 large222        7825792 $nobody $nobody
560 End-of-File
561 }
562
563 _create_dumpdir_largefile()
564 {
565     _wipe_fs
566     mkdir -p $dump_dir || _fail "cannot mkdir \"$dump_dir\""
567     _largesize=4294967297
568     _largefile=$dump_dir/largefile
569     echo "dd a largefile at offset $_largesize"
570     POSIXLY_CORRECT=yes \
571     dd if=/dev/zero of=$_largefile bs=1 seek=$_largesize count=10 2>&1
572     _stable_fs
573 }
574
575 _create_dumpdir_fill()
576 {
577     _wipe_fs
578     _mk_fillconfig1
579     _do_create_dumpdir_fill
580     _stable_fs
581 }
582
583 _create_dumpdir_fill2()
584 {
585     _wipe_fs
586     _mk_fillconfig2
587     _do_create_dumpdir_fill
588     _stable_fs
589 }
590
591 _create_dumpdir_fill_perm()
592 {
593     _wipe_fs
594     _mk_fillconfig_perm
595     _do_create_dumpdir_fill
596     _stable_fs
597 }
598
599 _create_dumpdir_fill_ea()
600 {
601     _wipe_fs
602     _mk_fillconfig_ea
603     _do_create_dumpdir_fill
604     _stable_fs
605 }
606
607 #
608 # Create enough files, and a few large enough files, so that
609 # some files are likely to be split across streams.
610 #
611 _create_dumpdir_fill_multi()
612 {
613     _wipe_fs
614     _mk_fillconfig_multi
615     _do_create_dumpdir_fill
616     _stable_fs
617 }
618
619 #
620 # Append a subset of the fill'ed files
621 # So we can see if just these get dumped on an incremental
622 #
623 _append_dumpdir_fill()
624 {
625     cd $dump_dir
626     cat <<End-of-File >$tmp.config
627 # pathname
628 #
629 small
630 sub/big
631 #
632 sub/a
633 sub/c
634 sub/e
635 End-of-File
636     sed -e '/^#/d' $tmp.config \
637     | while read file
638     do
639         echo 'Extra text' >>$file
640     done
641
642     cd $here
643     _stable_fs
644 }
645
646 _do_create_dump_symlinks()
647 {
648     echo "Creating directory system of symlinks to dump."
649
650     mkdir -p $dump_dir || _fail "cannot mkdir \"$dump_dir\""
651     cd $dump_dir
652
653     $verbose && echo -n "Setup "
654     sed -e '/^#/d' $tmp.config \
655     | while read file nbytes owner group owner2 group2 perms perms2
656     do
657         dir=`dirname $file`
658         if [ "$dir" != "." ]
659         then
660             if [ ! -d $dir ]
661             then
662                 if mkdir $dir
663                 then
664                     :
665                 else
666                     $verbose && echo
667                     echo "Error: cannot mkdir \"$dir\""
668                     exit 1
669                 fi
670             fi
671         fi
672         rm -f $file
673         touch $file
674
675         # Do chmod on symlink using umask.
676         # This won't do the right thing as it subtracts permissions.
677         # However, I don't care, as long as I get some different perms
678         # for testing.
679         if [ -n "$perms2" ]; then
680             omask=`umask`
681             umask $perms2
682         fi
683         ln -s $file $file-link
684         if [ -n "$perms2" ]; then
685             umask $omask
686         fi
687
688         if [ -n "$owner" -a -n "$group" ]; then
689             chown $owner.$group $file
690         fi
691         if [ -n "$owner" -a -n "$group" ]; then
692             chown -h $owner.$group $file-link
693         fi
694         if [ -n "$perms" ]; then
695             chmod $perms $file
696         fi
697         $verbose && echo -n "."
698     done
699     $verbose && echo
700
701     cd $here
702 }
703
704 _mk_symlink_config()
705 {
706     cat <<End-of-File >$tmp.config
707 # path  size    owner1  group1  owner2  group2  perm1   perm2
708 #
709 a       0       $nobody $nobody daemon  sys     124     421
710 b       0       daemon  sys     bin     bin     347     743
711 sub/a   0       bin     bin     $nobody sys     777     777
712 sub/b   0       $nobody sys     $nobody $nobody 367     763
713 End-of-File
714 }
715
716 _create_dumpdir_symlinks()
717 {
718     _wipe_fs
719     _mk_symlink_config
720     _do_create_dump_symlinks
721     _stable_fs
722 }
723
724 #
725 # create hardlinks of form $_fname, $_fname_h1 $_fname_h2 ...
726 #
727 _create_hardlinks()
728 {
729     _fname=$1
730     _numlinks=$2
731
732     touch $_fname
733     _j=1
734     while [ $_j -le $_numlinks ]; do
735         _suffix=_h$_j
736         _hardlink=$_fname$_suffix
737         echo "creating hardlink $_hardlink to $_fname"
738         ln $_fname $_hardlink
739         let _j=$_j+1
740     done
741 }
742
743 #
744 # create a set of hardlinks
745 # create hardlinks of form file1, file1_h1 file1_h2 ...
746 # create hardlinks of form file2, file2_h1 file2_h2 ...
747 # create hardlinks of form file3, file3_h1 file3_h2 ...
748 #
749 _create_hardset()
750 {
751     _numsets=$1
752     _i=1
753     while [ $_i -le $_numsets ]; do
754         _create_hardlinks file$_i 5
755         let _i=$_i+1
756     done
757 }
758
759
760 _modify_level()
761 {
762     _level=$1
763     echo "mod level $_level" >$dump_dir/file$_level
764 }
765
766 _create_dumpdir_hardlinks()
767 {
768     _numsets=$1
769     _wipe_fs
770     echo "Creating directory system of hardlinks to incrementally dump."
771
772     mkdir -p $dump_dir || _fail "cannot mkdir \"$dump_dir\""
773     cd $dump_dir
774
775     _create_hardset $_numsets
776
777     cd $here
778     _stable_fs
779 }
780
781 #
782 # Filter for ls
783 # Filter out times and dates on symlinks and char devices.
784 # Filter out size on directories because this can differ
785 # when transitioning to long inode numbers (ie. 64 bits).
786 #
787 _ls_filter()
788 {
789   $AWK_PROG '
790         /^l/ { date = $8; time = $7; sub(date,"DATE"); sub(time,"TIME"); print}
791         /^c/ { date = $9; time = $7; sub(date,"DATE"); sub(time,"TIME"); print}
792         /^d/ { size = $5; sub(size,"SIZE"); print}
793         {print}' \
794   | sed -e 's/total [0-9][0-9]*/total TOTAL/'
795 }
796
797 #
798 # Filtering of Irix character hwgraph device names
799 # e.g.
800 # chardev: /hw/node/xtalk/15/pci/0/scsi_ctlr/0/target/1/lun/0/disk/partition/4/char
801 # blkdev:  /dev/dsk/dks0d1s4
802 #
803 _filter_devchar()
804 {
805     $AWK_PROG '
806         /\/hw\/node/ {
807             sub(/\/hw.*scsi_ctlr\//,"/dev/dsk/dks")  # blah blah /dev/dsk/dks0/target/1/....
808             sub(/\/target\//,"d")                    # blah blah /dev/dsk/dks0d1/lun/0/disk.....
809             sub(/\/lun.*partition\//,"s")            # blah blah /dev/dsk/dks0d1s4/char
810             sub(/\/char/,"")                         # blah blah /dev/dsk/dks0d1s4
811         }
812         { print }
813     '
814 }
815
816
817 #
818 # Filter out the non-deterministic dump msgs from
819 # xfsdump and xfsrestore
820 #
821 _dump_filter_main()
822 {
823   _filter_devchar |\
824   sed \
825       -e "s#$__XFSDUMP_PROG#xfsdump#"                   \
826       -e "s#$XFSRESTORE_PROG#xfsrestore#"               \
827       -e "s#$XFSINVUTIL_PROG#xfsinvutil#"               \
828       -e "s/`hostname`/HOSTNAME/"                       \
829       -e "s#$SCRATCH_DEV#SCRATCH_DEV#"                  \
830       -e "s#$SCRATCH_RAWDEV#SCRATCH_DEV#"               \
831       -e "s#$dumptape#TAPE_DEV#"                        \
832       -e "s#$SCRATCH_MNT#SCRATCH_MNT#"                  \
833       -e "s#$dump_file#DUMP_FILE#"                      \
834       -e 's#/var/lib/xfsdump#/var/xfsdump#'             \
835       -e 's/session id:[        ]*[0-9a-f-]*/session id: ID/'  \
836       -e '/filesystem id:[      ]*[0-9a-f-]*/d'         \
837       -e 's/time:[      ].*/time: TIME/'                \
838       -e 's/date:[      ].*/date: DATE/'                \
839       -e 's/dump begun .*/dump begun DATE/'             \
840       -e 's/previously begun .*/previously begun DATE/' \
841       -e 's/[0-9][0-9]* seconds/SECS seconds/'          \
842       -e 's/restore.[0-9][0-9]*/restore.PID/'           \
843       -e 's/ino [0-9][0-9]*/ino INO/g'                  \
844       -e '/stream [0-9]:/s/offset [0-9][0-9]*/offset NUM/g'     \
845       -e '/: dump size/s/[0-9][0-9]*/NUM/'              \
846       -e '/dump size:/s/[0-9][0-9]*/NUM/'               \
847       -e '/dump size per stream:/s/[0-9][0-9]*/NUM/'    \
848       -e 's/\(media file size[   ]*\)[0-9][0-9]*/\1NUM/' \
849       -e 's/\(mfile size:[       ]*\)[0-9][0-9]*/\1NUM/' \
850       -e '/drive[        ]*[0-9][0-9]*:/d'              \
851       -e '/\/dev\/tty/d'                                \
852       -e '/inventory session uuid/d'                    \
853       -e '/ - Running single-threaded/d'                \
854       -e '/Mount point match/d'                         \
855       -e '/^.*I\/O metrics: .*$/d'                      \
856       -e 's/1048576/BLOCKSZ/'                           \
857       -e 's/2097152/BLOCKSZ/'                           \
858       -e 's/(pid[        ]*[1-9][0-9]*)/\(pid PID\)/'   \
859       -e '/version [3-9]\.[0-9]/d'                      \
860       -e 's/\/hw\/module.*$/SCRATCH_DEV/'               \
861       -e 's/xfsdump: ino map phase 1: .*/xfsdump: ino map <PHASES>/' \
862       -e '/xfsdump: ino map phase [2]/,1d'              \
863       -e '/xfsdump: ino map phase [3]/,1d'              \
864       -e '/xfsdump: ino map phase [4]/,1d'              \
865       -e '/xfsdump: ino map phase [5]/,1d'              \
866       -e 's/id:[[:space:]]*[0-9a-f]\{8\}-[0-9a-f]\{4\}-[0-9a-f]\{4\}-[0-9a-f]\{4\}-[0-9a-f]\{12\}/ID: ID/'                                              \
867       -e 's/\[y\/n\][- ]----------------------*/\[y\/n\]/'              \
868       -e '/skip attribute set/d'                                \
869   | perl -ne '
870         # filter out all the output between the lines "Dump Summary:"
871         # and "Dump Status:"
872         if ($_ =~ /(?:Dump|Restore) Summary/) {
873                 $skip = 1;
874         } elsif ($_ =~ /(?:Dump|Restore) Status/) {
875                 $skip = 0;
876         }
877         print if (! $skip);' \
878   | perl -ne '
879         # correct the file count if large scratch devices are being used
880         $skip = 0;
881         if ($_ =~ /(\S+) directories and (\S+) entries/) {
882                 $foo = $2;
883                 if ($ENV{'LARGE_SCRATCH_DEV'} && $foo > 0) {
884                         $foo -= 1;
885                 }
886                 printf("xfsrestore: %u directories and %u entries processed\n",
887                                                 $1, $foo);
888                 $skip = 1;
889         }
890         print if (! $skip);'
891 }
892
893 _dump_filter()
894 {
895    if $do_quota_check
896    then
897        _dump_filter_main | _check_quota_dumprestore | _check_quota_entries
898    else
899        _dump_filter_main
900    fi
901 }
902
903 _invutil_filter()
904 {
905   _dump_filter_main \
906   | sed \
907         -e 's/UUID[     ]*:[    ][0-9a-f-]*/UUID                :       ID/' \
908         -e 's/TIME OF DUMP[     ]*:.*/TIME OF DUMP      :       TIME/' \
909         -e 's/HOSTNAME:SCRATCH_MNT.*/HOSTNAME:SCRATCH_MNT/' \
910         -e 's#inventory/[0-9a-f-]*#inventory/UUID#' \
911
912 }
913
914
915 _dir_filter()
916 {
917   sed \
918     -e "s#$dump_file#DUMP_FILE#g"      \
919     -e "s#$SCRATCH_DEV#SCRATCH_DEV#"        \
920     -e "s#$SCRATCH_RAWDEV#SCRATCH_DEV#"    \
921     -e "s#$dumptape#TAPE_DEV#"         \
922     -e "s#$dump_dir#DUMP_DIR#g"       \
923     -e "s#$restore_dir#RESTORE_DIR#g" \
924     -e "s#$SCRATCH_MNT#SCRATCH_MNT#g"       \
925     -e "s#$dump_sdir#DUMP_SUBDIR#g"   \
926     -e "s#$restore_sdir#RESTORE_SUBDIR#g" \
927     -e "s#$$#PID#g" \
928     -e "/Only in SCRATCH_MNT: .use_space/d" \
929     -e "s#$RESULT_DIR/##g" \
930
931 }
932
933 #
934 # Parse xfsdump arguments.
935 # Note: requires a space between option letter and argument
936 #
937 _parse_dump_args()
938 {
939     OPTIND=0
940     dump_args=""
941     while [ $# -gt 0 ]
942     do
943         case $1
944         in
945         -f)
946             [ -z "$2" ] && _fail "missing argument for -f"
947             dumptape=$2
948             dump_file=$2
949             shift
950             ;;
951         -L)
952             [ -z "$2" ] && _fail "missing argument for -L"
953             session_label=$2
954             shift
955             ;;
956         --multi)
957             [ -z "$2" ] && _fail "missing argument for --multi"
958             multi=$2
959             shift
960             ;;
961         --check-quota)
962             do_quota_check=true
963             ;;
964         --no-check-quota)
965             do_quota_check=false
966             ;;
967         -o|-D|-F|-K)
968             dump_args="$dump_args $1"
969             ;;
970         -l|-d)
971             [ -z "$2" ] && _fail "missing argument for $1"
972             dump_args="$dump_args $1$2"
973             shift
974             ;;
975         *)
976             _fail "invalid argument to common/dump function: $1"
977             ;;
978         esac
979         shift
980     done
981 }
982
983 #
984 # Parse xfsrestore arguments.
985 # Note: requires a space between option letter and argument
986 #
987 _parse_restore_args()
988 {
989     OPTIND=0
990     restore_args=""
991     while [ $# -gt 0 ]
992     do
993         case $1
994         in
995         -f)
996             [ -z "$2" ] && _fail "missing argument for -f"
997             dumptape=$2
998             dump_file=$2
999             shift
1000             ;;
1001         -L)
1002             [ -z "$2" ] && _fail "missing argument for -L"
1003             session_label=$2
1004             shift
1005             ;;
1006         --multi)
1007             [ -z "$2" ] && _fail "missing argument for --multi"
1008             multi=$2
1009             shift
1010             ;;
1011         --check-quota)
1012             do_quota_check=true
1013             ;;
1014         --no-check-quota)
1015             do_quota_check=false
1016             ;;
1017         -K|-R)
1018             restore_args="$restore_args $1"
1019             ;;
1020         *)
1021             _fail "invalid argument to common/dump function: $1"
1022             ;;
1023         esac
1024         shift
1025     done
1026 }
1027
1028
1029 #
1030 # Dump a subdir
1031 #
1032 _do_dump_sub()
1033 {
1034     _parse_dump_args $*
1035
1036     echo "Dumping to tape..."
1037     opts="$_dump_debug$dump_args -s $dump_sdir -f $dumptape -M $media_label -L $session_label $SCRATCH_MNT"
1038     echo "xfsdump $opts" | _dir_filter
1039     $XFSDUMP_PROG $opts 2>&1 | tee -a $seqres.full | _dump_filter
1040 }
1041
1042 #
1043 # Do dump to tape
1044 #
1045 _do_dump()
1046 {
1047     _parse_dump_args $*
1048
1049     echo "Dumping to tape..."
1050     opts="$_dump_debug$dump_args -f $dumptape -M $media_label -L $session_label $SCRATCH_MNT"
1051     echo "xfsdump $opts" | _dir_filter
1052     $XFSDUMP_PROG $opts 2>&1 | tee -a $seqres.full | _dump_filter
1053 }
1054
1055
1056 #
1057 # Do full dump with -m
1058 #
1059 _do_dump_min()
1060 {
1061     _parse_dump_args $*
1062
1063     echo "Dumping to tape..."
1064     onemeg=1048576
1065     opts="$_dump_debug$dump_args -m -b $onemeg -l0 -f $dumptape -M $media_label -L $session_label $SCRATCH_MNT"
1066     echo "xfsdump $opts" | _dir_filter
1067     $XFSDUMP_PROG $opts 2>&1 | tee -a $seqres.full | _dump_filter
1068 }
1069
1070
1071 #
1072 # Do full dump to file
1073 #
1074 _do_dump_file()
1075 {
1076     _parse_dump_args $*
1077
1078     echo "Dumping to file..."
1079     opts="$_dump_debug$dump_args -f $dump_file -M $media_label -L $session_label $SCRATCH_MNT"
1080     echo "xfsdump $opts" | _dir_filter
1081     $XFSDUMP_PROG $opts 2>&1 | tee -a $seqres.full | _dump_filter
1082 }
1083
1084 #
1085 # Do full dump to multiple files
1086 #
1087 _do_dump_multi_file()
1088 {
1089     _parse_dump_args $*
1090
1091     multi_args=""
1092
1093     i=0
1094     while [ $i -lt $multi ]
1095     do
1096         multi_args="$multi_args -f $dump_file.$i -M $media_label.$i"
1097         let i=$i+1
1098     done
1099
1100     echo "Dumping to files..."
1101     opts="$_dump_debug$dump_args $multi_args -L $session_label $SCRATCH_MNT"
1102     echo "xfsdump $opts" | _dir_filter
1103     $XFSDUMP_PROG $opts 2>&1 | tee -a $seqres.full | _dump_filter
1104 }
1105
1106
1107 _prepare_restore_dir()
1108 {
1109     rm -rf $restore_dir
1110     mkdir $restore_dir || _fail "failed to mkdir $restore_dir"
1111 }
1112
1113
1114 #
1115 # Get tape ready and restore dir
1116 #
1117 _prepare_restore()
1118 {
1119     _prepare_restore_dir
1120
1121     echo "Rewinding tape"
1122     _rewind
1123 }
1124
1125 #
1126 # Restore the tape into $restore_dir
1127 #
1128 _do_restore()
1129 {
1130     _parse_restore_args $*
1131     _prepare_restore
1132
1133     echo "Restoring from tape..."
1134     opts="$_restore_debug$restore_args -f $dumptape  -L $session_label $restore_dir"
1135     echo "xfsrestore $opts" | _dir_filter
1136     $XFSRESTORE_PROG $opts 2>&1 | tee -a $seqres.full | _dump_filter
1137 }
1138
1139 #
1140 # Restore the tape into $restore_dir using -m
1141 #
1142 _do_restore_min()
1143 {
1144     _parse_restore_args $*
1145     _prepare_restore
1146
1147     echo "Restoring from tape..."
1148     onemeg=1048576
1149     opts="$_restore_debug$restore_args -m -b $onemeg -f $dumptape  -L $session_label $restore_dir"
1150     echo "xfsrestore $opts" | _dir_filter
1151     $XFSRESTORE_PROG $opts 2>&1 | tee -a $seqres.full | _dump_filter
1152 }
1153
1154 #
1155 # Restore the tape from a dump file
1156 #
1157 _do_restore_file()
1158 {
1159     _parse_restore_args $*
1160     _prepare_restore_dir
1161
1162     echo "Restoring from file..."
1163     opts="$_restore_debug$restore_args -f $dump_file  -L $session_label $restore_dir"
1164     echo "xfsrestore $opts" | _dir_filter
1165     $XFSRESTORE_PROG $opts 2>&1 | tee -a $seqres.full | _dump_filter
1166 }
1167
1168 #
1169 # Cumulative restore from a file
1170 # Must call _prepare_restore_dir before the first
1171 # (and only the first) call to this function.
1172 #
1173 _do_restore_file_cum()
1174 {
1175     _parse_restore_args $*
1176
1177     echo "Restoring cumumlative from file..."
1178     opts="$_restore_debug$restore_args -f $dump_file -r $restore_dir"
1179     echo "xfsrestore $opts" | _dir_filter
1180     $XFSRESTORE_PROG $opts 2>&1 | tee -a $seqres.full | _dump_filter
1181 }
1182
1183 _do_restore_toc()
1184 {
1185     _parse_restore_args $*
1186
1187     echo "Contents of dump ..."
1188     opts="$_restore_debug$restore_args -f $dump_file -t"
1189     echo "xfsrestore $opts" | _dir_filter
1190     cd $SCRATCH_MNT
1191     $XFSRESTORE_PROG $opts 2>&1 | tee -a $seqres.full | _dump_filter_main |\
1192     _check_quota_file |\
1193     _check_quota_entries |\
1194     $AWK_PROG 'NF != 1 { print; next }
1195                {files = sprintf("%s\n%s", files, $1)}
1196                 END { print files | "sort" } '
1197     # the above awk code is to alpha sort only the output
1198     # of files (and not the verbose restore msgs)
1199     cd $here # put back
1200 }
1201
1202 #
1203 # Restore the tape from multiple dump files
1204 #
1205 _do_restore_multi_file()
1206 {
1207     _parse_restore_args $*
1208     _prepare_restore_dir
1209
1210     multi_args=""
1211
1212     i=0
1213     while [ $i -lt $multi ]
1214     do
1215         multi_args="$multi_args -f $dump_file.$i"
1216         let i=$i+1
1217     done
1218
1219     echo "Restoring from file..."
1220     opts="$_restore_debug$restore_args $multi_args -L $session_label $restore_dir"
1221     echo "xfsrestore $opts" | _dir_filter
1222     $XFSRESTORE_PROG $opts 2>&1 | tee -a $seqres.full | _dump_filter
1223 }
1224
1225 #
1226 # Do xfsdump piped into xfsrestore - xfsdump | xfsrestore
1227 # Pass dump options in $1 and restore options in $2, if required. e.g.:
1228 #     _do_dump_restore "-o -F" "-R"
1229 #     _do_dump_restore "" "-R"
1230 #
1231 # Use -s as we want to dump and restore to the same xfs partition
1232 #
1233 _do_dump_restore()
1234 {
1235     _parse_dump_args $1
1236     _parse_restore_args $2
1237     _prepare_restore_dir
1238     echo "xfsdump|xfsrestore ..."
1239     restore_opts="$_restore_debug$restore_args - $restore_dir"
1240     dump_opts="$_dump_debug$dump_args -s $dump_sdir - $SCRATCH_MNT"
1241     echo "xfsdump $dump_opts | xfsrestore $restore_opts" | _dir_filter
1242     $XFSDUMP_PROG $dump_opts 2>$tmp.dump.mlog | $XFSRESTORE_PROG $restore_opts 2>&1 | tee -a $seqres.full | _dump_filter
1243     _dump_filter <$tmp.dump.mlog
1244 }
1245
1246 #
1247 # Compare dumped subdirectory with restored dir
1248 # using ls -nR.
1249 # Thus no contents are compared but permissions, sizes,
1250 # owners, etc... are.
1251 #
1252 _ls_compare_sub()
1253 {
1254     #
1255     # verify we got back what we dumped
1256     #
1257     echo "Comparing listing of dump directory with restore directory"
1258     ls -nR $dump_dir | tee -a $seqres.full | _ls_filter >$tmp.dump_dir
1259     ls -nR $restore_dir/$dump_sdir | tee -a $seqres.full | _ls_filter \
1260     | sed -e "s#$restore_sdir\/##" >$tmp.restore_dir
1261
1262     diff -bcs $tmp.dump_dir $tmp.restore_dir | sed -e "s#$tmp#TMP#g"
1263 }
1264
1265 #
1266 # filter out the date fields
1267 #
1268 _ls_nodate_filter()
1269 {
1270     $AWK_PROG 'NF == 9 { print $1, $2, $3, $4, $9 }'
1271 }
1272
1273 #
1274 # _ls_compare_sub but don't compare dates
1275 _ls_nodate_compare_sub()
1276 {
1277     #
1278     # verify we got back what we dumped
1279     #
1280     echo "Comparing listing of dump directory with restore directory"
1281     ls -nR $dump_dir | tee -a $seqres.full | _ls_filter | _ls_nodate_filter >$tmp.dump_dir
1282     ls -nR $restore_dir/$dump_sdir | tee -a $seqres.full | _ls_filter \
1283     | _ls_nodate_filter | sed -e "s#$restore_sdir\/##" >$tmp.restore_dir
1284
1285     diff -bcs $tmp.dump_dir $tmp.restore_dir | sed -e "s#$tmp#TMP#g"
1286 }
1287
1288 #
1289 # Compare using recursive diff the files of the dumped
1290 # subdirectory.
1291 # This one will compare the contents.
1292 #
1293 _diff_compare_sub()
1294 {
1295     echo "Comparing dump directory with restore directory"
1296     diff -rs $dump_dir $restore_dir/$dump_sdir | _dir_filter
1297 }
1298
1299 _get_eas_on_path()
1300 {
1301     _path=$1
1302
1303 # Tim - this is the IRIX way...
1304     # find $_path -exec attr -l {} \; |\
1305     # awk '{print $9, $2}' |\
1306     # sed 's/["]//g' |\
1307     # sort |\
1308 # and this is now the Linux way...
1309     echo "User names"
1310     getfattr --absolute-names -Rh -m user $_path |\
1311     perl -wn -e '
1312         if (m/^# file: (\S+)/) { $file = $1 }
1313         elsif (m/^user\.(\w+)/) { print $file, " ",$1,"\n" }' |\
1314     sort |\
1315     while read file ea_name; do
1316         attr -g $ea_name $file
1317     done
1318
1319     if [ "$USE_ATTR_SECURE" = yes ]; then
1320         echo "Security names"
1321         getfattr --absolute-names -Rh -m security $_path |\
1322         perl -wn -e '
1323             if (m/^# file: (\S+)/) { $file = $1 }
1324             elsif (m/^security\.(\w+)/) { print $file, " ",$1,"\n" }' |\
1325         sort |\
1326         while read file ea_name; do
1327             attr -g $ea_name $file
1328         done
1329     fi
1330
1331     echo "Root names"
1332     getfattr --absolute-names -Rh -m trusted $_path |\
1333     perl -wn -e '
1334         if (m/^# file: (\S+)/) { $file = $1 }
1335         elsif (m/^trusted\.(\w+)/) { print $file, " ",$1,"\n" }' |\
1336     sort |\
1337     while read file ea_name; do
1338         attr -R -g $ea_name $file
1339     done
1340 }
1341
1342 #
1343 # Compare the extended attributes of the files/dirs
1344 # b/w the dumped and restore dirs.
1345 #
1346 #
1347 # Attribute "attr5" had a 8 byte value for /spare1/dump.5460/dir:
1348 # Attribute "attr5" had a 8 byte value for /spare1/restore.5460/dump.5460/dir:
1349 #
1350 _diff_compare_eas()
1351 {
1352     echo "Comparing dump directory with restore directory"
1353     echo "Looking at the extended attributes (EAs)"
1354     echo "EAs on dump"
1355     _get_eas_on_path $dump_dir | tee $seqres.ea1 | _dir_filter
1356     echo "EAs on restore"
1357     _get_eas_on_path $restore_dir/$dump_sdir \
1358     | sed -e "s#$restore_sdir\/##" \
1359     | tee $seqres.ea2 \
1360     | _dir_filter
1361     diff -s $seqres.ea1 $seqres.ea2 | _dir_filter
1362 }
1363
1364
1365 #
1366 # Compare using recursive diff the files of the dumped
1367 # filesystem
1368 #
1369 _diff_compare()
1370 {
1371     echo "Comparing dump directory with restore directory"
1372     diff -rs $SCRATCH_MNT $restore_dir | _dir_filter | _check_quota_diff
1373 }
1374
1375 #
1376 # Check out the dump inventory
1377 #
1378 _dump_inventory()
1379 {
1380     $XFSDUMP_PROG $_dump_debug -I | tee -a $seqres.full | _dump_filter_main
1381 }
1382
1383 #
1384 # Do the xfsinvutil cmd with debug and filters
1385 # Need to set variable: "$middate" to the invutil date
1386 #
1387 _do_invutil()
1388 {
1389     host=`hostname`
1390     echo "xfsinvutil $_invutil_debug -M $host:$SCRATCH_MNT \"$middate\" $*" >$seqres.full
1391     $XFSINVUTIL_PROG $_invutil_debug $* -M $host:$SCRATCH_MNT "$middate" \
1392     | tee -a $seqres.full | _invutil_filter
1393 }
1394
1395 #
1396 # ensure we can find the user quota msg if user quotas are on
1397 # ensure we can find the group quota msg if group quotas are on
1398 #
1399 _check_quota()
1400 {
1401     usermsg=$1
1402     groupmsg=$2
1403     projectmsg=$3
1404     uquota=0
1405     gquota=0
1406     pquota=0
1407     $here/src/feature -U $SCRATCH_DEV && uquota=1
1408     $here/src/feature -G $SCRATCH_DEV && gquota=1
1409     $here/src/feature -P $SCRATCH_DEV && pquota=1
1410
1411     $AWK_PROG -v uquota=$uquota -v gquota=$gquota -v pquota=$pquota \
1412               -v full=$seqres.full -v usermsg="$usermsg" \
1413               -v groupmsg="$groupmsg" -v projectmsg="$projectmsg" '
1414         $0 ~ projectmsg {
1415                         print "Found project quota:", $0 >>full
1416                         found_pquota = 1
1417                         if (!pquota) {
1418                             print "Found extra:", $0
1419                         }
1420                         next
1421         }
1422         $0 ~ groupmsg {
1423                         print "Found group quota:", $0 >>full
1424                         found_gquota = 1
1425                         if (!gquota) {
1426                             print "Found extra:", $0
1427                         }
1428                         next
1429         }
1430         $0 ~ usermsg {
1431                         print "Found user quota:", $0 >>full
1432                         found_uquota = 1
1433                         if (!uquota) {
1434                             print "Found extra:", $0
1435                         }
1436                         next
1437         }
1438         $0 ~ "Restore Status: INCOMPLETE" {
1439                         incomplete = 1
1440         }
1441                         { print }
1442         END {
1443                 if (uquota && !found_uquota && !incomplete) {
1444                     print "Missing user quota msg:", usermsg
1445                 }
1446                 if (gquota && !found_gquota && !incomplete) {
1447                     print "Missing group quota msg:", groupmsg
1448                 }
1449                 if (pquota && !found_pquota && !incomplete) {
1450                     print "Missing project quota msg:", projectmsg
1451                 }
1452         }
1453     '
1454 }
1455
1456 #
1457 # xfsrestore: 3 directories and 40 entries processed
1458 #   $5 = 40
1459 #   num entries needs to be reduced by num quota file(s)
1460 #
1461 _check_quota_entries()
1462 {
1463     uquota=0
1464     gquota=0
1465     pquota=0
1466     $here/src/feature -U $SCRATCH_DEV && uquota=1
1467     $here/src/feature -G $SCRATCH_DEV && gquota=1
1468     $here/src/feature -P $SCRATCH_DEV && pquota=1
1469     $AWK_PROG -v uquota=$uquota -v gquota=$gquota -v pquota=$pquota '
1470         /entries processed/ {
1471                 if (uquota) $5--
1472                 if (gquota) $5--
1473                 if (pquota) $5--
1474         }
1475         {print}'
1476 }
1477
1478 #
1479 # Look for:
1480 # xfsdump: saving user quota information for: SCRATCH_MNT
1481 # xfsdump: saving group quota information for: SCRATCH_MNT
1482 # xfsdump: saving project quota information for: SCRATCH_MNT
1483 # xfsrestore: user quota information written to ...'
1484 # xfsrestore: group quota information written to ...'
1485 # xfsrestore: project quota information written to ...'
1486 # xfsrestore: use 'xfs_quota' to restore quotas
1487 #
1488 _check_quota_dumprestore()
1489 {
1490         _check_quota 'user quota information' \
1491                      'group quota information' \
1492                      'project quota information' | \
1493                 sed "/xfsrestore:.*use 'xfs_quota' to restore quotas/d"
1494 }
1495
1496 #
1497 # Look for:
1498 # Only in RESTORE_DIR: xfsdump_quotas
1499 # Only in RESTORE_DIR: xfsdump_quotas_group
1500 # Only in RESTORE_DIR: xfsdump_quotas_project
1501 #
1502 _check_quota_diff()
1503 {
1504    _check_quota 'Only in RESTORE_DIR: xfsdump_quotas' \
1505         'Only in RESTORE_DIR: xfsdump_quotas_group' \
1506         'Only in RESTORE_DIR: xfsdump_quotas_proj'
1507 }
1508
1509 #
1510 # Look for the quota file in the output
1511 # Ensure that it is there if it should be
1512 # Filter it out so that the output is always the same
1513 # even with no quotas
1514 #
1515 _check_quota_file()
1516 {
1517    _check_quota 'xfsdump_quotas' 'xfsdump_quotas_group' 'xfsdump_quotas_proj'
1518 }
1519
1520 _count_dir_files()
1521 {
1522         local dir=$1
1523
1524         local ndirs=$(find $dir -type d | wc -l)
1525         local nents=$(find $dir | wc -l)
1526
1527         echo "$ndirs directories and $nents entries"
1528 }
1529
1530 _count_dumpdir_files()
1531 {
1532         _count_dir_files $dump_dir
1533 }
1534
1535 _count_restoredir_files()
1536 {
1537         _count_dir_files $restore_dir/$dump_sdir
1538 }
1539
1540
1541 # make sure this script returns success
1542 /bin/true