xfs: Verify correctness of upgrading an fs to support large extent counters
[xfstests-dev.git] / common / config
1 ##/bin/bash
2 # SPDX-License-Identifier: GPL-2.0
3 # Copyright (c) 2000-2003,2006 Silicon Graphics, Inc.  All Rights Reserved.
4 #
5 # setup and check for config parameters, and in particular
6 #
7 # EMAIL -           email of the script runner.
8 # TEST_DIR -        scratch test directory that is in an already
9 #                   mounted XFS file system, needs to be be world
10 #                   writeable
11 # TEST_DEV -        device for file system containing TEST_DIR
12 #
13 # and optionally:
14 # SCRATCH_DEV -     device you can make a scratch file system on
15 # SCRATCH_MNT -     mount point for scratch file system
16 # SCRATCH_LOGDEV -  scratch log device for external log testing
17 # SCRATCH_RTDEV -   scratch rt dev
18 # TEST_LOGDEV -     test log device for external log testing
19 # TEST_RTDEV -      test rt dev
20 # TAPE_DEV -        the tape device for the xfsdump tests
21 # RMT_TAPE_DEV -    the remote tape device for the xfsdump tests
22 # RMT_IRIXTAPE_DEV- the IRIX remote tape device for the xfsdump tests
23 # RMT_TAPE_USER -   remote user for tape device
24 # SELINUX_MOUNT_OPTIONS - Options to use when SELinux is enabled.
25 # KEEP_DMESG -      whether to keep all dmesg for each test case.
26 #                   yes: keep all dmesg
27 #                   no: only keep dmesg with error/warning (default)
28 #
29 # - These can be added to $HOST_CONFIG_DIR (witch default to ./config)
30 #   below or a separate local configuration file can be used (using
31 #   the HOST_OPTIONS variable).
32 # - This script is shared by the stress test system and the auto-qa
33 #   system
34 # - TEST_DEV & TEST_DIR must be assigned.
35 # - this script shouldn't make any assertions about filesystem
36 #   validity or mountedness.
37 #
38
39 . common/test_names
40
41 # all tests should use a common language setting to prevent golden
42 # output mismatches.
43 export LANG=C
44 export LC_ALL=C
45
46 PATH=".:$PATH"
47
48 export HOST=`hostname -s`
49 test `uname -s` = "Linux" || _fatal "fstests only supports Linux"
50
51 export MODULAR=0               # using XFS as a module or not
52 export BOOT="/boot"            # install target for kernels
53 export EXTRA=${EXTRA:=xfs-qa}
54
55 # general parameters (mainly for auto-qa)
56 export SOAK_PROC=3             # -p option to fsstress
57 export SOAK_STRESS=10000       # -n option to fsstress
58 export SOAK_PASSES=-1          # count of repetitions of fsstress (while soaking)
59 export EMAIL=root@localhost    # where auto-qa will send its status messages
60 export HOST_OPTIONS=${HOST_OPTIONS:=local.config}
61 export CHECK_OPTIONS=${CHECK_OPTIONS:="-g auto"}
62 export BENCH_PASSES=${BENCH_PASSES:=5}
63 export TIME_FACTOR=${TIME_FACTOR:=1}
64 export LOAD_FACTOR=${LOAD_FACTOR:=1}
65 export DEBUGFS_MNT=${DEBUGFS_MNT:="/sys/kernel/debug"}
66
67 # some constants for overlayfs setup
68 export OVL_UPPER="ovl-upper"
69 export OVL_LOWER="ovl-lower"
70 export OVL_WORK="ovl-work"
71 # overlay mount point parent must be the base fs root
72 export OVL_MNT="ovl-mnt"
73 # By default unionmount-testsuite is expected under src
74 export UNIONMOUNT_TESTSUITE=${UNIONMOUNT_TESTSUITE:=$here/src/unionmount-testsuite}
75
76 # From e2fsprogs/e2fsck/e2fsck.h:
77 # Exit code used by fsck-type programs
78 export FSCK_OK=0
79 export FSCK_NONDESTRUCT=1
80 export FSCK_REBOOT=2
81 export FSCK_UNCORRECTED=4
82 export FSCK_ERROR=8
83 export FSCK_USAGE=16
84 export FSCK_CANCELED=32
85 export FSCK_LIBRARY=128
86
87 export PWD=`pwd`
88 #export DEBUG=${DEBUG:=...} # arbitrary CFLAGS really.
89 export MALLOCLIB=${MALLOCLIB:=/usr/lib/libefence.a}
90 export LOCAL_CONFIGURE_OPTIONS=${LOCAL_CONFIGURE_OPTIONS:=--enable-readline=yes}
91
92 export RECREATE_TEST_DEV=false
93
94 # Handle mkfs.$fstyp which does (or does not) require -f to overwrite
95 set_mkfs_prog_path_with_opts()
96 {
97         local fstyp=$1
98         local p=$(type -P mkfs.$fstyp)
99
100         # Note: mkfs.f2fs doesn't support the --help option yet, but it doesn't
101         # matter since it also prints the help when an invalid option is given.
102         if [ "$p" != "" ] && \
103                 $p --help |& grep -q "[[:space:]]-f[[:space:]|]"; then
104                 echo "$p -f"
105         else
106                 echo $p
107         fi
108 }
109
110 _fatal()
111 {
112     echo "$*"
113     status=1
114     exit 1
115 }
116
117 export MKFS_PROG="$(type -P mkfs)"
118 [ "$MKFS_PROG" = "" ] && _fatal "mkfs not found"
119
120 export MOUNT_PROG="$(type -P mount)"
121 [ "$MOUNT_PROG" = "" ] && _fatal "mount not found"
122
123 export UMOUNT_PROG="$(type -P umount)"
124 [ "$UMOUNT_PROG" = "" ] && _fatal "umount not found"
125
126 export FSSTRESS_PROG="./ltp/fsstress"
127 [ ! -x $FSSTRESS_PROG ] && _fatal "fsstress not found or executable"
128
129 export PERL_PROG="$(type -P perl)"
130 [ "$PERL_PROG" = "" ] && _fatal "perl not found"
131
132 export AWK_PROG="$(type -P awk)"
133 [ "$AWK_PROG" = "" ] && _fatal "awk not found"
134
135 export SED_PROG="$(type -P sed)"
136 [ "$SED_PROG" = "" ] && _fatal "sed not found"
137
138 export BC_PROG="$(type -P bc)"
139 [ "$BC_PROG" = "" ] && _fatal "bc not found"
140
141 export PS_ALL_FLAGS="-ef"
142
143 export DF_PROG="$(type -P df)"
144 [ "$DF_PROG" = "" ] && _fatal "df not found"
145 export DF_PROG="$DF_PROG -T -P" # Linux
146
147 export XFS_IO_PROG="$(type -P xfs_io)"
148 [ "$XFS_IO_PROG" = "" ] && _fatal "xfs_io not found"
149
150 export MKSWAP_PROG="$(type -P mkswap)"
151 # mkswap from util-linux v2.17.2 or older needs "-f" option to force to erase
152 # bootbits sectors
153 MKSWAP_PROG="$MKSWAP_PROG -f"
154
155 export XFS_LOGPRINT_PROG="$(type -P xfs_logprint)"
156 export XFS_REPAIR_PROG="$(type -P xfs_repair)"
157 export XFS_DB_PROG="$(type -P xfs_db)"
158 export XFS_METADUMP_PROG="$(type -P xfs_metadump)"
159 export XFS_ADMIN_PROG="$(type -P xfs_admin)"
160 export XFS_GROWFS_PROG=$(type -P xfs_growfs)
161 export XFS_SPACEMAN_PROG="$(type -P xfs_spaceman)"
162 export XFS_SCRUB_PROG="$(type -P xfs_scrub)"
163 export XFS_PARALLEL_REPAIR_PROG="$(type -P xfs_prepair)"
164 export XFS_PARALLEL_REPAIR64_PROG="$(type -P xfs_prepair64)"
165 export __XFSDUMP_PROG="$(type -P xfsdump)"
166 if [ -n "$__XFSDUMP_PROG" ]; then
167         export XFSDUMP_PROG="$__XFSDUMP_PROG -e"
168 else
169         export XFSDUMP_PROG=""
170 fi
171 export XFSRESTORE_PROG="$(type -P xfsrestore)"
172 export XFSINVUTIL_PROG="$(type -P xfsinvutil)"
173 export GETFATTR_PROG="$(type -P getfattr)"
174 export SETFATTR_PROG="$(type -P setfattr)"
175 export CHACL_PROG="$(type -P chacl)"
176 export ATTR_PROG="$(type -P attr)"
177 export QUOTA_PROG="$(type -P quota)"
178 export XFS_QUOTA_PROG="$(type -P xfs_quota)"
179 export KILLALL_PROG="$(type -P killall)"
180 export INDENT_PROG="$(type -P indent)"
181 export XFS_COPY_PROG="$(type -P xfs_copy)"
182 export FSTRIM_PROG="$(type -P fstrim)"
183 export DUMPE2FS_PROG="$(type -P dumpe2fs)"
184 export RESIZE2FS_PROG="$(type -P resize2fs)"
185 export F2FS_IO_PROG="$(type -P f2fs_io)"
186 export FIO_PROG="$(type -P fio)"
187 export FILEFRAG_PROG="$(type -P filefrag)"
188 export E4DEFRAG_PROG="$(type -P e4defrag)"
189 export LOGGER_PROG="$(type -P logger)"
190 export DBENCH_PROG="$(type -P dbench)"
191 export DMSETUP_PROG="$(type -P dmsetup)"
192 export WIPEFS_PROG="$(type -P wipefs)"
193 export BLKDISCARD_PROG="$(type -P blkdiscard)"
194 export DUMP_PROG="$(type -P dump)"
195 export RESTORE_PROG="$(type -P restore)"
196 export LVM_PROG="$(type -P lvm)"
197 export LSATTR_PROG="$(type -P lsattr)"
198 export CHATTR_PROG="$(type -P chattr)"
199 export DEBUGFS_PROG="$(type -P debugfs)"
200 export UUIDGEN_PROG="$(type -P uuidgen)"
201 export GETRICHACL_PROG="$(type -P getrichacl)"
202 export SETRICHACL_PROG="$(type -P setrichacl)"
203 export KEYCTL_PROG="$(type -P keyctl)"
204 export XZ_PROG="$(type -P xz)"
205 export LZ4_PROG="$(type -P lz4)"
206 export FLOCK_PROG="$(type -P flock)"
207 export LDD_PROG="$(type -P ldd)"
208 export TIMEOUT_PROG="$(type -P timeout)"
209 export MAN_PROG="$(type -P man)"
210 export NFS4_SETFACL_PROG="$(type -P nfs4_setfacl)"
211 export NFS4_GETFACL_PROG="$(type -P nfs4_getfacl)"
212 export UBIUPDATEVOL_PROG="$(type -P ubiupdatevol)"
213 export THIN_CHECK_PROG="$(type -P thin_check)"
214 export PYTHON2_PROG="$(type -P python2)"
215 export SQLITE3_PROG="$(type -P sqlite3)"
216 export TIMEOUT_PROG="$(type -P timeout)"
217 export SETCAP_PROG="$(type -P setcap)"
218 export GETCAP_PROG="$(type -P getcap)"
219 export CAPSH_PROG="$(type -P capsh)"
220 export CHECKBASHISMS_PROG="$(type -P checkbashisms)"
221 export XFS_INFO_PROG="$(type -P xfs_info)"
222 export DUPEREMOVE_PROG="$(type -P duperemove)"
223 export CC_PROG="$(type -P cc)"
224 export FSVERITY_PROG="$(type -P fsverity)"
225 export OPENSSL_PROG="$(type -P openssl)"
226 export ACCTON_PROG="$(type -P accton)"
227 export E2IMAGE_PROG="$(type -P e2image)"
228 export BLKZONE_PROG="$(type -P blkzone)"
229 export GZIP_PROG="$(type -P gzip)"
230 export BTRFS_IMAGE_PROG="$(type -P btrfs-image)"
231 export BTRFS_MAP_LOGICAL_PROG=$(type -P btrfs-map-logical)
232
233 # use 'udevadm settle' or 'udevsettle' to wait for lv to be settled.
234 # newer systems have udevadm command but older systems like RHEL5 don't.
235 # But if neither one is available, just set it to "sleep 1" to wait for lv to
236 # be settled
237 UDEV_SETTLE_PROG="$(type -P udevadm)"
238 if [ "$UDEV_SETTLE_PROG" == "" ]; then
239         # try udevsettle command
240         UDEV_SETTLE_PROG="$(type -P udevsettle)"
241 else
242         # udevadm is available, add 'settle' as subcommand
243         UDEV_SETTLE_PROG="$UDEV_SETTLE_PROG settle"
244 fi
245 # neither command is available, use sleep 1
246 #
247 # Udev events are sent via netlink to userspace through
248 # kobject_uevent_net_broadcast(), and udev in userspace is in charge of
249 # handling the events. The command `udevadm settle` just checks if
250 # /run/udev/queue is 0, however, a kernel without CONFIG_NET will have
251 # kobject_uevent_net_broadcast() be a no-op, and so /run/udev/queue may not
252 # exist or always be 0. We check for /proc/net to see CONFIG_NET was enabled.
253 if [[ "$UDEV_SETTLE_PROG" == "" || ! -d /proc/net ]]; then
254         UDEV_SETTLE_PROG="sleep 1"
255 fi
256 export UDEV_SETTLE_PROG
257
258 # Set MODPROBE_PATIENT_RM_TIMEOUT_SECONDS to "forever" if you want the patient
259 # modprobe removal to run forever trying to remove a module.
260 MODPROBE_REMOVE_PATIENT=""
261 modprobe --help >& /dev/null && modprobe --help | grep -q -1 "remove-patiently"
262 if [[ $? -ne 0 ]]; then
263         if [[ -z "$MODPROBE_PATIENT_RM_TIMEOUT_SECONDS" ]]; then
264                 # We will open code our own implementation of patient module
265                 # remover in fstests. Use a 50 second default.
266                 export MODPROBE_PATIENT_RM_TIMEOUT_SECONDS="50"
267         fi
268 else
269         MODPROBE_RM_PATIENT_TIMEOUT_ARGS=""
270         if [[ ! -z "$MODPROBE_PATIENT_RM_TIMEOUT_SECONDS" ]]; then
271                 if [[ "$MODPROBE_PATIENT_RM_TIMEOUT_SECONDS" != "forever" ]]; then
272                         MODPROBE_PATIENT_RM_TIMEOUT_MS="$((MODPROBE_PATIENT_RM_TIMEOUT_SECONDS * 1000))"
273                         MODPROBE_RM_PATIENT_TIMEOUT_ARGS="-t $MODPROBE_PATIENT_RM_TIMEOUT_MS"
274                 fi
275         else
276                 # We export MODPROBE_PATIENT_RM_TIMEOUT_SECONDS here for parity
277                 # with environments without support for modprobe -p, but we
278                 # only really need it exported right now for environments which
279                 # don't have support for modprobe -p to implement our own
280                 # patient module removal support within fstests.
281                 export MODPROBE_PATIENT_RM_TIMEOUT_SECONDS="50"
282                 MODPROBE_PATIENT_RM_TIMEOUT_MS="$((MODPROBE_PATIENT_RM_TIMEOUT_SECONDS * 1000))"
283                 MODPROBE_RM_PATIENT_TIMEOUT_ARGS="-t $MODPROBE_PATIENT_RM_TIMEOUT_MS"
284         fi
285         MODPROBE_REMOVE_PATIENT="modprobe -p $MODPROBE_RM_PATIENT_TIMEOUT_ARGS"
286 fi
287 export MODPROBE_REMOVE_PATIENT
288
289 export MKFS_XFS_PROG=$(type -P mkfs.xfs)
290 export MKFS_EXT4_PROG=$(type -P mkfs.ext4)
291 export MKFS_UDF_PROG=$(type -P mkudffs)
292 export MKFS_BTRFS_PROG=$(set_mkfs_prog_path_with_opts btrfs)
293 export MKFS_F2FS_PROG=$(set_mkfs_prog_path_with_opts f2fs)
294 export DUMP_F2FS_PROG=$(type -P dump.f2fs)
295 export F2FS_IO_PROG=$(type -P f2fs_io)
296 export BTRFS_UTIL_PROG=$(type -P btrfs)
297 export BTRFS_SHOW_SUPER_PROG=$(type -P btrfs-show-super)
298 export BTRFS_CONVERT_PROG=$(type -P btrfs-convert)
299 export BTRFS_TUNE_PROG=$(type -P btrfstune)
300 export XFS_FSR_PROG=$(type -P xfs_fsr)
301 export MKFS_NFS_PROG="false"
302 export MKFS_CIFS_PROG="false"
303 export MKFS_OVERLAY_PROG="false"
304 export MKFS_REISER4_PROG=$(type -P mkfs.reiser4)
305 export E2FSCK_PROG=$(type -P e2fsck)
306 export TUNE2FS_PROG=$(type -P tune2fs)
307 export FSCK_OVERLAY_PROG=$(type -P fsck.overlay)
308
309 # SELinux adds extra xattrs which can mess up our expected output.
310 # So, mount with a context, and they won't be created.
311 #
312 # Since the context= option only accepts contexts defined in the SELinux
313 # policy, and different systems may have different policies with
314 # different context names, use the context of an existing directory.
315 # Assume that any valid context is fine, since xfstests should really
316 # only be run from an "unconfined" process, or with SELinux in permissive
317 # mode.  But if not, just specify your own SELINUX_MOUNT_OPTIONS.
318 if [ -x /usr/sbin/selinuxenabled ] && /usr/sbin/selinuxenabled; then
319         : ${SELINUX_MOUNT_OPTIONS:="-o context=$(stat -c %C /)"}
320         export SELINUX_MOUNT_OPTIONS
321 fi
322
323 # check if mkfs.xfs supports v5 xfs
324 if [ "$FSTYP" == "xfs" ]; then
325         XFS_MKFS_HAS_NO_META_SUPPORT=""
326         touch /tmp/crc_check.img
327         $MKFS_XFS_PROG -N -d file,name=/tmp/crc_check.img,size=32m -m crc=0 \
328                 >/dev/null 2>&1;
329         if [ $? -ne 0 ]; then
330                 XFS_MKFS_HAS_NO_META_SUPPORT=true
331         fi
332         rm -f /tmp/crc_check.img
333         export XFS_MKFS_HAS_NO_META_SUPPORT
334 fi
335
336 _mount_opts()
337 {
338         case $FSTYP in
339         9p)
340                 export MOUNT_OPTIONS=$PLAN9_MOUNT_OPTIONS
341                 ;;
342         xfs)
343                 export MOUNT_OPTIONS=$XFS_MOUNT_OPTIONS
344                 ;;
345         udf)
346                 export MOUNT_OPTIONS=$UDF_MOUNT_OPTIONS
347                 ;;
348         nfs)
349                 export MOUNT_OPTIONS=$NFS_MOUNT_OPTIONS
350                 ;;
351         cifs)
352                 export MOUNT_OPTIONS=$CIFS_MOUNT_OPTIONS
353                 ;;
354         ceph)
355                 export MOUNT_OPTIONS=$CEPHFS_MOUNT_OPTIONS
356                 ;;
357         glusterfs)
358                 export MOUNT_OPTIONS=$GLUSTERFS_MOUNT_OPTIONS
359                 ;;
360         overlay)
361                 export MOUNT_OPTIONS=$OVERLAY_MOUNT_OPTIONS
362                 ;;
363         ext2|ext3|ext4|ext4dev)
364                 # acls & xattrs aren't turned on by default on ext$FOO
365                 export MOUNT_OPTIONS="-o acl,user_xattr $EXT_MOUNT_OPTIONS"
366                 ;;
367         f2fs)
368                 export MOUNT_OPTIONS="-o acl,user_xattr $F2FS_MOUNT_OPTIONS"
369                 ;;
370         reiserfs)
371                 # acls & xattrs aren't turned on by default on reiserfs
372                 export MOUNT_OPTIONS="-o acl,user_xattr $REISERFS_MOUNT_OPTIONS"
373                 ;;
374        reiser4)
375                # acls & xattrs aren't supported by reiser4
376                export MOUNT_OPTIONS=$REISER4_MOUNT_OPTIONS
377                ;;
378         gfs2)
379                 # acls aren't turned on by default on gfs2
380                 export MOUNT_OPTIONS="-o acl $GFS2_MOUNT_OPTIONS"
381                 ;;
382         tmpfs)
383                 # We need to specify the size at mount, use 1G by default
384                 export MOUNT_OPTIONS="-o size=1G $TMPFS_MOUNT_OPTIONS"
385                 ;;
386         ubifs)
387                 export MOUNT_OPTIONS=$UBIFS_MOUNT_OPTIONS
388                 ;;
389         *)
390                 ;;
391         esac
392 }
393
394 _test_mount_opts()
395 {
396         case $FSTYP in
397         9p)
398                 export TEST_FS_MOUNT_OPTS=$PLAN9_MOUNT_OPTIONS
399                 ;;
400         cifs)
401                 export TEST_FS_MOUNT_OPTS=$CIFS_MOUNT_OPTIONS
402                 ;;
403         ceph)
404                 export TEST_FS_MOUNT_OPTS=$CEPHFS_MOUNT_OPTIONS
405                 ;;
406         nfs)
407                 export TEST_FS_MOUNT_OPTS=$NFS_MOUNT_OPTIONS
408                 ;;
409         glusterfs)
410                 export TEST_FS_MOUNT_OPTS=$GLUSTERFS_MOUNT_OPTIONS
411                 ;;
412         ext2|ext3|ext4|ext4dev)
413                 # acls & xattrs aren't turned on by default on older ext$FOO
414                 export TEST_FS_MOUNT_OPTS="-o acl,user_xattr $EXT_MOUNT_OPTIONS"
415                 ;;
416         *)
417                 ;;
418         esac
419 }
420
421 _mkfs_opts()
422 {
423         case $FSTYP in
424         xfs)
425                 export MKFS_OPTIONS=$XFS_MKFS_OPTIONS
426                 ;;
427         udf)
428                 [ ! -z "$udf_fsize" ] && \
429                         UDF_MKFS_OPTIONS="$UDF_MKFS_OPTIONS -s $udf_fsize"
430                 export MKFS_OPTIONS=$UDF_MKFS_OPTIONS
431                 ;;
432         nfs)
433                 export MKFS_OPTIONS=$NFS_MKFS_OPTIONS
434                 ;;
435         cifs)
436                 export MKFS_OPTIONS=$CIFS_MKFS_OPTIONS
437                 ;;
438         ceph)
439                 export MKFS_OPTIONS=$CEPHFS_MKFS_OPTIONS
440                 ;;
441         reiserfs)
442                 export MKFS_OPTIONS="$REISERFS_MKFS_OPTIONS -q"
443                 ;;
444        reiser4)
445                 export MKFS_OPTIONS=$REISER4_MKFS_OPTIONS
446                 ;;
447         gfs2)
448                 export MKFS_OPTIONS="$GFS2_MKFS_OPTIONS -O -p lock_nolock"
449                 ;;
450         jfs)
451                 export MKFS_OPTIONS="$JFS_MKFS_OPTIONS -q"
452                 ;;
453         f2fs)
454                 export MKFS_OPTIONS="$F2FS_MKFS_OPTIONS"
455                 ;;
456         btrfs)
457                 export MKFS_OPTIONS="$BTRFS_MKFS_OPTIONS"
458                 ;;
459         bcachefs)
460                 export MKFS_OPTIONS=$BCACHEFS_MKFS_OPTIONS
461                 ;;
462         *)
463                 ;;
464         esac
465 }
466
467 _fsck_opts()
468 {
469         case $FSTYP in
470         ext2|ext3|ext4|ext4dev)
471                 export FSCK_OPTIONS="-nf"
472                 ;;
473         reiser*)
474                 export FSCK_OPTIONS="--yes"
475                 ;;
476         f2fs)
477                 export FSCK_OPTIONS=""
478                 ;;
479         *)
480                 export FSCK_OPTIONS="-n"
481                 ;;
482         esac
483 }
484
485 # check necessary running dependences then source sepcific fs helpers
486 _source_specific_fs()
487 {
488         local fs=$1
489
490         if [ -z "$fs" ];then
491                 fs=$FSTYP
492         fi
493
494         case "$fs" in
495         xfs)
496                 [ "$XFS_LOGPRINT_PROG" = "" ] && _fatal "xfs_logprint not found"
497                 [ "$XFS_REPAIR_PROG" = "" ] && _fatal "xfs_repair not found"
498                 [ "$XFS_DB_PROG" = "" ] && _fatal "xfs_db not found"
499                 [ "$MKFS_XFS_PROG" = "" ] && _fatal "mkfs_xfs not found"
500                 [ "$XFS_INFO_PROG" = "" ] && _fatal "xfs_info not found"
501
502                 . ./common/xfs
503                 ;;
504         udf)
505                 [ "$MKFS_UDF_PROG" = "" ] && _fatal "mkfs_udf/mkudffs not found"
506                 ;;
507         btrfs)
508                 [ "$MKFS_BTRFS_PROG" = "" ] && _fatal "mkfs.btrfs not found"
509
510                 . ./common/btrfs
511                 ;;
512         ext4)
513                 [ "$MKFS_EXT4_PROG" = "" ] && _fatal "mkfs.ext4 not found"
514                 ;;
515         f2fs)
516                 [ "$MKFS_F2FS_PROG" = "" ] && _fatal "mkfs.f2fs not found"
517                 ;;
518         nfs)
519                 . ./common/nfs
520                 ;;
521         cifs)
522                 ;;
523         9p)
524                 ;;
525         ceph)
526                 . ./common/ceph
527                 ;;
528         glusterfs)
529                 ;;
530         overlay)
531                 . ./common/overlay
532                 ;;
533         reiser4)
534                 [ "$MKFS_REISER4_PROG" = "" ] && _fatal "mkfs.reiser4 not found"
535                 ;;
536         pvfs2)
537                 ;;
538         ubifs)
539                 [ "$UBIUPDATEVOL_PROG" = "" ] && _fatal "ubiupdatevol not found"
540                 ;;
541         esac
542 }
543
544 known_hosts()
545 {
546         [ "$HOST_CONFIG_DIR" ] || HOST_CONFIG_DIR=`pwd`/configs
547
548         [ -f /etc/xfsqa.config ]             && export HOST_OPTIONS=/etc/xfsqa.config
549         [ -f $HOST_CONFIG_DIR/$HOST ]        && export HOST_OPTIONS=$HOST_CONFIG_DIR/$HOST
550         [ -f $HOST_CONFIG_DIR/$HOST.config ] && export HOST_OPTIONS=$HOST_CONFIG_DIR/$HOST.config
551 }
552
553 # Returns a list of sections in config file
554 # Each section starts with the section name in the format
555 # [section_name1]. Only alphanumeric characters and '_' is allowed
556 # in the section name otherwise the section will not be resognised.
557 # Section name must be contained between square brackets.
558 get_config_sections() {
559         sed -n -e "s/^\[\([[:alnum:]_-]*\)\]/\1/p" < $1
560 }
561
562 if [ ! -f "$HOST_OPTIONS" ]; then
563         known_hosts
564 fi
565
566 export HOST_OPTIONS_SECTIONS="-no-sections-"
567 export OPTIONS_HAVE_SECTIONS=false
568 if [ -f "$HOST_OPTIONS" ]; then
569         export HOST_OPTIONS_SECTIONS=`get_config_sections $HOST_OPTIONS`
570         if [ -z "$HOST_OPTIONS_SECTIONS" ]; then
571                 . $HOST_OPTIONS
572                 export HOST_OPTIONS_SECTIONS="-no-sections-"
573         else
574                 export OPTIONS_HAVE_SECTIONS=true
575         fi
576 fi
577
578 _check_device()
579 {
580         local name=$1
581         local dev_needed=$2
582         local dev=$3
583
584         if [ -z "$dev" ]; then
585                 if [ "$dev_needed" == "required" ]; then
586                         _fatal "common/config: $name is required but not defined!"
587                 fi
588                 return 0
589         fi
590
591         if [ -b "$dev" ] || ( echo $dev | grep -qE ":|//" ); then
592                 # block device or a network url
593                 return 0
594         fi
595
596         case "$FSTYP" in
597         9p|tmpfs|virtiofs)
598                 # 9p and virtiofs mount tags are just plain strings, so anything is allowed
599                 # tmpfs doesn't use mount source, ignore
600                 ;;
601         ceph)
602                 # ceph has two different possible syntaxes for mount devices. The
603                 # network URL check above catches the legacy syntax. Check for the
604                 # new-style syntax here.
605                 if ( echo $dev | grep -qEv "=/" ); then
606                         _fatal "common/config: $name ($dev) is not a valid ceph mount string"
607                 fi
608                 ;;
609         overlay)
610                 if [ ! -d "$dev" ]; then
611                         _fatal "common/config: $name ($dev) is not a directory for overlay"
612                 fi
613                 ;;
614         ubifs)
615                 if [ ! -c "$dev" ]; then
616                         _fatal "common/config: $name ($dev) is not a character device"
617                 fi
618                 ;;
619         ceph-fuse)
620                 ;;
621         *)
622                 _fatal "common/config: $name ($dev) is not a block device or a network filesystem"
623         esac
624 }
625
626 # check and return a canonical mount point path
627 _canonicalize_mountpoint()
628 {
629         local name=$1
630         local dir=$2
631
632         if [ -d "$dir" ]; then
633                 # this follows symlinks and removes all trailing "/"s
634                 readlink -e "$dir"
635                 return 0
636         fi
637
638         if [ "$FSTYP" != "overlay" ] || [[ "$name" == OVL_BASE_* ]]; then
639                 _fatal "common/config: $name ($dir) is not a directory"
640         fi
641
642         # base fs may not be mounted yet, so just check that parent dir
643         # exists (where base fs will be mounted) because we are going to
644         # mkdir the overlay mount point dir anyway
645         local base=`basename $dir`
646         local parent=`dirname $dir`
647         parent=`_canonicalize_mountpoint OVL_BASE_$name "$parent"`
648
649         # prepend the overlay mount point to canonical parent path
650         echo "$parent/$base"
651 }
652
653 # On check -overlay, for the non multi section config case, this
654 # function is called on every test, before init_rc().
655 # When SCRATCH/TEST_* vars are defined in config file, config file
656 # is sourced on every test and this function overrides the vars
657 # every time.
658 # When SCRATCH/TEST_* vars are defined in evironment and not
659 # in config file, this function is called after vars have already
660 # been overriden in the previous test.
661 # In that case, TEST_DEV is a directory and not a blockdev/chardev and
662 # the function will return without overriding the SCRATCH/TEST_* vars.
663 _overlay_config_override()
664 {
665         # There are 2 options for configuring overlayfs tests:
666         #
667         # 1. (legacy) SCRATCH/TEST_DEV point to existing directories
668         #    on an already mounted fs.  In this case, the new
669         #    OVL_BASE_SCRATCH/TEST_* vars are set to use the legacy
670         #    vars values (even though they may not be mount points).
671         #
672         [ ! -d "$TEST_DEV" ] || export OVL_BASE_TEST_DIR="$TEST_DEV"
673         [ ! -d "$SCRATCH_DEV" ] || export OVL_BASE_SCRATCH_MNT="$SCRATCH_DEV"
674
675         # Config file may specify base fs type, but we obay -overlay flag
676         [ "$FSTYP" == overlay ] || export OVL_BASE_FSTYP="$FSTYP"
677         export FSTYP=overlay
678
679         # 2. SCRATCH/TEST_DEV point to the base fs partitions.  In this case,
680         #    the new OVL_BASE_SCRATCH/TEST_DEV/MNT vars are set to the values
681         #    of the configured base fs and SCRATCH/TEST_DEV vars are set to the
682         #    overlayfs base and mount dirs inside base fs mount.
683         [ -b "$TEST_DEV" ] || [ -c "$TEST_DEV" ] || [ "$OVL_BASE_FSTYP" == tmpfs ] || return 0
684
685         # Store original base fs vars
686         export OVL_BASE_TEST_DEV="$TEST_DEV"
687         export OVL_BASE_TEST_DIR="$TEST_DIR"
688         # If config does not set MOUNT_OPTIONS, its value may be
689         # leftover from previous _overlay_config_override, so
690         # don't use that value for base fs mount
691         [ "$MOUNT_OPTIONS" != "$OVERLAY_MOUNT_OPTIONS" ] || unset MOUNT_OPTIONS
692         export OVL_BASE_MOUNT_OPTIONS="$MOUNT_OPTIONS"
693
694         # Set TEST vars to overlay base and mount dirs inside base fs
695         export TEST_DEV="$OVL_BASE_TEST_DIR"
696         export TEST_DIR="$OVL_BASE_TEST_DIR/$OVL_MNT"
697         export MOUNT_OPTIONS="$OVERLAY_MOUNT_OPTIONS"
698
699         [ -b "$SCRATCH_DEV" ] || [ -c "$SCRATCH_DEV" ] || [ "$OVL_BASE_FSTYP" == tmpfs ] || return 0
700
701         # Store original base fs vars
702         export OVL_BASE_SCRATCH_DEV="$SCRATCH_DEV"
703         export OVL_BASE_SCRATCH_MNT="$SCRATCH_MNT"
704
705         # Set SCRATCH vars to overlay base and mount dirs inside base fs
706         export SCRATCH_DEV="$OVL_BASE_SCRATCH_MNT"
707         export SCRATCH_MNT="$OVL_BASE_SCRATCH_MNT/$OVL_MNT"
708
709         # Set fsck options, use default if user not set directly.
710         export FSCK_OPTIONS="$OVERLAY_FSCK_OPTIONS"
711         [ -z "$FSCK_OPTIONS" ] && _fsck_opts
712         export IDMAPPED_MOUNTS="$IDMAPPED_MOUNTS"
713 }
714
715 _overlay_config_restore()
716 {
717         export OVERLAY=true
718         [ -z "$OVL_BASE_FSTYP" ] || export FSTYP=$OVL_BASE_FSTYP
719         [ -z "$OVL_BASE_TEST_DEV" ] || export TEST_DEV=$OVL_BASE_TEST_DEV
720         [ -z "$OVL_BASE_TEST_DIR" ] || export TEST_DIR=$OVL_BASE_TEST_DIR
721         [ -z "$OVL_BASE_SCRATCH_DEV" ] || export SCRATCH_DEV=$OVL_BASE_SCRATCH_DEV
722         [ -z "$OVL_BASE_SCRATCH_MNT" ] || export SCRATCH_MNT=$OVL_BASE_SCRATCH_MNT
723         [ -z "$OVL_BASE_MOUNT_OPTIONS" ] || export MOUNT_OPTIONS=$OVL_BASE_MOUNT_OPTIONS
724 }
725
726 # Parse config section options. This function will parse all the configuration
727 # within a single section which name is passed as an argument. For section
728 # name format see comments in get_config_sections().
729 # Empty lines and everything after '#' will be ignored.
730 # Configuration options should be defined in the format
731 #
732 # CONFIG_OPTION=value
733 #
734 # This 'CONFIG_OPTION' variable and will be exported as an environment variable.
735 parse_config_section() {
736         SECTION=$1
737         if ! $OPTIONS_HAVE_SECTIONS; then
738                 return 0
739         fi
740         eval `sed -e 's/[[:space:]]*\=[[:space:]]*/=/g' \
741                 -e 's/#.*$//' \
742                 -e 's/[[:space:]]*$//' \
743                 -e 's/^[[:space:]]*//' \
744                 -e "s/^\([^=]*\)=\"\?'\?\([^\"']*\)\"\?'\?$/export \1=\"\2\"/" \
745                 < $HOST_OPTIONS \
746                 | sed -n -e "/^\[$SECTION\]/,/^\s*\[/{/^[^#].*\=.*/p;}"`
747 }
748
749 get_next_config() {
750         if [ ! -z "$CONFIG_INCLUDED" ] && ! $OPTIONS_HAVE_SECTIONS; then
751                 return 0
752         fi
753
754         # We might have overriden FSTYP and TEST/SCRATCH vars with overlay values
755         # in the previous section, so restore them to original values stored in
756         # OVL_BASE_*.
757         # We need to do this *before* old FSTYP and MOUNT_OPTIONS are recorded
758         # and *before* SCRATCH_DEV and MOUNT_OPTIONS are unset
759         if [ "$FSTYP" == "overlay" ]; then
760                 _overlay_config_restore
761         fi
762
763         local OLD_FSTYP=$FSTYP
764         local OLD_MOUNT_OPTIONS=$MOUNT_OPTIONS
765         local OLD_TEST_FS_MOUNT_OPTS=$TEST_FS_MOUNT_OPTS
766         local OLD_MKFS_OPTIONS=$MKFS_OPTIONS
767         local OLD_FSCK_OPTIONS=$FSCK_OPTIONS
768         local OLD_USE_EXTERNAL=$USE_EXTERNAL
769
770         unset MOUNT_OPTIONS
771         unset TEST_FS_MOUNT_OPTS
772         unset MKFS_OPTIONS
773         unset FSCK_OPTIONS
774         unset USE_EXTERNAL
775
776         # We might have deduced SCRATCH_DEV from the SCRATCH_DEV_POOL in the previous
777         # run, so we have to unset it now.
778         if [ "$SCRATCH_DEV_NOT_SET" == "true" ]; then
779                 unset SCRATCH_DEV
780         fi
781
782         parse_config_section $1
783
784         if [ ! -z "$OLD_FSTYP" ] && [ $OLD_FSTYP != $FSTYP ]; then
785                 [ -z "$MOUNT_OPTIONS" ] && _mount_opts
786                 [ -z "$TEST_FS_MOUNT_OPTS" ] && _test_mount_opts
787                 [ -z "$MKFS_OPTIONS" ] && _mkfs_opts
788                 [ -z "$FSCK_OPTIONS" ] && _fsck_opts
789
790                 # clear the external devices if we are not using them
791                 if [ -z "$USE_EXTERNAL" ]; then
792                         unset TEST_RTDEV
793                         unset TEST_LOGDEV
794                         unset SCRATCH_RTDEV
795                         unset SCRATCH_LOGDEV
796                 fi
797         else
798                 [ -z "$MOUNT_OPTIONS" ] && export MOUNT_OPTIONS=$OLD_MOUNT_OPTIONS
799                 [ -z "$TEST_FS_MOUNT_OPTS" ] && export TEST_FS_MOUNT_OPTS=$OLD_TEST_FS_MOUNT_OPTS
800                 [ -z "$MKFS_OPTIONS" ] && export MKFS_OPTIONS=$OLD_MKFS_OPTIONS
801                 [ -z "$FSCK_OPTIONS" ] && export FSCK_OPTIONS=$OLD_FSCK_OPTIONS
802                 [ -z "$USE_EXTERNAL" ] && export USE_EXTERNAL=$OLD_USE_EXTERNAL
803         fi
804
805         # set default RESULT_BASE
806         if [ -z "$RESULT_BASE" ]; then
807                 export RESULT_BASE="$here/results/"
808         fi
809
810         if [ "$FSTYP" == "tmpfs" ]; then
811                 if [ -z "TEST_DEV" ]; then
812                         export TEST_DEV=tmpfs_test
813                 fi
814                 if [ -z "SCRATCH_DEV" ]; then
815                         export TEST_DEV=tmpfs_scratch
816                 fi
817         fi
818
819         #  Mandatory Config values.
820         MC=""
821         [ -z "$EMAIL" ]          && MC="$MC EMAIL"
822         [ -z "$TEST_DIR" ]       && MC="$MC TEST_DIR"
823         [ -z "$TEST_DEV" ]       && MC="$MC TEST_DEV"
824
825         if [ -n "$MC" ]; then
826                 echo "Warning: need to define parameters for host $HOST"
827                 echo "       or set variables:"
828                 echo "       $MC"
829                 exit 1
830         fi
831
832         _check_device TEST_DEV required $TEST_DEV
833         export TEST_DIR=`_canonicalize_mountpoint TEST_DIR $TEST_DIR`
834
835         # a btrfs tester will set only SCRATCH_DEV_POOL, we will put first of its dev
836         # to SCRATCH_DEV and rest to SCRATCH_DEV_POOL to maintain the backward compatibility
837         if [ ! -z "$SCRATCH_DEV_POOL" ]; then
838                 if [ ! -z "$SCRATCH_DEV" ]; then
839                         echo "common/config: Error: \$SCRATCH_DEV ($SCRATCH_DEV) should be unset when \$SCRATCH_DEV_POOL ($SCRATCH_DEV_POOL) is set"
840                         exit 1
841                 fi
842                 SCRATCH_DEV=`echo $SCRATCH_DEV_POOL | awk '{print $1}'`
843                 export SCRATCH_DEV
844                 export SCRATCH_DEV_NOT_SET=true
845         fi
846
847         _check_device SCRATCH_DEV optional $SCRATCH_DEV
848         export SCRATCH_MNT=`_canonicalize_mountpoint SCRATCH_MNT $SCRATCH_MNT`
849
850         if [ -n "$USE_EXTERNAL" ]; then
851                 _check_device TEST_RTDEV optional $TEST_RTDEV
852                 _check_device TEST_LOGDEV optional $TEST_LOGDEV
853                 _check_device SCRATCH_RTDEV optional $SCRATCH_RTDEV
854                 _check_device SCRATCH_LOGDEV optional $SCRATCH_LOGDEV
855         fi
856
857         # Override FSTYP from config when running ./check -overlay
858         # and maybe override base fs TEST/SCRATCH_DEV with overlay base dirs.
859         # We need to do this *after* default mount options are set by base FSTYP
860         # and *after* SCRATCH_DEV is deduced from SCRATCH_DEV_POOL
861         if [ "$OVERLAY" == "true" -o "$FSTYP" == "overlay" ]; then
862                 _overlay_config_override
863         fi
864 }
865
866 if [ -z "$CONFIG_INCLUDED" ]; then
867         get_next_config `echo $HOST_OPTIONS_SECTIONS | cut -f1 -d" "`
868         export CONFIG_INCLUDED=true
869
870         # Autodetect fs type based on what's on $TEST_DEV unless it's been set
871         # externally
872         if [ -z "$FSTYP" ] && [ ! -z "$TEST_DEV" ]; then
873                 FSTYP=`blkid -c /dev/null -s TYPE -o value $TEST_DEV`
874         fi
875         FSTYP=${FSTYP:=xfs}
876         export FSTYP
877         [ -z "$MOUNT_OPTIONS" ] && _mount_opts
878         [ -z "$TEST_FS_MOUNT_OPTS" ] && _test_mount_opts
879         [ -z "$MKFS_OPTIONS" ] && _mkfs_opts
880         [ -z "$FSCK_OPTIONS" ] && _fsck_opts
881 else
882         # We get here for the non multi section case, on every test that sources
883         # common/rc after re-sourcing the HOST_OPTIONS config file.
884         # Because of this re-sourcing, we need to re-canonicalize the configured
885         # mount points and re-override TEST/SCRATCH_DEV overlay vars.
886
887         # canonicalize the mount points
888         # this follows symlinks and removes all trailing "/"s
889         export TEST_DIR=`_canonicalize_mountpoint TEST_DIR $TEST_DIR`
890         export SCRATCH_MNT=`_canonicalize_mountpoint SCRATCH_MNT $SCRATCH_MNT`
891
892         # Override FSTYP from config when running ./check -overlay
893         # and maybe override base fs TEST/SCRATCH_DEV with overlay base dirs
894         if [ "$OVERLAY" == "true" -o "$FSTYP" == "overlay" ]; then
895                 _overlay_config_override
896         fi
897 fi
898
899 # make sure this script returns success
900 /bin/true