nuke: don't run umount when no xargs args

Gets rid of this noise:

INFO:teuthology.nuke:Unmount any osd data directories...
INFO:teuthology.orchestra.run.err:Usage: umount -h | -V
INFO:teuthology.orchestra.run.err:       umount -a [-d] [-f] [-r] [-n] [-v] [-t vfstypes] [-O opts]
INFO:teuthology.orchestra.run.err:       umount [-d] [-f] [-r] [-n] [-v] special | node...
INFO:teuthology.orchestra.run.err:Usage: umount -h | -V
INFO:teuthology.orchestra.run.err:       umount -a [-d] [-f] [-r] [-n] [-v] [-t vfstypes] [-O opts]
INFO:teuthology.orchestra.run.err:       umount [-d] [-f] [-r] [-n] [-v] special | node...
...

ceph.conf: enable 'osd recover clone overlap'

to test the recovery cloning in qa.  this was redone, but forgot to enable
it in qa.

make Thrasher not inherit from Greenlet

Add test for object source marked down

allow use of a separate journal block device

rbd: fix typo in default config

pyflakes would have caught this if 'all' weren't a built-in function

add osd_recovery task to test divergent osd logs

backfill: use 'rbd' pool instead of 'data'

(data has a replay interval, which makes writes take longer to resume
after repeering)

rename backfill -> osd_backfill

put filestore xattr option in [global]

...for test_filestore_idempotent's benefit

suite: add missing print statement

suite: fix print statement when summary doesn't exist

Add watch op to rados.py

Signed-off-by: Samuel Just <sam.just@dreamhost.com>

suite: failed runs might not have durations

This was one cause of emails not being sent - stale /tmp/cephtest dirs
fail without recording a duration.

suite, coverage: use absolute dirs for isdir checks

This fixes the results to wait for all jobs to complete again.

filestore_idempotent: get coverage and coredumps

suite: more results logging

ceph.conf: no comment

ceph.conf: set 'filestore xattr use omap = true'

fix teuthology-ls isdir check

run valgrind with cwd set to /tmp/cephtest/archive/coredump

This lets us capture the vgcore.* files, which always go to valgrind's
cwd.

Fixes: #1953

suite: log results and coverage generation

Need to figure out where and when results emails are failing.

results: make sure email is sent before anything else fails

Merge branch 'master' of github.com:ceph/teuthology

gitbuilder: put flavor last

in case we refine the field later

Pull from new gitbuilder.ceph.com locations.

Simplifies the flavor stuff into a tuple of

<package,type,flavor,dist,arch>

where package is ceph, kenrel, etc.
type is tarball, deb
flavor is basic, gcov, notcmalloc
arch is x86_64, i686 (uname -m)
dist is oneiric, etc. (lsb_release -s -c)

Made the example better with multiple roles.

Added some example yaml files and an example parallel execution task.

autotest: pull from github.com/ceph/autotest

workunit: include python2.7 path too

rados.py: include setattr and rmattr

Signed-off-by: Samuel Just <samuel.just@dreamhost.com>

lock: Improved logging when there aren't enough nodes available to lock-many.

lock: Added a --locked flag to teuthology-lock.

Can be used to restrict searches based on lock status, e.g.
'teuthology-lock --list -a --locked false --status up' shows available nodes.

nuke: unmount osd data directories

This helps us avoid reboot to clean up osd data directories that are left
mounted.

Use non-zero exit status if any tests failed

Fixes: #1989

github.com/NewDreamNetwork -> github.com/ceph

dump_stuck: note required ceph configuration

dump_stuck: verify that 'ceph health' mentions the right number of inactive/unclean/stale pgs

peer: ignore +scrubbing portion of pg state

It can cause the mon state and osd states to not match.

peer: wait for peering to complete, or block

We need to wait for peering to either complete, or block because it is
waiting for another PG.  _Then_ look at all the PG states and compare the
mon values with what we get from qeurying the OSDs directly.

peer: remove unused variable

misc: always return a usable result from get_valgrind_args

rgw: simplify valgrind args

add peer task

Force a pg to get stuck in 'down' state, verify we can query the peering
state, then start the OSD so it can recover.

lost_unfound: list missing/unfound for each pg and verify the unfound counts

This also tests the pg list_missing functionality.

ceph_manager: list_pg_missing

List missing objects for the given pgid.

Whitespace and unnecessary formatting fixes

ceph, ceph-fuse: simplify valgrind argument additions

refactor all valgrind users to use a get_valgrind_args() helper

This avoids much annoying, duplicated code.

ceph: always create valgrind logs dir

Other tasks use it too.  It's more annoying to conditionally create it.

ceph: always try to process valgrind logs

Check for errors in valgrind logs even if there is no valgrind option
the ceph task config stanza.  Other tasks can run via valgrind (ceph-fuse,
rgw).  If the logs aren't there, this is harmless.

rgw: add valgrind support

tasks:
- ceph:
- rgw:
   client.a:
     valgrind: [--tool=memcheck]

rgw: accept dict

e.g.,

tasks:
...
- rgw:
    client.0:
    client.1:

lost_unfound: new mark_unfound_lost syntax

dump_stuck: flush stats before waiting for recovery/clean

Add a task for testing stuck pg visibility.

Move duration calculation to an internal task

This excludes all generic start up costs, like waiting for locks,
rebooting into a new kernel, etc.

Add necessary imports for s3 tasks, and keep them alphabetical.

s3roundtrip, s3readwrite: access key uses url safe chars

Signed-off-by: Yehuda Sadeh <yehuda.sadeh@dreamhost.com>

rgw: access key uses url safe chars

Signed-off-by: Yehuda Sadeh <yehuda.sadeh@dreamhost.com>

ceph: valgrind trumps coverage when picking a flavor

valgrind will crash if we don't use notcmalloc; coverage will silently
fail to collect coverage info.

ceph.conf: no lockdep by default

suite.results: include test duration in output

cfuse -> ceph-fuse

ceph: allow valgrind per-type (not just per-name)

lost_unfound: mark osds in when we revive them

so that we test what we meant to.  It also lets us actually go clean at the
very end.

ceph_manager: ignore stale states when counting

also remove assumptions about ordering of states

wait_till_clean -> wait_for_clean and wait_for_recovery

Clean now also means the correct number of replicas, whereas recovered
means we have done all the work we can do given the replicas/osds we have.
For example, degraded and clean are now mutually exclusive.

Also move away from 'till'.

backfill: wait for clean before writing+blackholing

If we have straggler pgs and blackhole osd.1, we can deadlock because we
need info from that osd to repeer and continue.  Make sure we're clean, and
then start the write + blackhole + kill test.

nuke: nuke testrados too

Slightly fewer nuke -r's

ceph_manager: mark in a bit more often than out

Otherwise we can get into cases where many/most nodes are out, and things
don't work as well.  e.g., crush may start to fail.

ceph: use any fs, not just btrfs, on scratch devices

The

  btrfs: true

syntax is replaced with

  fs: btrfs

or ext4, xfs.

nuke: nuke testrados and rados processes, too

So that -r is needed slightly less often.

misc: make get_scratch_devices look for (almost) any disk that's not mounted

hammer.sh: assume path is set

ceph: always add logger for daemons

The extra log function added redundant info and didn't allow different
levels.

ceph: rename type parameter to type_

type is a built-in and shouldn't be aliased.

ceph: use the correct comparison operator

is compares identity (i.e. address in cpython), not value.

ceph: sync before unmounting btrfs devices

There may still be writes in flight, since the osds may not have
shutdown cleanly. This should prevent EBUSY when unmounting.

Fixes: #1997

ceph: delay raising exceptions until all daemons are stopped

If a daemon crashes, the exception is raised when we stop it. This
caused some daemons to continue running during cleanup, since the rest
of the daemons of the same type would not be shut down. Also log each
daemon that crashed, for easier debugging.

Fixes: #1744

add backfill task

This does a basic test of backfill functionality, including a divergent
log on a backfill target (#1983).

ceph_manager: add manager.blackhole_kill_osd()

This will suspend disk writes for a couple seconds and then kill the
daemon.  It helps us similute a hardware failure.

Allow user to disable lock checking.

The new plana hardware isn't in the old sepia lock database,
and the machine pools are risky to merge as nothing in the
software guarantees allocation from just one pool. This allows
us to hand-allocate machines temporarily.

Allow user to provide flavor to use.

With this, you can use Ubuntu 11.10 machines with teuthology by saying::

  tasks:
  - ceph:
      flavor: oneiric
  ...

Add admin socket task.

This simply gets the output of an admin socket command, makes sure
it's json, and runs a user-provided test script on it.

CephManager: base timeout on time since last change in active+clean

Signed-off-by: Samuel Just <samuel.just@dreamhost.com>

kernel: ignore connection problems while waiting for reboot

thrashosds: maxdead default to 0

This avoids any possibility of blocking peering.

task/rados: use new usage for radosmodel tool

thrashosds: fix action selection

I'm not sure what the old code was trying to do, but I'm pretty sure it
wasn't doing it correctly.. a .1 chance_down was killing an OSD for me
virtually every time.

thrashosds: make actions less nonsensical

Make marking OSD up/down and in/out totally orthogonal.

Signed-off-by: Sage Weil <sage@newdream.net>

ls: include duration, less noise

hammer.sh: new -nuke syntax

include run duration in summary.yaml

ls: fix extraneous newline

ceph: ignore all leaks

unless/until we figure out where the DefinitelyLost records are coming
from.. at first glance they look bogus.

ceph: take single arg or list for valgrind args

combined mon, osd, mds starter functions

rbd: default to all:

use local mirrors for (most) github urls

A cronjob on ceph.newdream.net updates these every 15 minutes.  Sigh.