tasks: add multibench task for testing pool creation

Also adds support for specifying a pool for radosbench
to create and then cleanup instead of "data".

Signed-off-by: Samuel Just <sam.just@inktank.com>

clock: print skew with ntp servers to log to help debug time issues

nuke: log what pid we are killing when we kill it

ceph: archive mon data to a .tgz

Saves bandwidth, time, and space.

set machine description to ctx.archive when auto-locking machines for a run

schedule/suite: schedule job, suite N times

kernel: fix kernel installation when kdb: is specified

This normalize check would only trigger if a *single* key was specified.
Change it so that it triggers as long as all keys are in the list of valid
keys. This lets us specify both kdb: true and a sha1/branch/tag.

Phew!

schedule_suite.sh: use workunits from ceph commit

Use the workunits from the same ceph branch we are testing.

ceph: add default btrfs mkfs options

ceph: cleanup/simplify mount/mkfs options

workunit: allow overrides

Pull top-level overrides into our config.  This lets you do:

overrides:
  workunit:
    branch: foo
tasks:
...
- workunit:
  clients:
    all:
    - foo
...

workunit: allow branch/sha1/tag to be specified

Pull the workunit(s) from the branch/tag/sha1 specified in the config.

workunit: pass branch/sha1 to test

Some tests download things from the ceph repo. Let them know which
version to use through the CEPH_REF environment variable.

Added functionality to get mkfs and mount options for file systems
from the config file,if present. Otherwise, default options are used.

The default value for inode size is changed to 2k when creating xfs.

Signed-off-by: tamil <tamil.muthamizhan@inktank.com>

fixed typo

Signed-off-by: tamil <tamil.muthamizhan@inktank.com>

radosgw-admin: use --bucket instead of old --bucket-id

The --bucket-id support was removed.

nuke: honor 'check-locks: ...' field in targets file

If you are nuking a yaml file with check-locks: false, don't check locks.

internal: archive mon data dirs

These can be useful for debugging, and are usually pretty small.

Fixes: #2714

internal: move pulling archive w/ tar to helper

use sudo to kill teuthology proc

run: make -a short for --archive

watch-suite: stupid script to watch teuth run progress

nuke: be more careful about kill; simplify

If the archive dir is specified, make sure we are killing the right
process.

Also drop the kill_process helper; it's simple enough to open-code.

nuke: nuke based on archive path

Use path/config.yaml for targets, path/pid for pid to kill, and
path/owner for job owner.

valgrind: add strptime suppressions

Precise's strptime triggers valgrind false positives.

Use ship_utilities to push the valgrind.supp file over, which is a bit
slippy.

Added a debug message

The debug message is to print the string that should be JSON.
This is to track a nightly run failure.

Signed-off-by: tamil <tamil.muthamizhan@inktank.com>

schedule_suite: use the sha1, not branch name

Keep the entire suite run on the same commit. We were resolving the sha1,
but not using it.

nuke - optionally kill the process hung

Added a function kill_process to kill the process hung in the nightly runs.
It takes in pid as an optional argument.

Signed-off-by: tamil <tamil.muthamizhan@inktank.com>

ceph: fix valgrind error check

grep all the logs, not the dir... doh!

Merge branch 'master' of github.com:ceph/teuthology

Now using daemon-helper

Signed-off-by: Mark Nelson <nhm@clusterfaq.org>

add cleanup-user.sh script

big hammer, use with care

schedule_suite.sh: drop -x

cleaned up commented code

Signed-off-by: Mark Nelson <nhm@clusterfaq.org>

Added blktrace task

Signed-off-by: Mark Nelson <nhm@clusterfaq.org>

ignore DEADLOCK line inside lockdep splat

Add script to create a vm image with extra packages

Add a task to run a test against rbd inside of qemu.

For now this task does not setup networking for the vm,
and simply runs an executable downloaded from a specified url.

It does support adding multiple rbd devices, but making use
of that with e.g. xfstests requires a bit more work.

Check for machine args based on local, not ctx.machines
Signed-off-by: Dan Mick <dan.mick@inktank.com>

whitelist current lockdep warnings in syslog

These are causing too much noise in the qa runs to leave, and #2617 is
sufficiently non-trivial to do this in the interim.  Putting a better
mechanism in place will include removing these coarse whitelist items and
replacing with something that specifically matches the failures we want
to ignore.

record owner at start of run

So that we can clean up easily even when we don't finish and there is no
summary.yaml.

teuthology-ls: tolerate non-existent 'success' key in summary file

schedule_suite: enable kdb

Among other things, you can attach to the console after the fact and type
'dmesg' to see wtf happened.

kernel: enable/disable kdb

This hard-codes ttyS1, which is what we use on sepia.

add usage log tests to radosgw-admin tasks

tests 'usage show' and 'usage trim'

Signed-off-by: Yehuda Sadeh <yehuda@inktank.com>

sync clock at start of every run

tolerate 250ms clock drift

include suite in archive dir

whitelist 'slow request' in qa runs

radosgw-admin: fix for non-numeric bucket ids

radosgw-admin: test max buckets limit

radosgw-admin: remove buckets before user

Otherwise user delete will fail.

radosgw-admin: fix swift subuser/key tests

Need to do 'subuser (add|rm)', not 'key (add|rm)'.

schedule_suite.sh: add flavors, check/fix sha1s, optional templates

This should be everything we need to use this for the nightlies, with the
exception of updating the git trees, which can happen explicitly in the
crontab.

workunit: grab 'all' config from the right variable

workunit: allow setting environment variables

This is useful for e.g. running the same tests against rbd in new and
old formats.

--summary: add total counts, also note free machines

Signed-off-by: Dan Mick <dan.mick@inktank.com>
Reviewed-by: Josh Durgin <josh.durgin@inktank.com>

new variable lock hid lock() function

teuthology-lock: add --summary and --brief options

Signed-off-by: Dan Mick <dan.mick@inktank.com>
Reviewed-by: Josh Durgin <josh.durgin@inktank.com>

pull s3-tests.git using git, not http

ceph: simplify 'cluster' mon log handling

It's not a special file in the mon_data directory anymore, but intead
something in archive that will get slurped up normally.  Make sure we
grep for badness from the proper location.

Pass up unmodified exceptions from connection.connect()

This allows useful errors to be reported from things like
mismatched hostkeys, etc.

More shortnames fixes:
- Allow shortnames in teuthology-updatekeys as well
- Use list comprehensions instead of map()

task/: Added object map benchmarking test

Signed-off-by: Eleanor Cawthon <eleanor.cawthon@inktank.com>

Allow short names to teuthology-lock (e.g. "plana14")

Signed-off-by: Dan Mick <dan.mick@inktank.com>
Reviewed-by: Sam Just <sam.just@inktank.com>

fix up dist var

This lets you override the default (now precise) in the ceph config yaml,
e.g.

- ceph:
    dist: oneiric
    branch: master

Change hardcoded oneiric to precise

Signed-off-by: Dan Mick <dan.mick@inktank.com>

Added python-dev to list of required packages.

rbd.xfstests: default to 250mb instead of 100mb

schedule_suite: fix 'slow request' whitelist

rbd_fsx: resize to byte boundaries (not object multiples)

ceph.newdream.net -> ceph.com

ignore syslog cron noise

osd_recovery: test no* osdmap flags

nuke: refactor to run in parallel and add unlock option

nuke-on-error already did this, but now teuthology-nuke does it
too. Also outputs targets that couldn't be nuked at the end.

parallel: obey iterator protocol

Once it raises StopIteration, it must continue to do so on subsequent calls to next().

nuke: ignore ntpdate errors

We keep seeing a race between ntpd startup and our stop + ntpdate + start
sequence.  Ignore errors here.

filestore_idempotent: url has changed

hammer.sh: -a to archive each run

Signed-off-by: Sage Weil <sage@newdream.net>

rbd_fsx: show progress

The updated fsx takes this arg.

Signed-off-by: Sage Weil <sage@newdream.net>

fix misc checks that wait for N osds to be up

These all cut&pasted broken code, blah!

whitelist xfs_fsr syslog noise

Ignore lines like

2012-04-17T13:44:11-07:00 plana59 fsr[5454]: DEBUG: fsize=450560 blsz_dio=450560 d_min=512 d_max=2147483136 pgsz=4096

Add task for running fsx on an rbd image.

filestore_idempotent: use new sequence-based tester

random seed, inject at 50-300.

rbd.py: add xfstests functionality

Add tasks for running xfstests over a pair of rbd volumes.  The main
one is called xfstests, and it sets up rbd volumes of specified size
and runs a set of likely-to-be-successful tests.  The other one is
used by the first, and is called run_xfstests.  This provides a
generic (device rather than rbd device oriented) interface to
xfstests, and should probably be made standalone and distinct from
rbd at some point.

Using multiple rbd devices required the rbd udev rule manipulation
to ignore errors, since it appears that each device caused the a
teardown attempt, which leads to failures the second time around.
There's probably a more robust solution, but this works for now.

Signed-off-by: Alex Elder <elder@dreamhost.com>

ceph_manager: don't try to start greenlet twice

spawn already scheduled it. Trying to start it again hits an assert.

kernel: kludge around mysterious 0-byte .git/HEAD files

No idea where these are coming from, but they break nodes with behavior
like

ubuntu@plana08:~$ sudo install -d -m0755 /lib/firmware/updates && cd /lib/firmware/updates && sudo git init
Reinitialized existing Git repository in /lib/firmware/updates/.git/
ubuntu@plana08:/lib/firmware/updates$ sudo git --git-dir=/lib/firmware/updates/.git config --get remote.origin.url >/dev/null || sudo git --git-dir=/lib/firmware/updates/.git remote add origin git://ceph.newdream.net/git/linux-firmware.git
ubuntu@plana08:/lib/firmware/updates$ cd /lib/firmware/updates && sudo git pull origin master
fatal: Not a git repository (or any of the parent directories): .git

where the .git directory looks like

total 32
drwxr-xr-x 7 root root 4096 2012-04-10 12:52 .
drwxr-xr-x 3 root root 4096 2012-04-06 13:54 ..
drwxr-xr-x 2 root root 4096 2012-04-06 13:54 branches
-rwxr--r-- 1 root root  236 2012-04-10 11:33 config
-rw-r--r-- 1 root root    0 2012-04-10 12:52 config.lock
-rw-r--r-- 1 root root    0 2012-04-06 13:54 description
-rw-r--r-- 1 root root    0 2012-04-06 13:54 FETCH_HEAD
-rw-r--r-- 1 root root    0 2012-04-06 13:54 HEAD
drwxr-xr-x 2 root root 4096 2012-04-06 13:54 hooks
drwxr-xr-x 2 root root 4096 2012-04-06 13:54 info
drwxr-xr-x 4 root root 4096 2012-04-06 13:54 objects
drwxr-xr-x 4 root root 4096 2012-04-06 13:54 refs

Hopefully someone can figure out what is causing this and revert this
later.

kernel: reset to remote firmware branch; don't pull

Pull might merge if upstream rebases.  Just make our branch match the
remote one.

kernel: change git incantation for firmware pull

The 'git pull <uri>' seemed to consistently fail on some nodes.  Can't be
sure this was really the problem with them all down now, but this is more
common, and works.

ls: another newline

ls: remote stray newline

Change to local mirror of linux-firmware repo to try to stop failures

Kernel: Pull linux-firmware from git

Signed-off-by: Mark Nelson <nhm@clusterfaq.org>

cleanup-and-unlock.sh: helper to nuke and then unlock a set of nodes

I usually do something like

 teuthology-lock --list-targets --owner scheduled_sage@metropolis > /tmp/b
 ./cleanup-and-unlock.sh /tmp/b scheduled_sage@metropolis

It's a huge headache when some of the nodes are down, though.  A better
thing would be if nuke had an --unlock option, and would continue with the
nodes that didn't error out.

But, this is still useful as is.

schedule_suite.sh: helper to schedule a suite

There's a bunch of stuff hardcoded in here, similar to the nightly, but
it's a useful starting point.

Added assertion to check that targets > roles

Signed-off-by: Mark Nelson <mark.nelson@dreamhost.com>

nuke: don't run umount when no xargs args

Gets rid of this noise:

INFO:teuthology.nuke:Unmount any osd data directories...
INFO:teuthology.orchestra.run.err:Usage: umount -h | -V
INFO:teuthology.orchestra.run.err:       umount -a [-d] [-f] [-r] [-n] [-v] [-t vfstypes] [-O opts]
INFO:teuthology.orchestra.run.err:       umount [-d] [-f] [-r] [-n] [-v] special | node...
INFO:teuthology.orchestra.run.err:Usage: umount -h | -V
INFO:teuthology.orchestra.run.err:       umount -a [-d] [-f] [-r] [-n] [-v] [-t vfstypes] [-O opts]
INFO:teuthology.orchestra.run.err:       umount [-d] [-f] [-r] [-n] [-v] special | node...
...

ceph.conf: enable 'osd recover clone overlap'

to test the recovery cloning in qa.  this was redone, but forgot to enable
it in qa.

make Thrasher not inherit from Greenlet

Add test for object source marked down