thrashosds: make actions less nonsensical

Make marking OSD up/down and in/out totally orthogonal.

Signed-off-by: Sage Weil <sage@newdream.net>

ls: include duration, less noise

hammer.sh: new -nuke syntax

include run duration in summary.yaml

ls: fix extraneous newline

ceph: ignore all leaks

unless/until we figure out where the DefinitelyLost records are coming
from.. at first glance they look bogus.

ceph: take single arg or list for valgrind args

combined mon, osd, mds starter functions

rbd: default to all:

use local mirrors for (most) github urls

A cronjob on ceph.newdream.net updates these every 15 minutes.  Sigh.

teuthology-ls: show pid, last line of output for running jobs

show host -> roles mapping on startup

Less guessing when manually inspecting an in-progress or hung run.

lost_unfound: make test work with backfill

If we backfill, we fail to peer instead of having every object show up as
'unfound'.  Avoid that by preventing log trimming, so that we always do
log recovery for this test.

Use yaml.safe_dump so unicode doesn't mess up the yaml files.

In general, yaml.dump is comparable to pickle, and my personal
coding standard says *never* use it. yaml.safe_dump is much nicer.
yaml.dump should have been named yaml.unsafe_dump, yaml.safe_dump
should have been named yaml.dump :(

nuke: take config files from -t argument

teuthology-lock and teuthology-updatekeys both use -t for this already

kernel: loop reconnecting in case we race with shutdown

Previously, if we reconnected before shutdown completed we asserted
that the kernel did not boot into the new version, when we just needed
to wait for the machine to reboot.

thrasher: don't mark down osds out; tell monitor same

Stopping ceph-osd doesn't make it out (immediately).  Prevent monitor
from doing this after a delay too so we can keep our notion of what is
up/down/in/out accurate.

lost_unfound: typo

thrasher: adjust min_dead default

Make this 1, not 2.  That's a bit more friendly.  It doesn't strictly
matter, tho, since we revive osds before waiting for clean.

thrasher: add max_dead

Add max_dead, and revive osds prior to waiting for clean.  Otherwise we
can leave too many OSDs down and the cluster will never go clean.

verify all osds start before checking health

Just checking health isn't good enough, since it races with OSD startup:
we can have a healthy cluster with 0 (or something else < total) OSDs.

ceph: let the user running ceph-osd remove subvolumes

This will prevent EPERM when using the SNAP_DESTROY ioctl,
so the filestore will use btrfs snaps.

syslog: ignore lockdep non-static key warning

It looks like this warning was made default in linux 3.2.
This will keep happening until #1922 is done.

run: put pid in archive dir

This will make it easy for teuthology-ls to show you the running process's
pid (if it's still running).  Or for other utiltizes to kill + clean up
a hung teuthology run.

ceph_manager: a booting osd is no longer automatically marked in

as of ceph.git commit 96b7b0d83e5fe70a4efb4e284e18b4b40840bfec

mon_recovery: need n/2 + 1 monitors for quorum

ceph: don't skip monitor ports

We can use the same port multiple times if they are on a different hosts.

suite: make email-on-success the default behavior

This way you can tell when a run is complete, instead of wondering if
it's stuck in the queue.

rados: fix example config

nuke-on-error: only unlock if this run locked the machines

Remove unused mon.0 variables.

rados: use testrados instead of testsnaps and testreadwrite

rados: remove unused variable

rados: clean up argument construction

Only the client id varies, so it can be done outside the loop. Also
handle coredumps and coverage, and use LD_LIBRARY_PATH instead of
LD_PRELOAD.

rados: fix references to testrados

rados: fix documentation format

misc: simplify reconnect logic

Ignore all errors until the timeout expires so we don't have to worry
about whitelisting them.

teuthology rgw-admin: annotated test cases for inventory
   this is not a nose suite, so I simply added test case
   descriptions in csv format, and put a file to extract
   them at the top of the file.
Signed-off-by: Mark Kampe <mark.kampe@dreamhost.com>

syslog checking: forgot a pipe

rountrip: add task

readwrite: fix task with default conf

readwrite: fix conf, task runs

readwrite: add readwrite task

still not really running, but at least getting configured

coverage: use locally stored build instead of downloading from a gitbuilder

Ignore lockdep being turned off for now.

Some machines are hitting this udev issue:
http://marc.info/?l=linux-kernel&m=132033587908426&w=2 and lockdep is
turned off after the first warning.

coverage: don't generate html reports for each test

These can always be generated from the lcov files later, right now they just waste space.

syslog: ignore 'task blocked' warnings

These will happen under heavy load (usually on the osd).

internal: check syslog for errors

This should catch lockdep warnings and mark tests with them as failed.

workunit: set client id and secretfile env vars

These are used by the kernel rbd workunit to know how to map images.

Signed-off-by: Josh Durgin <josh.durgin@dreamhost.com>

Rename "testrados" and "testswift" tasks to not begin with "test".

Anything "test*" looks like a unit test, and shouldn't be used for
actual code.

Fix unit tests for SSH keep-alive setting.

Commit 6e3e0d7cdcb5ba70f938f0850a8828aca2753ab5 failed to pass
unit tests.

Handle interactive-on-error also when error is from contextmanager exit.

Closes: http://tracker.newdream.net/issues/1745

Properly handle case where first error is inside a context manager __exit__.

Closes: http://tracker.newdream.net/issues/1743

nuke: don't specify full path

/tmp/cephtest/binary may have been removed; kill stray daemons by name
only.  we really don't care about false positives here!

ceph_manager: %

Save summary after nuking machines.

This way you can tell when tests are entirely finished running.

Add an example overrides file for running regression tests.

suite: put common config before facets

This lets you add tasks to the beginning of a run, like the chef task.

suite: schedule a list of collections for running instead of a single suite directory

testswift: fix config

Clean up C++isms.

Add a task for easily running chef-solo on all the nodes.

ceph_manager: fix logging

ceph: deep merge overrides, so e.g. log whitelists can be overridden

misc: move deep_merge out of the MergeConfig class - it's generic

Save config after locking nodes, so targets are included.

filestore_idempotent: remove unused import

mon_recovery: remove unused code and import

thrashosds: timeout for every clean check, not just the last one

ceph_manager: add a default timeout of 5 minutes for mon quorum

ceph_manager: log mon quorum status so the logs show progress (or lack thereof)

rgw: add swift task

still not completely working (for some reason it skips all the tests)

filestore_idempotent.py: simple task to test non-idempotent osd ops

Write some non-idempotent events to the osd.  Simulate a failure.  Verify
the result is correct on replay.

This must be preceeded by the ceph task just so that we get the binaries
installed.  Should clean this up later if/when the installation gets
factored out of ceph.py.

Signed-off-by: Sage Weil <sage@newdream.net>

misc: allow >1 monitor per role in get_mon_names()

Signed-off-by: Sage Weil <sage@newdream.net>

add hammer.sh

simple script to repeat a test until it fails.  can probably do something much more sophisticated
here, but this works.

nuke: increase reboot timeout

Some sepia nodes are very slow to reboot.

mon_recovery: add task to test monitor cluster failure recovery

Some simple tests to start with.  We still need some sort of mon cluster
thrashing.

Signed-off-by: Sage Weil <sage@newdream.net>

ceph_manager: manipulate monitors

ceph: keep ceph.conf at ctx.ceph.conf

Signed-off-by: Sage Weil <sage@newdream.net>

Remove unused imports and variable.

Add nuke-on-error option.

This lets automated jobs nuke and unlock machines after failed
tests. Each machine is nuke individually, so one down machine won't
keep others from being nuked and unlocked.

Fix leftover orchestra import clause.

This seems to be a leftover from
a2372fce12b6bd1818e155d1d8ed5134dbd8fd4a,
no idea how it stayed hidden this long.

ceph_manager: log ceph -s output so progress is visible in the logs

Keep each ssh connection alive.

With long-running jobs like thrashing, ssh connections were timing
out.

connection: allow the caller to specify whether keep-alive should be used

locker: fix race in locking

The isolation level is lower than I thought. This made it possible for
two clients to think they both locked the same machines, since the
update would still be modifying each row to change the locked_since
time.

testrados: set CEPH_CLIENT_ID without a ;

Signed-off-by: Samuel Just <samuel.just@dreamhost.com>

testrados: specify CEPH_CONF directly

Signed-off-by: Samuel Just <samuel.just@dreamhost.com>

rgw: add user suspend/enable test

rgw: log-to-stderr is now a binary flag

testrados: rename testsnaps to testrados and make snap testing optional

Signed-off-by: Samuel Just <samuel.just@dreamhost.com>

workunit: set PYTHONPATH so we can test python bindings

ceph.conf: python parser doens't like ; comments

ceph.conf: more frequent osd scrubbing; remove old cruft

ceph_manager: count active+clean+<somjething else> as active+clean

In my case, one pg was active+clean+scrubbing.

Signed-off-by: Sage Weil <sage@newdream.net>

coverage: don't remove ceph tarball

We want to keep it for examining core files, and we're already
fetching it here, once per suite run.

add lost_unfound task

Also some misc useful bits to ceph_manager.

ceph: add whitelist for cluster log errors

Some messages are expected when thrashing osds or creating unfound
objects.

Fixes: #1622

nuke: reset syslog configuration after rebooting

Previously we removed a file and rebooted without syncing, so the file
was never deleted.

radosgw-admin: test swift keys creation/removal