lock.py: allow --brief to stand on its own (without --list)

I use --brief all the time, and it's annoying to have to type
the useless --list at the same time.

Signed-off-by: Dan Mick <dan.mick@inktank.com>

radosgw-admin: test data sync with more than max-entries objects

For now hard code the max-entries for the radosgw-agent, since
this is the only test that is affected by it.

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

radosgw-admin: check that data deletions work as well

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

radosgw-admin: fix typo in data sync test

re-indent and set k.key instead of k.Key

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

radosgw-admin: ignore 301 test against the same src and dest regions

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

rgw: create clients in all zones when regions are used

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

rgw utils: add function to get data log window configuration

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

radosgw-agent: add logging to radosgw-admin task tests

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

rgw: set placement targets for zones

This lets zones use different pools for actual object data.

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

radosgw-admin: don't compare pools for different zones

The actual data locations will be different if they are in the same
cluster.

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

Adds radosgw-agent small file sync test

Signed-off-by: Christophe Courtaut <christophe.courtaut@gmail.com>

workunit: change timeout 1h -> 3h

Signed-off-by: Sage Weil <sage@inktank.com>

Add missing space in error message

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Make try_push_job_info() retry using safe_while

I've noticed sometimes try_push_job_info() fails because of server load
issues. It should try more than once (and now does).

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Update safe_while's suggested usage pattern

I didn't love the way safe_while was encouraged to be used and it didn't
fit right with the new no-raising behavior. Now it's encouraged to be
used like this:

with safe_while() as proceed:
    while proceed():
        do_things()

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Add optional _raise parameter

Defaults to True but if set to False, when giving up log a warning
instead of raising an exception.

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Pass timeout to _spawn_on_all_clients()

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Log correct action in CephManager.remove_pool()

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Log timeout value

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Iterate more sensibly over processes

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Change default workunit timeout to 1h

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Use safe_while's action arg

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Add optional 'action' parameter to safe_while

This is to make it easier to see what actually timed out when scanning
error logs

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Update safe_while users to reflect new defaults

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Change safe_while defaults to 6s 10x no increment

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Look for ready() in the right place

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Merge pull request #218 from ceph/wip-radosbench-timeout

Introduce a timeout to radosbench's join phase

Use a timeout of config.get('time') * 2

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Introduce a timeout to radosbench's join phase

Set to 15min right now.

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Mark this 'while True' loop with 'finite' comment

If we're going to embark on a mission to rid ourselves of
infinitely-looping while loops, it seems smart to start marking the ones
we've fixed in order to make grepping for unfixed loops easier.

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Give up on wait_until_healthy() after 15min

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Merge pull request #217 from ceph/wip-fix-plus

suite: fix + handling

suite: fix build_matrix for + case

The + means we should concatenate everything in the directory.  Do that.

This was totally broken before (and unused until now).

Signed-off-by: Sage Weil <sage@inktank.com>

rados: use backwards compatible args

For ops that default to 0, only add arguments for them if they are
specified in the task config. This lets us use the same task across
ceph versions, even if the older version does not support new op
types, like append on dumpling.

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

Merge remote-tracking branch 'gh/firefly'

Revert "Do not spawn a parallel task if dictionary entry does not exist."

This reverts commit dadc9f7d0b6d9c13ccbc4edeb9f7875fc0ae0cac.

ceph.conf.template: add in sensible erasure coding defaults

Signed-off-by: Samuel Just <sam.just@inktank.com>

ceph_manager: fix erasure coding m, k values

Signed-off-by: Samuel Just <sam.just@inktank.com>

Log job PID

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Merge pull request #216 from ceph/wip-workunit-timeout

Add a 6h timeout to workunits

Add a 6h timeout to workunits

The timeout is configurable, but defaults to six hours. It's implemented
by using the 'timeout' command on the remote host.

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Merge pull request #215 from dachary/wip-ec-pool

ceph-manager: fix ec_pool parameters

Merge pull request #207 from ceph/wip-7356

helper for bombing out of infinite loops

ceph-manager: fix ec_pool parameters

* the crush ruleset and the pool create parameters must be identicals
  k=2 m= 1
* the --property argument is invalid
* the failure domain is ignored on pool create

Signed-off-by: Loic Dachary <loic@dachary.org>

Merge pull request #213 from ceph/wip-kdb-except

Allow setting kdb to fail.

Allow setting kdb to fail.

Some kernels (primarily Debian distro kernels) do not support
setting kdb. Rather than having the entire test fail.

Signed-off-by: Sandon Van Ness <sandon@inktank.com>

Merge pull request #212 from ceph/wip-limit

Added --limit option to teuthology-suite.

Merge pull request #211 from ceph/wip-7554

mds_thrash #7554

Added --limit option to teuthology-suite.

Use --limit to limit the number of jobs being scheduled during
teuthology-suite. Also can be used with schedule_suite.sh via the
10th argument.

Signed-off-by: Sandon Van Ness <sandon@inktank.com>
Signed-off-by: Yuri Weinstein <yuri.weinstein@inktank.com>

mds_thrash: Fix a potential getitem on None

get_mds_status returns None for things it can't see,
so have to check for Noneness on all its outputs.

Signed-off-by: John Spray <john.spray@inktank.com>

mds_thrash: Refactor gevent usage + get traceback

This simplifies the code to make MdsTrash be a greenlet
(as it logically is) rather than encapsulating one that
gets started in __init__ (spawning threads in constructors
is evil).

With this done, do_thrash is called from _run inside an
exception handler that will give us full tracebacks
if something bad happens.

Signed-off-by: John Spray <john.spray@inktank.com>

mds_thrash: PEP8-ize whitespace

...so that I can edit the code in a python IDE without
it lighting up like a christmas tree!

Signed-off-by: John Spray <john.spray@inktank.com>

Worker logging tweaks

Change some statements' log levels; don't show bootstrap output if there
is no error.

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

--dead implies --refresh

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Symlink worker log after child starts

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

In find_job_info(), also look for orig.config.yaml

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Push complete info when reporting jobs as dead

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Merge pull request #210 from ceph/wip-queue

Add teuthology-queue command for beanstalk Managmeent.

Merge pull request #208 from ceph/wip-7485

task: Add mds_creation_failure

Reviewed-by: Greg Farnum <greg@inktank.com>

fix docstring typo

Signed-off-by: Alfredo Deza <alfredo.deza@inktank.com>

task: Add mds_creation_failure

This is test code to accompany CephFS fix #7485.

Also fix DaemonState.wait_for_exit to clear up its 'proc'
attribute even if it fails, so that subsequent calls to 'restart'
happen properly.

Signed-off-by: John Spray <john.spray@inktank.com>

Make help a bit more obvious. Misc tweeks.

Put each yaml in the job_description on its own line so not so
wide of a line. Make delete default None not False in function.

Signed-off-by: Sandon Van Ness <sandon@inktank.com>

Add teuthology-queue command for beanstalk Managmeent.

Supports listing entire queue of machine type and deleting test
suite runs from the queue without wiping the entire queue.

Signed-off-by: Sandon Van Ness <sandon@inktank.com>

use itertools for seconds sum

Signed-off-by: Alfredo Deza <alfredo.deza@inktank.com>

tests for the new while helper

Signed-off-by: Alfredo Deza <alfredo.deza@inktank.com>

Flip logic of checking whether a branch can report

Previously we checked if the branch being used was in a whitelist of
branches known to contain the reporting feature. Now, switch to checking
against a blacklist of branches known to *not* have the feature:
argonaut, bobtail, cuttlefish and dumpling.

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

add a helper for while loops

Signed-off-by: Alfredo Deza <alfredo.deza@inktank.com>

schedule_suite: debug filestore = 20 too

Signed-off-by: Sage Weil <sage@inktank.com>

Merge pull request #205 from kdreyer-inktank/jenkins

jenkins: fail fast during job execution

Merge pull request #206 from ceph/wip-osd-debug

schedule_suite: debug osd = 20 for the time being

schedule_suite: debug osd = 20 for the time being

This will make it easier to chase the first pass of firefly bugs.

Signed-off-by: Sage Weil <sage@inktank.com>

Merge pull request #203 from ceph/wip-devstack

Add devstack task

jenkins: fail fast during job execution

Jenkins will dynamically write the commands in its database into a
script and run it with "-x" and "-e" in order to display each step and
fail after the first step fails.

Now that our commands are stored in Git, ensure that we're doing the
same thing.

Signed-off-by: Ken Dreyer <ken.dreyer@inktank.com>

Merge pull request #204 from ceph/wip-fix7397-wusui

Do not spawn a parallel task if dictionary entry does not exist.

Add unit test for task.devstack.parse_os_table()

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Add debug output for reconnect() failures

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Add explanations to asserts

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Guard against ctx.config being unset or None

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Do not spawn a parallel task if dictionary entry does not exist.

Fixes: 7397
Signed-off-by: Warren Usui <warren.usui@inktank.com>

Remove unused import

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Don't run the exercise subtask by default

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Add a retry to the rbd volume verification

This was running into an auth problem intermittently that Josh Durgin
said is likely not a real problem. Still, try the original call first
and fall back to a different one if it fails.

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Fix incorrect exception name in docstring

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Move external docs URLs

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Wait 30s for Keystone to start

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Change usages of StringIO.read() to getvalue()

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Source openrc before creating volume

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Add a new subtask: smoke()

Currently it creates a volume, then verifies that the volume exists in
Ceph - as opposed to some other place. This is intended to verify that
we've configured DevStack at least somewhat correctly.

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Forget about saving the exercise.sh log, for now

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Allow using different devstack branches

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Add devstack.exercise subtask

The subtask runs devstack/exercise.sh

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Make reconnect() use Remote.reconnect()

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Move reboot() to teuthology.misc

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Add documentation to reboot()

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Add note about memory requirements

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Simplify create_if_vm's downburst config logic

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Move restart_apache() to after the reboot

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Make rejoin-stack.sh start screen in detached mode

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Actually call Remote.reconnect()

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Tweaks to is_online and reconnect()

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>