Fix lots of linter errors

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Add --preserve-queue to teuthology-kill

For any cases where we just want to kill the running jobs and not delete
any scheduled jobs. This only applies to killing entire runs and is not
the default.

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Postpone creation of logger object

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

rgw: add option to use erasure coding instead of replication

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

radosgw-agent: default to 1000 max entries

Using a small number of max entries is only needed for one test, so
make it configurable. Setting it too low makes s3tests fail.

Fixes http://tracker.ceph.com/issues/7742

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

internal: cleaner fix for binary gibberish in logs

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

internal: ignore binary junk in kernel logs

NUL bytes can show up here after powercycle testing

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

ceph: ignore daemon types that aren't configured

not every cluster needs an mds

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

radosgw-agent: use our mirror instead of github

Signed-off-by: Sage Weil <sage@inktank.com>

Merge remote-tracking branch 'gh/firefly'

Merge pull request #231 from ceph/wip-fix-rgw

fix rgw task

rgw: handle empty conf case

2014-03-20T23:30:28.964 ERROR:teuthology.contextutil:Saw exception from nested tasks
Traceback (most recent call last):
  File "/home/teuthworker/teuthology-firefly/teuthology/contextutil.py", line 27, in nested
    vars.append(enter())
  File "/usr/lib/python2.7/contextlib.py", line 17, in __enter__
    return self.gen.next()
  File "/home/teuthworker/teuthology-firefly/teuthology/task/rgw.py", line 83, in ship_config
    idle_timeout = conf.get('idle_timeout', 30)
AttributeError: 'NoneType' object has no attribute 'get'

This happens with job yamls like:

- rgw:
  - client.0

(where it is a list and not a dict of clients)

Signed-off-by: Sage Weil <sage@inktank.com>

Merge remote-tracking branch 'gh/firefly'

Merge pull request #230 from ceph/wip-7702

rgw: allow fastcgi idle timeout to be adjusted

Reviewed-by: Yehuda Sadeh <yehuda@inktank.com>

rgw: allow fastcgi idle timeout to be adjusted

Signed-off-by: Sage Weil <sage@inktank.com>

Merge branch 'firefly'

internal: ignore ext4 recovery msg

  plana43 kernel: [   21.179205] EXT4-fs (sda1): INFO: recovery required on readonly filesystem

is harmless.

Signed-off-by: Sage Weil <sage@inktank.com>

Merge branch 'firefly'

ceph.conf: tolerate 500ms of clock drift (up from 250)

Signed-off-by: Sage Weil <sage@inktank.com>

Merge remote-tracking branch 'gh/firefly'

Merge pull request #229 from dachary/wip-ec-pool

ceph_manager: update ec_pool creation parameters

ceph_manager: update ec_pool creation parameters

As of https://github.com/ceph/ceph/pull/1477 the erasure code parameters
are controled via the osd erasure-code-profile set command instead of
being inlined and duplicated in the crush ruleset creation and the pool
creation. There is no need to create the crush ruleset, it is done
implicitly.

Signed-off-by: Loic Dachary <loic@dachary.org>

ceph_manager: default to 16 initial pgs per pool

1 is really too few for anything to happen at a
reasonable rate.

Signed-off-by: Samuel Just <sam.just@inktank.com>

ceph_manager::wait_for_clean: reset timeout if we make progress

Fixes: #7748
Signed-off-by: Samuel Just <sam.just@inktank.com>

Merge pull request #227 from ceph/wip-7749

Pass '--object-sync-timeout 30' to radosgw-agent

Reviewed-by: Josh Durgin <josh.durgin@inktank.com>

Pass '--object-sync-timeout 30' to radosgw-agent

http://tracker.ceph.com/issues/7749

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Merge pull request #226 from ceph/wip-7714

prevent undefined values in finally block

Fix max_job_time timeout

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

prevent undefined values in finally block

Signed-off-by: Alfredo Deza <alfredo.deza@inktank.com>

schedule_suite.sh: turn up journal log too

Signed-off-by: Sage Weil <sage@inktank.com>

Make distro kernels work on Trusty.

Some grub changes and package names caused them to fail on trusty.

Signed-off-by: Sandon Van Ness <sandon@inktank.com>

Merge remote-tracking branch 'gh/firefly'

lock: allow -a with --brief

Signed-off-by: Sage Weil <sage@inktank.com>

Handle newer btrfstools.

Newer btfs userland tools needs a -f like xfs instead of a prompt
for yes. Trusty needs this change.

Signed-off-by: Sandon Van Ness <sandon@inktank.com>

Merge pull request #222 from ceph/wip-trusty

Handle newer btrfstools.

Handle newer btrfstools.

Newer btfs userland tools needs a -f like xfs instead of a prompt
for yes. Trusty needs this change.

Signed-off-by: Sandon Van Ness <sandon@inktank.com>

radosbench: cleanup will probably take longer than writing the objects

With thrashing, cleanup will require recovering the degraded objects
first, while the initial write out doesn't since they they are new
objects.

Signed-off-by: Samuel Just <sam.just@inktank.com>

Merge pull request #220 from ceph/wip-print

Add print task.

Merge pull request #221 from ceph/wip-brief

lock.py: allow --brief to stand on its own (without --list)

lock.py: allow --brief to stand on its own (without --list)

I use --brief all the time, and it's annoying to have to type
the useless --list at the same time.

Signed-off-by: Dan Mick <dan.mick@inktank.com>

Add print task.

Made a task that simply prints the output that is given to it as
an argument. Can be used like any other task (under sequential,
etc...)

IE:

tasks:
- print: "String"
- chef: null
- print: "Another String"

Signed-off-by: Sandon Van Ness <sandon@inktank.com>
Signed-off-by: Yuri Weinstein <yuri.weinstein@inktank.com>

radosgw-admin: test data sync with more than max-entries objects

For now hard code the max-entries for the radosgw-agent, since
this is the only test that is affected by it.

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

radosgw-admin: check that data deletions work as well

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

radosgw-admin: fix typo in data sync test

re-indent and set k.key instead of k.Key

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

radosgw-admin: ignore 301 test against the same src and dest regions

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

rgw: create clients in all zones when regions are used

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

rgw utils: add function to get data log window configuration

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

radosgw-agent: add logging to radosgw-admin task tests

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

rgw: set placement targets for zones

This lets zones use different pools for actual object data.

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

radosgw-admin: don't compare pools for different zones

The actual data locations will be different if they are in the same
cluster.

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

Adds radosgw-agent small file sync test

Signed-off-by: Christophe Courtaut <christophe.courtaut@gmail.com>

workunit: change timeout 1h -> 3h

Signed-off-by: Sage Weil <sage@inktank.com>

Add missing space in error message

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Make try_push_job_info() retry using safe_while

I've noticed sometimes try_push_job_info() fails because of server load
issues. It should try more than once (and now does).

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Update safe_while's suggested usage pattern

I didn't love the way safe_while was encouraged to be used and it didn't
fit right with the new no-raising behavior. Now it's encouraged to be
used like this:

with safe_while() as proceed:
    while proceed():
        do_things()

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Add optional _raise parameter

Defaults to True but if set to False, when giving up log a warning
instead of raising an exception.

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Pass timeout to _spawn_on_all_clients()

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Log correct action in CephManager.remove_pool()

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Log timeout value

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Iterate more sensibly over processes

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Change default workunit timeout to 1h

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Use safe_while's action arg

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Add optional 'action' parameter to safe_while

This is to make it easier to see what actually timed out when scanning
error logs

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Update safe_while users to reflect new defaults

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Change safe_while defaults to 6s 10x no increment

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Look for ready() in the right place

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Merge pull request #218 from ceph/wip-radosbench-timeout

Introduce a timeout to radosbench's join phase

Use a timeout of config.get('time') * 2

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Introduce a timeout to radosbench's join phase

Set to 15min right now.

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Mark this 'while True' loop with 'finite' comment

If we're going to embark on a mission to rid ourselves of
infinitely-looping while loops, it seems smart to start marking the ones
we've fixed in order to make grepping for unfixed loops easier.

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Give up on wait_until_healthy() after 15min

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Merge pull request #217 from ceph/wip-fix-plus

suite: fix + handling

suite: fix build_matrix for + case

The + means we should concatenate everything in the directory.  Do that.

This was totally broken before (and unused until now).

Signed-off-by: Sage Weil <sage@inktank.com>

rados: use backwards compatible args

For ops that default to 0, only add arguments for them if they are
specified in the task config. This lets us use the same task across
ceph versions, even if the older version does not support new op
types, like append on dumpling.

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

Merge remote-tracking branch 'gh/firefly'

Revert "Do not spawn a parallel task if dictionary entry does not exist."

This reverts commit dadc9f7d0b6d9c13ccbc4edeb9f7875fc0ae0cac.

ceph.conf.template: add in sensible erasure coding defaults

Signed-off-by: Samuel Just <sam.just@inktank.com>

ceph_manager: fix erasure coding m, k values

Signed-off-by: Samuel Just <sam.just@inktank.com>

Log job PID

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Merge pull request #216 from ceph/wip-workunit-timeout

Add a 6h timeout to workunits

Add a 6h timeout to workunits

The timeout is configurable, but defaults to six hours. It's implemented
by using the 'timeout' command on the remote host.

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Merge pull request #215 from dachary/wip-ec-pool

ceph-manager: fix ec_pool parameters

Merge pull request #207 from ceph/wip-7356

helper for bombing out of infinite loops

ceph-manager: fix ec_pool parameters

* the crush ruleset and the pool create parameters must be identicals
  k=2 m= 1
* the --property argument is invalid
* the failure domain is ignored on pool create

Signed-off-by: Loic Dachary <loic@dachary.org>

Merge pull request #213 from ceph/wip-kdb-except

Allow setting kdb to fail.

Allow setting kdb to fail.

Some kernels (primarily Debian distro kernels) do not support
setting kdb. Rather than having the entire test fail.

Signed-off-by: Sandon Van Ness <sandon@inktank.com>

Merge pull request #212 from ceph/wip-limit

Added --limit option to teuthology-suite.

Merge pull request #211 from ceph/wip-7554

mds_thrash #7554

Added --limit option to teuthology-suite.

Use --limit to limit the number of jobs being scheduled during
teuthology-suite. Also can be used with schedule_suite.sh via the
10th argument.

Signed-off-by: Sandon Van Ness <sandon@inktank.com>
Signed-off-by: Yuri Weinstein <yuri.weinstein@inktank.com>

mds_thrash: Fix a potential getitem on None

get_mds_status returns None for things it can't see,
so have to check for Noneness on all its outputs.

Signed-off-by: John Spray <john.spray@inktank.com>

mds_thrash: Refactor gevent usage + get traceback

This simplifies the code to make MdsTrash be a greenlet
(as it logically is) rather than encapsulating one that
gets started in __init__ (spawning threads in constructors
is evil).

With this done, do_thrash is called from _run inside an
exception handler that will give us full tracebacks
if something bad happens.

Signed-off-by: John Spray <john.spray@inktank.com>

mds_thrash: PEP8-ize whitespace

...so that I can edit the code in a python IDE without
it lighting up like a christmas tree!

Signed-off-by: John Spray <john.spray@inktank.com>

Worker logging tweaks

Change some statements' log levels; don't show bootstrap output if there
is no error.

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

--dead implies --refresh

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Symlink worker log after child starts

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

In find_job_info(), also look for orig.config.yaml

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Push complete info when reporting jobs as dead

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Merge pull request #210 from ceph/wip-queue

Add teuthology-queue command for beanstalk Managmeent.

Merge pull request #208 from ceph/wip-7485

task: Add mds_creation_failure

Reviewed-by: Greg Farnum <greg@inktank.com>

fix docstring typo

Signed-off-by: Alfredo Deza <alfredo.deza@inktank.com>