Calculate a timeout to use based on queue size

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Add --runs, to print only run names

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Refactor teuthology.beanstalk

This architecture will make it easier to add new functionality.

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Merge pull request #243 from ceph/wip-8116-wusui

Wip 8116 wusui

Clean up remote.py and misc.py changes.

Fixed method names to be non-redundant (remote_mktemp in remote is
now just mktemp, for example), and made some parameters be more
self descriptive.  Added some docstrings.  Fixed sudo setting in
get_file method.

Made chmod independent of the actual sftp file getting.
Do not do extra file copy if non-sudo read is needed.
Fixed some parameter names. Made sure temp files are removed.

Handle raw data I/O.

Paramiko 1.13.0 checks data in the Channel and fails if
invalid UTF-8 characters are sent.  The teuthology/misc.py
functions that piped cat output (get_file) and piped tar
output (pull_directory and pull_directory_tarball) formerly
did not work for Paramiko 1.13.0.

Code was changed to use SFTPClient to copy raw data.  The
remote_mktemp and function was changed to be a method of the
remote object.  Remote object methods to copy files and write
tar files were also added.

In misc.py, get_file() was changed to be a wrapper around the
remote object call.  Pull_directory() and pull_directory_tarball
were changed to use the remote object methods as well.

The remote methods used to send the data makes use of the
SFTPClient interface in Paramiko.

The remote_mktemp function was also modified slightly to insure
that new-lines do not appear in temp file names.

Fixes: 8116
Signed-off-by: Warren Usui <warren.usui@inktank.com>

When deleting all of a run's jobs, delete the run

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Changes so these are not installed and still removed

Changes invocation of serialize_remote_roles to internal task to avoid being run during nuke

Moves node: remote mapping to the internal task.

These will likely go somewhere better before merge

Fixes #8050 Adds a cluster.yaml that is written by interactive task

valgrind: fix tcmalloc suppression for trusty

Fixes: #8225
Signed-off-by: Sage Weil <sage@inktank.com>

Revert "valgrind.supp: be less picky about library versions"

This reverts commit f895d16c9e2fd59aab446254e53480cdb91092a1.

Merge pull request #244 from ceph/wip-7199-wusui

Wip 7199 wusui

Allow scrubbing while thrashing

Added ability to implement scrubbing while thrashing
(scrub_interval in config can be set to an interval
similar to how clean_interval is set).  Defaults to 0,
which indicates that no scrubbing will take place.
Add scrub_interval description to thrashosds docstring.

Fixes: 7199
Signed-off-by: Warren Usui <warren.usui@inktank.com>

Only attempt to use sudo if necessary

Post last_in_suite jobs, but delete when run

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Update unit test for Cluster.__repr__()

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Fix Cluster.__repr__()

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Don't push last_in_suite jobs to paddles

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

task/: add tests for ec and rep mark_unfound_lost delete

Signed-off-by: Samuel Just <sam.just@inktank.com>

Bump psutil version requirement

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Fix for #8115

Increase boot disk size per #8115 where monitors shut down due to
/ being full on vm machines.

Signed-off-by: Sandon Van Ness <sandon@inktank.com>

Work around #8166

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Require requests >= 1.0

watch_tube() belongs to the beanstalk module

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Update requests version

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

s/wait-for-package/wait_for_package/

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Merge pull request #242 from ceph/wip-7773

Mirror beanstalkd queue in paddles

Refactor try_delete_jobs()

Also tweak its error message

Be slightly less verbose about logging

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Look for archive_base in config

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

When deleting jobs, also delete them from paddles

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Submit queued jobs to paddles

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Rename teuthology.queue to teuthology.worker

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Use shared methods to connect to beanstalkd

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

When killing a run, delete paddles jobs

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Add methods for querying and deleting jobs

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

safe_while: Don't sleep() on the first attempt

This was causing unnecessary delays in several places

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Pass -D flag to teuthology report

Fixes an issue where tests run on old teuthology branches that died for
uncommon reasons were not being marked as dead

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Update to use psutil 2.x API

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Generate subtasks instead of copy/pasting them

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Don't run apache functions if not using apache

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Optionally use civetweb instead of apache

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Don't pass apache's config to radosgw

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Rename some functions and variables

This is to make the refactoring a little smoother and easier to read.

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Fix all but one of the PEP-8 issues

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Improve unlock error messages.

Added messages if the hostname is invalid, and if
the user is not the owner of the lock.

Fixes: 6295
Signed-off-by: Warren Usui <warren.usui@inktank.com>

Fix kvm issues for Trusty

Change kvm reference to qemu-system-x86_64 and use raw format
in kvm/qemu command.  Tested on both Trusty and Precise.

Fixes: 7825
Signed-off-by: Warren Usui <warren.usui@inktank.com>

Change status to _status everywhere (fix regression)

0550dd119150acf8f7b7da2f32b3938c910c3c99 didn't add '_' to 'status'
everywhere it was needed.

Signed-off-by: Dan Mick <dan.mick@inktank.com>

ceph.conf: longer client_moutn_timeout (which also applies to librados)

Signed-off-by: Sage Weil <sage@inktank.com>

Merge pull request #238 from ceph/wip-pep8

Wip pep8

more statuses redefinition fixes

Signed-off-by: Alfredo Deza <alfredo.deza@inktank.com>

rename variable to avoid collision

Signed-off-by: Alfredo Deza <alfredo.deza@inktank.com>

remove unused import

Signed-off-by: Alfredo Deza <alfredo.deza@inktank.com>

fix redefinition of region

Signed-off-by: Alfredo Deza <alfredo.deza@inktank.com>

Merge pull request #236 from ceph/wip-fix-mon-warn-corrected

changed mon data avail warn  to avoid monitor storage warnings

Reviewed-by: Josh Durgin <josh.durgin@inktank.com>

changed mon data avail warn  to avoid monitor storage warnings

ceph.conf: don't force lockdep on mds

Signed-off-by: Sage Weil <sage@inktank.com>

Report job updated time

When reading job information from archive files, use the mtime of
teuthology.log as the job updated time

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Handle jobs with no targets

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

When ignoring a raised exception, at least log it

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Provide real error messages for unfound (sub)tasks

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

valgrind.supp: be less picky about library versions

...so that this works on trusty

Signed-off-by: Sage Weil <sage@inktank.com>

radosgw-agent: coerce max-entries config to a string

This is necessary to pass it as a command line argument.

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

Merge pull request #234 from ceph/wip-priority

schedule_suite: ugly hack to set priority when scheduling

rgw: idle timeout config moves to the external server line

Signed-off-by: Yehuda Sadeh <yehuda@inktank.com>

schedule_suite: ugly hack to set priority when scheduling

I don't want to add another arg at the end of the very long list of
optional args, so I'll use an environment variable.  Ugly!  But this whole
script needs to be replace anyway.

Signed-off-by: Sage Weil <sage@inktank.com>

Revert "Lines formerly of the form '(remote,) = ctx.cluster.only(role).remotes.keys()'"

This reverts commit d693b3f8950ffd1f2492a4db0f8234fee31f00f0.

Lines formerly of the form '(remote,) = ctx.cluster.only(role).remotes.keys()'
and '(remote,) = ctx.cluster.only(role).remotes.iterkeys()' would fail with
ValueError and no message if there were less than 0 or more than 1 key.
Now a new function, get_single_remote_value() is called which prints out
more understandable messages.

Fixes: 7510
Reviewed-by: Josh Durgin <josh.durgin@inktank.com>
Signed-off-by: Warren Usui <warren.usui@inktank.com>

Don't explode when finding an empty job

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Merge pull request #232 from ceph/wip-suite-priority

suite: allow priority to be set

suite: allow priority to be specified when scheduling

Signed-off-by: Sage Weil <sage@inktank.com>

rgw: allow overriding options

This is mainly useful for toggling ec/replicated pools right now.

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

radosgw-admin: skip data sync tests when only metadata is configured

Fixes http://tracker.ceph.com/issues/7818

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

rgw: fix ec-data-pool config

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

Add log statement to find_run_info()

Sometimes it takes a while.

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Exit gracefully on KeyboardInterrupt

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Add --description flag

Default to not printing job descriptions. Add -d/--description flag to
control that behavior. Change --delete's short option to -D. Other small
output tweaks.

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

s/JOB/PATTERN/

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Tweak usage

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Correct help text

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Fix lots of linter errors

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Add --preserve-queue to teuthology-kill

For any cases where we just want to kill the running jobs and not delete
any scheduled jobs. This only applies to killing entire runs and is not
the default.

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Postpone creation of logger object

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

rgw: add option to use erasure coding instead of replication

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

radosgw-agent: default to 1000 max entries

Using a small number of max entries is only needed for one test, so
make it configurable. Setting it too low makes s3tests fail.

Fixes http://tracker.ceph.com/issues/7742

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

internal: cleaner fix for binary gibberish in logs

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

internal: ignore binary junk in kernel logs

NUL bytes can show up here after powercycle testing

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

ceph: ignore daemon types that aren't configured

not every cluster needs an mds

Signed-off-by: Josh Durgin <josh.durgin@inktank.com>

radosgw-agent: use our mirror instead of github

Signed-off-by: Sage Weil <sage@inktank.com>

Merge remote-tracking branch 'gh/firefly'

Merge pull request #231 from ceph/wip-fix-rgw

fix rgw task

rgw: handle empty conf case

2014-03-20T23:30:28.964 ERROR:teuthology.contextutil:Saw exception from nested tasks
Traceback (most recent call last):
  File "/home/teuthworker/teuthology-firefly/teuthology/contextutil.py", line 27, in nested
    vars.append(enter())
  File "/usr/lib/python2.7/contextlib.py", line 17, in __enter__
    return self.gen.next()
  File "/home/teuthworker/teuthology-firefly/teuthology/task/rgw.py", line 83, in ship_config
    idle_timeout = conf.get('idle_timeout', 30)
AttributeError: 'NoneType' object has no attribute 'get'

This happens with job yamls like:

- rgw:
  - client.0

(where it is a list and not a dict of clients)

Signed-off-by: Sage Weil <sage@inktank.com>

Merge remote-tracking branch 'gh/firefly'

Merge pull request #230 from ceph/wip-7702

rgw: allow fastcgi idle timeout to be adjusted

Reviewed-by: Yehuda Sadeh <yehuda@inktank.com>

rgw: allow fastcgi idle timeout to be adjusted

Signed-off-by: Sage Weil <sage@inktank.com>

Merge branch 'firefly'

internal: ignore ext4 recovery msg

  plana43 kernel: [   21.179205] EXT4-fs (sda1): INFO: recovery required on readonly filesystem

is harmless.

Signed-off-by: Sage Weil <sage@inktank.com>