task/ceph: separate ceph.conf into function

This is so that other tasks can modify ceph.conf
as needed.

Signed-off-by: John Spray <john.spray@inktank.com>

tasks: Use '_' instead of '-' in names

Python modules are not allowed to contain hyphens
in the name.  Using hyphens only works here because
we're using low level __import__.

Change run_tasks to replace '-' with '_' when reading
configs, and rename the task modules to have valid
python module names.

Aside from general hygiene, the motivation to do this
is to allow one task to build on code in another
task by importing it.

Signed-off-by: John Spray <john.spray@inktank.com>

Don't crash when an invalid branch is passed

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Set results_server by default

So that queued jobs get pushed to paddles

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Process queued jobs synchronously

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Merge pull request #260 from ceph/wip-8422

Add exception hook to teuthology-worker

Add exception hook to teuthology-worker

Workers processes are dying occasionally, and this should cause the
exceptions to be logged.

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Merge pull request #258 from ceph/wip-fix-format-samba

Fixed formatting and added a better variable for time out

Fixed broken quotations

Signed-off-by: Yuri Weinstein <yuri.weinstein@inktank.com>

Fixed formatting and added a better variable for time out
Signed-off-by: Yuri Weinstein <yuri.weinstein@inktank.com>

task/: add populate_rbd_pool for quickly spinning up a pool with rbd stuff

Signed-off-by: Samuel Just <sam.just@inktank.com>

ceph_manager: reset timeout if we are making progress in wait_for_recovery

Signed-off-by: Samuel Just <sam.just@inktank.com>

Avoid calling yaml.safe_load() twice on each job

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Split progress indicator out to separate functions

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

increased sleep to 100 as 90 seemed insufficient
Signed-off-by: Yuri Weinstein <yuri.weinstein@inktank.com>

Added more logging
Signed-off-by: Yuri Weinstein <yuri.weinstein@inktank.com>

Added sleep log info line
Signed-off-by: Yuri Weinstein <yuri.weinstein@inktank.com>

Merge pull request #257 from ceph/wip-samba-fix

increased time wait to 90 sec so tests does not fail

increased time wait to 90 sec so tests does not fail

Add Pulpito links to teuthology emails

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Downgrade paramiko to work around an SFTP bug

See http://tracker.ceph.com/issues/8327

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Merge pull request #256 from ceph/wip-6542-wusui

Add missng docstrings to repair_test.py

Add missng docstrings to repair_test.py

Fixes: 6542
Signed-off-by: Warren Usui <warren.usui@inktank.com>

Fix unit tests under Jenkins

os.getlogin() was throwing:
  OSError: [Errno 25] Inappropriate ioctl for device

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Use VersionNotFoundError packages are missing

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Use config.archive_base if one isn't passed

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Add retries to orchestra.connection.connect()

This is an attempt to fix: http://tracker.ceph.com/issues/8314

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Fix typo

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Better logging

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Use try_mark_run_dead()

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Add try_mark_run_dead()

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Move list of exceptions to catch

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Move "no results server" warning

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Fix name parsing

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Merge pull request #255 from ceph/wip-6921-wusui

Allow .teuthology.yaml to set downburst path

Don't pass a custom logger anymore

We already use the hostname in command execution calls

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Use 'stderr' and 'stdout' as logger names

We were using just 'err' and 'out', which isn't very intuitive.

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Catch any Unicode errors that manage to sneak in

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Express hostnames as child logger names

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Use Remote.user

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Add Remote.user attribute

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Use Remote.shortname in logs

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Make Remote.shortname actually short

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Remote.hostname doesn't have to be a property

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Fix PEP-8 issues

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Pass hostname to execute()

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Use 'true' instead of 'echo online'

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Add Remote.ensure_online()

If the connection is alive, do nothing. If not, reconnect. Allow any
exceptions to bubble up to the caller. This is intended to fix unhelpful
'Bad File Descriptor' errors we were seeing when VMs go down.

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Use Remote.hostname in logs

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Consolidate log file setup into shared function

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Use Unicode format strings

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Revert "Revert "Show hostname instead of IP in errors""

This reverts commit 10fee0e368750cf4cd953db5700df59c7f611119.

Conflicts:
teuthology/orchestra/run.py

Allow .teuthology.yaml to set downburst path

If .teuthology.yaml defines downburst, _get_downburst_exec()
now returns that value as the path to the downburst executable.

Also cleaned up code in create_if_vm.  ctx.downburst_conf was
never defined, so the code that handled the AttributeError
was always being executed.

Fixes: 6921
Signed-off-by: Warren Usui <warren.usui@inktank.com>

Merge pull request #254 from ceph/wip-7707-wusui

Use master as default for debian upgrade.

Force log lines to be interpreted as UTF-8

Any invalid UTF-8 byte will be replaced with a Unicode replacement
character: U+FFFD or '�'

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Use binary flag for paramiko ChannelFiles

This works around http://tracker.ceph.com/issues/8313

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Use master as default for debian upgrade.

Make sure that uri is defined for debian upgrades.
Use master as default.

Added _get_uri_() which consolidates checking and assignment of
sha1, tags, and branch values.

Fixes: 7707
Signed-off-by: Warren Usui <warren.usui@inktank.com>

Merge pull request #253 from ceph/wip-7510-wusui

Further clarify 'too many values to unpack' error.

Further clarify 'too many values to unpack' error.

Many errors in yaml configurations cause ValueError to get thrown
with the message 'too many values to unpack.'  A previously reverted
change tried to handle all these situations and print an appropriate
message.

The current behavior of throwing the ValueError exception and exiting
is probably what we still want in these cases.  So instead of handling
the error, the code now checks for the exception at the top-most call
and displays appropriate messages in log.error and in the ctx.summary
data itself.

Fixes: 7510
Signed-off-by: Warren Usui <warren.usui@inktank.com>

Merge pull request #252 from ceph/wip-fsx-krbd

rbd_fsx: expose krbd and related fsx options

Reviewed-by: Josh Durgin <josh.durgin@inktank.com>

Merge pull request #249 from ceph/wip-8284

rados.py: Add pool_snaps option for ceph_test_rados test command

rbd_fsx: expose krbd and related fsx options

Expose

-K (enable krbd mode) through 'krbd',
-Z (use direct IO) through 'direct_io',
-U (disable randomized striping) through 'randomized_striping',
-H (disable discard ops) through 'punch_holes',

-r readbdy (read alignment) through 'readbdy',
-w writebdy (write alignment) through 'writebdy',
-h holebdy (discard alignment) through 'holebdy'.

Signed-off-by: Ilya Dryomov <ilya.dryomov@inktank.com>

Rewrite most file-retrieval functions

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Fix linter errors

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

FIx mktemp dir and redundant Paramiko connecting.

Use previously initialized connection for sftp_get calls.
Use local directory for tarball temp file location.

Use SFTPClienti get for long reads/writes

Modified remote.py to use the paramiko SFTPClient get
method to extract long files (mostly tar files) from
the remote host.  The code formerly saved the data
in a long local string which was very inefficient.

Fixes: 8261
Signed-off-by: Warren Usui <warren.usui@inktank.com>

Revert "Revert "Clean up remote.py and misc.py changes.""

This reverts commit 02504c3fd27d788e2e446369015b14cbf259a8d2.

Revert "Revert "Handle raw data I/O.""

This reverts commit 0c8a3e2334631f5fc20cb7933d0005353ea6a46e.

Revert "Restrict paramiko to old versions for now"

This reverts commit c86df77aa68dc5331b98df3fa038faee77c578ad.

Use longer varchar for locked_by in DB.

Signed-off-by: Sandon Van Ness <sandon@inktank.com>

rados.py: Add pool_snaps option for ceph_test_rados test command

Fixes: #8284
Signed-off-by: David Zafman <david.zafman@inktank.com>

Merge pull request #251 from ceph/wip-8295

rgw: fix indentation for cache_pools

rgw: fix indentation for cache_pools

Fixes: #8295
Signed-off-by: Sage Weil <sage@inktank.com>

Merge pull request #250 from ceph/wip-fix-thrasher

ceph_manager: reset osd weights to 1 when waiting for clean

Reviewed-by: Josh Durgin <josh.durgin@inktank.com>

ceph_manager: reset osd weights to 1 when waiting for clean

If we leave the weights adjusted, we can get PGs stuck in a remapped state
because we are probabilistically rejecting placement.  Avoid this by
setting on in osds to 1.0 before waiting for clean.

Signed-off-by: Sage Weil <sage@inktank.com>

Restrict paramiko to old versions for now

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Revert "Handle raw data I/O."

This reverts commit 257e1459fa064701d789f0ad54384bb80b45e6d9.

Revert "Clean up remote.py and misc.py changes."

This reverts commit 74eff43ee1a2b73159277370cfa9d194e42bf49c.

ceph_manager: fix float stringification

Signed-off-by: Sage Weil <sage@inktank.com>

ceph_manager: fix typo

From ce7fa1839f4b3e3db675b2d68a2bb57849f58c1e. Tested this time.

Signed-off-by: Sage Weil <sage@inktank.com>
Reviewed-by: Josh Durgin <josh.durgin@inktank.com>

Merge pull request #248 from ceph/wip-thrash-osd-weights

ceph_manager: randomly reweight in osds

Reviewed-by: Josh Durgin <josh.durgin@inktank.com>

ceph_manager: randomly reweight in osds

Signed-off-by: Sage Weil <sage@inktank.com>

Bump paramiko to 1.12.0

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

rgw: option to create a cache pool

64mb for now!

Signed-off-by: Sage Weil <sage@inktank.com>
Reviewed-by: Josh Durgin <josh.durgin@inktank.com>

Merge pull request #247 from ceph/requests-sessions

Use a requests.Session object for retries instead of safe_while

Add branch name to job config

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Add suite name to job config

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Add /build and /*.yaml to gitignore

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Calculate a timeout to use based on queue size

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Add --runs, to print only run names

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Refactor teuthology.beanstalk

This architecture will make it easier to add new functionality.

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Drop usage of safe_while

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Use the new ResultsReporter.session object

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Add a requests.Session object to ResultsReporter

By default it is set up to retry requests 10 times

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Remove unused timeout arg to ResultsReporter init

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Merge pull request #243 from ceph/wip-8116-wusui

Wip 8116 wusui

Clean up remote.py and misc.py changes.

Fixed method names to be non-redundant (remote_mktemp in remote is
now just mktemp, for example), and made some parameters be more
self descriptive.  Added some docstrings.  Fixed sudo setting in
get_file method.

Made chmod independent of the actual sftp file getting.
Do not do extra file copy if non-sudo read is needed.
Fixed some parameter names. Made sure temp files are removed.

Handle raw data I/O.

Paramiko 1.13.0 checks data in the Channel and fails if
invalid UTF-8 characters are sent.  The teuthology/misc.py
functions that piped cat output (get_file) and piped tar
output (pull_directory and pull_directory_tarball) formerly
did not work for Paramiko 1.13.0.

Code was changed to use SFTPClient to copy raw data.  The
remote_mktemp and function was changed to be a method of the
remote object.  Remote object methods to copy files and write
tar files were also added.

In misc.py, get_file() was changed to be a wrapper around the
remote object call.  Pull_directory() and pull_directory_tarball
were changed to use the remote object methods as well.

The remote methods used to send the data makes use of the
SFTPClient interface in Paramiko.

The remote_mktemp function was also modified slightly to insure
that new-lines do not appear in temp file names.

Fixes: 8116
Signed-off-by: Warren Usui <warren.usui@inktank.com>

When deleting all of a run's jobs, delete the run

Signed-off-by: Zack Cerza <zack.cerza@inktank.com>

Changes so these are not installed and still removed