Make teuthology-lock respect --os-type

This fixes the regression in issue #10621

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

Merge pull request #416 from ceph/wip-10610

rpm codepath cleanup

Less hardcoding of 'ceph' project in rpm codepath

Signed-off-by: Zack Cerza <zack@redhat.com>

Ensure yum repo file exists before tweaking it

Signed-off-by: Zack Cerza <zack@redhat.com>

Use yum localinstall to install ceph-release

Partly, do this so that if ceph-release is already installed, we don't
get an error.

Signed-off-by: Zack Cerza <zack@redhat.com>

Fix regression in non-ceph project handling

Signed-off-by: Zack Cerza <zack@redhat.com>

Merge pull request #413 from ceph/extras-doc-update

Added some comments clarifying functionality in the install task.

Added some comments clarifying functionality in the install task.

I also put in a couple TODO comments for things to look at later.

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

Add cephfs-java to rpm packages

Signed-off-by: Zack Cerza <zack@redhat.com>

Merge pull request #411 from ceph/wip-10580

Remove duplicate package list from install task

Merge pull request #412 from ceph/wip-10578

Change default results_timeout to 12h

Remove unncessary 'global' declaration

Signed-off-by: Zack Cerza <zack@redhat.com>

Change default results_timeout to 12h

Signed-off-by: Zack Cerza <zack@redhat.com>

Remove duplicate package list from install task

Signed-off-by: Zack Cerza <zack@redhat.com>

Merge pull request #409 from ceph/wip-10573

Don't suppress stdout for most apt-get ops

Merge pull request #410 from ceph/print-teuth-command

Log the teuthology command being ran at the debug level

Log the teuthology command being ran at the debug level

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

Don't suppress stdout for most apt-get ops

Signed-off-by: Zack Cerza <zack@redhat.com>

Merge pull request #408 from ceph/revert-407-wip-verbose

Revert "teuthology-suite: default -v"

Revert "teuthology-suite: default -v"

Merge pull request #407 from ceph/wip-verbose

teuthology-suite: default -v

teuthology-suite: default -v

Signed-off-by: Sage Weil <sage@redhat.com>

Merge pull request #402 from ceph/wip-10467

Schedule jobs with missing packages, but fail them quickly

Adding some more test coverage to teuthology.suite

This is about a 10% increase in coverage on teuthology.suite

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

If a job was marked 'dead' by a task, retain that status on failure

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

Make teuthology.suite.get_gitbuilder_host respect config.gitbuilder_host

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

New internal task to check packages and fail the job if any are missing

Introduces a new task, internal.check_packages, that checks gitbuilder
for ceph packages for the given os_type and sha1 defined in the job
config.  If no packages are found, fail the job. This new task is ran
before any other tasks.

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

Allow runs that have jobs with missing packages to schedule.

Runs that have jobs with missing packages will now schedule successfully
instead of throwing an exception and sending an email of the failure.
However, the jobs with missing packages are tracked and printed when
--dry-run is used.

Extracted the code that did these checks from schedule_suite so that it
could be reused elsewhere. Wrote unit tests on these newly extracted functions.

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

Respect gitbuilder_host in get_ceph_binary_url()

Signed-off-by: Zack Cerza <zack@redhat.com>

Merge pull request #405 from ceph/docs-interactive

documentation updates for interactive and interactive-on-error

Additional information about the interative task in the README

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

docs update, interactive-on-error does trigger between nested tasks now

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

Merge pull request #403 from dmick/master

Two bugs: vps hostkeys and interactive-on-error multiple activation

Merge pull request #404 from ceph/mirror

Point yum repo at gitbuilder_host

Point yum repo at gitbuilder_host

Signed-off-by: Zack Cerza <zack@redhat.com>

internal.vm_setup: call ssh with -o StrictHostKeyChecking=no

If one doesn't have this configured for ssh, the call to
ssh for vps'es in vm_setup will cause a tty prompt to accept
the unknown key.

Fixes: #10530
Signed-off-by: Dan Mick <dan.mick@redhat.com>

Reset interactive-on-error the first time it triggers

This way one only drops into the REPL once.  (It's possible
that it may be useful to configure this behavior, but I think
that's lily-gilding.)

Fixes: #10529
Signed-off-by: Dan Mick <dan.mick@redhat.com>

Add librbd1 and librados2 to deb list

Signed-off-by: Zack Cerza <zack@redhat.com>

Add librbd1 and librados2 to rpm list

Signed-off-by: Zack Cerza <zack@redhat.com>

Merge pull request #401 from ceph/mirror

Respect gitbuilder_host setting in install task

Use teuthology.config for gitbuilder_host

Signed-off-by: Zack Cerza <zack@redhat.com>

Add default for gitbuilder_host

Signed-off-by: Zack Cerza <zack@redhat.com>

ceph.conf: change osd_map_max_advance to 10 by default

Signed-off-by: Samuel Just <sjust@redhat.com>
Reviewed-by: Sage Weil <sage@redhat.com>

Merge pull request #400 from ceph/wip-10466

Add documentation for teuthology.yaml

Add documentation for teuthology.yaml

Signed-off-by: Zack Cerza <zack@redhat.com>

Merge pull request #399 from ceph/interactive-testing

Make log messages in run_tasks.py specify when the exception occurred.

When packages are not found, mention the OS

Signed-off-by: Zack Cerza <zack@redhat.com>

Make log messages in run_tasks.py specify when the exception occured.

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

ceph.conf: reduce whole-object digest update limit

Update these more aggressively in QA.  Let it non-zero so that
we still cover both code paths.

Signed-off-by: Sage Weil <sage@redhat.com>

Merge pull request #346 from dachary/wip-skip-report

report: skip if result_server is none

Merge pull request #398 from ceph/baremetal-osversion-default

Allow os_version and os_type to be None when locking bare metal nodes.

Adds logging that prints distro and version during vps provisioning.

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

Allow os_version and os_type to be None when locking bare metal nodes.

This fixes a bug that was defaulting os_version to 12.04 and os_type to
ubuntu when locking bare metal machines.  We don't want to default the
os_version or os_type when locking bare metal so that the locking code
can pick whichever node is available.

VPS nodes will get proper defaults in provision.create_if_vm if they
aren't explicitly defined by either the config yaml or the cli flags.

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

Merge pull request #397 from ceph/log-install-failures

When ceph-release fails to install for any reason, log it.

When installing ceph-release log all install failures.

This code used to make an exception for 'already installed' failures
during a ceph-relase install and not log them. Unfortunately, this also
caused all other types of errors to not log at all. With this change
remote.run will log any errors that happen during the command.

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

Fix yum-repo-mangling regexp

It was failing to work if the branch name contained a '-'.

Signed-off-by: Zack Cerza <zack@redhat.com>

Merge pull request #396 from andrewschoen/issue-10279

respect --os-version and --os-type in teuthology.run

Including a couple FIXME comments in misc.get_distro so we can remember
to revisit this function later.

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

Use teuthology.misc.get_distro and teuthology.misc.get_distro_
version in the internal.lock_machines task.

When the internal task wasn't using get_distro to retrieve os_type it
could set os_type to None, causing the lock to fail. This happened when
there was not an os_type defined in the config or a --os-type flag given.
Now, os_type will be properly defaulted to ubuntu when trying to lock
bare metal machines.

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

Fixed a couple imports that were importing teuthology.misc as
teuthology.

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

include the os_type in the log message when it's invalid

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

Respect --os-version and --os-type in teuthology.run.

Remove default value of 'ubuntu' for --os-type for teuthology.run and
make sure that teuthology.misc.get_distro accounts for ctx.os_type now
defaulting to None instead of 'ubuntu'.

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

Fix TestResultsEmail

Signed-off-by: Zack Cerza <zack@redhat.com>

Merge pull request #391 from ceph/wip-kernel-local-rpm

kernel: local rpm support

kernel: update main docstring

Revise examples, document local kernel package support.

Signed-off-by: Ilya Dryomov <idryomov@redhat.com>

Properly ignore site-specific lab_domain in tests

Signed-off-by: Zack Cerza <zack@redhat.com>

More logging in get_distro_from_downburst()

Signed-off-by: Zack Cerza <zack@redhat.com>

Merge pull request #394 from ceph/wip-default-kernel

scripts/suite.py: change default kernel from 'testing' to '-'

kernel: add rpm: key

Add 'rpm:' key to not confuse people with stuff like

  kernel:
    deb: /path/to/foo.rpm

Signed-off-by: Ilya Dryomov <idryomov@redhat.com>

kernel: maybe_generate_initrd_rpm()

gitbuilder and local packages may not have initrd hooks in them,
depending on how old is the kernel - an appropriate %post section was
added to upstream spec only in 3.12.

Signed-off-by: Ilya Dryomov <idryomov@redhat.com>

kernel: get_latest_image_version_{rpm, deb}()

A bit of refactoring to make things more clear and align distro case
with the rest of the code.  get_version_from_pkg() is renamed to
get_latest_image_version_deb() and get_latest_image_version_rpm() is
introduced to match it.

Signed-off-by: Ilya Dryomov <idryomov@redhat.com>

kernel: local rpm support

install_kernel() now takes a path to a package in /tmp and can use
get_image_version() to obtain image version.

Signed-off-by: Ilya Dryomov <idryomov@redhat.com>

kernel: get_image_version()

Use 'dpkg-deb -c' for debs instead of rolling our own.

Signed-off-by: Ilya Dryomov <idryomov@redhat.com>

kernel: download_kernel() shouldn't install kernels

Stop using rpm http url capabilities and download packages ourselves.
This keeps the structure the same for both rpms and debs and makes it
possible to fit in local rpm support.  Drop the "rpm already installed"
check for the same reasons.

Signed-off-by: Ilya Dryomov <idryomov@redhat.com>

kernel: fix 'sha1: distro' vs per role configs

We may want to setup different kernels for different roles (as long as
all roles on the same node agree on their choice), so returning as soon
as 'distro' is seen is not right.  Also, no need to use find() as
'distro' is always an exact match.

Signed-off-by: Ilya Dryomov <idryomov@redhat.com>

kernel: gitbuilder_pkg_name(), remote_pkg_path()

In preparation for local rpm support, encapsulate package naming.
Using sudo to rm copied/downloaded package is not necessary.

Signed-off-by: Ilya Dryomov <idryomov@redhat.com>

Revert "ceph.conf: ms die on skipped message = true"

This reverts commit aa047a2806d44944399b50f2749754f47c92025f.

valgrind: add msync suppression for el7

already had the other distros

Signed-off-by: Sage Weil <sage@redhat.com>

Merge branch 'master' of github.com:ceph/teuthology

scripts/suite.py: remove default -k (kernel) value

Note: will require current cron jobs to change to request -k testing
explicitly.  Removes current special meaning of '-k -'.

Fixes: #10304
Signed-off-by: Dan Mick <dan.mick@redhat.com>

Revert "respect --os-version and --os-type in teuthology.run. fixes #10279"

This reverts commit 5e943bb35f74d56667dbd73da4032d0acec8fef4.

Merge pull request #393 from ceph/wip-10260

teuthology.run: conditionally add fake_ctx to teuthology.config.config

Fix broken error message

Signed-off-by: Zack Cerza <zack@redhat.com>

Tweak ScheduleFailError wording

Signed-off-by: Zack Cerza <zack@redhat.com>

Remove stray 'raise'

Signed-off-by: Zack Cerza <zack@redhat.com>

Merge pull request #390 from ceph/wip-nuke-stale

teuthology-nuke --stale

Remove redundant read_config() call

Signed-off-by: Zack Cerza <zack@redhat.com>

Add teuthology-nuke --stale

Signed-off-by: Zack Cerza <zack@redhat.com>

Port to docopt

Signed-off-by: Zack Cerza <zack@redhat.com>

PEP-8 fixes

Signed-off-by: Zack Cerza <zack@redhat.com>

Add find_stale_locks()

Signed-off-by: Zack Cerza <zack@redhat.com>

Merge pull request #395 from andrewschoen/worker-waiting-status-bug

remove the status from the call to paddles from worker.py

remove the status from the call to paddles from worker; this allows the job's updated time to change without changing it's status. The status of the job could be either running or waiting

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

Fix breakage in 6114acc

Signed-off-by: Zack Cerza <zack@redhat.com>

teuthology.run: conditionally add fake_ctx to teuthology.config.config

The intent here is to get the 'interactive-on-error' config value
passed down to contextutil.nested(), but it is recognized that we need
a way to share global configuration; for now, since nested() really
needs the entire ctx, we can get it out of fake_ctx.config, but there
needs to be a cleaner way as FakeNamespace is phased out.

Fixes: #10260
Signed-off-by: Dan Mick <dan.mick@redhat.com>

Merge pull request #387 from andrewschoen/issue-10279

respect --os-version and --os-type in teuthology.run. fixes #10279

Merge pull request #392 from andrewschoen/locking-status-10278

put a job into a 'waiting' status while it's locking machines

Timeout needs to be an int

Signed-off-by: Zack Cerza <zack@redhat.com>

put a job into a 'waiting' status while it's locking machines

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

Merge pull request #389 from andrewschoen/run-report-bugfix

we need to use fake_ctx.summary when reporting the outcome of a run