ceph-ansible-pipeline: update pipeline

- Reintroduce the purge_cluster_non_container and purge_cluster_container
scenario for stable-3.2 and master (somehow they got removed...),
- Remove purge_lvm_osds_* scenarios.

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

Merge pull request #1214 from ceph/vagrant-prune

vagrant: prune stale machines before a run

ceph-volume jobs: prune stable vagrant vms

Signed-off-by: Alfredo Deza <adeza@redhat.com>

scripts: pruning from global status is needed once per teardown

Signed-off-by: Alfredo Deza <adeza@redhat.com>

scripts: create a prune_stale_vagrant_vms function to clear before jobs start

Signed-off-by: Alfredo Deza <adeza@redhat.com>

Merge pull request #1213 from ceph/wip-adminme

teuthology-PRs: Add trigger phrase

teuthology-PRs: Add trigger phrase

Not sure if there was a default that used to work in the past but this
field was blank in the Jenkins web UI and I had to set it before commenting
'jenkins test' triggered a build.

Signed-off-by: David Galloway <dgallowa@redhat.com>

Merge pull request #1212 from ceph/wip-moar-cleanup

build_utils: Manually clean up vagrant old domain IDs

build_utils: Manually clean up vagrant old domain IDs

Signed-off-by: David Galloway <dgallowa@redhat.com>

Merge pull request #1211 from ceph/guits_pipeline_ca

ceph-ansible: add purge_lvm_osds_container to PRs

Merge branch 'master' into guits_pipeline_ca

ceph-ansible: add purge_lvm_osds_container to PRs

Add purge_lvm_osds_container definition to the existing list of PRs that
are automatically triggered in the pipeline.

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

Merge pull request #1210 from ceph/guits_pipeline_ca

ceph-ansible-pipeline: add purge_lvm_osds_container scenario

ceph-ansible-pipeline: add purge_lvm_osds_container scenario

Add scenario purge_lvm_osds_container for master branch.

Only run scenario for corresponding purge playbook (container vs. non
container).

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

Merge pull request #1207 from ceph/podman-pipeline

ceph-ansible: add container_podman to the pipeline

Merge branch 'master' into podman-pipeline

Merge pull request #1208 from ceph/wip-sepia-optional

sepia-fog-images: Allow use of different teuth/cm branches

sepia-fog-images: Allow use of different teuth/cm branches

Signed-off-by: David Galloway <dgallowa@redhat.com>

ceph-ansible: add container_podman to the pipeline

container_podman must run on every PR as it's the same scenario as
docker but using podman.

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1206 from ceph/guits-ca_old_scenarios

ceph-ansible-pipeline: fix luminous-bluestore_lvm_osds scenario

Merge branch 'master' into guits-ca_old_scenarios

ceph-ansible-pipeline: fix luminous-bluestore_lvm_osds scenario

this scenario should run on stable-3.2 only

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

Merge pull request #1205 from ceph/guits-ca_old_scenarios

ceph-ansible-pipeline: remove old scenario from stable-3.2 tests

ceph-ansible-pipeline: remove old scenario from stable-3.2 tests

filestore|bluestore old osds scenarios shouldn't be run when branch is
stable-3.2

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

Merge pull request #1198 from callithea/wip-ceph-dashboard-pull-requests-tmp-remove-ubuntu

ceph-dashboard-pull-requests: Temporary remove Ubuntu node(s)

Reviewed-by: Kefu Chai <kchai@redhat.com>

ceph-dashboard-pull-requests: Temporary remove Ubuntu node(s)

In order to be able to get to the step where the dashboard end-to-end tests
are being executed (which seem to pass on centos) the proposal is to temporary remove
the Ubuntu nodes.
When the current issues with Ubuntu have been fixed the plan is to
re-add Ubuntu (xenial) again to the configuration of this Jenkins job.
Since the job is being triggered automatically it would also prevent failing
jobs (which currently happens all the time and is eating up resources).

Signed-off-by: Laura Paduano <lpaduano@suse.com>

Merge pull request #1204 from ceph/guits_ca_pipeline

ceph-ansible: fix pipeline on add-osds/rgw-multisite scenarios

ceph-ansible: fix pipeline on add-osds/rgw-multisite scenarios

add-osds and rgw-multisite scenarios were not working as expected
in the CI regarding the destination branch.

This commits fixes the scenarios that should be run accoding to the
destination branch.

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

Merge pull request #1203 from ceph/ceph-volume-dev-branches

ceph-volume-nightly check against CEPH_BRANCH, not CEPH_DEV_BRANCH

ceph-volume-nightly check against CEPH_BRANCH, not CEPH_DEV_BRANCH

Signed-off-by: Alfredo Deza <adeza@redhat.com>

Merge pull request #1202 from ceph/ceph-ansible-branches

ceph-volume: pick stable-3.2 ceph-ansible branches

ceph-volume-nightly use stable-3.2 if luminous or mimic is targetted

Signed-off-by: Alfredo Deza <adeza@redhat.com>

ceph-volume-ansible-prs use stable-3.2 if luminous or mimic

Signed-off-by: Alfredo Deza <adeza@redhat.com>

Merge pull request #1201 from ceph/mv-ooo

Mv ooo

ceph-ansible-pipeline: do not test ooo on master

Since all the scenario use lvm now, the ooo scenario will always fail
when triggered from the pipeline. The job will remain in stable branches
though.

Signed-off-by: Sébastien Han <seb@redhat.com>

Revert "ceph-ansible-pipeline: do not test ooo"

This reverts commit 56fe3506a192c9e27a5e18801fb904febf4e58db.
We merge the wrong content, this commit was meant to run ooo on stable
branches only and not on master, we did the opposite so reverting this.

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1180 from ceph/rm-ooo

ceph-ansible-pipeline: do not test ooo

Merge branch 'master' into rm-ooo

Merge pull request #1200 from ceph/syntax-check

ceph-ansible-pr-syntax-check: always fetch origin

ceph-ansible-pr-syntax-check: always fetch origin

We need to fetch origin to always ensure we have the right version.

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1199 from ceph/guits_stable3.2

ceph-ansible-pipeline: update pipeline matrix

ceph-ansible-pipeline: update pipeline matrix

We must test corresponding ceph release for each stable branch of
ceph-ansible.

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

Merge pull request #1197 from ceph/container_podman

add new container_podman scenario to ceph-ansible

add new container_podman scenario to ceph-ansible

This scenario allows us testing podman instead of docker and also python
3 for ou rmodules.

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1196 from ceph/wip-nfs-ganesha-stable-build-fix

nfs-ganesha: fix debian stable build

Merge branch 'master' into wip-nfs-ganesha-stable-build-fix

Merge pull request #1195 from callithea/wip-ceph-dashboard-pull-requests-switch-node

ceph-dashboard-pull-requests: switch node type from trusty to xenial

Reviewed-by: Kefu Chai <kchai@redhat.com>

nfs-ganesha: fix debian stable build

various fixes to nfs-ganesha-stable deb building
update stable config defaults
add removal of old ceph packages from pbuilder
to normal nfs-ganesha debian job

Signed-off-by: Ali Maredia <amaredia@redhat.com>

ceph-dashboard-pull-requests: switch node type from trusty to xenial

Since there are currently issues with the dashboard job and its dependencies (python-jwt)
when the test node is based on trusty (and Nautilus has dropped the support for trusty anyway)
it makes sense to switch to a more recent Ubuntu version

Signed-off-by: Laura Paduano <lpaduano@suse.com>

Merge pull request #1193 from ceph/diff-git

ceph-ansible syntax check

ceph-ansible syntax check

Only check for Modified and Changed content, anything else is irrelevant
especially remove, rename and will make the check fail.

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1190 from callithea/wip-ceph-dashboard-pull-requests-jwt-dependency

ceph-dashboard-pull-requests: add new python-jwt dependency

Signed-off-by: Laura Paduano <lpaduano@suse.com>

ceph-dashboard-pull-requests: add new python-jwt dependency

Since the JWT PR (#22833) has been merged  a new dependency
has been introduced which is now missing for the dashboard Jenkins job
Signed-off-by: Laura Paduano <lpaduano@suse.com>

Merge pull request #1192 from ceph/wip-ceph-iscsi

ceph-iscsi: new PR tox and branch trigger builders

ceph-iscsi: new PR tox and branch trigger builders

Signed-off-by: Jason Dillaman <dillaman@redhat.com>

Merge pull request #1191 from ceph/wip-ceph-iscsi

ceph-iscsi: initial version of combined iSCSI tools repo

ceph-iscsi: initial version of combined iSCSI tools repo

Signed-off-by: Jason Dillaman <dillaman@redhat.com>

Merge pull request #1189 from callithea/wip-ceph-dashboard-pull-requests-label

Changed config of 'white-list-label'

Reviewed-by: Jos Collin <jcollin@redhat.com>

Changed config of 'white-list-label'

Signed-off-by: Laura Paduano <lpaduano@suse.com>

Merge pull request #1188 from callithea/wip-ceph-dashboard-pull-requests-only-trigger-phrase

ceph-dashboard-pull-requests: re-add 'only-trigger-phrase'

Reviewed-by: Jos Collin <jcollin@redhat.com>

ceph-dashboard-pull-requests: re-add 'only-trigger-phrase'

Signed-off-by: Laura Paduano <lpaduano@suse.com>

Merge pull request #1187 from ceph/ceph-ansible-deps

ceph-volume ansible jobs need python-netaddr installed in the controlling node

ceph-volume ansible jobs need python-netaddr installed in the controlling node

Signed-off-by: Alfredo Deza <adeza@redhat.com>

Merge pull request #1168 from callithea/wip-ceph-dashboard-pull-requests-trigger

ceph-dashboard-pull-requests: added 'white-list-labels'

Reviewed-by: Kefu Chai <kchai@redhat.com>
Reviewed-by: Jos Collin <jcollin@redhat.com>

ceph-dashboard-pull-requests: added 'white-list-labels'
and changed 'only-trigger-phrase' to be able to automatically
start this Job for all dashboard PRs

Signed-off-by: Laura Paduano <lpaduano@suse.com>

Merge pull request #1183 from ceph/ceph-ansible-master

ceph-ansible-pipeline: only test master

Merge branch 'master' into ceph-ansible-master

Merge branch 'master' into rm-ooo

Merge pull request #1186 from ceph/guits_ceph-ansible3.2

ceph-ansible: update nightlies job

Merge branch 'master' into ceph-ansible-master

ceph-ansible: update nightlies job

since recent updates and 3.2 is out, we should update the matrix of
testing for nightlies jobs.

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

Merge pull request #1178 from ceph/wip-tserlin-nfs-ganesha-stable

nfs-ganesha-stable: update build parameters

Merge branch 'master' into wip-tserlin-nfs-ganesha-stable

Merge pull request #1184 from ceph/wip-nfs-ganesha-build-fix

nfs-ganesha: various nfs-ganesha build fixes

Merge branch 'master' into wip-nfs-ganesha-build-fix

Merge pull request #1185 from ceph/ceph-medic-disable

ceph-medic-tests: disable all child jobs from template

ceph-medic-tests: disable all child jobs from template

Signed-off-by: Alfredo Deza <adeza@redhat.com>

nfs-ganesha: various nfs-ganesha build fixes

- fix nfs-ganesha build for debian
- add missing packages for stable rpm builds
- cleanup for rpm nfs-ganesha build scripts

Signed-off-by: Ali Maredia <amaredia@redhat.com>

Merge branch 'master' into ceph-ansible-master

Merge pull request #1182 from ceph/rgw-multi-site

Rgw multi site

ceph-ansible-pipeline: only test master

We are now ready to test on master ceph so let's switch all the pipeline
jobs to do so.

Signed-off-by: Sébastien Han <seb@redhat.com>

ceph-ansible-pr: add rgw in devs

Add rgw_multisite_* in devs so we can test this with master upstream.

Signed-off-by: Sébastien Han <seb@redhat.com>

ceph-ansible-pipeline: add rgw multisite

support for testing rgw multisite in the pipeline

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1181 from ceph/ceph-volume-trigger

Ceph volume trigger

ceph-ansible-pipeline: activate batch container

Now batch container is supported so let's activate it.

Signed-off-by: Sébastien Han <seb@redhat.com>

ceph-ansible-pipeline: run osd scenarios when module is modified

When we edit the ceph_volume.py module we should run all the OSD
scenarios.

Signed-off-by: Sébastien Han <seb@redhat.com>

ceph-ansible-pipeline: do not test ooo

Since all the scenario use lvm now, the ooo scenario will always fail
when triggered from the pipeline. The job will remain in stable branches
though.

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1179 from ceph/guits_rgw_multisite

ceph-ansible: add rgw_multisite scenario

Merge branch 'master' into guits_rgw_multisite

Merge pull request #1177 from ceph/pipeline

ceph-ansible-pipeline: run all lvm test against ceph@master

ceph-ansible: add rgw_multisite scenario

ceph-ansible corresponding PR:

ceph/ceph-ansible#1944

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

nfs-ganesha-stable: update build parameters

ceph-ansible-pipeline: run all lvm tests against ceph@master

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

ceph-ansible-prs: allow all jobs to be tested with dev repos

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

Merge pull request #1176 from ceph/guits-remove_color

ceph-ansible-syntax: disable syntax coloration in `git_diff_to_head()`

ceph-ansible-syntax: disable syntax coloration in `git_diff_to_head()`

when running this code locally for debugging purposes, the sed in
`match_file()` won't match the pattern because of the ANSI codes inserted by
the git diff (colored) output.

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

Merge pull request #1175 from ceph/guits-revert_4a25fb2b

ceph-ansible-syntax: display matched files in group_vars_check

ceph-ansible-syntax: display matched files in group_vars_check

it can be useful to see which files have matched in `group_vars_check()`
function.
I'm currently facing an issue where the CI complains on that check while
it doesn't on an other environment when trying to reproduce the issue.

on the CI:

```
+ group_vars_check
++ match_file /defaults/main.yml
++ git_diff_to_head
++ wc -l
++ git diff origin/master..HEAD -- . ':(exclude)roles/*/meta/*'
++ sed -n 's|^+++.*\(/defaults/main.yml.*\)|\1|p'
+ nb=1
+ [[ 1 -eq 0 ]]
++ match_file group_vars/
++ wc -l
++ git_diff_to_head
++ git diff origin/master..HEAD -- . ':(exclude)roles/*/meta/*'
++ sed -n 's|^+++.*\(group_vars/.*\)|\1|p'
+ nb_group_vars=0
+ [[ 1 -gt 0 ]]
+ echo 'One or more files containing default variables has/have been modified.'
One or more files containing default variables has/have been modified.
+ echo 'You must run '\''generate_group_vars_sample.sh'\'' to generate the group_vars template files.'
You must run 'generate_group_vars_sample.sh' to generate the group_vars template files.
+ return 1
```

local env:

```
+ group_vars_check
++ match_file /defaults/main.yml
++ wc -l
++ git_diff_to_head
++ sed -n 's|^+++.*\(/defaults/main.yml.*\)|\1|p'
++ git diff origin/master..HEAD -- . ':(exclude)roles/*/meta/*'
+ nb=0
+ [[ 0 -eq 0 ]]
+ echo 'group_vars has not been touched.'
group_vars has not been touched.
+ return 0
```

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

Merge pull request #1144 from ceph/guits-remove_capital_check

ceph-ansible-syntax: remove capital letter check

Merge branch 'master' into guits-remove_capital_check