ceph-osd: use the new ceph_volume module for the lvm scenario

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

adds a ceph_volume module

This module uses ceph-volume to create OSDs. Currently
it only supports the 'lvm' subcommand and 'create'.

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

Vagrantfile: Fixed repeated OSD controller creation

Merge pull request #2226 from andymcc/gpt_mklabel

Skip mklabel gpt if already gpt

Use parted module instead of command

Merge pull request #2211 from fultonj/admin-key-perms

Set tighter permissions on keyrings when containerized

Set tighter permissions on keyrings when containerized

During a containerized deployment, set the permissions
of ceph.client.admin.keyring and other keyrings to
chmod 600 and chown it to ceph.

Merge pull request #2221 from ceph/fix_purge_waitfor

purge: fix bug on 'wait_for' task

purge: fix bug on 'wait_for' task

this task hangs because `{{ inventory_hostname }}` doesn't resolv to an
actual ip address.
Using `hostvars[inventory_hostname]['ansible_default_ipv4']['address']`
should fix this because it will reach the node with its actual IP
address.

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

Merge pull request #2215 from squidboylan/support_loopback_devices

Add support for using loopback devices as OSDs

Merge pull request #2214 from ceph/bz-1510555

handlers: restart daemons only if docker is running

Merge pull request #2202 from ceph/remove_leftover

osd: remove leftover and fix a typo

Merge pull request #2212 from wintamute/master

Group_vars mon sample - replaced hardcoded pool names for Openstack

Openstack: replaced hardcoded pool names with variables for openstack (nova) user

(cherry picked from commit 2bf48f1)

Add support for using loopback devices as OSDs

This is particularly useful in CI environments where you dont have
the option of adding extra devices or volumes to the host. It is also
a simple change to support loopback devices

handlers: restart daemons only if docker is running

In case where docker CLI is available but docker is not running, we
don't want to trigger the restart of the daemons.

Closes: https://bugzilla.redhat.com/show_bug.cgi?id=1510555
Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

Merge pull request #2177 from jprovaznik/rados

Allow to use rados for ganesha exports

Merge pull request #2207 from ceph/mds-debian

common: install ceph-common on all the machines

common: install ceph-common on all the machines

Since some daemons now install their own packages the task checking the
ceph version fails on Debian systems. So the 'ceph-common' package must
be installed on all the machines.

Signed-off-by: Sébastien Han <seb@redhat.com>

Allow to use rados for ganesha exports

Merge pull request #2185 from ceph/fix_purge-cluster

purge-cluster: remove usage of `with_fileglob`

osd: remove leftover and fix a typo

This task was originally needed to fix a docker installation issue
(see: #1030). This has been fixed, therefore it can be removed.

Fixes: #2199
Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

purge-cluster: remove usage of `with_fileglob`

`with_fileglob` loops over files on the machine where ansible-playbook
is being run.

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

Merge pull request #2197 from ceph/fix_gpt_prepare

osd: ensure a gpt label is set on device

osd: ensure a gpt label is set on device

ceph-disk prepare will fail on jewel if a GPT label is not present on
device.

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

Merge pull request #2189 from fultonj/empty-acl

Make openstack_keys param support no acls list

Merge pull request #2184 from ceph/fix_wildcard_remove

purge-docker: remove osd disk prepare logs

Make openstack_keys param support no acls list

A recent change [1] required that the openstack_keys
param always containe an acls list. However, it's
possible it might not contain that list. Thus, this
param sets a default for that list to be empty if it
is not in the structure as defined by the user.

[1] d65cbaa53952269ec9a2e76fca8203ce7ad22c2b

Merge pull request #2182 from ceph/fix_reboot_rbd

rbd: enable ceph-rbd-mirror.target on releases prior to luminous

Merge pull request #2186 from ceph/dmcrypt-fixfg

osd: multiple fixes

osd: remove leftover from osd partition

We used to support osds that are a partition. This is long gone so
removing this task.

Signed-off-by: Sébastien Han <seb@redhat.com>

osd: remove failed_when on activation

There is no need to continue if the activation fails.

Signed-off-by: Sébastien Han <seb@redhat.com>

osd: fix bad activation for dmcrypt

We were activating dmcrypt devices with the wrong command. Basically the
first task execute the wrong activate command. The task fails but
continues because of the 'failed_when: false'. Then the right activation
sequence is being done by the next task.

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #2151 from hwoarang/add-opensuse

Add openSUSE Leap 42.3 support

purge-docker: remove osd disk prepare logs

`with_fileglob` loops over files on the machine that runs the playbook.

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

Merge pull request #2172 from ceph/lvm-raw-device

lvm: add support for --data to be a raw device or partition

rbd: enable ceph-rbd-mirror.target for releases <= luminous

when `ceph-rbd-mirror.target` is not enabled, the service won't start
after a reboot because there is a dependency between these two units.

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

Merge pull request #2181 from yanyixing/fix_nfs_pkg

[skip ci] fix: remove the duplicated code

fix: remove the duplicated code

Merge pull request #2174 from fultonj/chmod-facl-on-all-mon

Set permissions and ACLs of OpenStack keys on all ceph-mons

update group_vars/osds.yml.sample for the new lvm_volumes examples

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

lvm: support --data as a raw device or partition in ceph-volume

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

lvm: ensure the data_vg exists before using it

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

Set permissions and ACLs of OpenStack keys on all ceph-mons

If ceph-ansible deploys a Ceph cluster with "openstack_config: true"
and sets the openstack_keys map to have certain ACLs or permissions,
the requested ACLs or permissions are only set on one of the monitor
nodes [2] when they should be set on all of them.

This patch solves [3] the above issue by having the chmod and setfacl
tasks iterate the list of mon nodes (including the mon node that the
task was delegated to) to apply the chmod of setfacl to the keys in
openstack_keys.

[1]
```
openstack_keys:
  - { name: client.openstack, key: "$(ceph-authtool --gen-print-key)", mon_cap: "allow r", osd_cap: "allow class-read object_prefix rbd_children, allow rwx pool=images, allow rwx pool=vms, allow rwx pool=volumes, allow rwx pool=backups", mode: "0600", acls: ["u:nova:r--", "u:cinder:r--", "u:glance:r--", "u:gnocchi:r--"] }
```
[2]
```
$ ansible mons -m shell -b -a "ls -l /etc/ceph/ceph.client.openstack.keyring ; getfacl /etc/ceph/ceph.client.openstack.keyring"
192.168.1.26 | SUCCESS | rc=0 >>
-rw-r-----+ 1 root root 253 Nov  3 20:30 /etc/ceph/ceph.client.openstack.keyring
user::rw-
user:glance:r--
user:nova:r--
user:cinder:r--
user:gnocchi:r--
group::---
mask::r--
other::---getfacl: Removing leading '/' from absolute path names

192.168.1.29 | SUCCESS | rc=0 >>
-rw-r--r--. 1 root root 253 Nov  3 20:30 /etc/ceph/ceph.client.openstack.keyring
user::rw-
group::r--
other::r--getfacl: Removing leading '/' from absolute path names

192.168.1.23 | SUCCESS | rc=0 >>
-rw-r--r--. 1 root root 253 Nov  3 20:30 /etc/ceph/ceph.client.openstack.keyring
user::rw-
group::r--
other::r--getfacl: Removing leading '/' from absolute path names

$
```
[3]
```
(undercloud) [stack@hci-director ceph-ansible]$ ansible mons -m shell -b -a "ls -l /etc/ceph/ceph.client.openstack.keyring ; getfacl /etc/ceph/ceph.client.openstack.keyring"
192.168.1.25 | SUCCESS | rc=0 >>
-rw-r-----+ 1 root root 253 Nov 14 01:12 /etc/ceph/ceph.client.openstack.keyring
user::rw-
user:glance:r--
user:nova:r--
user:cinder:r--
user:gnocchi:r--
group::---
mask::r--
other::---getfacl: Removing leading '/' from absolute path names

192.168.1.29 | SUCCESS | rc=0 >>
-rw-r-----+ 1 root root 253 Nov 14 01:12 /etc/ceph/ceph.client.openstack.keyring
user::rw-
user:glance:r--
user:nova:r--
user:cinder:r--
user:gnocchi:r--
group::---
mask::r--
other::---getfacl: Removing leading '/' from absolute path names

192.168.1.27 | SUCCESS | rc=0 >>
-rw-r-----+ 1 root root 253 Nov 14 01:12 /etc/ceph/ceph.client.openstack.keyring
user::rw-
user:glance:r--
user:nova:r--
user:cinder:r--
user:gnocchi:r--
group::---
mask::r--
other::---getfacl: Removing leading '/' from absolute path names

(undercloud) [stack@hci-director ceph-ansible]$
```

Merge pull request #2170 from ceph/remove_osd_zap

tests: remove OSD_FORCE_ZAP variable from tests

tests: remove OSD_FORCE_ZAP variable from tests

according to ceph/ceph-container#840, this variable is no longer needed.

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

Merge pull request #2165 from ceph/sync_ceph-build

tests: set CEPH_STABLE_RELEASE in ceph-build

tests: set CEPH_STABLE_RELEASE in ceph-build

`CEPH_STABLE_RELEASE` needs to bet set in ceph-build according
to ceph/ceph-ansible#2165

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

vagrant_variables.yml.sample: Add openSUSE box

Add comment for the appropriate openSUSE box for testing.

Signed-off-by: Markos Chandras <mchandras@suse.de>

ceph-docker-common: Add support for openSUSE Leap distributions

Add support for the openSUSE Leap distributions.

Signed-off-by: Markos Chandras <mchandras@suse.de>

ceph-nfs: Add support for openSUSE Leap distributions

Add support for the openSUSE distributions. The required packages
are available either in the distribution repositories or in the
OBS one.

Signed-off-by: Markos Chandras <mchandras@suse.de>

ceph-rgw: Add support for openSUSE Leap distributions

Add support for openSUSE Leap distributions.

Signed-off-by: Markos Chandras <mchandras@suse.de>

ceph-restapi: Add support for openSUSE Leap distributions

Add support for openSUSE Leap distributions.

Signed-off-by: Markos Chandras <mchandras@suse.de>

ceph-rbd-mirror: Add support for openSUSE Leap distributions

Add support for openSUSE Leap distributions

Signed-off-by: Markos Chandras <mchandras@suse.de>

ceph-osd: Add support for openSUSE Leap distributions

Add support for openSUSE Leap distributions

Signed-off-by: Markos Chandras <mchandras@suse.de>

ceph-mon: Add support for openSUSE Leap distributions

Add support for openSUSE Leap distributions.

Signed-off-by: Markos Chandras <mchandras@suse.de>

ceph-mgr: Add support for openSUSE Leap distributions

Add support for openSUSE Leap distributions.

Signed-off-by: Markos Chandras <mchandras@suse.de>

ceph-mds: Add support for openSUSE Leap distributions

Add support for openSUSE Leap distributions

Signed-off-by: Markos Chandras <mchandras@suse.de>

ceph-fetch-keys: Add support for openSUSE Leap distributions

Add support for openSUSE Leap distributions

Signed-off-by: Markos Chandras <mchandras@suse.de>

ceph-config: Add support for the openSUSE Leap distributions

Add support for the openSUSE Leap distributions

Signed-off-by: Markos Chandras <mchandras@suse.de>

ceph-client: Add support for the openSUSE Leap distributions

Add support for the openSUSE Leap distributions

Signed-off-by: Markos Chandras <mchandras@suse.de>

ceph-agent: Add support for the openSUSE Leap distributions

Add support for the openSUSE Leap distributions.

Signed-off-by: Markos Chandras <mchandras@suse.de>

ceph-common: Don't check for ceph_stable_release for distro packages

When we consume the distribution packages, we don't have the choise on
which version to install, so we shouldn't require that variable to be
set. Distributions normally provide only one version of Ceph in the
official repositories so we get whatever they provide.

Signed-off-by: Markos Chandras <mchandras@suse.de>

ceph-common: Add initial support for openSUSE Leap distributions

openSUSE Leap 42.3 provides support for Ceph Luminous in both the
distribution package and the latest available version in the OBS
repository so add these as the only available installation methods for
openSUSE.

Signed-off-by: Markos Chandras <mchandras@suse.de>

Merge pull request #2167 from ceph/bz-1510906

defaults: fix rgw restart script in handlers

defaults: fix rgw restart script in handlers

Like 80d32dec, the path to the fact is not correct.
In any case, we will retrieve the IP address in hostvars, the variable
is the way we get the interface name according where it has been set
(eg.: inventory host file vs. group_vars/)

Closes: https://bugzilla.redhat.com/show_bug.cgi?id=1510906
Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

Merge pull request #2146 from mslovy/wip-fix-crush-location

osd: fix crush location for non-containerized deployment

Merge pull request #2140 from yanyixing/doc_fix

Fix: the ansible version for the stable-3.0 branch

Merge pull request #2142 from squidboylan/master

infra: fix take-over-existing-cluster.yml playbook

Merge pull request #2144 from ceph/quick_fix_lvm

osd: skip some set_fact when osd_scenario=lvm

Merge pull request #2141 from Arano-kai/run_restart_scripts_in_noexec_tmp

FIX: run restart scripts in `noexec` /tmp

Merge pull request #2163 from ktdreyer/rpm-ansible-2.4.1.0

rpm: require ansible 2.4.1.0

rpm: require ansible 2.4.1.0

2.4.0.0 has some bugs, and we're going to ship with v2.4.1.0.

Merge pull request #2152 from ceph/bz-1510470

purge-docker-cluster: ensure old logs are removed

Merge pull request #2154 from ceph/fix_auto_discover

osd: avoid using non desired loop device in autodiscovery

Merge pull request #2153 from ceph/fix_disk_list_test

osd: always run disk_list test

purge-docker-cluster: ensure old logs are removed

purge-docker-cluster must remove all osd_disk_prepare logs in
`{{ ceph_osd_docker_run_script_path }}`, otherwise if you purge your
cluster and try to redeploy it, osds will fail to start since because it
will try to retrieve find a partition uuid which doesn't exist.

Closes: https://bugzilla.redhat.com/show_bug.cgi?id=1510470
Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

osd: always run disk_list test

there is no need to have a condition on this task, this test should be
always run since the result will be interpreted later.

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

Merge pull request #2150 from ceph/fix_typo

config: fix config generation

osd: avoid using non desired loop device in autodiscovery

This will prevent ceph-ansible from using a loop device while it
shouldn't in auto_discovery mode.

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

config: fix config generation

The path to the fact is not correct.
In any case, we will retrieve the IP address in hostvars, the variable
is the way we get the interface name according where it has been set
(eg.: inventory host file vs. group_vars/)

Closes: https://bugzilla.redhat.com/show_bug.cgi?id=1510906
Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

Merge pull request #2145 from ceph/fix-autodiscover

osd: do not use dm when osd_auto_discovery

osd: fix automatic prepare when auto_discover

Use `devices` variable instead of `ansible_devices`, otherwise it means
we are not using the devices which have been 'auto discovered'

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

fix crush location for non-containerized deployment

crush location only set for containerized deployment

Signed-off-by: yaoning <yaoning@unitedstack.com>

osd: do not use dm when osd_auto_discovery

The current code will also return lvm devices such as /dev/dm-2, this
kind of device type is not supported by ceph-disk at the moment. Now we
just ignore them.

Signed-off-by: Sébastien Han <seb@redhat.com>

osd: skip some set_fact when osd_scenario=lvm

these tasks are not needed when using `osd_scenario: lvm`

Fixes: https://bugzilla.redhat.com/show_bug.cgi?id=1509230
Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

Merge pull request #2143 from ceph/fix_typo

osd: fix a typo in roles/ceph-osd/defaults/main.yml

osd: fix a typo in roles/ceph-osd/defaults/main.yml

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

infra: fix take-over-existing-cluster.yml playbook

The ansible inventory could have more than just ceph-ansible hosts, so
we shouldnt use "hosts: all", also only grab one file when getting
the ceph cluster name instead of failing when there is more than one
file in /etc/ceph. Also fix location of the ceph.conf template

FIX: run restart scripts in `noexec` /tmp

- One can not run scripts directly in place, that mounted with `noexec`
option. But one can run scripts as arguments for `bash/sh`.

Signed-off-by: Arano-kai <captcha.is.evil@gmail.com>

fix the ansible version for the stable-3.0 branch

Merge pull request #2128 from ceph/mon_interface

config: fix monitor_interface when not passed in the inventory file | osd:  fix old jewel container activation

Merge pull request #2129 from ceph/update_nightly_ci

[skip ci] tests: sync with ceph/ceph-build for ceph-ansible-nightlies

osd: enhance backward compatibility

During the initial implementation of this 'old' thing we were falling
into this issue without noticing
https://github.com/moby/moby/issues/30341 and where blindly using --rm,
now this is fixed the prepare container disappears and thus activation
fail.
I'm fixing this for old jewel images.

Also this fixes the machine reboot case where the docker logs are
purgend. In the old scenario, we now store the log locally in the same
directory as the ceph-osd-run.sh script.

Signed-off-by: Sébastien Han <seb@redhat.com>

tests: sync with ceph/ceph-build for ceph-ansible-nightlies

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

config: fix monitor_interface when not passed in the inventory file

Setting monitor_interface in group_vars/all.yml makes the
hostvars[host]['monitor_interface'] non-existing.

Closes: https://bugzilla.redhat.com/show_bug.cgi?id=1507922
Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #2124 from ceph/lvm-setup-fix

test: when creating the /dev/sdc2 partition specify label as gpt

Merge pull request #2123 from ceph/update_tests

tests: followup on testing against ansible2.4

common: make the delegate_facts feature optional

Since we encountered issue with this on ansible2.2, this commit provide
the ability to enable or disable it regarding which ansible we are
running.

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

test: when creating the /dev/sdc2 partition specify label as gpt

ansible==2.4 requires that label be set to gpt, or it will be defaulted
to msdos.

Signed-off-by: Andrew Schoen <aschoen@redhat.com>