docker: we don't need to copy the ceph.conf on all the nodes

We generate the ceph.conf on all the nodes through the
ceph-docker-common so there is no need to push it to the Ansible file.

Also this is breaking the ceph.conf template generation since we only
generate sections based on the host the ansible task is running on.

For example, what's typically happening, we bootstrap the monitor, we
get a ceph.conf generated for a mon only, we go on an osd, we generate
the ceph.conf with osd section (done by ceph-docker-common) but this
gets overwritten by the copy_config task of the ceph-osd role.

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1920 from jprovaznik/ganesha

Make ceph-nfs service enablement/start optional

Merge pull request #1926 from ceph/rhcs-debina

common: fix rhcs debian install

common: fix rhcs debian install

Closes: https://bugzilla.redhat.com/show_bug.cgi?id=1493231
Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1925 from ceph/wip-nfs-config-changes

nfs: ganesha.conf template fixes

nfs: ganesha.conf template fixes

- Change capitalization of config options to be
in line with what config.txt in the nfs-ganesha
tree says

Signed-off-by: Ali Maredia <amaredia@redhat.com>

Merge pull request #1918 from ceph/fix-rhcinstall

common: fix rhcs installation and rgw package for nfs

common: fix rhcs installation and rgw package for nfs

RHCS install wasn't working at all prior to this commit as the name of
the include was pointing to a non-existing file.

Closes: https://bugzilla.redhat.com/show_bug.cgi?id=1492056
Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1919 from ceph/iscsi-check

common: fix rhel check

Merge pull request #1904 from ceph/name-include-fact

name includes and set_fact for clarity

Make ceph-nfs service enablement/start optional

When ceph-nfs service is managed by pacemaker, it's useful to
not enable and start ceph-nfs service through systemd but let
pacemaker to start the service in a next step.

common: fix rhel check

Looks like Ansible is now using "RedHat" instead of "Red Hat Enterprise
Linux"

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1911 from fghaas/1910

Introduce ceph_nfs_ceph_user

Introduce ceph_nfs_ceph_user

In analogy to ceph_nfs_rgw_user, we should be able to define a user
with which the nfs-ganesha Ceph FSAL connects to the cluster.

Introduce a ceph_nfs_ceph_user variable, setting its default to
"admin" (which preserves the prior behavior of always connecting as
client.admin).

Fixes #1910.

name includes and set_fact for clarity

When Ansible is not run with verbose options it's difficult to see which
include and/or set_fact does what. So adding a name for each clarifies.

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1889 from ceph/client-containers

client: ability to create keys and pool with no ceph binaries

Merge pull request #1915 from ceph/state-leftover

docker-common: re-introduce state for leftover files

docker-common: re-introduce state for leftover files

The variable "statleftover" was removed by commit
a60c74f61eb4b7523ef6d4065624312bfd0aa03a
and never added back to the new playbook,
yet it is still being referenced.

Adding it back

Closes: https://bugzilla.redhat.com/show_bug.cgi?id=1492224
Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1900 from ceph/rpm-all-yaml

rpm: ship rhcs.yaml.sample as all.yml.sample on RHEL

client: ability to create keys and pool with no cpeh binaries

On a container env, machines don't have any ceph binaries so we need to
use a container to run the commands.

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1891 from ceph/clarify-update

rolling_update: clarify update doc

Merge pull request #1898 from ceph/restart-mon

defaults: restart docker daemon higher delay

Merge pull request #1901 from ceph/rpm-ansible-2.3

rpm: require Ansible 2.3.1.0

rpm: require Ansible 2.3.1.0

We require a newer verison of Ansible now.

rpm: ship rhcs.yaml.sample as all.yml.sample on RHEL

When building the RPM on RHEL, we will ship the conents of the
`rhcs.yml.sample` file into `all.yml.sample`.

The purpose of this change is to expose "all.yml.sample" to both
upstream and downstream users, so they use the same file name (but with
different contents.)

Merge pull request #1899 from ceph/rpm-obsoletes-iscsi

rpm: Obsoletes ceph-iscsi-ansible

rpm: Obsoletes ceph-iscsi-ansible

The ceph-iscsi-ansible project has moved into ceph-ansible now. Make the
ceph-ansible package obsolete the ceph-iscsi-ansible package. With this
change, Yum updates will seamlessly uninstall the ceph-iscsi-ansible
package.

Merge pull request #1895 from ceph/rhcs-on-rhel

rpm: ship different yml samples on RHEL vs CentOS

defaults: restart docker daemon higher delay

Use default delay since the mon (in particular) can take more time to
restart.
Solves error with:

STDERR:

Error response from daemon: No such container: ceph-mon-mon0

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1894 from ceph/mgr-version

mon: create the mgr key for release >= luminous

rpm: ship different yml samples on RHEL vs CentOS

When building the RPM on CentOS, we will ship the all.yml.sample file
and delete rhcs.yml.sample.

When building the RPM on RHEL, we will ship the rhcs.yml.sample file and
delete all.yml.sample.

mon: create the mgr key for release >= luminous

This fixes RHCS builds. We know which Ceph version we are running on.

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1893 from ceph/rgw-socker

rgw: remove old variables

Merge pull request #1890 from ceph/lvm-setup

tests: fix lvm_setup.yml for purge_cluster.yml

rgw: remove old variables

Since the only support civetweb these variables are obsolete.

Signed-off-by: Sébastien Han <seb@redhat.com>

osd: add meaningful message for journal_size

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1892 from ceph/purge-dmcrypt-col

purge: only purge specific directories for mon

Merge pull request #1800 from ceph/wip-osd-start-fix

ceph-osd: Fix osd start sequence

purge: only purge specific directories for mon

Handles the case when a mon is collocated with an OSD.

Closes: https://github.com/ceph/ceph-ansible/issues/1877
Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1885 from ceph/shrink-osd

shrink-osd: fix when multiple osds

rolling_update: clarify update doc

Closes: https://bugzilla.redhat.com/show_bug.cgi?id=1490188
Signed-off-by: Sébastien Han <seb@redhat.com>

shrink-osd: fix when multiple osds

The loop was being built properly so we were always getting the last
item as osd host.

Closes: https://bugzilla.redhat.com/show_bug.cgi?id=1490355
Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1880 from ceph/wip-rgw-nfs

nfs: configure RGW FSAL to start up correctly

tests: delete journal partitions in lvm_setup.yml

Delete these before creating them incase they are left around in a purge
cluster testing scenario. The purge-cluster.yml playbook does not
currently remove partitions used for journals.

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

Merge pull request #1882 from ceph/multi-journal

osd: drop support for device partition

Merge pull request #1888 from ceph/make-srpm-rpmbuild

Makefile: remove fedpkg dependency for "srpm"

Makefile: remove fedpkg dependency for "srpm"

It's not currently possible to install EPEL 7's fedpkg alongside the
centos-packager package in CentOS 7 Extras (for /usr/bin/cbs), because
they each depend on slightly different Koji package versions.

This means that we cannot run "make srpm" on a system where
centos-packager is installed, because that depends on fedpkg.

Remove the dependency on fedpkg for the "srpm" target, and run
rpmbuild -bs directly.

The purpose of this change is to make it easier to automatically
build ceph-ansible SRPMs in Jenkins/cbs.centos.org.

Merge pull request #1883 from ceph/quick_refact

osd: refact include of `activate_osds.yml`

Merge pull request #1747 from ceph/add-iscsi

resync ceph-iscsi-gw with old upstream

resync ceph-iscsi-gw with old upstream

Taken from https://github.com/pcuzner/ceph-iscsi-ansible/tree/tcmu-fixes

Closes: https://bugzilla.redhat.com/show_bug.cgi?id=1454945 and
https://bugzilla.redhat.com/show_bug.cgi?id=1484083
Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1884 from ceph/mon-container-ip

mon: add support for monitor_address block for containers

osd: drop support for device partition

We have been struggling with this, it's still broken and breaking other
things too now.

Closes: https://bugzilla.redhat.com/show_bug.cgi?id=1490283
Signed-off-by: Sébastien Han <seb@redhat.com>

osd: refact include of `activate_osds.yml`

remove duplicate code.

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

mon: add support for monitor_address block for containers

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1761 from ceph/split_copy_keys

docker: split the task 'copy ceph configs&keys'

nfs: configure RGW FSAL to start up correctly

- Add RGW keyring to nfs node
- Add RGW section to ganesha.conf
- Add RGW section to ceph.conf onf nfs node

Signed-off-by: Ali Maredia <amaredia@redhat.com>

tests: no need to create a filesystem on /dev/sdc1 for lvm tests

The partition only needs created and given a gpt label so that a
PARTUUID will exist on the partition.

This task also makes the purge_lvm_osds scenario fail on the second
deployment after purging.

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

Merge pull request #1881 from ceph/followup_1724

ceph-osd: remove deprecated comment in sample file

ceph-osd: remove deprecated comment in sample file

Since #1724 has been merged, this comment is deprecated

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

Docker: split the task 'copy ceph configs&keys'

All keys are copied to all nodes.
This commit split that task in each roles so keys are copied to their
respective nodes.

Closes: https://bugzilla.redhat.com/show_bug.cgi?id=1488999
Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

Merge pull request #1863 from ceph/rpm-comments

rpm: better comments for file removals

Merge pull request #1840 from ceph/simply-containers

docker: simplify variable declaration

docker: simplify variable declaration

Less configuration for the user, the container inherit from the global
variables. No more container specific variables.

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1878 from ceph/add-rbd-mirror

Add rbd mirror

ci: deploy rbd mirror

Deploy rbd mirorr in cluster scenario

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1875 from ceph/switch-nfs

switch to container: fix ceph nfs

switch to container: fix ceph nfs

The service is nfs-ganesha where ceph-nfs@{{ ansible_hostname }} will be
the name of the container.

Signed-off-by: Sébastien Han <seb@redhat.com>

ci: remove scenario bluestore_docker_cluster

We don't need to bootstrap a full cluster to bootstrap bluestore. We
have individual scenarios for that.

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1780 from ceph/wip-rgw-nfs

Wip RGW NFS

Merge pull request #1871 from ceph/handler-collocate

defaults: do not restart unconfigured (yet) daemons

Merge pull request #1874 from ceph/rbd-mirror-mem

ceph-rbd-mirror; docker fix typo

ceph-rbd-mirror; docker fix typo

Signed-off-by: Sébastien Han <seb@redhat.com>

nfs: rename host to have ceph- prefix

Signed-off-by: Ali Maredia <amaredia@redhat.com>

nfs-ganesha: add config overrides section

Signed-off-by: Ali Maredia <amaredia@redhat.com>

Merge pull request #1870 from Logan2211/omit-default-release

Omit the apt default_release if it is not needed

mds: rename mds_socket fact

Rename this fact to keep consistency with handlers in `ceph-defaults`.

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

nfs: add automated testing for nfs-ganesha roles

Signed-off-by: Ali Maredia <amaredia@redhat.com>

nfs-ganesha: add dev, stable, and rhcs nfs-ganesha's for ceph-nfs role

Signed-off-by: Ali Maredia <amaredia@redhat.com>

Merge pull request #1873 from ceph/switch-unit

switch: make osd collection idempotent

defaults: do not restart unconfigured (yet) daemons

In a collocated scenario, where you might put a rgw, a mds and a mon on
the same node you don't want the handler blindly restart all the daemons
on the node. Indeed some of them might not be configured yet.
Implementing a more precise socket detection, for each daemon type.

Closes: https://bugzilla.redhat.com/show_bug.cgi?id=1488813
Signed-off-by: Sébastien Han <seb@redhat.com>

switch: make osd collection idempotent

This commits allows us to run
switch-from-non-containerized-to-containerized-ceph-daemons.yml multiple
times.

Closes: https://bugzilla.redhat.com/show_bug.cgi?id=1489353
Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1864 from ceph/switch

switch-from-non-containerized-to-containerized: fix devices

switch-from-non-containerized-to-containerized: fix devices

If devices is passed through an extra var this register won't work so
let's only register the var is devices is not defined.

Closes: https://bugzilla.redhat.com/show_bug.cgi?id=1489099
Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1803 from ceph/disk-auto

ceph-osd: fix autodetection activation

Omit the apt default_release if it is not needed

The apt module will fail to downgrade packages properly when defualt
release is unnecessarily defined.

Closes #1869

Merge pull request #1867 from ceph/rhcs-version

tests: set ceph_stable_release to luminous for rhcs

ceph-osd: fix autodetection activation

Prior to this patch this activation sequence for autodetection was
always skipped because we were asking to activate on device without
partitions, which doesn't make sense.

We also fix the way we lookup for a device, since the data partition is
always numbered 1, we take the min element of the dict.

Closes: https://github.com/ceph/ceph-ansible/issues/1782
Signed-off-by: Sébastien Han <seb@redhat.com>
Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

Merge pull request #1842 from ceph/purge

purge: get lockbox mountpoint and unmount it

tests: set ceph_stable_release to luminous for rhcs

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

purge: get lockbox mountpoint and unmount it

Prior command was avoiding the lockbox mountpoint and the playbook was
failing with:

rmtree failed: [Errno 30] Read-only file system:
'/var/lib/ceph/osd-lockbox/4e9d8052-87c2-4fde-a56c-b8c108a3eefc/key-management-mode'

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1850 from fultonj/issue/1848

Add option to create client keyring file but not import it

Merge pull request #1859 from ceph/container-limit

container: introduce resource limitation for containers

Merge pull request #1862 from ceph/fail-ansible

fail if ansible version < 2.3

fail if ansible version < 2.3

We only test and support 2.3.x at the moment.

Closes: https://github.com/ceph/ceph-ansible/issues/1858
Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1812 from ceph/switch-migration-conta

switch-from-non-containerized-to-containerized: mask unit files

rpm: better comments for file removals

As of 54d7a81241eac26d87e2bee513df5efd8866a586, we're doing more than
stripping CoreOS files in the RPM now. Move the comments around to
better match the code that does what the comments describe.

The purpose of this change is to make it easier to read this part of the
RPM spec file.

tests: force docker variable for switch-to-containers scenario

we need to force the value of `docker` variable which is initially set
to `false` since it's a migration from non-containerized to
containerized cluster.

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

Add option to create client keyring file but not import it

Add new boolean parameter for client config create_key_file_only
with a default of false. When create_key_file_only is true, the
client tasks to connect to the external ceph cluster to verify
the key `ceph auth import` the key are skipped.

Fixes: #1848

container: introduce resource limitation for containers

This can be controlled via 2 options:

* ceph_$DAEMON_docker_memory_limit
* ceph_$DAEMON_docker_cpu_limit

All daemons default to 1GB for memory and 1 CPU by default.
Recommendations from:
https://access.redhat.com/documentation/en-us/red_hat_ceph_storage/2/html/red_hat_ceph_storage_hardware_guide/minimum_recommendations

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1860 from ceph/ssh-timeout

ansible.cfg: increase ssh timeout