Merge pull request #1889 from ceph/client-containers

client: ability to create keys and pool with no ceph binaries

Merge pull request #1915 from ceph/state-leftover

docker-common: re-introduce state for leftover files

docker-common: re-introduce state for leftover files

The variable "statleftover" was removed by commit
a60c74f61eb4b7523ef6d4065624312bfd0aa03a
and never added back to the new playbook,
yet it is still being referenced.

Adding it back

Closes: https://bugzilla.redhat.com/show_bug.cgi?id=1492224
Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1900 from ceph/rpm-all-yaml

rpm: ship rhcs.yaml.sample as all.yml.sample on RHEL

client: ability to create keys and pool with no cpeh binaries

On a container env, machines don't have any ceph binaries so we need to
use a container to run the commands.

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1891 from ceph/clarify-update

rolling_update: clarify update doc

Merge pull request #1898 from ceph/restart-mon

defaults: restart docker daemon higher delay

Merge pull request #1901 from ceph/rpm-ansible-2.3

rpm: require Ansible 2.3.1.0

rpm: require Ansible 2.3.1.0

We require a newer verison of Ansible now.

rpm: ship rhcs.yaml.sample as all.yml.sample on RHEL

When building the RPM on RHEL, we will ship the conents of the
`rhcs.yml.sample` file into `all.yml.sample`.

The purpose of this change is to expose "all.yml.sample" to both
upstream and downstream users, so they use the same file name (but with
different contents.)

Merge pull request #1899 from ceph/rpm-obsoletes-iscsi

rpm: Obsoletes ceph-iscsi-ansible

rpm: Obsoletes ceph-iscsi-ansible

The ceph-iscsi-ansible project has moved into ceph-ansible now. Make the
ceph-ansible package obsolete the ceph-iscsi-ansible package. With this
change, Yum updates will seamlessly uninstall the ceph-iscsi-ansible
package.

Merge pull request #1895 from ceph/rhcs-on-rhel

rpm: ship different yml samples on RHEL vs CentOS

defaults: restart docker daemon higher delay

Use default delay since the mon (in particular) can take more time to
restart.
Solves error with:

STDERR:

Error response from daemon: No such container: ceph-mon-mon0

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1894 from ceph/mgr-version

mon: create the mgr key for release >= luminous

rpm: ship different yml samples on RHEL vs CentOS

When building the RPM on CentOS, we will ship the all.yml.sample file
and delete rhcs.yml.sample.

When building the RPM on RHEL, we will ship the rhcs.yml.sample file and
delete all.yml.sample.

mon: create the mgr key for release >= luminous

This fixes RHCS builds. We know which Ceph version we are running on.

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1893 from ceph/rgw-socker

rgw: remove old variables

Merge pull request #1890 from ceph/lvm-setup

tests: fix lvm_setup.yml for purge_cluster.yml

rgw: remove old variables

Since the only support civetweb these variables are obsolete.

Signed-off-by: Sébastien Han <seb@redhat.com>

osd: add meaningful message for journal_size

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1892 from ceph/purge-dmcrypt-col

purge: only purge specific directories for mon

Merge pull request #1800 from ceph/wip-osd-start-fix

ceph-osd: Fix osd start sequence

purge: only purge specific directories for mon

Handles the case when a mon is collocated with an OSD.

Closes: https://github.com/ceph/ceph-ansible/issues/1877
Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1885 from ceph/shrink-osd

shrink-osd: fix when multiple osds

rolling_update: clarify update doc

Closes: https://bugzilla.redhat.com/show_bug.cgi?id=1490188
Signed-off-by: Sébastien Han <seb@redhat.com>

shrink-osd: fix when multiple osds

The loop was being built properly so we were always getting the last
item as osd host.

Closes: https://bugzilla.redhat.com/show_bug.cgi?id=1490355
Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1880 from ceph/wip-rgw-nfs

nfs: configure RGW FSAL to start up correctly

tests: delete journal partitions in lvm_setup.yml

Delete these before creating them incase they are left around in a purge
cluster testing scenario. The purge-cluster.yml playbook does not
currently remove partitions used for journals.

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

Merge pull request #1882 from ceph/multi-journal

osd: drop support for device partition

Merge pull request #1888 from ceph/make-srpm-rpmbuild

Makefile: remove fedpkg dependency for "srpm"

Makefile: remove fedpkg dependency for "srpm"

It's not currently possible to install EPEL 7's fedpkg alongside the
centos-packager package in CentOS 7 Extras (for /usr/bin/cbs), because
they each depend on slightly different Koji package versions.

This means that we cannot run "make srpm" on a system where
centos-packager is installed, because that depends on fedpkg.

Remove the dependency on fedpkg for the "srpm" target, and run
rpmbuild -bs directly.

The purpose of this change is to make it easier to automatically
build ceph-ansible SRPMs in Jenkins/cbs.centos.org.

Merge pull request #1883 from ceph/quick_refact

osd: refact include of `activate_osds.yml`

Merge pull request #1747 from ceph/add-iscsi

resync ceph-iscsi-gw with old upstream

resync ceph-iscsi-gw with old upstream

Taken from https://github.com/pcuzner/ceph-iscsi-ansible/tree/tcmu-fixes

Closes: https://bugzilla.redhat.com/show_bug.cgi?id=1454945 and
https://bugzilla.redhat.com/show_bug.cgi?id=1484083
Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1884 from ceph/mon-container-ip

mon: add support for monitor_address block for containers

osd: drop support for device partition

We have been struggling with this, it's still broken and breaking other
things too now.

Closes: https://bugzilla.redhat.com/show_bug.cgi?id=1490283
Signed-off-by: Sébastien Han <seb@redhat.com>

osd: refact include of `activate_osds.yml`

remove duplicate code.

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

mon: add support for monitor_address block for containers

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1761 from ceph/split_copy_keys

docker: split the task 'copy ceph configs&keys'

nfs: configure RGW FSAL to start up correctly

- Add RGW keyring to nfs node
- Add RGW section to ganesha.conf
- Add RGW section to ceph.conf onf nfs node

Signed-off-by: Ali Maredia <amaredia@redhat.com>

tests: no need to create a filesystem on /dev/sdc1 for lvm tests

The partition only needs created and given a gpt label so that a
PARTUUID will exist on the partition.

This task also makes the purge_lvm_osds scenario fail on the second
deployment after purging.

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

Merge pull request #1881 from ceph/followup_1724

ceph-osd: remove deprecated comment in sample file

ceph-osd: remove deprecated comment in sample file

Since #1724 has been merged, this comment is deprecated

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

Docker: split the task 'copy ceph configs&keys'

All keys are copied to all nodes.
This commit split that task in each roles so keys are copied to their
respective nodes.

Closes: https://bugzilla.redhat.com/show_bug.cgi?id=1488999
Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

Merge pull request #1863 from ceph/rpm-comments

rpm: better comments for file removals

Merge pull request #1840 from ceph/simply-containers

docker: simplify variable declaration

docker: simplify variable declaration

Less configuration for the user, the container inherit from the global
variables. No more container specific variables.

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1878 from ceph/add-rbd-mirror

Add rbd mirror

ci: deploy rbd mirror

Deploy rbd mirorr in cluster scenario

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1875 from ceph/switch-nfs

switch to container: fix ceph nfs

switch to container: fix ceph nfs

The service is nfs-ganesha where ceph-nfs@{{ ansible_hostname }} will be
the name of the container.

Signed-off-by: Sébastien Han <seb@redhat.com>

ci: remove scenario bluestore_docker_cluster

We don't need to bootstrap a full cluster to bootstrap bluestore. We
have individual scenarios for that.

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1780 from ceph/wip-rgw-nfs

Wip RGW NFS

Merge pull request #1871 from ceph/handler-collocate

defaults: do not restart unconfigured (yet) daemons

Merge pull request #1874 from ceph/rbd-mirror-mem

ceph-rbd-mirror; docker fix typo

ceph-rbd-mirror; docker fix typo

Signed-off-by: Sébastien Han <seb@redhat.com>

nfs: rename host to have ceph- prefix

Signed-off-by: Ali Maredia <amaredia@redhat.com>

nfs-ganesha: add config overrides section

Signed-off-by: Ali Maredia <amaredia@redhat.com>

Merge pull request #1870 from Logan2211/omit-default-release

Omit the apt default_release if it is not needed

mds: rename mds_socket fact

Rename this fact to keep consistency with handlers in `ceph-defaults`.

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

nfs: add automated testing for nfs-ganesha roles

Signed-off-by: Ali Maredia <amaredia@redhat.com>

nfs-ganesha: add dev, stable, and rhcs nfs-ganesha's for ceph-nfs role

Signed-off-by: Ali Maredia <amaredia@redhat.com>

Merge pull request #1873 from ceph/switch-unit

switch: make osd collection idempotent

defaults: do not restart unconfigured (yet) daemons

In a collocated scenario, where you might put a rgw, a mds and a mon on
the same node you don't want the handler blindly restart all the daemons
on the node. Indeed some of them might not be configured yet.
Implementing a more precise socket detection, for each daemon type.

Closes: https://bugzilla.redhat.com/show_bug.cgi?id=1488813
Signed-off-by: Sébastien Han <seb@redhat.com>

switch: make osd collection idempotent

This commits allows us to run
switch-from-non-containerized-to-containerized-ceph-daemons.yml multiple
times.

Closes: https://bugzilla.redhat.com/show_bug.cgi?id=1489353
Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1864 from ceph/switch

switch-from-non-containerized-to-containerized: fix devices

switch-from-non-containerized-to-containerized: fix devices

If devices is passed through an extra var this register won't work so
let's only register the var is devices is not defined.

Closes: https://bugzilla.redhat.com/show_bug.cgi?id=1489099
Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1803 from ceph/disk-auto

ceph-osd: fix autodetection activation

Omit the apt default_release if it is not needed

The apt module will fail to downgrade packages properly when defualt
release is unnecessarily defined.

Closes #1869

Merge pull request #1867 from ceph/rhcs-version

tests: set ceph_stable_release to luminous for rhcs

ceph-osd: fix autodetection activation

Prior to this patch this activation sequence for autodetection was
always skipped because we were asking to activate on device without
partitions, which doesn't make sense.

We also fix the way we lookup for a device, since the data partition is
always numbered 1, we take the min element of the dict.

Closes: https://github.com/ceph/ceph-ansible/issues/1782
Signed-off-by: Sébastien Han <seb@redhat.com>
Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

Merge pull request #1842 from ceph/purge

purge: get lockbox mountpoint and unmount it

tests: set ceph_stable_release to luminous for rhcs

Signed-off-by: Andrew Schoen <aschoen@redhat.com>

purge: get lockbox mountpoint and unmount it

Prior command was avoiding the lockbox mountpoint and the playbook was
failing with:

rmtree failed: [Errno 30] Read-only file system:
'/var/lib/ceph/osd-lockbox/4e9d8052-87c2-4fde-a56c-b8c108a3eefc/key-management-mode'

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1850 from fultonj/issue/1848

Add option to create client keyring file but not import it

Merge pull request #1859 from ceph/container-limit

container: introduce resource limitation for containers

Merge pull request #1862 from ceph/fail-ansible

fail if ansible version < 2.3

fail if ansible version < 2.3

We only test and support 2.3.x at the moment.

Closes: https://github.com/ceph/ceph-ansible/issues/1858
Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1812 from ceph/switch-migration-conta

switch-from-non-containerized-to-containerized: mask unit files

rpm: better comments for file removals

As of 54d7a81241eac26d87e2bee513df5efd8866a586, we're doing more than
stripping CoreOS files in the RPM now. Move the comments around to
better match the code that does what the comments describe.

The purpose of this change is to make it easier to read this part of the
RPM spec file.

tests: force docker variable for switch-to-containers scenario

we need to force the value of `docker` variable which is initially set
to `false` since it's a migration from non-containerized to
containerized cluster.

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

Add option to create client keyring file but not import it

Add new boolean parameter for client config create_key_file_only
with a default of false. When create_key_file_only is true, the
client tasks to connect to the external ceph cluster to verify
the key `ceph auth import` the key are skipped.

Fixes: #1848

container: introduce resource limitation for containers

This can be controlled via 2 options:

* ceph_$DAEMON_docker_memory_limit
* ceph_$DAEMON_docker_cpu_limit

All daemons default to 1GB for memory and 1 CPU by default.
Recommendations from:
https://access.redhat.com/documentation/en-us/red_hat_ceph_storage/2/html/red_hat_ceph_storage_hardware_guide/minimum_recommendations

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1860 from ceph/ssh-timeout

ansible.cfg: increase ssh timeout

ansible.cfg: increase ssh timeout

CI slaves are slow so by setting a higher value we can avoid the following error:
Timeout (12s) waiting for privilege escalation prompt:

Now we wait for 32 sec...

More info here: https://github.com/ansible/ansible/issues/14426

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1854 from ceph/add_mgr_node

tests: Add mgr node for all scenarios

switch-from-non-containerized-to-containerized: mask unit files

We must mask the image so we are sure that even if the system reboots
then the OSDs won't start.

Also remove Ceph udev rules if found on the system prior to deploy
containers. If we don't do this we are exposed to conflicts between udev
rules and sytemd unit files.

Also add the CI will now test the migration from a non-containerized cluster to a
containerized cluster.

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1853 from ceph/fix-prepare

ceph-osd: do not re-prepare if already prepared

Merge pull request #1819 from ceph/no-container-log

ceph-docker-common: do not log inside the container

tests: Add mgr node for all scenarios

With Luminous we need to have mgr daemon.
This commit adds an mgr daemon for all scenarios.

Signed-off-by: Guillaume Abrioux <gabrioux@redhat.com>

ceph-osd: do not re-prepare if alreadyy prepared

I forgot to re-add the partition check while refactoring the osd

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1851 from ceph/shrkin-time

shrink-mon: wait a little bit for the mon to be out

shrink-mon: wait a little bit for the mon to be out

Monitor removal from the monmap is not immediate, so let's wait a little
bit and then fail if the monitor is still in the monmap.
We try twice in total with 10 sec intervals.

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1852 from ceph/fix-client

client: copy admin key so we can create pools and keys

client: copy admin key so we can create pools and keys

Needed when user_config is set to true

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1849 from ceph/client-external

client: do not copy admin key by default

client: do not copy admin key by default

Signed-off-by: Sébastien Han <seb@redhat.com>

Merge pull request #1847 from ceph/luminous

ci: test luminous

Merge pull request #1845 from ceph/rgw

ceph-rgw: fix systemd unit layout