osd: add a monitor timeout via MPGStatsAck messages

Keep track of when we have outstanding updates, and while we do, make
sure the monitor responds within a timeout (default 30 seconds). If
it doesn't, reconnect!

Signed-off-by: Greg Farnum <gregory.farnum@dreamhost.com>

Fix invalid docdir_SCRIPTS usage with >=automake-1.11.2

librados: take lock in rollback

We're poking through the osdmap; need to hold the lock here.

Signed-off-by: Sage Weil <sage@newdream.net>

objecter: assert lock held in op_submit

Signed-off-by: Sage Weil <sage@newdream.net>

librados: call aio_operate() with lock held

Signed-off-by: Sage Weil <sage@newdream.net>

rgw: create default constructors for some structs

this will silence valgrind a bit

workunits: update rbd test for new error format

Signed-off-by: Josh Durgin <josh.durgin@dreamhost.com>

config: use autoconf $libdir for default rados class dir

Fixes: #1722
Signed-off-by: Sage Weil <sage@newdream.net>

.gitignore: src/ocf/ceph

Signed-off-by: Sage Weil <sage@newdream.net>

Spec: conditionally build ceph-resource-agents package

Put OCF resource agents in a separate subpackage,
to be enabled with a separate build conditional
(--with ocf).

Make the subpackage depend on the resource-agents
package, which provides the ocf-shellfuncs library
that the Ceph RAs use.

Signed-off-by: Florian Haas <florian@hastexo.com>

Add OCF-compliant resource agent for Ceph daemons

Add a wrapper around the ceph init script that makes
MDS, OSD and MON configurable as Open Cluster Framework
(OCF) compliant cluster resources. Allows Ceph
daemons to tie in with cluster resource managers that
support OCF, such as Pacemaker (http://www.clusterlabs.org).

Disabled by default, configure --with-ocf to enable.

Signed-off-by: Florian Haas <florian@hastexo.com>

mon: fix full ratio updates

- update them independently
- only if we are leader
- fix type for nearfull_ratio

Signed-off-by: Sage Weil <sage@newdream.net>

mon: don't ignore first full ratio update callback

We get a callack on startup.  Don't ignore it.

Signed-off-by: Sage Weil <sage@newdream.net>

mon: only update full_ratio if we're the leader

Signed-off-by: Sage Weil <sage@newdream.net>

Merge remote branch 'gh/wip-cleanup'

mon: make full ratio config change callback safe

We can't propose_pending() from any context; do this in the tick() thread,
with the proper locking.  Among other things, this fixes the crash on
startup that is now triggered due to eba235f2.

Signed-off-by: Sage Weil <sage@newdream.net>

clitests: update for new error format

This was changed in 1f434da8a3ca4db830d1f3b0d87e5df941d85f2d

Signed-off-by: Josh Durgin <josh.durgin@dreamhost.com>

clitests: update monmaptool test

e93961c11119942eae3a4cd14a79f779a5a4d277 changed output format.

Signed-off-by: Josh Durgin <josh.durgin@dreamhost.com>

init script: be LSB compliant for exit code on status

An exit code of 1 on status is defined in LSB as
"program is dead, but pid file exists". Check for existence
of this pid file, and only set the exit status 1 if it's still there.
Set it to 3 ("program is not running") otherwise.

Reference: http://refspecs.linuxbase.org/LSB_3.1.0/LSB-Core-generic/LSB-Core-generic/iniscrptact.html

Signed-off-by: Florian Haas <florian@hastexo.com>

keyring: print more useful errors to log/err

Signed-off-by: Sage Weil <sage@newdream.net>

common: trigger all observers on startup

Among other things, this makes err-to-stderr and friends initialize
properly in the DoutStreamBuf.

Signed-off-by: Sage Weil <sage@newdream.net>

common: make cpp_strerror output prettier

Signed-off-by: Sage Weil <sage@newdream.net>

librados: check for monclient::init() error

I think this fixes #1835.

Signed-off-by: Sage Weil <sage@newdream.net>

qa: load-gen-mix-small.sh

rgw: turn on cache by default

mds: assert if we get an EINVAL on our truncate

Signed-off-by: Sage Weil <sage@newdream.net>

osd: get fsid from monmap, not osdmap

We may not have a valid OSDMap in all of these cases (notably, during
boot).  Always take the fsid from the monmap, which will be valid after
we've authenticated.

This fixes messages like

2011-12-29 08:53:44.530830 7ff3595e2700 mon.a@0(leader).pg v5 handle_statfs on fsid 00000000-0000-0000-0000-000000000000 != f8a6383d-5fbe-4f65-907e-f8d09e1d540d

on the monitor from MPGStats messages with a bad fsid right after osd boot.

Signed-off-by: Sage Weil <sage@newdream.net>

monc: get latest monmap during authentication

Tell the monitor which monmap version we have in our initial auth message.
Make the monitor send the latest monmap if it has something newer.  This
ensures that once authentication completes the monclient has the latest
monmap and a valid fsid.

Fixes: #1848
Signed-off-by: Sage Weil <sage@newdream.net>

osd: catch authenticate error on startup

Signed-off-by: Sage Weil <sage@newdream.net>

osdmap: add const markers to some unfixed functions

Signed-off-by: Greg Farnum <gregory.farnum@dreamhost.com>

rgw: removing swift user index when removing user

rgw-admin: remove subuser index when required

rgw: clone operation should only update index for main category

rgw: fix cache interface (was not overloading method)

rgw: fix bucket creation

rgw: write bucket info in one operation

Objecter: fix local reads one more time.

Document it a little since we've gotten it wrong so often.

Signed-off-by: Greg Farnum <gregory.farnum@dreamhost.com>

filestore: fix config observer

Actually, I don't think this was fully implemented to begin with, so it's
not a 'fix' per se.  This will let you use injectargs to adjust the
filestore config options during runtime.

Signed-off-by: Sage Weil <sage@newdream.net>

MOSDPGRepScrub: Fix typo in MOSDPGRepScrub

Signed-off-by: Samuel Just <samuel.just@dreamhost.com>

Merge branch 'wip-signal'

MOSDRepScrub: use header.version for payload version

Signed-off-by: Samuel Just <samuel.just@dreamhost.com>

Merge branch 'stable'

monmap: iterate over addr_name when printing summary

The rank is now ordered by IP address. We should iterate over
addr_name.

Signed-off-by: Henry C Chang <henry.cy.chang@gmail.com>

monmap: clear addr_name map on calculating ranks

We should clear addr_name before filling it. Otherwise, the removed
mon will stay there and cause incorrect rank assignment.

Signed-off-by: Henry C Chang <henry.cy.chang@gmail.com>

interval_set: fix truncation of _size

_size is type of int64_t. Use int to store the value of _size
will cause value truncation.

Signed-off-by: Henry C Chang <henry.cy.chang@gmail.com>

osd: remove SIGTERM cruft

The default handler will exit(0).  The got_sigterm stuff was dead code.

Signed-off-by: Sage Weil <sage@newdream.net>

mon: drop special SIGTERM handler

Default does exit(0).

Signed-off-by: Sage Weil <sage@newdream.net>

mds: drop special SIGTERM handler

Default does exit(0).

Signed-off-by: Sage Weil <sage@newdream.net>

exit(0) on SIGTERM by default

Signed-off-by: Sage Weil <sage@newdream.net>

Merge pull request #7 from kylemarsh/wip-obsync-swift-metadata

obsync: pull object metadata from swift store

obsync: pull object metadata from swift store

Obsync wasn't pulling object metadata from swift stores and thus wasn't
syncing metadata when reading from a swift store.  This commit fixes that.

rgw: fix subuser key name when purging subuser keys

radosgw-admin: add --purge-keys option

librados: return -EROFS when trying to write to a snapshot

operate_read doesn't need this check because it does not write.

Signed-off-by: Josh Durgin <josh.durgin@dreamhost.com>

librados: make getxattrs ENOMEM return negative

This is more consistent with the rest of librados.

Signed-off-by: Josh Durgin <josh.durgin@dreamhost.com>

rgw: add timeout to init path

MOSDRepScrub,ReplicatedPG: Add scrub_to to MOSDRepScrub

When scrub_from is set, also set scrub_to to the primary's
last_update_applied (which will also be the official last_update before
finalizing scrub began).  The replica instead of waiting for
last_update_applied to catch up to last_update will wait for
last_update_applied to catch up to active_rep_scrub->scrub_to.  This
avoids a race where the replica scrub is requeued before all of the
currently queued sub-ops have been processed.

Signed-off-by: Samuel Just <samuel.just@dreamhost.com>

mon: update man page to document --mkfs stuff

Signed-off-by: Sage Weil <sage@newdream.net>

mds: misc assertions about truncation

Signed-off-by: Sage Weil <sage@newdream.net>

osd: EINVAL on truncate to huge object size

Signed-off-by: Sage Weil <sage@newdream.net>

Merge pull request #6 from kylemarsh/wip-obsync-swift

Wip obsync swift

rgw: remove temp context in prepare_get_obj

rgw: fix xml parser internal structure leak

rgw: fix a leak of acl structure (in req_state)

rgw: remove temp context in prepare_get_obj

rgw: fix xml parser internal structure leak

rgw: fix a leak of acl structure (in req_state)

Merge branch 'wip-osd-maybe-created'

Merge branch 'wip-osd-fsid'

doc: fix typo

Signed-off-by: Sage Weil <sage@newdream.net>

osd: --get-journal-fsid

Signed-off-by: Sage Weil <sage@newdream.net>

filejournal: uuid for fsid

Decode old header struct, but encode new class using more normal encoding
style.  Embed in a bufferlist for later extensibility.  Use the first
64 bits of the uuid for the per-entry magic, as before.

When we load an old fsid, we mirror the 64-bits.

Signed-off-by: Sage Weil <sage@newdream.net>

filestore: make fsid uuid_d instead of uint64_t

Signed-off-by: Sage Weil <sage.weil@dreamhost.com>

osd: --get-osd-fsid and --get-cluster-fsid

Signed-off-by: Sage Weil <sage.weil@dreamhost.com>

osd: store osd_fsid as text in osd_data dir

along with ceph_fsid (the cluster fsid) and a few other things.

Signed-off-by: Sage Weil <sage.weil@dreamhost.com>

osd: include osd_fsid in OSDSuperblock

Generated during mkfs.

Signed-off-by: Sage Weil <sage.weil@dreamhost.com>

osd: rename OSDSuperblock::fsid -> cluster_fsid

Signed-off-by: Sage Weil <sage.weil@dreamhost.com>

doc: fix mon cluster expansion docs

Signed-off-by: Sage Weil <sage@newdream.net>

mon: pull addr from ceph.conf, mon_host as needed when joining mon cluster

Signed-off-by: Sage Weil <sage@newdream.net>

mon: fix setting of mon addr when joining a cluster

Signed-off-by: Sage Weil <sage@newdream.net>

rgw: fix updating of object metadata

being used in swift POST. We were updating wrong object
size and etag

rgw: bucket cannot be recreated if already exists

man: Update the configuration example for radosgw

Signed-off-by: Wido den Hollander <wido@widodh.nl>

man: It is capital -C instead of -c when for creating a new keyring

Signed-off-by: Wido den Hollander <wido@widodh.nl>

rgw: fix updating of object metadata

being used in swift POST. We were updating wrong object
size and etag

rgw: bucket cannot be recreated if already exists

obsync: add authurl to CLI

s3 connections require the hostname and swift connections require the
authurl.  obsync treats these as equivalent internally, but breaks them
apart on the command line interface for clarity for the users.

object.h: initialize max in hobject_t(sobject_t) constructor

Signed-off-by: Samuel Just <samuel.just@dreamhost.com>

ReplicatedPG: fix handle_watch_timeout ctx->at_version

ctx->at_version should match the head of the new log entries
during issue_repop.  This could cause the scrub hang bug as
last_update would be less than last_update_applied.

Signed-off-by: Samuel Just <samuel.just@dreamhost.com>

ReplicatedPG: add asserts to catch scrub error

If last_update_applied skipped over last_update, we would see
scrub hang.

Signed-off-by: Samuel Just <samuel.just@dreamhost.com>

doc: fix filename in mon addition process

Signed-off-by: Sage Weil <sage@newdream.net>

filejournal: preallocate journal bytes on create

This should reduce fragmentation for large journals that are written
slowly the first time around.

Signed-off-by: Sage Weil <sage@newdream.net>

Merge pull request #5 from homac/master

Minor fix for init files and cleaned up spec file. Please pull

man: clarify mount.ceph auth options

Signed-off-by: Josh Durgin <josh.durgin@dreamhost.com>

man: update rule definition for ceph-rbdnamer

This is the rule we install since 891025e539a92b5d75011e2e75c475fc0c272042.

Signed-off-by: Josh Durgin <josh.durgin@dreamhost.com>

authx -> cephx everywhere it's used

The term authx was in the mount.ceph man page, and got accidentally
copied into rbd help.

Signed-off-by: Josh Durgin <josh.durgin@dreamhost.com>

ceph.spec: Clean up and fix spec file and build for a couple of distributions

Clean up and fix the spec file. This includes cleaning up of build and
installed system dependencies, LSB compliance fixes, splitting up into
several sub-packages (lib*) and so on. It now builds fine for the
following distributions in the Open Build Service and should be
considered as a starting point for further fixes:

 - CentOS 6
 - Fedora 15
 - RedHat Enterprise Linux 6
 - openSUSE 11.4
 - openSUSE 12.1
 - openSUSE Factory
 - SUSE Linux Enterprise 11 (SP1 and SP2)

Signed-off-by: Holger Macht <hmacht@suse.de>

init-ceph/init-radosgw: Don't use unspecified runlevel 4

Don't use runlevel 4 in init scripts. AFAIK, no distribution is using it
and at least the Open Build Service complains about it.

Signed-off-by: Holger Macht <hmacht@suse.de>

client: fix logger deregistration

Only unregister logger if it is non-NULL (and thus registered) to avoid
running afoul of the cct assertions.

Signed-off-by: Sage Weil <sage@newdream.net>

obsync: add vvprint back in

Commit ebe5fc60d20f92a0037c53c1e7bd7ae512be3da4 removed the definition of
vvprint without removint all the places that used it.