rgw: fix multipart PUT

latest revamp broke it, missed calling RGWPutObjProcessor::prepare(s)
where needed.

rgw: rearrange PutObj::execute()

groundwork for different handling of small object PUTs

rgw: different atomic handling for small objects

mon: fix uninitialized cluster_logger_registered

Signed-off-by: Sage Weil <sage@newdream.net>

mon: document quorum_status, mon_status

Fixes: #1824
Signed-off-by: Sage Weil <sage@newdream.net>

mon: fix misplaced else

Broken by 435c29448a10ec343f5a2b7195d94c72de5b1a25.

Signed-off-by: Sage Weil <sage@newdream.net>

Merge remote branch 'gh/wip-mon-timeouts'

mon: elector needs to reset leader_acked on every election start

Otherwise you never reset the leader_acked after a failed
election attempt, so if mon 0 is available on the first round
but then fails, you never make progress!

Signed-off-by: Greg Farnum <gregory.farnum@dreamhost.com>

mon: instrument elector so you can stop participating in the quorum

Add new monitor commands "quorum exit" and "quorum enter" to use it.

Signed-off-by: Greg Farnum <gregory.farnum@dreamhost.com>

mon: kill client sessions when we're not in quorum

After a timeout of 2*mon_lease length (ie, two election rounds),
kill existing client sessions so they can reconnect to a
monitor that's (hopefully) remained in the quorum. Let any
new client sessions stick around for a mon_lease interval, then
do the same to them.

Signed-off-by: Greg Farnum <gregory.farnum@dreamhost.com>

OCF RA: fix variable name

debian: build ceph-resource-agents

rbd: add a command to delete all snapshots of an image

This makes deleting images with many snapshots easier.

Signed-off-by: Josh Durgin <josh.durgin@dreamhost.com>

librbd: don't remove an image that still has snapshots

Return -EBUSY instead. After the header is removed, the snapshots
can't be removed or read, so make sure they're gone before proceeding.

Signed-off-by: Josh Durgin <josh.durgin@dreamhost.com>

SimpleMessenger: clarify when ms_bind_ipv6 is used

Signed-off-by: Josh Durgin <josh.durgin@dreamhost.com>

qa: add a slightly more stressful anchortable test

This creates more than 8 links.

Signed-off-by: Greg Farnum <gregory.farnum@dreamhost.com>

qa: fix mdstable script for proper injectargs use.

This script is fairly primitive, but somebody might find it useful...

Signed-off-by: Greg Farnum <gregory.farnum@dreamhost.com>

rados: fix run-length option parsing for rados load-gen

Signed-off-by: Sage Weil <sage.weil@dreamhost.com>

Merge pull request #8 from kylemarsh/master

Remove cloudfiles requirement from obsync.

qa: load-gen-mix-small-long

30 minutes

Signed-off-by: Sage Weil <sage@newdream.net>

obsync: make obsync run without cloudfiles installed

Cloudfiles probably shouldn't be a requirement for running obsync, so this
commit makes it optional.

osd: fix misdirect check for requests with old epochs

get_map() assumes the epoch passed is valid.  Check here in the caller.

Signed-off-by: Sage Weil <sage@newdream.net>

osd: check that we're supposed to be getting a PG before waitlisting requests.

This was broken in fa722de6708d3e92037df6289cc29ece12c8ea66.

Fix it by checking if the mapping was correct in the sender's epoch, and
either drop it (if valid) or handle_misdirected_request() if not.

Also fix the documentation for op_is_queueable() to not be a gigantic lie.

Signed-off-by: Greg Farnum <gregory.farnum@dreamhost.com>
Signed-off-by: Sage Weil <sage@newdream.net>

rados: gracefully report errors from 'ls'

Catch the exception thrown by the iterator when the OSD returns errors.

Signed-off-by: Sage Weil <sage@newdream.net>

osd: return EINVAL on bad PGLS[_FILTER] handle

Fixes: #1875
Signed-off-by: Sage Weil <sage@newdream.net>

librados: return int64_t pool ids

468e28ee60ee2fe625d2680c792a4bcb9ef19951 missed the get_id() functions.

Signed-off-by: Josh Durgin <josh.durgin@dreamhost.com>

rados.py: use uint64_t for auids

Signed-off-by: Josh Durgin <josh.durgin@dreamhost.com>

radosgw-admin: add eol following info

testrados: replace testreadwrite and testsnaps with testrados

testrados can act as testreadwrite or testsnaps by changing the
command line options for the weight of each operation type.

Signed-off-by: Josh Durgin <josh.durgin@dreamhost.com>

RadosModel: check for out of order replies within WriteOps

A single WriteOp already does multiple aio_writes. Each aio_write
gets a unique tid that is checked upon completion. There's no reason
to loop over the ranges twice since we can use the done flag instead
of the set of completions in WriteOp::finished().

Signed-off-by: Josh Durgin <josh.durgin@dreamhost.com>

RadosModel: allow TestOps to pass data to their finish methods

This will allow nested writes to keep track of which write actually
completed.  Also remove finish() and _finish() from TestOp subclasses
that had the same implementation as the superclass.

Signed-off-by: Josh Durgin <josh.durgin@dreamhost.com>

RadosModel: make object write ranges configurable

Signed-off-by: Josh Durgin <josh.durgin@dreamhost.com>

osd: add a monitor timeout via MPGStatsAck messages

Keep track of when we have outstanding updates, and while we do, make
sure the monitor responds within a timeout (default 30 seconds). If
it doesn't, reconnect!

Signed-off-by: Greg Farnum <gregory.farnum@dreamhost.com>

Fix invalid docdir_SCRIPTS usage with >=automake-1.11.2

librados: take lock in rollback

We're poking through the osdmap; need to hold the lock here.

Signed-off-by: Sage Weil <sage@newdream.net>

objecter: assert lock held in op_submit

Signed-off-by: Sage Weil <sage@newdream.net>

librados: call aio_operate() with lock held

Signed-off-by: Sage Weil <sage@newdream.net>

rgw: create default constructors for some structs

this will silence valgrind a bit

workunits: update rbd test for new error format

Signed-off-by: Josh Durgin <josh.durgin@dreamhost.com>

config: use autoconf $libdir for default rados class dir

Fixes: #1722
Signed-off-by: Sage Weil <sage@newdream.net>

.gitignore: src/ocf/ceph

Signed-off-by: Sage Weil <sage@newdream.net>

Spec: conditionally build ceph-resource-agents package

Put OCF resource agents in a separate subpackage,
to be enabled with a separate build conditional
(--with ocf).

Make the subpackage depend on the resource-agents
package, which provides the ocf-shellfuncs library
that the Ceph RAs use.

Signed-off-by: Florian Haas <florian@hastexo.com>

Add OCF-compliant resource agent for Ceph daemons

Add a wrapper around the ceph init script that makes
MDS, OSD and MON configurable as Open Cluster Framework
(OCF) compliant cluster resources. Allows Ceph
daemons to tie in with cluster resource managers that
support OCF, such as Pacemaker (http://www.clusterlabs.org).

Disabled by default, configure --with-ocf to enable.

Signed-off-by: Florian Haas <florian@hastexo.com>

mon: fix full ratio updates

- update them independently
- only if we are leader
- fix type for nearfull_ratio

Signed-off-by: Sage Weil <sage@newdream.net>

mon: don't ignore first full ratio update callback

We get a callack on startup.  Don't ignore it.

Signed-off-by: Sage Weil <sage@newdream.net>

mon: only update full_ratio if we're the leader

Signed-off-by: Sage Weil <sage@newdream.net>

Merge remote branch 'gh/wip-cleanup'

mon: make full ratio config change callback safe

We can't propose_pending() from any context; do this in the tick() thread,
with the proper locking.  Among other things, this fixes the crash on
startup that is now triggered due to eba235f2.

Signed-off-by: Sage Weil <sage@newdream.net>

clitests: update for new error format

This was changed in 1f434da8a3ca4db830d1f3b0d87e5df941d85f2d

Signed-off-by: Josh Durgin <josh.durgin@dreamhost.com>

clitests: update monmaptool test

e93961c11119942eae3a4cd14a79f779a5a4d277 changed output format.

Signed-off-by: Josh Durgin <josh.durgin@dreamhost.com>

init script: be LSB compliant for exit code on status

An exit code of 1 on status is defined in LSB as
"program is dead, but pid file exists". Check for existence
of this pid file, and only set the exit status 1 if it's still there.
Set it to 3 ("program is not running") otherwise.

Reference: http://refspecs.linuxbase.org/LSB_3.1.0/LSB-Core-generic/LSB-Core-generic/iniscrptact.html

Signed-off-by: Florian Haas <florian@hastexo.com>

keyring: print more useful errors to log/err

Signed-off-by: Sage Weil <sage@newdream.net>

common: trigger all observers on startup

Among other things, this makes err-to-stderr and friends initialize
properly in the DoutStreamBuf.

Signed-off-by: Sage Weil <sage@newdream.net>

common: make cpp_strerror output prettier

Signed-off-by: Sage Weil <sage@newdream.net>

librados: check for monclient::init() error

I think this fixes #1835.

Signed-off-by: Sage Weil <sage@newdream.net>

qa: load-gen-mix-small.sh

rgw: turn on cache by default

mds: assert if we get an EINVAL on our truncate

Signed-off-by: Sage Weil <sage@newdream.net>

osd: get fsid from monmap, not osdmap

We may not have a valid OSDMap in all of these cases (notably, during
boot).  Always take the fsid from the monmap, which will be valid after
we've authenticated.

This fixes messages like

2011-12-29 08:53:44.530830 7ff3595e2700 mon.a@0(leader).pg v5 handle_statfs on fsid 00000000-0000-0000-0000-000000000000 != f8a6383d-5fbe-4f65-907e-f8d09e1d540d

on the monitor from MPGStats messages with a bad fsid right after osd boot.

Signed-off-by: Sage Weil <sage@newdream.net>

monc: get latest monmap during authentication

Tell the monitor which monmap version we have in our initial auth message.
Make the monitor send the latest monmap if it has something newer.  This
ensures that once authentication completes the monclient has the latest
monmap and a valid fsid.

Fixes: #1848
Signed-off-by: Sage Weil <sage@newdream.net>

osd: catch authenticate error on startup

Signed-off-by: Sage Weil <sage@newdream.net>

osdmap: add const markers to some unfixed functions

Signed-off-by: Greg Farnum <gregory.farnum@dreamhost.com>

rgw: removing swift user index when removing user

rgw-admin: remove subuser index when required

rgw: clone operation should only update index for main category

rgw: fix cache interface (was not overloading method)

rgw: fix bucket creation

rgw: write bucket info in one operation

Objecter: fix local reads one more time.

Document it a little since we've gotten it wrong so often.

Signed-off-by: Greg Farnum <gregory.farnum@dreamhost.com>

filestore: fix config observer

Actually, I don't think this was fully implemented to begin with, so it's
not a 'fix' per se.  This will let you use injectargs to adjust the
filestore config options during runtime.

Signed-off-by: Sage Weil <sage@newdream.net>

MOSDPGRepScrub: Fix typo in MOSDPGRepScrub

Signed-off-by: Samuel Just <samuel.just@dreamhost.com>

Merge branch 'wip-signal'

MOSDRepScrub: use header.version for payload version

Signed-off-by: Samuel Just <samuel.just@dreamhost.com>

Merge branch 'stable'

monmap: iterate over addr_name when printing summary

The rank is now ordered by IP address. We should iterate over
addr_name.

Signed-off-by: Henry C Chang <henry.cy.chang@gmail.com>

monmap: clear addr_name map on calculating ranks

We should clear addr_name before filling it. Otherwise, the removed
mon will stay there and cause incorrect rank assignment.

Signed-off-by: Henry C Chang <henry.cy.chang@gmail.com>

interval_set: fix truncation of _size

_size is type of int64_t. Use int to store the value of _size
will cause value truncation.

Signed-off-by: Henry C Chang <henry.cy.chang@gmail.com>

osd: remove SIGTERM cruft

The default handler will exit(0).  The got_sigterm stuff was dead code.

Signed-off-by: Sage Weil <sage@newdream.net>

mon: drop special SIGTERM handler

Default does exit(0).

Signed-off-by: Sage Weil <sage@newdream.net>

mds: drop special SIGTERM handler

Default does exit(0).

Signed-off-by: Sage Weil <sage@newdream.net>

exit(0) on SIGTERM by default

Signed-off-by: Sage Weil <sage@newdream.net>

Merge pull request #7 from kylemarsh/wip-obsync-swift-metadata

obsync: pull object metadata from swift store

obsync: pull object metadata from swift store

Obsync wasn't pulling object metadata from swift stores and thus wasn't
syncing metadata when reading from a swift store.  This commit fixes that.

rgw: fix subuser key name when purging subuser keys

radosgw-admin: add --purge-keys option

librados: return -EROFS when trying to write to a snapshot

operate_read doesn't need this check because it does not write.

Signed-off-by: Josh Durgin <josh.durgin@dreamhost.com>

librados: make getxattrs ENOMEM return negative

This is more consistent with the rest of librados.

Signed-off-by: Josh Durgin <josh.durgin@dreamhost.com>

rgw: add timeout to init path

MOSDRepScrub,ReplicatedPG: Add scrub_to to MOSDRepScrub

When scrub_from is set, also set scrub_to to the primary's
last_update_applied (which will also be the official last_update before
finalizing scrub began).  The replica instead of waiting for
last_update_applied to catch up to last_update will wait for
last_update_applied to catch up to active_rep_scrub->scrub_to.  This
avoids a race where the replica scrub is requeued before all of the
currently queued sub-ops have been processed.

Signed-off-by: Samuel Just <samuel.just@dreamhost.com>

mon: update man page to document --mkfs stuff

Signed-off-by: Sage Weil <sage@newdream.net>

mds: misc assertions about truncation

Signed-off-by: Sage Weil <sage@newdream.net>

osd: EINVAL on truncate to huge object size

Signed-off-by: Sage Weil <sage@newdream.net>

Merge pull request #6 from kylemarsh/wip-obsync-swift

Wip obsync swift

rgw: remove temp context in prepare_get_obj

rgw: fix xml parser internal structure leak

rgw: fix a leak of acl structure (in req_state)

rgw: remove temp context in prepare_get_obj

rgw: fix xml parser internal structure leak

rgw: fix a leak of acl structure (in req_state)

Merge branch 'wip-osd-maybe-created'