mds: do not include trace with replayed replies

kclient: track and kick flushing caps per-mds

After an MDS restarts, we need to resend cap flush messages we
were trying to write back.  So, track flushing caps per-session,
with a global counter to make ceph_mdsc_sync simple.  When the
MDS goes active, re-flush anything that was flushing.

Also change old 'sync' terminology to more descriptive 'flushing'.

mds: adjust all lock states in process_reconnected_caps

The old code only adjusted the filelock, and didn't do it
correctly.

mds: set cap_id on caps reconnected after a delayed load

mds: replay client ops one at a time

Before we were assuming we could queue up all replayed ops and the locking
would ensure they'd occur in the proper order (and in so doing unwind
any dependencies).  Not so fast.  Instead, do one at a time and queue
the next up as each finishes.

mds: maybe eval instead of eval_gather on file recovery

This fixes an assertion failure, but not the underlying issues with the
current file recovery strategy.

mds: reissue all caps after recovery

This ensures that locks get kicked after recovery.  Otherwise we may have
a client who ends up with the caps they had before, waiting for the MDS to
issue say RD and no progress being made.

kclient: make mds map checks more robust

Look at state AND address to reliably determine when an MDS has failed
and restarted.  Otherwise we may skip from reconnect to (the next
incarnation's) reconnect and not 'notice'.

kclient: clean out caps that don't reconnect

We still need some additional work to turn these into EBADF.

kclient: request _next_ mdsmap epoch

We were off by.

kclient: send mds reconnect regardless of who we get the mdsmap from

Sure, the MDS will always send it to us, but if we've already seen it,
we'll ignore the message.  Make the reconnect check more robust.

kclient: don't skip most recent mds op

We were skipping the most recent.  last_tid is the last tid we used.

mds: add reconnected caps whose paths are loaded

We weren't calling in->reconnect_cap.  Do so via rejoin_import_cap(),
even tho the naming is a bit weird.

libceph: Split into .h and .cc files

And now builds as a library, if I did it right.

libceph: Now exists! client/libceph.h.

The automake magic may not be done though.

mon:Initialize rank to NULL to avoid warning.

osd: no need for RMW flags in op reply

In particular, they may not have even been calculated when we reply to
the message.

filer: remove bad memset

OSDOp has a proper constructor.  Also remove unnecessary
bufferlist instances.

msg: allow multiple dispatchers to chain together

mds: alloc cleanup, log recoverable journal errors

mds: fix session close ino release journaling

uclient: make_request returns int, not MClientReply

Simplifies callers.

uclient: insert_trace in reply handler

This will avoid the ugly kickback crap.

Also, after mds reconnect, we may get a safe reply (after we already
got an unsafe from the previous mds) that includes the new cap.

uclient: fix make_long_path, and thus reconnect

uclient: fix op replay

Clear msg payload so it gets reencoded with adjusted values.

uclient: Cleaned up resend_unsafe_requests; handle_client_reply; debugging.

mds: drop loner on gather before doing waiters

Otherwise we would reissue/use caps on loner in non-loner states, and go
back.

uclient: fix order of session cap removal

Remove caps and kick reqeusts before erasing session.

mds: refcount MDRequest so that timed out client sessions behave

We need to ref count MDRequest so that it will remain valid over the
(possibly extended) lifetime C_RetryRequest.

Give ownership of {client,slave}_request to MDRequest so that cleanup
is consistent.

uclient: use session->caps list an lru

Touch caps on use, via bool caps_issued_mask(mask)

osd: change log terminology: bottom..top -> tail..head

Hopefully less confusing.

uclient: fix kickback, reply handler logic

We kickback cond test used to look at the request map, but since the
reply handler removes that, it was never true.  Instead, clear the
dispatch_cond pointer.

Also fix up the reply handler logic.  Any reply implies unsafe.  If it
is the first, signal the calling thread.

uclient: fix MMDSGetMap 'have' epoch

This broke with the monitor changes last week.

Merge commit 'gregskinny/unstable' into unstable

Conflicts:

src/client/Client.cc

DON'T USE, BROKEN. uclient's MetaRequest extra ref counts removed.

BROKEN, DON'T USE.

uclient changes that somehow broke message delivery without changing anything in that process

mon: better warning with injectargs on non-up mds

osd: make write mode per-PG

We can't do it per-object because the access mode determines the order
we append to the log, and that has to be sequential.  It has to be per-PG,
unless a whole ton of other stuff is reworked.

This lets us capture the best access mode at least on a per-pool basis,
instead of imposing a global default.

uclient: support mds recall_state

Trim old caps.  Still need to make it an LRU.

uclient: remove debug print

uclient: DOESN'T WORK, but more ref counting stuff. Now attempts to resend unsafe ops on a reconnect.

uclient: MetaRequests go on the heap and are ref-counted; safe/unsafe replies dealt with better.

kclient: checkpatch fixes

kclient: use list_for_each_entry macro when possible

osd: fix hb down check

osd: fix failure report on already-down osd

We were potentially sending an osd failure on an osd that was already
down.  Double check before doing so.

osd: fix log msg after var name changes

mds: don't choke on path_traverse_to_dir that fully exists

osd: nicer scrub ok message

osd: rearrange make_writeable prints

osd: fix pg log trimming

We were zeroing out too much of the pg log!

initscripts: fix do_root_cmd

sudo bash -c "echo foo" works, sudo "echo foo" does not.

msgs: clean up v in message prints

uclient: Kick requests and renew caps on stale.

uclient: fix bad merge

monc: debug option

osd: switch to MonClient, fix cmds and ceph

mds, objecter, ceph: use MonClient

monc: create send_mon_message helper

monclient: refactor MonMap into MonClient

uclient todo

uclient: Now handles STALE state nicely.

uclient: fix cap reconnect

Pass cap_id to the mds.  Otherwise all subsequent cap ops will
fail due to the mismatch.

buffer: throw exceptions instead of always asserting.

We still assert when the user is doing something wrong.  We throw
asserts for failed memory allocs, and for buffer overruns.  I
think that'll align with usage... esp the encoding/decoding.

assert: throw FailedAssertion exception instead of inducing segfault

This will allow callers to catch failed assertions, if they so
choose.

cosd: valgrind off

auth: use string instead of const char* for maps

mds: attach requests to session; cleanup on session close

This is a partial solution.. we also need mdr refcounting
so that any contexts with an mdr* won't do bad things.

osd: fix _scrub head_exists test

uclient: fix test condition

If the dentries item exists, dn must be non-null.

uclient: verify dentries belong to current session

Check against session cap_gen

Client: put guards around some dentries[foo] accesses without checking for existence.

kclient: typo

paxos: allow wait on newer version

kclient: set have_version in MOSDGetMap

No more VERSION_T; just 0.

mon: remove old asserts conflicting with new readable semantics

We may now call update_from_paxos while updating OR active.

messages: Clean up of PaxosServiceMessages, and some fixes for their users.

messages/MClass[Ack]: Roll back some unification.
version_t last and PaxosServiceMessage::version shouldn't
be the same in these messages. Remove that and add a new
constructor that does set the version (but it's unneeded).

mon/objecter: The monitors and Objecter now use the version in messages.

initscripts: do mount/mkfs as root, otherwise as any user

We want cosd to run unprivileged if possible.

osd: update primary's notion of peer last_update on activate

We are pushing the peer the log to bring it up to date, so
update our peer_info[peer].last_update to match.  Otherwise,
we get confused if we get, say, stray content and peer() is
called later, and we have out of date peer stats.

osd: force RMW ordering globally

We can't mix RMW and DELAYED in the same PG without screwing
up the ordering of writes, the pg log, and so forth.

So force RMW throughout.  This won't affect the mds log
appends because the client is constant.  It will slow down
concurrent writes to the same object by multiple clients, but
we don't have many (any?) of those yet.

This needs a real solution... :/

osd: fix TMAPUP bug

Trailing bit was put in the wrong place.

osd: fix tmapup

Various problems with decoding and applying an update.

initscripts: allow 'user' option, defaults to current user

mds: fix CDir decoding

mds: rev format (for TMAP changes)

osd: fix head_existed check

ssc isn't always defined, as we pass here for !may_read() too.

Merge branch 'mdsmap' into unstable

Conflicts:

src/mds/CDir.cc

todo

osd: print lost objects

We still need to figure out how to continue...

osd: rebuild missing OI_ATTR from log entry when possible

osd: fix proc_replica_log stop condition

This fixes condition from 4b5572a.

osd/PG.cc: In function 'void PG::activate(ObjectStore::Transaction&, std::map<int, MOSDPGInfo*, std::less<int>, std::allocator<std::pair<const int, MOSDPGInfo*> > >*)':
osd/PG.cc:1401: FAILED assert(log.backlog)
 1: ./cosd(_Z18__ceph_assert_failPKcS0_iS0_+0x3a) [0x7a838b]
 2: ./cosd(_ZN2PG8activateERN11ObjectStore11TransactionEPSt3mapIiP10MOSDPGInfoSt4lessIiESaISt4pairIKiS5_EEE+0xbe8) [0x71ff88]
 3: ./cosd(_ZN2PG4peerERN11ObjectStore11TransactionERSt3mapIiS3_I4pg_tNS_5QueryESt4lessIS4_ESaISt4pairIKS4_S5_EEES6_IiESaIS8_IKiSC_EEEPS3_IiP10MOSDPGInfoSD_SaIS8_ISE_SK_EEE+0xfa0) [0x722852]
 4: ./cosd(_ZN3OSD16_process_pg_infoEjiRN2PG4InfoERNS0_3LogERNS0_7MissingEPSt3mapIiP10MOSDPGInfoSt4lessIiESaISt4pairIKiS9_EEERi+0x712) [0x6a7000]
 5: ./cosd(_ZN3OSD13handle_pg_logEP9MOSDPGLog+0x126) [0x6a7768]
 6: ./cosd(_ZN3OSD9_dispatchEP7Message+0x34a) [0x6abe6c]
 7: ./cosd(_ZN3OSD13dispatch_implEP7Message+0x408) [0x6ac9c4]
 8: ./cosd(_ZN10Dispatcher8dispatchEP7Message+0x63) [0x61a4af]
 9: ./cosd(_ZN9Messenger8dispatchEP7Message+0x56) [0x6298f8]
 10: ./cosd(_ZN15SimpleMessenger8Endpoint14dispatch_entryEv+0x5ae) [0x62340a]
 11: ./cosd(_ZN15SimpleMessenger8Endpoint14DispatchThread5entryEv+0x19) [0x62fc9d]
 12: ./cosd(_ZN6Thread11_entry_funcEPv+0x20) [0x629e48]
 13: /lib/libpthread.so.0 [0x7fb482c933f7]

todo

osd: rev ondisk format, protocols

For monitor message changes AND osd snapset changes.

osd: store snapset in _snapdir object if head dne

If the _head doesn't logically exist, we can't keep it around just for
the SnapSet or else an 'ls' will have to stat in order to tell if the
head object logically exists and should be included.  That's no good,
so:

- put snapset in SS_ATTR on head if it exists
- otherwise, put it SS_ATTR on a _snapdir object

osd: zero out pg_pool_t in constructor

Most things were getting initialized, but not snap_seq.

mon: set snap epoch for poolsnap removal, too

osd: fix MOSDBoot, MOSDGetMap initialization