uclient: fix op replay

Clear msg payload so it gets reencoded with adjusted values.

uclient: Cleaned up resend_unsafe_requests; handle_client_reply; debugging.

mds: drop loner on gather before doing waiters

Otherwise we would reissue/use caps on loner in non-loner states, and go
back.

uclient: fix order of session cap removal

Remove caps and kick reqeusts before erasing session.

mds: refcount MDRequest so that timed out client sessions behave

We need to ref count MDRequest so that it will remain valid over the
(possibly extended) lifetime C_RetryRequest.

Give ownership of {client,slave}_request to MDRequest so that cleanup
is consistent.

uclient: use session->caps list an lru

Touch caps on use, via bool caps_issued_mask(mask)

osd: change log terminology: bottom..top -> tail..head

Hopefully less confusing.

uclient: fix kickback, reply handler logic

We kickback cond test used to look at the request map, but since the
reply handler removes that, it was never true.  Instead, clear the
dispatch_cond pointer.

Also fix up the reply handler logic.  Any reply implies unsafe.  If it
is the first, signal the calling thread.

uclient: fix MMDSGetMap 'have' epoch

This broke with the monitor changes last week.

Merge commit 'gregskinny/unstable' into unstable

Conflicts:

src/client/Client.cc

DON'T USE, BROKEN. uclient's MetaRequest extra ref counts removed.

BROKEN, DON'T USE.

uclient changes that somehow broke message delivery without changing anything in that process

mon: better warning with injectargs on non-up mds

osd: make write mode per-PG

We can't do it per-object because the access mode determines the order
we append to the log, and that has to be sequential.  It has to be per-PG,
unless a whole ton of other stuff is reworked.

This lets us capture the best access mode at least on a per-pool basis,
instead of imposing a global default.

uclient: support mds recall_state

Trim old caps.  Still need to make it an LRU.

uclient: remove debug print

uclient: DOESN'T WORK, but more ref counting stuff. Now attempts to resend unsafe ops on a reconnect.

uclient: MetaRequests go on the heap and are ref-counted; safe/unsafe replies dealt with better.

kclient: checkpatch fixes

kclient: use list_for_each_entry macro when possible

osd: fix hb down check

osd: fix failure report on already-down osd

We were potentially sending an osd failure on an osd that was already
down.  Double check before doing so.

osd: fix log msg after var name changes

mds: don't choke on path_traverse_to_dir that fully exists

osd: nicer scrub ok message

osd: rearrange make_writeable prints

osd: fix pg log trimming

We were zeroing out too much of the pg log!

initscripts: fix do_root_cmd

sudo bash -c "echo foo" works, sudo "echo foo" does not.

msgs: clean up v in message prints

uclient: Kick requests and renew caps on stale.

uclient: fix bad merge

monc: debug option

osd: switch to MonClient, fix cmds and ceph

mds, objecter, ceph: use MonClient

monc: create send_mon_message helper

monclient: refactor MonMap into MonClient

uclient todo

uclient: Now handles STALE state nicely.

uclient: fix cap reconnect

Pass cap_id to the mds.  Otherwise all subsequent cap ops will
fail due to the mismatch.

buffer: throw exceptions instead of always asserting.

We still assert when the user is doing something wrong.  We throw
asserts for failed memory allocs, and for buffer overruns.  I
think that'll align with usage... esp the encoding/decoding.

assert: throw FailedAssertion exception instead of inducing segfault

This will allow callers to catch failed assertions, if they so
choose.

cosd: valgrind off

auth: use string instead of const char* for maps

mds: attach requests to session; cleanup on session close

This is a partial solution.. we also need mdr refcounting
so that any contexts with an mdr* won't do bad things.

osd: fix _scrub head_exists test

uclient: fix test condition

If the dentries item exists, dn must be non-null.

uclient: verify dentries belong to current session

Check against session cap_gen

Client: put guards around some dentries[foo] accesses without checking for existence.

kclient: typo

paxos: allow wait on newer version

kclient: set have_version in MOSDGetMap

No more VERSION_T; just 0.

mon: remove old asserts conflicting with new readable semantics

We may now call update_from_paxos while updating OR active.

messages: Clean up of PaxosServiceMessages, and some fixes for their users.

messages/MClass[Ack]: Roll back some unification.
version_t last and PaxosServiceMessage::version shouldn't
be the same in these messages. Remove that and add a new
constructor that does set the version (but it's unneeded).

mon/objecter: The monitors and Objecter now use the version in messages.

initscripts: do mount/mkfs as root, otherwise as any user

We want cosd to run unprivileged if possible.

osd: update primary's notion of peer last_update on activate

We are pushing the peer the log to bring it up to date, so
update our peer_info[peer].last_update to match.  Otherwise,
we get confused if we get, say, stray content and peer() is
called later, and we have out of date peer stats.

osd: force RMW ordering globally

We can't mix RMW and DELAYED in the same PG without screwing
up the ordering of writes, the pg log, and so forth.

So force RMW throughout.  This won't affect the mds log
appends because the client is constant.  It will slow down
concurrent writes to the same object by multiple clients, but
we don't have many (any?) of those yet.

This needs a real solution... :/

osd: fix TMAPUP bug

Trailing bit was put in the wrong place.

osd: fix tmapup

Various problems with decoding and applying an update.

initscripts: allow 'user' option, defaults to current user

mds: fix CDir decoding

mds: rev format (for TMAP changes)

osd: fix head_existed check

ssc isn't always defined, as we pass here for !may_read() too.

Merge branch 'mdsmap' into unstable

Conflicts:

src/mds/CDir.cc

todo

osd: print lost objects

We still need to figure out how to continue...

osd: rebuild missing OI_ATTR from log entry when possible

osd: fix proc_replica_log stop condition

This fixes condition from 4b5572a.

osd/PG.cc: In function 'void PG::activate(ObjectStore::Transaction&, std::map<int, MOSDPGInfo*, std::less<int>, std::allocator<std::pair<const int, MOSDPGInfo*> > >*)':
osd/PG.cc:1401: FAILED assert(log.backlog)
 1: ./cosd(_Z18__ceph_assert_failPKcS0_iS0_+0x3a) [0x7a838b]
 2: ./cosd(_ZN2PG8activateERN11ObjectStore11TransactionEPSt3mapIiP10MOSDPGInfoSt4lessIiESaISt4pairIKiS5_EEE+0xbe8) [0x71ff88]
 3: ./cosd(_ZN2PG4peerERN11ObjectStore11TransactionERSt3mapIiS3_I4pg_tNS_5QueryESt4lessIS4_ESaISt4pairIKS4_S5_EEES6_IiESaIS8_IKiSC_EEEPS3_IiP10MOSDPGInfoSD_SaIS8_ISE_SK_EEE+0xfa0) [0x722852]
 4: ./cosd(_ZN3OSD16_process_pg_infoEjiRN2PG4InfoERNS0_3LogERNS0_7MissingEPSt3mapIiP10MOSDPGInfoSt4lessIiESaISt4pairIKiS9_EEERi+0x712) [0x6a7000]
 5: ./cosd(_ZN3OSD13handle_pg_logEP9MOSDPGLog+0x126) [0x6a7768]
 6: ./cosd(_ZN3OSD9_dispatchEP7Message+0x34a) [0x6abe6c]
 7: ./cosd(_ZN3OSD13dispatch_implEP7Message+0x408) [0x6ac9c4]
 8: ./cosd(_ZN10Dispatcher8dispatchEP7Message+0x63) [0x61a4af]
 9: ./cosd(_ZN9Messenger8dispatchEP7Message+0x56) [0x6298f8]
 10: ./cosd(_ZN15SimpleMessenger8Endpoint14dispatch_entryEv+0x5ae) [0x62340a]
 11: ./cosd(_ZN15SimpleMessenger8Endpoint14DispatchThread5entryEv+0x19) [0x62fc9d]
 12: ./cosd(_ZN6Thread11_entry_funcEPv+0x20) [0x629e48]
 13: /lib/libpthread.so.0 [0x7fb482c933f7]

todo

osd: rev ondisk format, protocols

For monitor message changes AND osd snapset changes.

osd: store snapset in _snapdir object if head dne

If the _head doesn't logically exist, we can't keep it around just for
the SnapSet or else an 'ls' will have to stat in order to tell if the
head object logically exists and should be included.  That's no good,
so:

- put snapset in SS_ATTR on head if it exists
- otherwise, put it SS_ATTR on a _snapdir object

osd: zero out pg_pool_t in constructor

Most things were getting initialized, but not snap_seq.

mon: set snap epoch for poolsnap removal, too

osd: fix MOSDBoot, MOSDGetMap initialization

mon: cleanup

kclient: update with new monitor message formats

mon: change MMDSMap to send map we have, not map we want.

osd: make object delete not remove _head if there are clones

Truncate and rmattrs instead, so we can keep the SnapSet.

Still need to make 'ls' work properly.

filestore: rmattrs command

Delete all object attrs

messages: Added PaxosServiceMessage to repository so previous commits work.

Monitor/Message: All messages used by Paxos are now PaxosServiceMessages.

mon/msg: PThey mostly hold version_t's now. Unused, though.

osd: adjust recovery op accounting; explicitly track set of recovering objects

Use a single {start,finish}_recovery_op() func to start and stop
recovery ops, so that there is a single point for counter adjustments
to occur.  On reset, simply call into OSD multiple times.

Also maintain a set<sobject_t> in each PG and on the OSD to track
the set of objects that are recovering.  This can hopefully be
compiled out once all the bugs are identified.

We are chasing this:

osd/OSD.cc:3465: FAILED assert(recovery_ops_active >= 0)
 1: ./cosd(_Z18__ceph_assert_failPKcS0_iS0_+0x3a) [0x7a769b]
 2: ./cosd(_ZN3OSD18finish_recovery_opEP2PGib+0x148) [0x696bce]
 3: ./cosd(_ZN12ReplicatedPG18finish_recovery_opEv+0x77) [0x6359c5]
 4: ./cosd(_ZN12ReplicatedPG17sub_op_push_replyEP14MOSDSubOpReply+0x540) [0x63628a]
 5: ./cosd(_ZN12ReplicatedPG15do_sub_op_replyEP14MOSDSubOpReply+0x64) [0x6407fe]
 6: ./cosd(_ZN3OSD10dequeue_opEP2PG+0x224) [0x6996ee]
 7: ./cosd(_ZN3OSD4OpWQ8_processEP2PG+0x21) [0x70d175]
 8: ./cosd(_ZN10ThreadPool9WorkQueueI2PGE13_void_processEPv+0x28) [0x6c9f78]
 9: ./cosd(_ZN10ThreadPool6workerEv+0x280) [0x7a825c]
 10: ./cosd(_ZN10ThreadPool10WorkThread5entryEv+0x19) [0x70cb9f]
 11: ./cosd(_ZN6Thread11_entry_funcEPv+0x20) [0x629d48]
 12: /lib/libpthread.so.0 [0x7f2f1e3f33f7]
 13: /lib/libc.so.6(clone+0x6d) [0x7f2f1d9c294d]
 NOTE: a copy of the executable, or `objdump -rdS <executable>` is needed to interpret this.

osd: abort generate_backlog if already canceled

Bail out of generate_backlog if we've been canceled.  Fixes

osd/OSD.cc: In function 'void OSD::generate_backlog(PG*)':
osd/OSD.cc:3305: FAILED assert(!pg->is_active())
 1: ./cosd(_Z18__ceph_assert_failPKcS0_iS0_+0x3a) [0x7a833b]
 2: ./cosd(_ZN3OSD16generate_backlogEP2PG+0xb6) [0x69a1a6]
 3: ./cosd(_ZN3OSD9BacklogWQ8_processEP2PG+0x21) [0x70d92b]
 4: ./cosd(_ZN10ThreadPool9WorkQueueI2PGE13_void_processEPv+0x28) [0x6ca5f8]
 5: ./cosd(_ZN10ThreadPool6workerEv+0x280) [0x7a8efc]
 6: ./cosd(_ZN10ThreadPool10WorkThread5entryEv+0x19) [0x70d331]
 7: ./cosd(_ZN6Thread11_entry_funcEPv+0x20) [0x629e48]
 8: /lib/libpthread.so.0 [0x7f0a8feed3f7]
 9: /lib/libc.so.6(clone+0x6d) [0x7f0a8f4bc94d]

osd: fix merge_log when log and olog share bottom

If log has 6'10 and olog has 7'10, on same object, merge_log
was failing to throw out log's 6'10 entry because the
last_kept iterator was still end().  Use a simple eversion_t
instead, and simplify existing (and otherwise correct)
log.bottom logic, but without the last_kept != end() guard
that threw us off.

09.06.23 16:52:56.032981 1145465168 osd4 485 pg[1.cd( v 469'11021/469'11021 (469'11020,469'11021] n=8151 ec=2 les=476 485/480) r=0 lcod 0'0 mlcod 469'11021 !hml crashed+peering] merge_log log(469'11020,476'11021] from osd0 into log(469'11020,469'11021]
09.06.23 16:52:56.033001 1145465168 osd4 485 pg[1.cd( v 469'11021/469'11021 (469'11020,469'11021] n=8151 ec=2 les=476 485/480) r=0 lcod 0'0 mlcod 469'11021 !hml crashed+peering] merge_log extending top to 476'11021
09.06.23 16:52:56.033033 1145465168 osd4 485 pg[1.cd( v 469'11021/469'11021 (469'11020,469'11021] n=8151 ec=2 les=476 485/480) r=0 lcod 0'0 mlcod 469'11021 !hml crashed+peering]   ? 476'11021 (0'0) m 10001641d24.00000000/head by mds0.16:33860 09.06.23 16:50:28.931949
09.06.23 16:52:56.033057 1145465168 osd4 485 pg[1.cd( v 469'11021/469'11021 (469'11020,469'11021] n=8151 ec=2 les=476 485/480) r=0 lcod 0'0 mlcod 469'11021 !hml crashed+peering] merge_log 476'11021 (0'0) m 10001641d24.00000000/head by mds0.16:33860 09.06.23 16:50:28.931949
09.06.23 16:52:56.033090 1145465168 osd4 485 pg[1.cd( v 476'11021/469'11021 (469'11020,476'11021] n=8151 ec=2 les=476 485/480) r=0 lcod 0'0 mlcod 469'11021 !hml crashed+peering m=1 l=1] merge_log result log(469'11020,476'11021] missing(1) changed=1

filestore: use readdir_r to avoid SIGBUS badness

We need to use reentrant readdir, since multiple threads
will otherwise share the struct dirent and walk all over
each other.

mds: fix session purge bug

mds/Server.cc: In function 'void Server::_finish_session_purge(Session*)':
mds/Server.cc:410: FAILED assert(session->is_stale_purging())
 1: ./cmds(_ZN6Server21_finish_session_purgeEP7Session+0x392) [0x49edf2]
 2: ./cmds(_ZN6Server18find_idle_sessionsEv+0xa18) [0x4a3188]
 3: ./cmds(_ZN3MDS4tickEv+0x220) [0x484f60]
 4: ./cmds(_ZN9SafeTimer12EventWrapper6finishEi+0x1c1) [0x63eb11]
 5: ./cmds(_ZN5Timer11timer_entryEv+0x6f6) [0x6412d6]
 6: ./cmds(_ZN5Timer11TimerThread5entryEv+0xd) [0x46d53d]
 7: ./cmds(_ZN6Thread11_entry_funcEPv+0xc) [0x480c9c]
 8: /lib/libpthread.so.0 [0x7f51a9f4c3f7]
 9: /lib/libc.so.6(clone+0x6d) [0x7f51a951b94d]

osd: allow recovery of missing objects not in log

This happens when a scrub/repair tells us to recovery an item, but
it's older than log.bottom.

osd: avoid using null ctx pointer

Use localt instead, it's on the stack.

osd: stop rewinding replica log when we reach log.bottom

We stop rewinding a replica log when we reach our own
log.bottom, because we don't know enough to do so in any
meaningful way, and because we can assume it is not
divergent at that point (barring any complete screwupedness).

Also, if we do change last_update, make sure last_complete is
rewound too.

mds: no fatal assert on ino allocation failures

We still log them LOG_ERR.  Client will be unhappy, but
that's their problem.

osd: small cleanups

mds: don't choke on bad parallel_fetch paths

e.g., bad reconnect path from client, like /blah/file_not_dir/blah.

rados: cleanup

kclient: make r_path[12] dup strings

The mds_request lifetime differs from the caller's stack, so we need to
duplicate these strings.  Fixes problems with request reply after MDS
recovery.

kclient: clean up mds_request path generation

todo

Makefile: add missing kernel/ headers