msgr: SimpleMessenger takes responsibility for Messenger functions.

msgr: All SimpleMessenger uses are now on the heap for appropriate destruction

msgr: SimpleMessenger is now a Messenger itself -- sort of

msgr: remove rank number from endpoint, since there's only one.
Remove Endpoint's wait() method as it's unused.

todo

osd: fix MASKTRUNC

This was looking at the wrong osd_op for the truncate_seq, which made it
essentially broken.  This was problematic any time the client SETTRUNC
reached an object (on a write after truncate) before the MDS TRIMTRUNC did.

qa: dl pjd.tgz

Then we can switch the symlink later

todo, sepia reformat

mds: change MClientReconnect encoding (mds protocol change)

This simplifies the encoding to make life easier for the kclient.

uclient: clean up mark_down of failed mds

Set inst at the time we see it change, otherwise we may miss an mds that
replayed but failed before it fully recovered.

mds: add NEW session state

We want to register new sessions in the map so that they can be found when
we replay ESession events in the log.  Otherwise a client that connects
to the mds early will have one Session* on the connection, and another in
the map, and reconnect will fail.

Make sure we remove NEW sessions from the map on connection reset, so that
things gets freed.

Also, take mds_lock in ms_verify_authorizer.

msgr: drop rank lock while verifying authorizer

This easily causes a lock inversion if the verify callback takes any
locks.  e.g.

09.12.23 11:43:32.335042 1482578256 lockdep: ------------------------------------
09.12.23 11:43:32.335072 1482578256 lockdep: existing dependency MDS::mds_lock (10) -> SimpleMessenger::lock (6) at:
 1: (Mutex::Lock(bool)+0x3a) [0x6f581c]
 2: (SimpleMessenger::submit_message(Message*, entity_inst_t const&, bool)+0xc0) [0x6f900c]
 3: (SimpleMessenger::Endpoint::send_message(Message*, entity_inst_t)+0x1ab) [0x6f9c85]
 4: (MonClient::_send_mon_message(Message*, bool)+0xa2) [0x9682dc]
 5: (MonClient::send_mon_message(Message*)+0x37) [0x740e17]
 6: (MDS::beacon_send()+0x226) [0x710b02]
 7: (MDS::beacon_start()+0x15) [0x711fc5]
 8: (MDS::init()+0xd5) [0x71238b]
 9: (main()+0x2cd) [0x6eb6af]
 10: (__libc_start_main()+0xe6) [0x7f22954811a6]
 11: /tmp/cmds.20091223.114259 [0x6eb0d9]

09.12.23 11:43:32.335289 1482578256 lockdep: new dependency SimpleMessenger::lock (6) -> MDS::mds_lock (10) creates a cycle at
 1: (Mutex::Lock(bool)+0x3a) [0x6f581c]
 2: (Mutex::Locker::Locker(Mutex&)+0x2c) [0x705f2c]
 3: (MDS::ms_verify_authorizer(Connection*, int, int, buffer::list&, buffer::list&, bool&)+0x48) [0x70d6c6]
 4: (Messenger::ms_deliver_verify_authorizer(Connection*, int, int, buffer::list&, buffer::list&, bool&)+0x74) [0x702d5e]
 5: (SimpleMessenger::verify_authorizer(Connection*, int, int, buffer::list&, buffer::list&, bool&)+0x6b) [0x6f6279]
 6: (SimpleMessenger::Pipe::accept()+0xc7d) [0x6ffba5]
 7: (SimpleMessenger::Pipe::reader()+0x32) [0x700de8]
 8: (SimpleMessenger::Pipe::Reader::entry()+0x19) [0x6f4e2d]
 9: (Thread::_entry_func(void*)+0x20) [0x705944]
 10: /lib/libpthread.so.0 [0x7f22962effc7]
 11: (clone()+0x6d) [0x7f22955325ad]

09.12.23 11:43:32.335497 1482578256 lockdep: btw, i am holding these locks:
09.12.23 11:43:32.335511 1482578256 lockdep:   SimpleMessenger::lock (6)

common/lockdep.cc: In function 'int lockdep_will_lock(const char*, int)':
common/lockdep.cc:184: FAILED assert(0)
 1: (lockdep_will_lock(char const*, int)+0x765) [0x9776a9]
 2: (Mutex::_will_lock()+0x1f) [0x6f43bf]
 3: (Mutex::Lock(bool)+0x3a) [0x6f581c]
 4: (Mutex::Locker::Locker(Mutex&)+0x2c) [0x705f2c]
 5: (MDS::ms_verify_authorizer(Connection*, int, int, buffer::list&, buffer::list&, bool&)+0x48) [0x70d6c6]
 6: (Messenger::ms_deliver_verify_authorizer(Connection*, int, int, buffer::list&, buffer::list&, bool&)+0x74) [0x702d5e]
 7: (SimpleMessenger::verify_authorizer(Connection*, int, int, buffer::list&, buffer::list&, bool&)+0x6b) [0x6f6279]
 8: (SimpleMessenger::Pipe::accept()+0xc7d) [0x6ffba5]
 9: (SimpleMessenger::Pipe::reader()+0x32) [0x700de8]
 10: (SimpleMessenger::Pipe::Reader::entry()+0x19) [0x6f4e2d]
 11: (Thread::_entry_func(void*)+0x20) [0x705944]
 12: /lib/libpthread.so.0 [0x7f22962effc7]
 13: (clone()+0x6d) [0x7f22955325ad]
 NOTE: a copy of the executable, or `objdump -rdS <executable>` is needed to interpret this.

uclient: don't renew caps while mds is recovering

waste of time and memory

mds: expose projected ctime is client is last versionlock wrlocker

This fixes the problem where the client does a setattr on CTIME, but
doesn't actually see it.

Probably, though, the exposed ctime should be more precise: something like
the most recent projected value that the client is responsible, since we
may have multiple clients projecting pipelined values on the inode.

todo

osd: prioritized repop acks

This may not make much of a difference, but it won't hurt.

qa: don't fail rm of old log

qa: make logging more forgiving

msgr: separate incoming queue from local_endpoint

For now it's bundled into dispatch_queue.

Fixes a race with local_endpoint shutdown and incoming message delivery.

osd: put meta_coll const in OSD.{cc,h}

filejournal: delete[] not delete

backtrace: fix #includes for ppc

hash: use native appropriately sized hash for word, not native host word size

These shouldn't be used over the wire or on disk, but just in case.

Also, i suspect the 64-bit hash is probably faster than the 32bit one
twice?

change LP64 ifdefs to casts for printf formatting

logger: cleanup 64

todo, confs

msgr: include features in connection handshake (protocol change)

msgr: put tid in ceph_msg_header (protocol change)

todo more bugs

assert: leave cruft off top of assert failure backtrace

no more
 1: (__ceph_assert_fail(char const*, char const*, int, char const*)+0x34) [0x7ea7ea]

backtrace: demangle c++ names

Finally!

todo bugs

mds: new commands!
issue_caps inodenumber calls locker->issue_caps
try_eval inodenumber mask calls locker->try_eval

mds: new command kill session xxxx ends that client session

create a new function end_session to end client sessions

vstart: allow -o 'some option for config file = whatever'

osd: fix PG print log bound check

todo (bugs)

Make a more flexible 'tell' command to replace injectargs
osd/mds: make a handle_command function; don't parse all MMonCommands as config

mon: Send injectargs to osd/mds in new format;
accept tells for mds and osd

todo (bugs, filestore notes)

osd: include last_epoch_split in PG::Info::History

Also drop backward compat encoding for same_up_since;
overall osd format as reved since then.

msgr: don't keep sent messages on lossy connections

mds: log client timeouts

mds: don't croak on stray ACK

This can happen after replay:

- AGREE and update op in journal
- table resends AGREE
- client resends COMMIT
- client gets AGREE, resends COMMIT
- table gets 2 COMMITS, replies with 2 ACKs
- second ACK can be ignored.

qa: Copy the output of each test to a log file

qa: Whoops, never added the runonkclient script

auth: rename mutex so that it doesn't confuse lockdep

msgr: maintain per-pipe in_qlen; avoid list.size(); some cleanup

librados: fix locking slightly

Lock was missing on aio_read.

qa: fix runallonce target dir verification

filestore: disable USERTRANS for now

todo

librados: less noisy

vstart: fix small bash thing

osd: drop backlog on recovery completion (when we mark PG_STATE_CLEAN)

osd: split pg log too

osd: make osd thread pool sizes adjustable

Rename osd_maxthreads to osd_op_threads to be consistent.

init-ceph: use pkill, not killall, so that c$type.$date is also killed

mon: fix mon injectargs

If !connection, we know it's local delivery.

mon: fix null pointer ref on connection

crush: fix grammer to parse hash

msgr: lockdep found some not-actually-possible bad dependencies; they've
been removed to make it happy

msgr: Add at least a little documentation

msgr: Remove noisy debug output.

msgr: discard_queue now removes empty pipe queues from endpoint's map
This prevents bad pointer dereferences

msgr: Cover qlen with a Spinlock for faster access and to limit blocking

msgr: That unlock's not in the right spot

msgr: Fix a number of locking and deletion bugs. Appears to work.

msgr: Fix blocking locks and another potential block.

msgr: rename locks for clarity; move some around to prevent blocking.

msgr: implement round-robin pipe message delivery.

msgr: Remove Endpoint::dispatch_queue and queue_message;
set up local pipe and necessary routing code.

Also, fix potential locking issue by pushing message onto
queue before pushing queue to round-robin

msgr: Add queues, etc needed for message delivery by round-robin pipe

msgr: rename pipe's outbound message queue

config: parse 'lockdep' option in .conf

ceph.conf.sepia: more osds, lockdep

mon: log error, don't abort, on stray pg_stat notify

osd: set pg_stat.created

osd: respond to query on uncreated pg with empty info; do not create

We should never create a PG* for an uncreated pg except through the mkpg
path.

mon: stop trying to create localized pgs >= max osd|device

If lpg_num == lpgp_num, and the preferred osd no longer exists, there is
no guarantee that the parent and child pgs will land on the same osd.  This
happens when we are creating pgs for a new osd, they don't finish getting
created, and then we destroy that OSD again.

Care should be taken to avoid expanding the OSD count _and_ lpg_num
simultaneously...

todo

osd: fix mark_down on heartbeat_messenger addrs

This fixes residual outgoing connect attempts and
subsequent 'wrong node' messages from old outgoing
osd_ping messages that never leave our queues.

filestore: avoid string copy after collection_list sort

osd: don't forcefeed bad (large) device ids to crush

filestore: test xattrs on basedir/fsid, not basedir

The basedir might have differing permissions.

ceph.conf.cosd changes

osd: drop old osdmap compatibility cruft

This is old enough to have been superceded by a full disk format rev.

osd: fix decoding for old osdmaps (pre osd hb change)

Including ugly hack to work around badly encoded v3 maps

mds: mark down stray connections on reset

vstart: add --smallmds option

logger: avoid dup lines when we get behind

If we get behind (say, after SIGSTOP ... SIGCONT),
instead of printing dup lines for every interval we missed,
print just the first and last.  That will make any graph
have a nice, hopefully obvious perfectly horizontal line.

qa: add bonnie++ to the workunits

filestore: limit size of flusher queue

Limit the size of the flusher queue to avoid hitting max open files
limit.  If we hit the max, just don't queue async flush, so we close the
fd immediately.

osd: rev cluster protocol to match osd hearbeat change

msgr: Only allow one local endpoint; now has simpler, less iterative code!

osd: Now uses separate messenger for heartbeats.

Includes changes to OSDMonitor and OSDMap so things keep working

rados: benching sequential reads can now have a time limit

rados: change benchmark interface and record objects written/size to osds

mds: debug reconnect timeouts

debian: only upload tarball whem building amd64

For some reason lenny32-packager includes binaries in
the 'make dist' tarball.  Lame.