TODO

mon: properly clean up SessionMap on a shutdown.

This fixes failed asserts whenever you tried to do a clean monitor shutdown
instead of killing it.

csyn: properly use multiple clients

don't keep configs in git

todo

botched merge

Merge branch 'unstable' of ceph.newdream.net:/git/ceph into unstable

Conflicts:

src/msg/SimpleMessenger.cc

msgr: make use of references and const slightly more consistent

monClient: fix potential naming confusion with messenger

msgr: rename endpoint_stopped to destination_stopped

msgr: rank is just a bad name for local SimpleMessengers now

msgr: remove erank

Obsolete, now that we have only a single entity per SimpleMessenger
instance.  Avoid changing protocol by making it a reserved (and ignored)
field.

msgr: should be destroyed in the same thread it's created

filestore: don't bother masking signals

The OSD already catches SIGINT, SIGTERM.  It's not really
effective anyway.

msgr: Remove erroneous rank->destroy calls I inserted in 9a96bf

msgr: get and put inside DispatchThread, not when you create/end DispatchThread

msgr: Remove unregister_entity since there's only ever one now.
Move needed functionality into the end of dispatch_entry.

msgr: Make usage compatible with last commit

msgr: Remove all references to Endpoint

msgr: Remove declarations of unimplemented functions:
rename_entity and new_entity

msgr: SimpleMessenger takes responsibility for Messenger functions.

msgr: All SimpleMessenger uses are now on the heap for appropriate destruction

msgr: SimpleMessenger is now a Messenger itself -- sort of

msgr: remove rank number from endpoint, since there's only one.
Remove Endpoint's wait() method as it's unused.

todo

osd: fix MASKTRUNC

This was looking at the wrong osd_op for the truncate_seq, which made it
essentially broken.  This was problematic any time the client SETTRUNC
reached an object (on a write after truncate) before the MDS TRIMTRUNC did.

qa: dl pjd.tgz

Then we can switch the symlink later

todo, sepia reformat

mds: change MClientReconnect encoding (mds protocol change)

This simplifies the encoding to make life easier for the kclient.

uclient: clean up mark_down of failed mds

Set inst at the time we see it change, otherwise we may miss an mds that
replayed but failed before it fully recovered.

mds: add NEW session state

We want to register new sessions in the map so that they can be found when
we replay ESession events in the log.  Otherwise a client that connects
to the mds early will have one Session* on the connection, and another in
the map, and reconnect will fail.

Make sure we remove NEW sessions from the map on connection reset, so that
things gets freed.

Also, take mds_lock in ms_verify_authorizer.

msgr: drop rank lock while verifying authorizer

This easily causes a lock inversion if the verify callback takes any
locks.  e.g.

09.12.23 11:43:32.335042 1482578256 lockdep: ------------------------------------
09.12.23 11:43:32.335072 1482578256 lockdep: existing dependency MDS::mds_lock (10) -> SimpleMessenger::lock (6) at:
 1: (Mutex::Lock(bool)+0x3a) [0x6f581c]
 2: (SimpleMessenger::submit_message(Message*, entity_inst_t const&, bool)+0xc0) [0x6f900c]
 3: (SimpleMessenger::Endpoint::send_message(Message*, entity_inst_t)+0x1ab) [0x6f9c85]
 4: (MonClient::_send_mon_message(Message*, bool)+0xa2) [0x9682dc]
 5: (MonClient::send_mon_message(Message*)+0x37) [0x740e17]
 6: (MDS::beacon_send()+0x226) [0x710b02]
 7: (MDS::beacon_start()+0x15) [0x711fc5]
 8: (MDS::init()+0xd5) [0x71238b]
 9: (main()+0x2cd) [0x6eb6af]
 10: (__libc_start_main()+0xe6) [0x7f22954811a6]
 11: /tmp/cmds.20091223.114259 [0x6eb0d9]

09.12.23 11:43:32.335289 1482578256 lockdep: new dependency SimpleMessenger::lock (6) -> MDS::mds_lock (10) creates a cycle at
 1: (Mutex::Lock(bool)+0x3a) [0x6f581c]
 2: (Mutex::Locker::Locker(Mutex&)+0x2c) [0x705f2c]
 3: (MDS::ms_verify_authorizer(Connection*, int, int, buffer::list&, buffer::list&, bool&)+0x48) [0x70d6c6]
 4: (Messenger::ms_deliver_verify_authorizer(Connection*, int, int, buffer::list&, buffer::list&, bool&)+0x74) [0x702d5e]
 5: (SimpleMessenger::verify_authorizer(Connection*, int, int, buffer::list&, buffer::list&, bool&)+0x6b) [0x6f6279]
 6: (SimpleMessenger::Pipe::accept()+0xc7d) [0x6ffba5]
 7: (SimpleMessenger::Pipe::reader()+0x32) [0x700de8]
 8: (SimpleMessenger::Pipe::Reader::entry()+0x19) [0x6f4e2d]
 9: (Thread::_entry_func(void*)+0x20) [0x705944]
 10: /lib/libpthread.so.0 [0x7f22962effc7]
 11: (clone()+0x6d) [0x7f22955325ad]

09.12.23 11:43:32.335497 1482578256 lockdep: btw, i am holding these locks:
09.12.23 11:43:32.335511 1482578256 lockdep:   SimpleMessenger::lock (6)

common/lockdep.cc: In function 'int lockdep_will_lock(const char*, int)':
common/lockdep.cc:184: FAILED assert(0)
 1: (lockdep_will_lock(char const*, int)+0x765) [0x9776a9]
 2: (Mutex::_will_lock()+0x1f) [0x6f43bf]
 3: (Mutex::Lock(bool)+0x3a) [0x6f581c]
 4: (Mutex::Locker::Locker(Mutex&)+0x2c) [0x705f2c]
 5: (MDS::ms_verify_authorizer(Connection*, int, int, buffer::list&, buffer::list&, bool&)+0x48) [0x70d6c6]
 6: (Messenger::ms_deliver_verify_authorizer(Connection*, int, int, buffer::list&, buffer::list&, bool&)+0x74) [0x702d5e]
 7: (SimpleMessenger::verify_authorizer(Connection*, int, int, buffer::list&, buffer::list&, bool&)+0x6b) [0x6f6279]
 8: (SimpleMessenger::Pipe::accept()+0xc7d) [0x6ffba5]
 9: (SimpleMessenger::Pipe::reader()+0x32) [0x700de8]
 10: (SimpleMessenger::Pipe::Reader::entry()+0x19) [0x6f4e2d]
 11: (Thread::_entry_func(void*)+0x20) [0x705944]
 12: /lib/libpthread.so.0 [0x7f22962effc7]
 13: (clone()+0x6d) [0x7f22955325ad]
 NOTE: a copy of the executable, or `objdump -rdS <executable>` is needed to interpret this.

uclient: don't renew caps while mds is recovering

waste of time and memory

mds: expose projected ctime is client is last versionlock wrlocker

This fixes the problem where the client does a setattr on CTIME, but
doesn't actually see it.

Probably, though, the exposed ctime should be more precise: something like
the most recent projected value that the client is responsible, since we
may have multiple clients projecting pipelined values on the inode.

todo

osd: prioritized repop acks

This may not make much of a difference, but it won't hurt.

qa: don't fail rm of old log

qa: make logging more forgiving

msgr: separate incoming queue from local_endpoint

For now it's bundled into dispatch_queue.

Fixes a race with local_endpoint shutdown and incoming message delivery.

osd: put meta_coll const in OSD.{cc,h}

filejournal: delete[] not delete

backtrace: fix #includes for ppc

hash: use native appropriately sized hash for word, not native host word size

These shouldn't be used over the wire or on disk, but just in case.

Also, i suspect the 64-bit hash is probably faster than the 32bit one
twice?

change LP64 ifdefs to casts for printf formatting

logger: cleanup 64

todo, confs

msgr: include features in connection handshake (protocol change)

msgr: put tid in ceph_msg_header (protocol change)

todo more bugs

assert: leave cruft off top of assert failure backtrace

no more
 1: (__ceph_assert_fail(char const*, char const*, int, char const*)+0x34) [0x7ea7ea]

backtrace: demangle c++ names

Finally!

todo bugs

mds: new commands!
issue_caps inodenumber calls locker->issue_caps
try_eval inodenumber mask calls locker->try_eval

mds: new command kill session xxxx ends that client session

create a new function end_session to end client sessions

vstart: allow -o 'some option for config file = whatever'

osd: fix PG print log bound check

todo (bugs)

Make a more flexible 'tell' command to replace injectargs
osd/mds: make a handle_command function; don't parse all MMonCommands as config

mon: Send injectargs to osd/mds in new format;
accept tells for mds and osd

todo (bugs, filestore notes)

osd: include last_epoch_split in PG::Info::History

Also drop backward compat encoding for same_up_since;
overall osd format as reved since then.

msgr: don't keep sent messages on lossy connections

mds: log client timeouts

mds: don't croak on stray ACK

This can happen after replay:

- AGREE and update op in journal
- table resends AGREE
- client resends COMMIT
- client gets AGREE, resends COMMIT
- table gets 2 COMMITS, replies with 2 ACKs
- second ACK can be ignored.

qa: Copy the output of each test to a log file

qa: Whoops, never added the runonkclient script

auth: rename mutex so that it doesn't confuse lockdep

msgr: maintain per-pipe in_qlen; avoid list.size(); some cleanup

librados: fix locking slightly

Lock was missing on aio_read.

qa: fix runallonce target dir verification

filestore: disable USERTRANS for now

todo

librados: less noisy

vstart: fix small bash thing

osd: drop backlog on recovery completion (when we mark PG_STATE_CLEAN)

osd: split pg log too

osd: make osd thread pool sizes adjustable

Rename osd_maxthreads to osd_op_threads to be consistent.

init-ceph: use pkill, not killall, so that c$type.$date is also killed

mon: fix mon injectargs

If !connection, we know it's local delivery.

mon: fix null pointer ref on connection

crush: fix grammer to parse hash

msgr: lockdep found some not-actually-possible bad dependencies; they've
been removed to make it happy

msgr: Add at least a little documentation

msgr: Remove noisy debug output.

msgr: discard_queue now removes empty pipe queues from endpoint's map
This prevents bad pointer dereferences

msgr: Cover qlen with a Spinlock for faster access and to limit blocking

msgr: That unlock's not in the right spot

msgr: Fix a number of locking and deletion bugs. Appears to work.

msgr: Fix blocking locks and another potential block.

msgr: rename locks for clarity; move some around to prevent blocking.

msgr: implement round-robin pipe message delivery.

msgr: Remove Endpoint::dispatch_queue and queue_message;
set up local pipe and necessary routing code.

Also, fix potential locking issue by pushing message onto
queue before pushing queue to round-robin

msgr: Add queues, etc needed for message delivery by round-robin pipe

msgr: rename pipe's outbound message queue

config: parse 'lockdep' option in .conf

ceph.conf.sepia: more osds, lockdep

mon: log error, don't abort, on stray pg_stat notify

osd: set pg_stat.created

osd: respond to query on uncreated pg with empty info; do not create

We should never create a PG* for an uncreated pg except through the mkpg
path.

mon: stop trying to create localized pgs >= max osd|device

If lpg_num == lpgp_num, and the preferred osd no longer exists, there is
no guarantee that the parent and child pgs will land on the same osd.  This
happens when we are creating pgs for a new osd, they don't finish getting
created, and then we destroy that OSD again.

Care should be taken to avoid expanding the OSD count _and_ lpg_num
simultaneously...