osd: on scrub repair, update replica pg stats as necessary

An MOSDPGInfo to an active replica is treated as a pg stat repair.  The
replica just saves it to disk.

osd: pass updated stats to replica

When we ship the raw transaction to the replica, we need to ship the
new pg_stat_t as well, since that isn't getting updated in parallel by
prepare_transaction().

uclient: close mds session close race

If we get a mds push msg while closing the session, resend the close
request.

objecter: some list_objects cleanups

osd: check that pg matches

Otherwise return an empty result.  May want to return an error here.. not
sure which tho.

todo: bugs that have come up >2x now

osd: adjust debug levels a bit

Try to put iterative output to be at 20, other stuff at 10,
so that we can tolerate 10 on large data sets.

osd: fix initialization of log.complete_to in PG::activate()

The complete_to should point to the next object to get, which
should be just PAST info.last_complete.  That is because we
can trim the log up to and including last_complete (because
that entry is recovered), and we don't want to invalidate
the iterator.

That is
    while (log.complete_to->version <= info.last_complete)
      log.complete_to++;

and in sub_op_push,

    while (...) {
      ...
      if (info.last_complete < log.complete_to->version)
info.last_complete = log.complete_to->version;
      log.complete_to++;
    }

osd: remove bad trim assertion: trim point may preceed local log.bottom

osd: remove bad assertion to allow trim before pg is clean

We may trim the log before recovery completes.

Objecter: now has list instead of librados. Hurrah.

Objecter: Now resubmits *Op as part of tick() if the response takes too long.

osd: be a bit more verbose about peer_info

Looking for residual bug where peer_info info is somehow missing
when activate() happens...

osd: don't trim pg log if degraded

Also be a bit more verbose about pg_trim_to changes.

osd: we don't use MOSDPGInfo to signal replica uptodate anymore

Clean out cruft from old replica-driven recovery.

osd: make add_next_entry behave when we start at backlog split point

Weaken the assertions a bit and just adjust missing appropriately.
Things may not match up perfectly if the split point is a backlog
entry, so just make missing what it should be a worry less about
what it was.

Here is the specific crash:

09.06.18 16:29:15.085353 1124096336 osd1 10 pg[1.8( v 5'4/3'2 (0'0,5'4] n=2 ec=2 les=10 10/3) r=1 lcod 0'0 stray m=1] my log = log(0'0,5'4]+backlog
3'1 (0'0) m 200.00000000/head by mds0.1:1 09.06.18 16:20:07.524996 indexed
3'2 (0'0) m 2.00000000/head by mds0.1:5 09.06.18 16:20:07.527454 indexed
5'3 (3'1) m 200.00000000/head by mds0.1:23 09.06.18 16:20:25.128842 indexed
5'4 (5'3) m 200.00000000/head by mds0.1:35 09.06.18 16:20:48.623669 indexed

09.06.18 16:29:15.085393 1124096336 osd1 10 pg[1.8( v 5'4/3'2 (0'0,5'4] n=2 ec=2 les=10 10/3) r=1 lcod 0'0 stray m=1] osd2 log = log(8'68,9'69]+backlog
3'2 (0'0) b 2.00000000/head by mds0.1:5 09.06.18 16:20:07.527454
9'69 (8'68) m 200.00000000/head by mds0.1:1114 09.06.18 16:28:08.837907

09.06.18 16:29:15.085416 1124096336 osd1 10 pg[1.8( v 5'4/3'2 (0'0,5'4] n=2 ec=2 les=10 10/3) r=1 lcod 0'0 stray m=1] merge_log log(8'68,9'69]+backlog from osd2 into log(0'0,5'4]+backlog
09.06.18 16:29:15.085456 1124096336 osd1 10 pg[1.8( v 5'4/3'2 (0'0,5'4] n=2 ec=2 les=10 10/3) r=1 (log bound mismatch, actual=[3'2,9'69] len=2) lcod 0'0 stray m=1] merge_log split point is 3'2 (0'0) b 2.00000000/head by mds0.1:5 09.06.18 16:20:07.527454
09.06.18 16:29:15.085472 1124096336 osd1 10 pg[1.8( v 5'4/3'2 (0'0,5'4] n=2 ec=2 les=10 10/3) r=1 (log bound mismatch, actual=[3'2,9'69] len=2) lcod 0'0 stray m=1] merge_log merging 3'2 (0'0) b 2.00000000/head by mds0.1:5 09.06.18 16:20:07.527454
09.06.18 16:29:15.085493 1124096336 osd1 10 pg[1.8( v 5'4/3'2 (0'0,5'4] n=2 ec=2 les=10 10/3) r=1 (log bound mismatch, actual=[3'2,9'69] len=2) lcod 0'0 stray m=2] merge_log merging 9'69 (8'68) m 200.00000000/head by mds0.1:1114 09.06.18 16:28:08.837907
osd/PG.h: In function 'void PG::Missing::add_next_event(PG::Log::Entry&)':
osd/PG.h:494: FAILED assert(missing[e.soid].need == e.prior_version)

uclient: wait for mds sessions close on unmount

mds: only use send_message_client for caps, lease, and snap msgs

Otherwise we screw up the session seq count.

uclient: init, shutdown objecter

This fixes longstanding problems with csyn stalling.

osd: consolidate trim logic in calc_trim_to()

And call it from trim_peers(), so that we always apply the same
conditions on log trimming.

This ensures we don't trim the logs while degraded through one of
the other paths.

todo

kclient: fix whitespace

kclient: include fs/staging patch in series

crush: fix coding style, whitespace

crush: redefine hash using __u32, for consistency across 32/64 bit

I'm pretty sure this was giving inconsistent results across archs,
because bits would get shifted into the high 32 and then back again
on x86_64 but not x86_32.

mark v0.9

Makefile: add missing includes

Makefile: kill cls_trivialmap

kclient: avoid i_ino of 0 on 32-bit platforms

This confuses ls.  How lame!

Reported-by: Jeremy Hanmer <jeremy@hq.newdream.net>

osd: trim pg logs on recovery completion

When replica finds itself fully up to date (last_complete ==
last_update) it tells the primary.  Primary checks the same.
If the primary find the min_last_complete_ondisk has changed,
it sends out a trim command.

This will let us drop huge pg logs out of memory after a recovery
without waiting for IO and the usual piggybacked trimming logic
to kick in.

osd: track last_complete_ondisk over pushes, too.

osd: revamp complete_thru code

Use last_complete_ondisk terminology throughout.

osd: some infrastructure for primary to trim replica logs

osd: fix pg log trim on the non-primary

rados: less chatty

rados: shutdown on exit

librados: add shutdown to c++ interface

kclient: initialize readdir next_offset on dir open

Otherwise we don't compensate for . and .. properly.

kclient: update client for statfs changes

osd: add pg log sizes, bottoms to pg_stat_t et al

This will allow us to see the pg logging overhead, esp once pg
logs are kept for longer on disk.

kclient: clean out old debug cruft

rados: fix statfs definition

Isolate posix lameness to uclient only.  Unify 'rados df' and
'rados dfpools'

mds: change readdir wire format again

Do not include dentry offsets; they're not useful.

kclient: fix readdir vs rm

Okay, do not rely on MDS to provide dentry positioning information,
since it is all relative to the start _string_ we provide, and that
can change directory position without notice.

Simplify readdir a bit wrt seeks.  A seek to 0, a new frag, or
prior to the current chunk resets buffered state.

For each frag, we walk through chunks, always in order.  We set
dentry positions/offsets based on the frag and position within our
sweep across the frag.  Successive chunks are grabbed from the MDS
relative to a filename (not offset), so concurrent
insertions/removals don't bother us (although we will not see
insertions lexicographically prior to our position).

objectstore: use nstrings to store all attrs

Holding const char *'s isn't really ever safe, since it's not clear
that they are string constants, or that that is even safe.

rados: prettify dfpools output

kclient: fix dout() macro protection of x, mask

kclient: fix pps calculation to factor in pg pool

This was missed the first time around.

osd: fix pps calculation from pgid.ps() and pgid.pool()

The final placement seed needs to factor in pool, but that can't be
fed into stable_mod or you get weird results (for example, 1.ff and
1.adff won't necessary map to the same thing because of the
stable_mod).  Add pool to the stable_mod result, instead.  The seed
itself doesn't need to be bounded; it's just an input for CRUSH.
Just so long as there are a limited number of such inputs for a given
pool.

rados: Now properly writes 0-byte files on a get.

There are more debug statements in librados and Objercter too.

mon: implement 'mds setmap <epoch>' to (re)set mdsmap

mon: clean up some mdsmon stuff

last_beacon should include pending_inc mds's, no more, no
less.

Make the osdmon bcast send to non-in mds's too.

librados: added a write-full method.

Switched ./rados to use it for put.

rados: clean up output a bit

librados: clean up librados debug output a bit

config: no -p shorthand for --pid-file

It's not used by anything anyway.

Merge commit '114ad5177f281b96ba6bbebe9ed85e2a4aec783f' into rados

Conflicts:

src/include/ceph_fs.h

kclient: fix skipped entires in dcache_readdir

I'm not sure why the old code incremented f_pos and looked at the
prev entry, but it was wrong.

kclient: fix non-dcache readdir offset calculation

Needs to factor in frag_is_leftmost to account for . and .., just
like the fi->offset calculation in readdir_prepopulate.  Fixes the
problem where an ls on a large dir returns duplicate entries.

kclient: specify smallish blksize for directories

This is mainly just because /bin/ls will use the size, or blocks,
or blksize to decide how big of a buffer to allocate for getdents,
and the default of 4MB is unreasonably big.  64k seems like an
okay number, I guess.

osd: fix cloned object context

Screws up subsequent reads on cloned objects.  And the bad ref
counting was leaking memory.

Objecter: fixed a bug in snaps.

Worked around a situtation where you could delete a callback before it was followed.

mon/Objecter: Snapshot creation/removal now waits for proper epoch to return.

rev osd disk format, protocol due to crush, osdmap mapping changes

osdmaptool: crush regression test

osd: include pg pool in pg to placement seed mapping

This prevents different pools from overlaying on top of each other.

crush: fix perm_choose bug

We would get incorrect results if we calculated the same mapping
twice in a row in certain cases.  Der.  Also, the permutation
calculation was basically just wrong.

rados: submit snap creation and removal to the system.

mon: Now handles snapshot removals too.

mon:Added server-side handling of MPoolSnap.
Currently assumes it's a snap-create message.

osd: bail out of backlog generation early if osd is stopping

Currently killing the osd can take a very long time if the backlog
is being built.  Fix that.

Client-side support for creating/removing pool snapshots.

kclient: fix di->off calculation

The dentry dir offset calculation wasn't taking into account the
possibility of multiple readdi requests, which in turn meant bad results
for readdir-from-dcache.

Since doing this on the client side was a mess, the MDS includes a dentry
offset for each readdir dentry within the dirfrag.  This value is stored
in di->offset (with adjustment in leftmost frag for . and ..), and that's
the value that's passed back via filldir.

kclient: fix I_COMPLETE

The previous use of I_READDIR vs I_COMPLETE was flawed, mainly because
the state was maintained on a per-inode basis, but readdir proceeds on a
per-file basis.

Instead of flags, maintain a counter in the inode that is incremented each
time a dentry is released.  When readdir starts, note the counter, and if
it is the same when readdir completes, AND we did not do any forward
seeks on the file handle, AND prepopulate succeeded on each hunk, then we
can set I_COMPLETE.

mds: mark CDir objects with parent ino, dname

mkcephfs: fix btrfs mount option

mds: lower default cache size (now ~3.5GB on x86_64)

osd: cleanup log trim check

todo

debug: fix log reopen

No need to delete, nothing is on the heap.

osd: fix PGOP check

s3: return objects mtime

s3: partial implementation of get bucket

s3: handle 'get bucket' opereation

rados:Added basic df functionality to rados and fixed librados.cc to handle statfs_reply messages

objecter: add hook to get notification on new osdmap

debian: add build depends libssl-dev, libfcgi-dev

osd: autodetect PGOP flag if there are PG ops

Avoids requiring the client to specify.

rados: rename radostool -> rados

rados: external acls [beginning of] implementation

s3: fastcgi s3 gateway

objecter: unify read and write paths

No longer any reason to segregate read and write paths.

osd: you may, but need not, specify READ|WRITE flag in MOSDOp.

The OSD will implicitly set the bits based on your OSDOps or class method
calls.  The client may still find it useful to specify these expicitly
for it's own informational purposes.

Make sure the MOSDOpReply has bits set based on the _actual_ op performed.

Note that as things stand, this will confuse the Objecter, who relies on
these bits to choose read or modify reply paths and doesn't know a priori
what mode a method is.

uClient: Fixed a copying error and a double lock.

Switched Client to use objecter's statfs methods.

Rebase and better naming.

Added support for MStatfs to librados and Objecter.

mds: turn off mds ref sets

mds: kill unused CInode.last_open_journaled

kclient: include full path names (in parens) in debugfs mdsc