str_list: fix buffer index when start<0

find_first_no_of() can return a negative value.

mon: less log noise

osdmap: allow blacklist of an entire ip

We can backlist either a specific instance (1.2.3.4:1234/5678) or an
entire IP, in which case the table has something like "1.2.3.4:0/0" (a port
and nonce of 0).

mon: add 'osd blacklist ls'

common: close fd after parsed config file

Signed-off-by: Sage Weil <sage@newdream.net>

mount.ceph: exit with error code from mount

Signed-off-by: Sage Weil <sage@newdream.net>

mon: 'osd blacklist (add|rm) addr [duration]'

Manipulate the OSDMap blacklist.

mon: fix up variable names to be more clear this is an inclusive range

mon: fix osdmap subscribe range

Send incremental starting with the next map they want, not the one they
already have.

mon: fix send_incremental ranges; behave when sending just 1 inc.

The build_incremental range is inclusive.  And we should behave when
sending a single inc map to get up to date.

mon: handle subscribe to osdmap=1

We would send an incremental for anything >1, or the latest map, but not
osdmap e1 itself.  Fix the condition, and make send_incremental() smart
about starting with the full map at 1 as needed.

mds: fix journal replay of session close->open after reconnect

If the client reconnects, the journal 'close' replay doesn't remove the
session, which leaves the session state intact.  It needs to reset it in
that case, or else we get problems if the session is reopened and the
state doesn't match up.

Reported-by: Nat N <phenisha@gmail.com>
Signed-off-by: Sage Weil <sage@newdream.net>

objectcacher: fix use-after-free atomic_sync_readx

readx() releases rd; copy snapid so we can use it later.

mds: fix use-after-free

We copied the name, but forgot to use it.

mds: fix use-after-free in snaprealm_create_finish

We pass mut's log segment to snapclient->commit().

objectcacher: cleanup release(), just to be clear

objecter: add missing return in list_objects

This fixes a use-after-free, and generally bad behavior.

objectcacher: fix use-after-free

Move waiter check above close_object(ob) call.

mount: fix scope of secret[]

We use value pointer outside of this block; move declaration up to function
level.

crushtool: fix bucket type array bound check

rados: fix delete[] in aio_bencher

Merge branch 'uclient_readdir' into testing

client: move readdir code around

client: reimplement getdir() with readdir_r_cb()

More efficient.

client: reimplement readdir

Reimplement core readdir (readdir_r_cb), using kclient as a template.
Reimplement all other readdir variants in terms of readdir_r_cb.

Main change is support for frag chunking, and hopefully lots of subtle bugs
that have been fixed in the kclient code we're based on.

cfuse: use readdir_r_cb

uclient: implement readdir_r_cb (callback based readdir)

This lets us know whether the caller is able to consume an entry before
advancing our position.

Merge branch 'mds_replay_lock_states' into testing

mds: rename process_reconnected_caps()

mds: make is_dirty() const in parent and child

Otherwise we're overriding the wrong method!  Der.

mds: choose lock states for nestlock and dftlock too

All scatterlocks need it, in case we replay dirty scatterlock data.

mds: choose lock states on all inodes, not just those with caps

This is necessary because we want to select lock states for inodes with
no caps that got replayed scatterlock dirty state from the journal.

mds: choose LOCK if !replicated and dirty scatterlock

mds: fix bad iterator usage in process_reconnected_caps()

We use p->second, so don't increment p++ early in the loop block.

ceph v0.21.2

osd: less log noise

osd: mark down old _from connections too; and fix old _from debug output

osd: don't mark down old _to peers that are still _from peers

It's harmless, but not ideal.

osd: always mark down old hb peers; send map update via cluster link

If we don't mark down the hb link immediately, we'll forget about it
because it won't be in the from or to set anymore, and if it does go down
later we'll end up with garbage in the logs.

Instead, always mark it down.  Since we want to share our map with old
peers that are still up, do that via the cluster link instead, which is
reliably marked down if/when the peer goes down.

Signed-off-by: Sage Weil <sage@newdream.net>

filejournal: clean up journal initialization sequence, error codes, output

EOPNOTSUPP was getting returned to the user without much explanation.  This
should fix that!

debian: don't need to add .git_version in release script

makefile: include .git_version in tarball

mon: error out gracefully when we can't read the magic

msgr: release dispatch_throttle on reset connection

Signed-off-by: Henry C Chang <henry_c_chang@tcloudcomputing.com>
Signed-off-by: Sage Weil <sage@newdream.net>

mds: drop old thrash_exports time limit

osdmaptool: print useful error instead of crashing if osdmap is corrupt

crush: return error instead of BUGing on bad forcefed mapping

The forcefed mapping relies on a parent map.  However, the current
implementation assumes that the parent mapping is unique for all rules. If
that is not the case (i.e., some osd exists in multiple hierarchies) then
we cannot assert that the TAKE matches the calculated force_context.

For now, we can just fail the mapping in that case (we don't use forcefed
mappings yet).  The real solution is probably to define parent maps for
all possible hierarchies (i.e., starting at each unique TAKE starting
point).

Signed-off-by: Sage Weil <sage@newdream.net>

mds: return error to client on invalid mds op

e.g., if the client sends a filelock request and we don't support it :)

mds: fix ENOTEMPTY checking on rmdir/rename

We can't trust the inode rstat size without holding the locks.  We can
look at our auth frags and though without fear of a false positive
ENOTEMPTY, however.

Rename the function, introduce a helper for the locked check, update
comments, etc.

osd: disable potentially dangerous dead code

Greg got a segfault accessing the OSDOP& first reference. Not clear why,
but this whole block is dead code.

osd: carry ondisk write lock for cloned objects

This fixes a race when reading and deleting objects, as evidenced by

 cp bigfile a
 mkdir .snap/foo
 rmdir a
 diff bigfile .snap/foo/a    <-- reads cloned object before it hits disk

Reproduced by snaptest-snap-rm-cmp.sh.

Signed-off-by: Sage Weil <sage@newdream.net>

auth: fix skipping of ~/ if $HOME subst fails

We were breaking out of the loop entirely, and failing to check the rest
of the items in the path list.  Doh!

client: fix xattr cap writeback

client: fix capsnap writeback of uid/gid/mode/xattrs

Some metadata wasn't making it into CapSnap and was subsequently getting
written back zeroed to the MDS.

Signed-off-by: Sage Weil <sage@newdream.net>

filestore: fix throttling on journal, op_queue for parallel and writeahead

filestore: fix race in op enqueuing to ensure throttle limit is honors

objectstore: fix transaction get_num_bytes

The separate bytes field isn't used; use encoded bytes count for now.

msgr: don't leak message when sending to a closed connection

osd: log push ops as push, not pull

logger: fix logger counter reset

Reset inc keys after each line; reset all keys on full reset.

Signed-off-by: Sage Weil <sage@newdream.net>

ceph v0.21.1

Makefile: include logrotate.conf in tarball

mds: fix send_message_client_counted helper

Don't use the outgoing message connection (usually there is none!).. use
the connection argument.  Der.  Broken since 6d770abe.

makefile: define docdir for old automake versions

Notably centos5.

Reported-by: Thomas Mueller <thomas@chaschperli.ch>
Signed-off-by: Sage Weil <sage@newdream.net>

monmaptool: man page typo fix

Signed-off-by: Sage Weil <sage@newdream.net>

rados: -i and -o are still there for other commands

Signed-off-by: Sage Weil <sage@newdream.net>

ceph.spec.in: fix docdir paths

_docdir is /usr/share/doc, not /usr/share/doc/ceph (as it is with debian).

ceph.spec.in: fix sample.ceph.conf chown

Reported-by: Xiaoguang Liu <syslxg@gmail.com>

rados: fix usage

osd: fix heartbeat to/from map updates

- always make _inst match _to and _from (don't adjust in note_down_osd)
- only mark down old hb connection in update_heartbeat_peers
- if old peer isn't down, send them a map
- don't print dup new/old messages

Signed-off-by: Sage Weil <sage@newdream.net>

osd: fix replies to dup/already-committed requests

We can safely reply if oldv is _older_ than what's on disk.  Otherwise the
request ends up on the list and never gets removed again.

Signed-off-by: Sage Weil <sage@newdream.net>

assert: only include acconfig.h ifdef __CEPH__

Signed-off-by: Sage Weil <sage@newdream.net>

librados.hpp fix

[ The following text is in the "UTF-8" character set. ]
    [ Your display is set for the "iso-8859-1" character set.  ]
    [ Some characters may be displayed incorrectly. ]

Hi,

I just realized librados.hpp could compile only if "using namespace
std;" is declared before "#include <rados/librados.hpp>", because
"vector" used without std namespace, and I think it's wrong.
It can fix following patch.

syuu

Signed-off-by: Sage Weil <sage@newdream.net>

mon: fix signed/unsigned compile warning

osd: fix map sharing with old heartbeat peers

The addr is in old_inst, since it's an old peer.  Fixes a crash like

osd/OSD.cc: In function 'void OSD::_share_map_outgoing(const entity_inst_t&)':
osd/OSD.cc:1791: FAILED assert(inst.name.is_osd())
 1: (OSD::update_heartbeat_peers()+0x1d3f) [0x4da66f]
 2: (OSD::activate_map(ObjectStore::Transaction&, std::list<Context*, std::allocator<Context*> >&)+0x8ee) [0x4db61e]
 3: (OSD::handle_osd_map(MOSDMap*)+0x233a) [0x4e506a]
 4: (OSD::_dispatch(Message*)+0x230) [0x4ef400]
 5: (OSD::ms_dispatch(Message*)+0x39) [0x4efe39]
 6: (SimpleMessenger::dispatch_entry()+0x749) [0x461fa9]
 7: (SimpleMessenger::DispatchThread::entry()+0x1c) [0x458f6c]
 8: (Thread::_entry_func(void*)+0xa) [0x46cf1a]
 9: (()+0x69ca) [0x7f978d6fb9ca]
 10: (clone()+0x6d) [0x7f978c91b6cd]

introduced by 9bfb8da9f925642bca46528a999124cd8b28ba2a.

Signed-off-by: Sage Weil <sage@newdream.net>

mds: fix cap encoding skipping when snaprealm differs

We were avoiding adding a new cap, but _any_ issue is problematic, not just
adds (which we can't really be sure about anyway due to races with client
cap release).

Signed-off-by: Sage Weil <sage@newdream.net>

debian: move fuse-utils dep to ceph-fuse

Reported-by: Thomas Mueller <thomas@chaschperli.ch>
Signed-off-by: Sage Weil <sage@newdream.net>

cclass: fix .so loading file

The only thing I've found, is that the *.so files are included in the -devel
rpm. This leads to the fact that the 'find' in cclass doesn't return any
files. I'd suggest the attached change in the script.

Christian

Signed-off-by: Sage Weil <sage@newdream.net>

osd: send latest osdmap when we stop sending heartbeats to peer

Otherwise, they may still expect them, and may mark us down.

osd: avoid most of handle_osd_map if there are no new maps in message

We don't want to take the time to flush things to disk and shut down all
the worker threads if there is nothing new in the osdmap update (as is
usually the case).

Signed-off-by: Sage Weil <sage@newdream.net>

move logrotate conf out of debian/ to fix ceph.spec

cauthtool: correct man page sample of minimal fs client caps

move mkcephfs to /sbin

debian: more cleanups

https://code.launchpad.net/~clint-fewbar/review-new-branches/ceph-new-pkg/+merge/31303

redirect stdout to /dev/null when reloading

the reload command prints to stdout. example:

# service ceph reload
=== mon.0 ===
Reloading Ceph mon0 on hoe001...kill -1 22197...done
=== osd.0 ===
Reloading Ceph osd0 on hoe001...kill -1 22263...done

"properly" configured systems will send the output by mail to
the administrator - this is not desired in case of successfull
reloading.

Signed-off-by: Thomas Mueller <thomas@chaschperli.ch>
Signed-off-by: Sage Weil <sage@newdream.net>

v0.21

cclass.in: fix libdir definition

debian/ceph.logrotate: enhance postrotate for "service" util

[ The following text is in the "UTF-8" character set. ]
    [ Your display is set for the "iso-8859-1" character set.  ]
    [ Some characters may be displayed incorrectly. ]

invoke-rc.d is debian specific.

run "service ceph reload" if invoke-rc.d fails.

Signed-off-by: Sage Weil <sage@newdream.net>

mon: trim old logm states

Signed-off-by: Sage Weil <sage@newdream.net>

debian: ceph-cfuse: move ceph from Recommends to Suggests

on a standalone fuse client ceph serverside is not needed. if it's
"Recommended" the default behaviour is to install it too. Move it to "Suggests"
that it's not installed by default if one installs just ceph-fuse.

from debian policy:
Suggests:
This is used to declare that one package may be more useful with one or more
others. Using this field tells the packaging system and the user that the listed
packages are related to this one and can perhaps enhance its usefulness, but
that installing this one without them is perfectly reasonable.

- Thomas

Signed-off-by: Sage Weil <sage@newdream.net>

ceph.spec.in: create /var/log/ceph/stat dir

the logrotate config expects a var/log/ceph/stat dir - create it.

Signed-off-by: Sage Weil <sage@newdream.net>

ceph.spec.in: rbdtool -> rbd

Reported-by: markn1

debian: drop gcc, g++ build deps

release: drop wildcard

debian: remove gcc/g++ build-depends

(as per Clint Byrum)

debian: add trailing newline

debian: fix debhelper depend version

dh_lintian was introduced in 6.0.7

debian: update to latest standards version

debian: fix weak-library-dev-dependency

E: ceph source: weak-library-dev-dependency librados1-dev on librados1
E: ceph source: weak-library-dev-dependency libceph1-dev on libceph1

check_version: don't globber .git_version if we're not in a git repo

namely, when you extract the release tarball!