]> git-server-git.apps.pok.os.sepia.ceph.com Git - ceph.git/commit
common/options: bluefs_buffered_io=true by default 38044/head
authorDan van der Ster <daniel.vanderster@cern.ch>
Thu, 12 Nov 2020 16:14:37 +0000 (17:14 +0100)
committerDan van der Ster <daniel.vanderster@cern.ch>
Sat, 14 Nov 2020 21:17:04 +0000 (22:17 +0100)
commit5ec8e8e63d409860c35e24a192090ac2b70af8f6
tree072c7796730347fe7fa85b89b3f2034b0ec47d75
parent81bcf9b40f40a4943ef1294df4fca42304b4fc99
common/options: bluefs_buffered_io=true by default

Enable bluefs_buffered_io again because it makes a huge user-visible
improvement in metadata intensive scenarios, such as but not limited to
PG deletion.

In our environment, deleting PGs from 4 hybrid OSDs (sharing one SATA SSD block.db) saturates
the block.db at 350MB/s reads and causes slow reqs and flapping on the OSDs.
Those OSDs have 3GB osd_target_memory.
Enabling bluefs_buffered_io drops the SSD IO down to <1MBps and the OSDs
are performant again. (The underlying PG deletion inefficiency is being
solved separately, but the page cache is so much more effective than
the bluestore cache in this scenario).

Lastly, remove the comment about swap. We should separately advise
operators to disable swap on OSD machines, as it is much better in
our experience to OOM and restart than to chug along swapping.

Signed-off-by: Dan van der Ster <daniel.vanderster@cern.ch>
Related-to: https://tracker.ceph.com/issues/45765
Related-to: https://tracker.ceph.com/issues/47044
src/common/options.cc