技术文章

BLOG

Ceph开发每周谈 Vol 106 | RGW 异步化

2018-01-15 · 麦子迈

这是Ceph开发每周谈的第一百零六篇文章,记录从181月8号到181月15号的社区开发情况。

  •  一句话消息

Cephalocon 2018 APAC 已经正式在社区宣布,将在 3 月 22 日- 23 日举行。

  • RGW 异步化

目前 RGW 的 HTTP 框架默认是 civetweb,一种基于每连接独占线程的实现方式,使得在高并发下需要大量的线程进行处理,同时很难增加类似 QoS 优先级队列的功能。
目前社区切换为 beast 框架,该框架使用 boost::beast 作为 http 解析,boost::asio 作为异步网络实现,使得异步的接受连接并且读取消息头部,允许根据头部进行 QoS 调度,但是在 process_request 过程还是需要同步处理,导致大量线程需要。
因此,社区的下一步目的是要让 process_request 异步化,使得横向扩展不依赖于线程数量。这个流程也会采用 boost::asio,该框架不会暴露线程模型,而是使用 reactor 的方式从每个线程执行。并且会成为 c++ std::net 标准库,目前草案已经通过。这个异步模型同时提供了一些异步原语,如 callback,future,coroutine。
目前社区首先提交了 librados api 支持 boost::asio 框架的 PR (https://github.com/ceph/ceph/pull/19054),主要是对 librados c++ api 的一层封装,去兼容扩展异步模型来支持同样的原语。接下来会对 Objecter 进行改造。这样 RGW 就可以在客户端层面全部使用异步接口来实现从 HTTP 到 RADOS。
参考材料:
[1] “C++ Technical Specification – Extensions for Networking”
[2] “Library Foundations for Asynchronous Operations”
[3] Reference: boost::asio::spawn
[4] “librados: add async interfaces for use with boost::asio”
[5] “osdc/Objecter: Boost.Asio (I object!)”
[6] work in progress branch: