Veiasai / paper-notebook

0 stars 0 forks source link

OSDI 2018: RobinHood: Tail Latency Aware Caching - Dynamic Reallocation from Cache-Rich to Cache-Poor. #24

Open Veiasai opened 5 years ago

Veiasai commented 5 years ago

https://www.usenix.org/conference/osdi18/presentation/berger

Veiasai commented 5 years ago

实际上是第一次听说tail latency。

但这个概念却是遍布整个软件过程。

从底层的硬件到上层的程序设计,都有可能导致tail latency。

一般来说需要定位导致tail latency的原因(某几个机器),然后修复(资源再分配)。

Veiasai commented 5 years ago

分布式系统中,所有节点的资源利用都处于一个较平衡状态的话,就不太容易出现tail latency。

Google的Heracles和Borg,就可以监控机器的资源(CPU、网络、Mem、功耗等),然后调度任务。

Veiasai commented 5 years ago

RobinHood则从一个全新的角度切入:cache,通过它的设计和测试,证明了,只观测cache的使用情况(a minimized set of requests),也能定位tail latency,并通过调度cache资源去降低tail latency。