解耦式架构
- 读写缓存分离:全局缓存采取读写缓存分离设计,具备如下优势。
- 流程解耦,写缓存刷盘、读缓存淘汰无需互斥,水位灵活调控。
- 资源解耦,读写缓存并发、内存Quota等资源分离,避免互锁争用问题。
- 数据解耦,支持根据对掉电、故障等异常的容忍度进行差异化读写缓存介质和冗余策略组合,实现数据感知的最优可靠性、可用性、成本配置。
- 智能预取推荐/执行引擎分离:创新性的提出Client端推荐引擎+Server端执行引擎分离的智能预取架构,相对于业界流行的分布式缓存预取模式,具备如下优势。
- 相对于Server端本地推荐,由于数据未经源端打散,推荐引擎拥有全局数据访问视图,从而进行全局精准推荐,同时单机部署模式可以避免共享卷等场景的推荐引擎扰邻效应。
- 相对于Server端中心化推荐,可以减少数据推送和执行策略拉取两跳网络,从而避免预取不及时带来的缓存伪命中开销。
- 相对于单机缓存,Server端资源池化大幅提高缓存资源利用率,支持高可用,且不需要支付多副本实例带来的数据冗余浪费。
父主题: 关键技术