存储 频道

缓存分布式一致性难题,它解决了

  很久之前有个客栈,由于客流量众多,所以有两个人在前台负责办理入住退房。他们共同维护了一个bitmap,凡某间房已入住,则标记一个黑点,白点表示该房无人住。

  但是这个bitmap只有一份,两个人都要使用,很不方便。于是将其复制了一份,每人各记录各的。这就产生了问题,这两个人相互都不知道哪间房退房了以及哪间空房被入住了。于是他们约定,在更改bitmap时,要向对方吼一声,对方把接收的变更落地到自己本地的bitmap中。

  这故事,听起来是不是有些耳熟?

  这不就是区块链的部分原理吗?第一个占据某个节点的人要在系统内广而告之,宣布此节点名花有主,系统内所有人都会收到消息,转而开始对下一个节点的进攻。

  今天小编并不想说区块链,而是一致性

  凡分布式系统,都不可避免地要应对一致性要求。

  但在分布式系统中,很少有产品启用缓存。因为除了需要采用NVRAM/NVDIMM来做掉电保护之外,最重要的是解决分布式缓存的一个关键问题——Cache Coherency(缓存一致性)。

  ➤ 这个问题,戴尔易安信Isilon解决了。

  一骑绝尘的横向扩展NAS

  .....

  戴尔易安信的Isilon是一个分布式集群NAS系统,支持主流的网络文件系统、对象、REST、SWIFT、HDFS等访问协议。Isilon系统分为三个子型号:F、H、A。

  Isilon F800 All-Flash▼

  Isilon Hybrid Scale-out NAS▼

  Isilon Archive Scale-out NAS▼

  Isilon还拥有一系列的数据管理软件功能,包括:INSIGHTIQ、SMARTPOOLS、SMARTQUOTAS、SMARTCONNECT、SNAPSHOTIQ、CLOUDPOOLS、SMARTDEDUPE、SYNCIQ、SMARTLOCK、ASPERA。

  Isilon的核心是OneFS集群文件系统。作为一个分布式、对称式、并行集群文件系统,OneFS将传统存储体系结构的文件系统、卷管理器和数据保护三层合并为一个统一的软件层,从而构建了一个跨集群中所有节点的单一智能文件系统。

  .....

  OneFS属于对称式集群,这意味着任何一个节点均可以承载I/O访问,由此也带来一个问题,比如节点1和节点2同时缓存了数据A,Host1向节点1发起写请求更改了数据A为B,那么此时节点2上的数据A就必须立即作废。

  我们不妨先看看PowerMax这个分布式集群SAN系统是如何处理缓存一致性问题的。戴尔易安信的PowerMax采用Hash方式来确定某个数据块唯一的缓存节点,这样就不存在缓存一致性的问题,但代价是需要跨节点产生数据流量,而不仅仅是控制流量,因为此时数据需要在多个节点中传来传去。

  比如数据块A只能缓存在节点1,如果节点2需要访问数据块A,则先计算Hash得出数据块A所在的节点,然后向该节点发送请求让其传递数据块A的部分或全部到节点2,再将数据发送给Host端,同时节点2将数据块A从其本地缓冲区删除,不能作为下次访问使用,因为节点2根本不知道数据块A在其他节点上是否已经发生了变化。

  Isilon如何实现缓存一致性

  .....

  这时大家自然想到,如果数据块A的变化情况能让集群中所有节点都知道,广播出去,不就可以保证数据一致性了么?

  没错,多核心多CPU其实也是一个分布式集群,它就是这么管理缓存的,借助于核间、片间高带宽低时延网络,能够让分布式缓存的访存时延降低到一个可接受的范围内。缓存一致性协议规定了多个缓存之间在什么时候传送什么消息、以什么方式问答等。比如Intel使用MESIF协议,AMD使用MOESI协议。

  Isilon的OneFS采用了与CPU类似的缓存一致性协议实现了缓存一致性,而开发这套协议需要相当的技术水平。

  Isilon采用Infiniband互联,以Sockets Direct Protocol (SDP) over InfiniBand (IB)实现节点间同步,采用MESI协议实现缓存一致性。

  MESI表示每个缓存行的4种状态:

  M – Modified: The data exists only in local cache, and has been changed from the value in shared cache. Modified data is typically referred to as dirty.

  E – Exclusive: The data exists only in local cache, but matches what is in shared cache. This data is often referred to as clean.

  S – Shared: The data in local cache may also be in other local caches in the cluster.

  I – Invalid: A lock (exclusive or shared) has been lost on the data

  每个节点均记录本地缓存行的状态,决定是否要发出广播。比如访问一个E状态的缓存行,就无需通知其他节点,因为E表示该缓存行只存在于本地,其他节点没有缓存。

  不得不说,Isilon通过软件把CPU集群所采用的缓存一致性协议搬移到了集群节点间,这种正宗的分布式缓存实现,在市面上的分布式集群系统中是不多见的。所谓品质决定市场表现,Isilon之所以能成为全球存储市场上的横向扩展架构典范,与其独特的开创性特色是分不开的。

特别提醒:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。
0
相关文章