解读IBM企业级X架构按需扩展技术(图)
【IT168报道】我们知道,服务器的可扩展性(Scalability)是服务器的四个基本特性之一。在IBM的企业级X架构服务器中,这一特性更是得到最为显著的体现,也就是IBM在企业级X架构中所倡导的“XpandOnDemand”(按需扩展)技术。通俗地讲,这一按需扩展技术就是可以使用户随着用户企业的不断成长,按照需求扩展原来服务器系统,自由升级,在保护原有服务器投资的基础上,满足不断增长的计算需求。这也就是IBM给整个服务器行业带来了的全新“Pay as you grow”(随着你的增长而支付)理念。在这样一个支付理念下,企业在购买服务器时,就不必再为将来才用得上的子系统组件而一次性投资,可在等到企业真正用得上这些子系统时再买回来直接加在原来的服务器系统中去就行了。
分析IBM的企业级X架构,我们可以得知,IBM的这个按需扩展技术并不一个独立的技术,而是在得到多个非常关键技术支持下的一种理念。这些关键技术中,就包括上篇文章所介绍的NUMA架构技术、系统分区(System Partition)技术和远程I/O(Remote I/O)技术等。下面分别从以下几个方面全面了解“按需扩展”理念中所包括的这些关键技术。因为涉及的技术比较多,所以此主题需分三篇来介绍,前两篇介绍与“按需扩展”技术相关的三个技术,最后一篇是对IBM的这种按需扩展服务器群集技术与传统群集技术进行比较。本篇是第一篇。
一、XpandOnDemand(按需扩展)理念的产生背景
以前在IA架构的服务器中,经常由于I/O总线拥塞以及内存不能得到有效利用,传统的IA多处理器架构服务器设计在向4路以上扩展时就开始遇到一些障碍,理论上扩展到8路已是极限。但是采用IBM大型机中的Summit(颠峰)技术后,通过一个强化的4路SMP构件块(如图1所示),能够有效地向4路以上的SMP(对称多处理系统)扩展,这就是在前一篇文章介绍的NUMA架构技术。
#$[*154521.jpg*#图1(点击看大图)*#0*#0*#center*]$#
从图1中可以看出,除了系统共享的内存外,每个处理器旁边还有自己的内存,还有各处理器之间也有单独的互联通道,使得模块间处理器间的互访性能大大提高。通过利用这种4路SMP构件模块创建新的计算“节点”,为服务器系统从4路扩展到8路、12路,甚至16路提供了一种有效的途径。当客户在拥有4路处理器架构情况下,因业务增长需要扩充其系统时,只需要在原有4路处理器架构基础上增加节点,扩展到8路、12路或16路处理器架构。而Summit芯片组具有物理分区功能(将在下篇中具体介绍),能够灵活地划分工作量并分配给不同的处理器节点。例如,一个16路服务器可以划分成4路节点,每个节点包括独立的处理器、内存和I/O支持,各节点可以运行一种不同的操作系统执行不同的任务。也可以划分成4个4路SMP服务器,还可划分成2个8路SMP服务器,当然也可把它当作一个16路系统整体。
IBM企业级X架构优化服务器的一个变化就是通过提供新的内存和I/O(输入/输出)子系统使新的处理器体系结构能够充分发挥服务器的潜能。传统的服务器在设计上遇到的第一个性能瓶颈就是由于处理器和I/O总线堵塞,以及内存的低效利用而导致4向并行处理技术的向前发展。企业级X架构的设计提供了先进的I/O和内存体系机构,和一个高速共享缓存体系机构。工业标准服务器在使用了增强的、高性能的SMP架构模块技术(NUMA架构技术)下,IBM企业级X架构平台后扩展性得到了新的提高,从而实现了4路并行性能的有效扩展。
在IBM的企业级X架构下,利用这样一个个包含4路处理器的SMP(对称多处理器)模块技术,使得从4路到8路,再到12路,甚至16路并行处理扩展成为可能,而把每一个SMP模块称之为“节点”。这样,企业服务器需要扩展时,只需要扩展这样一个个节点即可实现处理器数量和性能的线性提高。每个节点都可以运行不同的操作系统,甚至不同分区的多个节点的工作可以镜像分配到一个系统中。节点之间通过一种称之为“对称多功处理器扩展端口”来实现设备间的高速连接和顶峰性能的资源共享。这就使你在运行多个节点时就像一个大的、单一节点的组合,或者像两个或者更多的小单元,甚至到你可以后需要时重新配置。它与传统单一的SMP架构不完全一样,单纯的SMP架构中的节点是一个个处理器系统,而不是包含4个处理器的系统,同时SMP架构中的各处理器系统必须运行在同一操作系统中。关于SMP与NUMA架构之间的区别请参照《IBM企业级X架构之NUMA技术》这篇文章。
二、XpandOnDemand(按需扩展)技术的扩展原理
采用IBM 企业级X架构的按需扩展技术,就无需购买超出您系统计算能力所需的系统。新服务器系统通过计算节点提供XpandOnDemand 技术,模块化的单元设计特性使得无需事先购买所有组件就可以获得长期的系统扩展能力。XpandOnDemand技术使客户最大限度的利用IT 投资和技术人员的同时提供灵活的未来系统升级扩展的途径。
有了这一技术,如果企业当初的服务器系统计算需求只需相当简单、廉价的4路对称多处理系统时,就没有必要去买一个8路或更大的系统。而当你的企业后来需要更大计算处理能力,准备将4路服务器扩展为8路服务器时,就无需重新购买系统,仅仅简单增加另外的一个4路扩展模块即可实现所需要求,保护您的初始投资。模块节点组件通过高速扩展端口进行连接。购买上述扩展端口就无需使用适配卡或交换组件,进一步节约成本的话都无需使用PCI-X 插槽。如果还不能满足的话,还可以添加第三个4路并行对称处理系统,这样三个4路并行处理节点就能够配置成一个12路并行处理系统;用四个4路并行处理节点能够组合成一个16路并行处理服务器。图2左图所示的是一个通过上述方法组成的16路并行处理服务器。图2右图所示的是连接两种不同SMP扩展端口系统的图示。
#$[*154524.jpg*#图2(点击看大图)*#0*#0*#center*]$#
系统扩展端口连接处理器组成的8路、12路或16路服务器(或直接的4路或8路节点群集系统),节点系统之间的通讯速度可以是现有GB级以太网连接速度的30倍。大型XceL4 Server Acceleator Cache 技术(将在后续篇中具体介绍)加速即使是最复杂的任务,允许处理器从高速缓存中访问更多数据,容量高达64MB-减少从系统主内存存取数据所消耗的时间。在实际中,各节点是由一个框架来堆叠,使用同样的缆线,扩展模块可以通过群集技术组成IBM 光纤阵列存储技术(FAStT)产品,满足高可用性的企业应用程序失效保护需求。如图3所示的是各模块的互联示意图。
如果有时你认为有些节点你需要改变,不再需要8路或16路并行处理服务器,这些节点也能够重新分离成一个个单独的4路并行处理系统。这种模块设计使你自由地决定如何去一步步提高你的IT组织,你并不需要在事先就要做出一切决定,不像原来的工业标准服务器设计一样需要一步到位。
#$[*154529.jpg*#图3(点击看大图)*#0*#0*#center*]$#
三、Remote I/O(远程I/O)技术
在IBM企业级X架构中,为服务器提供按需扩展支持的另一个重要技术就是“Remote I/O(远程I/O)”技术。它是一种把原来都集中在服务器机箱中的I/O插槽部分地转移到由一个独立机箱安装的远程I/O扩展柜中的技术。这样一方面在减少了I/O插槽情况,可有效地利用服务器机箱空间、提高服务器的散热性能,同时可以减小服务器机箱大小;另一方面还可以提供更多的I/O插槽,供I/O设备使用,还可使服务器群集系统共享。
在工业标准服务器规范中有一个限制,那就是所有PCI和PCI-X适配器插槽都必须在主机箱中。一方面设计者总想在有限的机箱空间中设计最大量的适配器插槽,同时他们又想通过使服务器组件变得越来越小来尽量缩小服务器的大小,以满足用户在减小服务器架构空间大小方面的需求。不管怎样,减小服务器的大小也就意味着要牺牲一定的适配器插槽为代价。这就是为什么服务器生产商所提供的服务器中要么是有多个适配器插槽,而减少驱动器架,要么是有多驱动器架,而提供的插槽较少。否则就得增加服务器的尺寸,那势必会造成用户拥挤的数据中心出现其它问题。
一个非常明显有效的解决方案就是限制在主机箱中的适配器数量,同时增加一个外置的“插件箱”来安装另外大部分适配器。把适配器的插槽从主机中引到服务器机箱外面,这样服务器就可做得更小了。不幸的是PCI-X总线技术并没有明确地支持这种外置输入/输出接口。不过在IBM企业级服务器架构中的远程输入/输出(Remote I/O)技术支持下,可以使在单个服务器通过外置的I/O扩展箱添加12个PCI/PCI-X适配器插槽,提供极其强大的I/O扩展性能。这也从另一个侧面解释了“随着你的增长而支付”这个全新的支付理念。只需要购买你现在需要的输入/输出组件,当你需要另外的组件时再到时另外购买即可,这种性能就可以使IBM通过增加I/O外置扩展单元来自由升级你的服务器。
在IBM的企业级X架构服务器中,单独开发了一种扩展插件柜REX-100(如图4左图所示的是其整机外观图,右图是其内部结构图),服务器主机则可直接与这个扩展插件柜相连。
#$[*154532.jpg*#图4(点击看大图)*#0*#0*#center*]$#
远程I/O可为每个服务器提供更多可用的适配器插槽,但它同样具有非常高的可靠性。因为这个远程的I/O组件是用与插件箱分开的独立电源来供电,在电源中还有冗余的风扇,它比在一个服务器主机箱内安装这么多适配器和驱动器所散发的热量更少;另一方面的优点就是扩展外置的I/O插件箱同样可以被多个服务器共享,如图5所示。
#$[*154538.jpg*#图5(点击看大图)*#0*#0*#center*]$#
远程I/O在IBM p系列和I系列服务器是用来进行实时连接的,所采用的远程I/O技术,结合按需扩展系统节点的设计原理,允许你在有序、受控的方式下扩展你的系统。在过去为了确保服务器高性能不断提高,你必须花费巨资去买一个带有许多处理器插槽、适配器插槽和驱动器架的主机,或许所买的服务器中有的组件你永远都用不上,但只想通过这种方式确保你的服务器有足够高的扩展性能。现在,在IBM企业级X架构的扩展性设计方案下,你可以从单个小小的节点组件开始。随后在工业标准架构中随着你的需要增加节点、I/O扩展插件箱和磁盘扩展单元(在你的预算允许范围内)。不仅企业级X架构中的远程I/O给你非常好的扩展性,而且它的性能也是非常高的。远程I/O扩展单元是通过独占的2Gbps带宽的连接速度与系统进行连接。
采用外置的PCI-X扩展柜(IBM RXE-100)可实现多达3倍的I/O容量,因为每个外接PCI扩展柜都可以添加到12个PCI设备。每台x440服务器节点都有两个扩展接口(RXE Expansion Port),这样一个16路的系统可以支持多达72个I/O设备。支持热插拔的PCI-X,添加或删除一块PCI适配卡不需要重新启动。符合InfiniBand标准(一种宽带I/O结构标准),方便日后升级。
在IBM的X系列企业级服务器中,通常是一个服务器主机配置一个远程I/O插件箱,它们之间是通过特殊的电缆连接的。如图6所示的是4路IBM x440企业级服务器(1个模块),图7所示的则是8路x445服务器(2个模块),在它们底部都和一个扩展插件柜相连。
#$[*154541.jpg*#图6(点击看大图)*#0*#0*#center*]$#
#$[*154547.jpg*#图7(点击看大图)*#0*#0*#center*]$#
【说明】事实IBM x440服务器最高可支持16路处理器系统,但它并不是在一个模块中实现的,而是通过4个SMP模块互联组成的。同理x445服务器最高可支持32路处理器系统,它也不是在一个模块中实现的,而是通过8个SMP模块互联组成的。事实上x440和x445服务器可以根据实际需要,有多种模块组合,如图6和图7所示的仅是对应服务器一种而已。
关于IBM企业级X架构按需扩展技术中的另一个支持技术——系统分区(System Partition)技术将在下篇详细介绍,通过对这一技术的了解,我们更可以更好地理解IBM企业级X架构的按需扩展原理。同时,在下一篇还将介绍IBM的这种服务器群集技术与传统的服务器群集技术相比之下的优势,敬请关注。