iSCSI磁盘阵列(也称IP-SAN)是一个存储管理和应用系统,它通过各种互联技术将多台服务器与存储阵列连接在一起,利用在互联网IP网络上进行传输SCSI协议的技术来处理大量数据,以提高存储整体效能,所以叫iSCSI磁盘阵列,又称IP-SAN存储区域网。
IP-SAN的发展历经了这样几个阶段:
1.DAS(Direct Attached Storage)直连服务器存储阶段:
直连服务器存储是传统的存储技术,最早的存储产品都是由于服务器上的硬盘空间不够急需扩展存储空间而设计,也就是服务器直接连接外置扩展的磁盘阵列来实现,那时,数据量很小。DAS可以为小型系统提供快速的磁盘访问。缺点是,管理成本高,距离有限制。 且这些存储产品都是基于“服务器中心”结构的模式来开发,但随着互联网技术的发展和普及,数据量不断增多,势必引导存储产品向以“数据中心”结构的模式发展,网络存储产品也相应地在这时产生。
2.NAS(Network Attached Storage)网络存储阶段:
网络附加存储设备--以文件方式的技术在网络上传输数据的存储服务器,它与以太网络直接相连,各种文件服务器及网络工作站都可透过网络直接存取NAS上的数据。NAS基于文件进行存储和访问,由于采用较成熟的IP网络技术,易用易学,维护和管理简单易行,每个存储点易控制,结构灵活,节省费用。缺点是:数据访问速度慢,应用数据库性能较差,不太容易扩展。网络存储的应用常常需要可以分散地增加存储容量,为满足要求,管理员必须增加更多的设备。在网络上增加设备会增加物理的复杂性和总拥有成本(TCO)。且随着互联网和网络技术的深入发展和广泛应用,各种应用服务器将不断增多,数据量在迅猛增长,管理复杂,对数据的传输速度和安全性要求更高,由于原来的存储技术都不能满足现在用户的应用需求,势必推出新的存储技术来满足市场,这将促进了面向存储区域网络SAN的发展。
3.SAN(Storage Area Network)存储区域网络阶段,通常指FC-SAN:
SAN――原来一般指以光纤技术为背景由各种光纤存储设备和管理软件组成的存储区域网络,所以通常称为FC-SAN。它由专用的光纤网络构成(也称为LAN应用网络的第二子网),将应用服务器连接到存储设备并传输存储数据,但不增加企业或机构LAN网络的负荷。SAN的通信传输采用数据传输协议中的Fiber Channel。
SAN基于数据块进行存储和访问,比NAS的文件级操作效率要高很多。另外,光纤通道保证相对较高的数据吞吐量。应用服务器与SAN存储设备之间的光纤通信是通过主机总线适配器(HBA)来连接的。通常,服务器同时使用以太网卡和光纤通道HBA分别完成与LAN和SAN的连接。
SAN的性能可靠,可扩展,易管理;但由于采用光纤通信价格较高,应用必然受到了一定的限制。随着IP技术的高速发展和普及,一种基于IP网络/Ethernet的高性能但价格低廉的新方法Internet SCSI(iSCSI)应运而生,并为连接SAN提供了很多优势。
4.iSCSI(IP-SAN)存储区域网络阶段:
宝德iSCSI存储阵列的研发是基于先进的Intel iSCSI内核技术实现的。是宝德科技和Intel公司又一次成功的技术合作。
iSCSI是SCSI over IP的一项重要成就,已成为一个国际标准协议,是一个供硬件设备使用的可在IP协议的上层运行的SCSI指令集。iSCSI实现在IP网络上运行SCSI协议,使SCSI数据块能够在诸如高速千兆以太网上进行传输。
iSCSI基于IP协议的技术标准,实现SCSI和TCP/IP协议的连接,使系统成为一个开放式架构的存储平台,系统组成十分灵活。同时,对于以局域网为网络环境的用户,只须较少的投资,就可方便、快捷地对信息和数据进行交互式传输和管理。相对于其他的网络存储,iSCSI 具有低廉、开放、大容量、传输速度高、兼容、安全等诸多优点,其优越的性能使其自发布之始便受到市场的关注与青睐,它必将成为网络存储领域的核心技术之一。
iSCSI可用来构建基于IP网络的SAN。这一简单而又强大的技术可以帮助机构提供一个高速、低成本、远距离的存储解决方案,而且不需搭建新的网络,只要在原来的网络基础上增加部分硬件及软件及可组成高性能的IP-SAN。
记得大约5年前,存储市场在国内开始受到媒体关注的时候,关于NAS(Network Attached Storage,网络附加存储)和SAN(Storage Area Network,存储区域网)的争论吸引了很多人的关注,虽然得出的结论不尽相同,但最后基本上达成了两者“互补大于竞争”的共识。
SAN和NAS的融合始于高端市场,SAN加上一个NAS头便可以提供文件服务,NAS也能够通过FC(Fibre Channel)端口接受块级(block-level)数据访问。而在中低端市场,SMB(中小型企业)们通常不具备FC基础设施,往往视SAN为畏途。对这些客户来说,如果NAS能在利用现有以太网环境的基础上提供块级数据访问,就不必与相对陌生的FC SAN打交道了——尽管后者正不断地压低价格来争取他们。
iSCSI(Internet SCSI的简写)就是能让NAS增强战斗力的援军——它在目前分布最为广泛的Ethernet/Internet环境中,以TCP/IP封包SCSI指令及数据进行传输,可以构成IP SAN。因此,为NAS设备加入iSCSI支持简直是举手之劳,而所得到的是同时提供文件和块级数据服务的全面能力——如此划算的投入产出比,对厂商的诱惑力不言而喻。
于是,我们便不难理解,2003年2月IETF宣布正式通过iSCSI标准之后,NAS市场的领导厂商NetApp立即发布了其第一个本机iSCSI存储解决方案。此前在NAS市场钻营已有些时日却未获明显进展的微软也敏锐地抓住了这个难得的机会,2003年5月在其上市近一个月的 Windows Server 2003 中,正式开始支持iSCSI,并提供iSCSI Initiator驱动程序的下载,极大地促进了iSCSI市场的发展。
iSCSI的起步虽然没有预想的那么顺利,但今年以来的增长势头令人振奋。IDC公布的2005年第三季度全球磁盘存储系统追踪报告显示,iSCSI SAN市场再次翻番,收入同比一年前增长105%。积极投入iSCSI市场的厂商都有不错的回报——NetApp以35.1%的份额领跑,微软的亲密伙伴 HP也占据了约10%的份额。
在整个网络存储市场(NAS加上开放/iSCSI SAN)中,NAS所占的比例还不到20%。当然iSCSI SAN的比例更低,然而以NAS个位数的增长速度(2005年第三季度同比一年前增长7.5%)来看,被iSCSI超越应该用不了太长的时间。不过,我们认为NAS和iSCSI的关系还是合作大于竞争,联手开拓市场对双方都有好处。可以预见,在不远的未来,提供iSCSI服务将是NAS设备必备的功能。
iSCSI在技术上处于领先地位,可以为无法承担 FC-SAN高成本光纤基础结构的中间市场客户提供利用SAN所带来的好处。
宝德计划开发的iSCSI磁盘阵列系统以Intel iSCSI卡为必要的主机HBA硬件配置,集成宝德服务器平台系统,以及标准千兆以太网交换机等组成一个高效存储区域网络IP-SAN。在现阶段,速率比FC-SAN稍低,但性价比远高于FC-SAN。
随着10G以太网技术的发展,Intel还将推出万兆iSCSI卡,以适应网络环境。宝德开发的IP-SAN系统的效率将很快提升,高于FC-SAN。无论从技术的发展角度来看还是从应用普及的角度来看,宝德iSCSI磁盘阵列系统的研发都符合大势所趋,具有很好的发展前景。
二、可行性分析报告和市场预测
1、市场分析:
从2001~2003年中国外部磁盘存储系统市场来看,销售额年复合增长率为17.8%,市场增长速度高于IT硬件产品市场平均增长水平。作为计算机系统中保护数据安全的重要基础设备,存储系统产品和解决方案日益受到行业和企业用户的关注,存储系统已成为IT市场中一个新的亮点。随着中国电子政务、中小企业等领域信息化建设的深入,2003年中国外部磁盘存储系统市场总体上保持了稳定的增长态势,市场销售额为28.6亿元。
2001年~2003年中国外部磁盘存储系统市场销量对比
国内权威调研机构近日对2004~2008年中国外部磁盘存储系统市场发展做出了预测。根据对2003年中国外部磁盘存储系统市场发展规模及今后趋势的分析,国内权威调研机构建立了数学模型,并在综合考虑影响存储系统市场发展的主要因素后,对模型进行了修正,最后依据修正后的模型对今后五年中国外部磁盘存储系统市场的规模进行了定量预测。从总量上看,外部磁盘存储系统市场逐年增长,到2008年,外部磁盘存储系统销售额及销售量分别达到72.3亿元和82436.4TB。
2004年~2008年中国外部磁盘存储系统市场总量预测
从增长速度来看,随着中国各行业和企业信息化建设的逐步展开,2004~2008年,中国外部磁盘存储系统市场销售量和销售额将分别以64.4%和20.4%的年复合增长率快速增长。
NAS与SAN合称网络存储,是未来存储产品的发展方向。从增长速度来看,2004~2008年NAS与SAN两种产品销售额将分别保持39.0%和31.5%的年均复合增长速度。由于NAS产品基数较低,因此增长速度快于SAN产品。
2004年~2008年中国外部磁盘存储系统市场产品销售结构预测
随着各种IT应用的发展使得用户对于存储扩充能力的要求将会越来越大,另外对于分级存储的要求也将越来越明显。而DAS、NAS的存储方式,由于受容量、数据传输率、网络带宽等问题的影响,而且性能和防护性方面存在不足,所以未来存储发展趋势将会向SAN的方式靠拢。在SAN产品方面,基于普通IP协议和以太网的网络存储方式,即基于iSCSI协议的存储结构IP-SAN技术将会逐渐发展起来。IP-SAN在整合存储方面的能力将超过光纤SAN。由于IP-SAN产品低成本以及管理简单等特点,其在中小企业市场将有很大的空间。而光纤SAN 产品可能将集中于高端应用。
SAN的市场容量
与传统的FC-SAN相比,IP-SAN存储简单、低成本的特色相当明显。“IP-SAN对那些要求流量不太高的应用场合以及预算不充足的用户,是一个切实可行的选择”, IP-SAN存储网,在10GB Ethernet的环境下,完全可以与FC-SAN在交换性能上一争高低。这是IP-SAN的强项,在那些想用SAN架构、又付不起那么高费用的行业,IP-SAN具有理想的市场切入点。
IP存储无疑是近一段时间发展最为迅速的存储技术之一。在用户、厂商密切关注之下,IP存储由概念的产生到目前实际产品的出现,已经发生了翻天覆地的变化。
2、技术分析:
IP-SAN网络存储主要由三大部分组成:服务器(host)、交换(switch)和存储设备(target),因此需要涉及以下技术问题:
*服务器平台
*千兆交换机
*iSCSI磁盘阵列和存储管理软件
宝德公司在英特尔架构服务器、磁盘阵列领域已经有多年的技术研发、产品生产和部署实施经验,包括服务器硬件平台、以太网、磁盘阵列、操作系统平台。宝德在服务器、磁盘阵列上充分积累的经验,利用一些相关存储管理软件如飞康软件,开发iSCSI存储产品,推出IP-SAN存储应用解决方案必将引发国内IP存储市场应用的高潮。
三、设计图和所需设备
本配置方案的模型定位需要中型配置,采用存储和服务器集群方式。方案拓朴图如下
iSCSI磁盘阵列作异地复制或容灾工作原理图
硬件配置方案如下:
服务器节点:
采用双路Xeon 2.8 G或以上1U机架式服务器,内存512M, SCSI硬盘73 GB。
测试节点数推荐采用12个。最低可以采取3个的基本配置,不过3个节点作为性能演示,效果不是太明显。所以我们采取8个服务器测试节点的方案。
服务器管理节点:
采用双路Xeon 2.8 G或以上机架式服务器,内存512M,SCSI硬盘73GB。用这个服务器管理节点来管理和配置整体存储应用解决方案。
存储节点:
考虑到作存储集群和存储软件功能模块的演示和性能测试,计划开发两套iSCSI磁盘阵列进行配合。配置采用高端的双路Xeon 2.8 G或以上机架式存储柜平台,内存1GB,16块146GB硬盘,加上国外知名飞康公司的iSCSI软件和存储管理软件模块。
存储适配器:
部分服务器要配置壹块iSCSI HBA卡,用来连接网络交换机搭建IP-SAN架构,还有部分服务器要配置壹块FC HBA卡,用来测试iSCSI磁盘阵列与FC-SAN的性能比较和兼容性。
光纤存储交换机:
配置壹台16口以上的光纤存储交换机,用来连接服务器和存储设备,并进行测试iSCSI磁盘阵列与FC-SAN的性能比较和兼容性。
网络设备:
我们推荐使用Netgear 交换机GS524T 进行千兆网络数据交换,并采用网线绑定的功能进行测试,而且采用服务器集成网卡,可观察整体网络负载和数据流量,采用这种方案可作负载均衡的测试。
显示设备:
推荐采用KVM,键盘、鼠标、显示器接口和液晶显示器一体机,使整个机器看起来作为一台整体,进行统一管理和切换。
1、产品功能描述和市场定位:
现互联网IP技术已渗入到各个领域,各行各业已基本实现网络办公,这将产生大量电子数据需要存储设备来管理,而且各个单位对数据的安全性和可用性要求越来越高,用户更希望在原来的网络基础上以较低的成本来搭建存储平台,这些需求势必推动整个IP storage存储市场的发展,宝德开发这款iSCSI磁盘阵列正满足客户迫在眉捷的需求,能够帮助用户有效解决数据管理等疑难问题。
当多数企业由于Fiber Channel 的高成本而对SAN敬而远之时,iSCSI技术的出现,一下子拉近了企业与SAN之间的距离。目前,大多数中小企业都以TCP/IP协议为基础建立了网络环境。对于他们来说,投入巨资利用FC建设SAN系统既不现实,也无必要。但在信息时代,信息的采集与处理将成为决定企业生存与发展的关键,面对海量数据,许多企业已感到力不从心。iSCSI的实现可以在IP网络上应用SCSI的功能,充分利用了现有IP网络的成熟性和普及性等优势,允许用户通过TCP/IP网络来构建存储区域网(SAN),为众多中小企业对经济合理和便于管理的存储设备提供了直接访问的能力。除此之外,IP-SAN技术还能应用于解决远程存储管理和容灾问题,具体如下:
维护磁盘系统高可用性
运用IP SAN技术配合iSCSI提供的Block-level数据传输能力,可以将存储服务器空间分配给前端的应用服务器,如MS SQL Server、Oracle等数据库,或是Exchange Server、Lotus Notes等邮件服务器,可以将主程序和数据库的存放位置分离,这样做的好处除了可以更有效的运用存储空间,最重要的是提供数据库的高可用性。高可用性可以分为两个部分来看,一个是减少服务器的停机时间,另一个是避免单点故障造成服务器停顿。
IP SAN技术具备线上扩充磁盘空间功能,一旦应用服务器的存储空间不够用,只需在Web管理界面内用鼠标点选几下,配合简单的CLI指令,不必停机或重新开机就能延伸磁盘分割区的空间。IP SAN技术还具备磁盘镜像技术,可以设定将数据同时存放在两组磁盘或磁盘阵列的逻辑磁盘区,工作时两组磁区随时保持同步,当其中一组硬盘或磁盘阵列故障时,服务器仍然可以不受影响地存取数据。系统管理员也可以线上更换故障的存储设备,同步进行数据复制,立即将系统恢复至原来的状态。
运用快照功能保护数据
Windows Storage Server 2003本身含有快照功能,称为磁盘区阴影复制服务(Volume Shadow Copy Services)。这项功能简单的说,就是设定系统在不同时间点,将指定数据复制一份阴影副本存放在另一磁区,一旦数据发生问题可以迅速复原。IP SAN技术同样也具备快照功能,不过是针对磁盘分割区(LUN)进行快照动作,和Windows Storage Server 2003针对共用资料夹进行快照的机制不同。
快照技术是一项即时性的数据资料保护技术,针对磁盘区建立不同时间点版本的备份数据,不仅可以弥补传统备份机制的不足,对数据库类型的应用来说,备份的动作完全不影响应用程序的执行,万一数据库发生损毁或中病毒等意外,系统管理员可以选择将上一个快照时间点的数据迅速回复,或是将阴影复制的磁盘快速置换为iSCSI磁盘,取代原先的磁盘区让数据库系统继续运作,将意外造成的损害降到最低。
应用恢复服务器方案确保永不停机
无论是采取磁盘镜像还是快照的方式,保护的都是iSCSI Target磁盘上的数据,万一意外损毁的是应用服务器的系统磁盘,上述的解决方案恐怕都有些力不从心,必须靠双机备份、集服务器或备份软件提供灾难恢复机制,不过这些传统的灾难恢复机制不是恢复时间过长,就是价格不菲、操作管理复杂,企业在导入时往往费尽心思。
IP SAN可以运用iSCSI技术开发的灾难恢复方案,则是完全打破了传统意义上“停机时间越短,价格越高”的规则,可以说是集低成本、低停机时间和操作简易于一身的“杀手级”解决方案。 iSCSI 应用恢复服务器的机制架构并不复杂,以MS SQL Server数据库为例,应用服务器需要安装“DiskSafe”、“DB agent”套件和具备远端启动功能的iSCSI HBA卡,服务器端工作时透过iSCSI 存储服务器的定制快照功能,随时保留一份副本在iSCSI Target磁盘内。一旦发生应用服务器中毒、硬盘损毁等意外,只需将服务器关闭,利用iSCSI磁盘远端启动并接替原本的磁盘,系统就会像没事一样继续工作,差别在于此时系统是位于远端iSCSI备份磁盘内。将主机上毁损的硬盘更换之后,系统会在后台执行同步抄写回主机硬盘的命令,复制完成后以本机磁盘启动,即可恢复系统原本的状况。整个灾难恢复耗费的时间仅有几分钟(服务器重新开机的时间),所要执行的动作也非常简单。
不受距离限制的异地备份
利用iSCSI 磁盘阵列建构的远程数据复制功能,可以运用iSCSI技术在IP网络上建立异地备份系统。其配置与管理方法并不困难,在远程建立好一套备份系统(DR站点)后,在主站点输入备份端的IP地址和帐号密码,确认所要复制的磁盘区和工作排程即可,所有设定管理命令都在iSCSI 磁盘阵列的Web界面下用鼠标点选完成,一点都不复制。对于有异地备份需求且IT预算有限的企业来说,IP SAN提供的异地备份解决方案不啻是非常好的的选择。
IP SAN系统可用于下列领域:
IP SAN架构,跨平台、多主机共享解决方案;
DAS/SAN架构,多主机集群解决方案;
媒体行业播出系统;
VOD视频系统;
数字化图书馆存储系统;
银行数据集中清算存储系统;
电信营帐计费存储系统;
石油地质数据分析采样系统;
超级计算机数据存储系统;
气象数据存储系统;
互联网数据库存储系统;
2、测试环境、方法和考量重点
Windows平台在中小型企业占有绝对的统治性地位,因此我们采用一台装有Windows Server 2003操作系统的浪潮英信NL230服务器作为客户端对存储服务器进行读写操作。这台服务器采用两颗3.0GHz(支持Hyper Threading)英特尔至强(Intel Xeon)处理器,配有双千兆以太网(GbE)卡,测试时,客户端与被测设备通过千兆以太网交换机连接。
本次参测的Adaptec Snap Server 4500和宝德GS-9016i Storage Server均支持GbE,测试的网络环境也是GbE的,因此整个测试运行在1000Mbps级别的速度上。我们检验iSCSI性能的软件是 Iometer 2004.07.30,主要进行三个项目的测试:
512字节随机读:队列深度从1开始,倍增至256,取IOPS(每秒I/O数)和CPU占用率的结果;
顺序读:I/O块尺寸从512字节倍增至4MB及10MB,取MB/s和CPU占用率的结果;
顺序写:I/O块尺寸从512字节倍增至4MB及10MB,取MB/s和CPU占用率的结果。
考虑写Cache的影响(为接近真实应用,没有关闭该功能),没有进行随机写的测试。
干净的Windows Server 2003操作系统上安装Iometer 2004.07.30和每一种iSCSI Initiator,发现待测NAS设备上的iSCSI Target并完成配置之后,重新启动NAS设备和服务器,然后才进行测试,以避免缓存对测试数据的影响。