存储 频道

对象存储不给高性能计算添堵

  【IT168 评论】高性能计算机体系结构的发展变化,使得性能、可扩展性、安全性、可管理性都会出现瓶颈。而对象存储技术可以轻易突破这种瓶颈。本专题以对象存储技术为引,通过回顾分布式文件系统的发展,并对相关技术进行深入剖析,让读者对分布式文件系统有一个全景式的了解。最后,通过构建Lustre系统的一个实例,让你切实感受到分布式文件系统的巨大威力。

  随着网络技术的飞速发展,网络化存储系统逐渐成为主流。网络化存储系统能否成功,必须有效解决以下三个主要问题:第一,提供高性能的存储,在I/O级和数据吞吐率方面能满足成百上千台规模的集群服务器聚合访问需求;第二,提供安全的共享数据访问,便于集群应用程序的编写和存储的负载均衡;第三,提供强大的容错能力,确保存储系统的高可用性。

  目前,国际上主流的网络化存储结构主要有存储局域网(SAN,Storage Area Network)和网络附加存储(NAS,Network-attached Storage)。SAN采用交叉开关结构,可为较大数目的结点机和存储设备提供一个快速、可扩展的互连。它采用SCSI块I/O的命令集,通过在磁盘或FC(Fiber Channel)级的数据访问,提供高性能的随机I/O和数据吞吐率,具有高带宽、低延迟的优势,在高性能计算中占有一席之地。如2004年12月,TOP 500排名第二的SGI Columbia就采用基于SAN的CXFS文件系统,实现高性能文件存储。但是,SAN系统的价格较高,且在可扩展性方面仍有一定局限性,随着SAN连接规模的扩大,其安全性也存在着隐患。NAS采用NFS或CIFS命令集访问数据,以文件为传输协议,通过TCP/IP实现网络化存储,支持多个平台间的数据共享,具有可扩展性好、价格便宜、用户易管理等特点。但是,由于NAS的协议开销高、带宽低、延迟大,不利于在高性能I/O集群中应用,因此,通常用于与其他异构系统的互连,如IBM BlueGene通过NFS与外部存储系统互联。

  对象存储

  对象存储综合了NAS和SAN的优点,同时具有SAN的高速直接访问和NAS的数据共享等优势,提供了具有高性能、高可靠性、跨平台以及安全的数据共享的存储体系结构。

  对象存储体系结构

  对象存储具有高性能、高可靠性。其组成包括智能存储接口和设备,以及分布的元数据管理。在对象存储系统中,客户端可以直接访问存储设备,减少了数据存储路径中的控制路径。

  在对象存储中,使用对象存储设备(Object-based Storage Device,OSD)进行物理的数据存储。OSD是连接到网络上的存储设备。它可以是磁盘、磁带或者其他的存储介质,并具有自我管理功能。

  在当前的存储结构中,元数据服务器主要提供两种功能:为客户端提供数据的逻辑视图,包括文件名、目录构成等;为客户端提供物理视图,描述数据在物理介质上的存放。在对象存储中,数据的逻辑视图和物理视图被分开,元数据服务器只负责逻辑视图,物理视图则由OSD自己进行管理。由于逻辑视图只占用了文件服务器10%的元数据负载,因此,这种划分大大减轻了元数据服务器的负担,使得存储系统的扩展成为可能。

  对象存储系统的组成

  对象存储包括几个组成部分:对象(Object)、OSD、文件系统、元数据服务器(Metadata Server,MDS)和网络连接。Object包含了文件数据以及相关的属性信息,可以进行自我管理。OSD是一个智能设备,是Object的集合。文件系统运行在客户端上,将应用程序的文件系统请求传输到MDS和OSD上。MDS为系统提供元数据、Cache一致性等服务。网络连接将整个系统连接起来。

0
相关文章