华为OceanStor 9000存储

Home  |  在后期   |  华为OceanStor 9000存储

华为OceanStor 9000存储

OceanStor 9000 V5 横向扩展文件存储

华为OceanStor 9000 V5横向扩展文件存储采用全对称分布式架构,以其业界领先的卓越性能、大规模横向扩展能力和超大单一文件系统为用户提供非结构化数据共享资源存储,是面向海量非结构化数据存储应用的横向扩展文件存储系统。

采用华为OceanStor 9000 V5可提高IT系统存储效率,简化工作负载及迁移流程,应对非结构化数据的增长和演变。

 

 

OceanStor 9000 V5作为大数据存储产品,具有大容量、高性能和易扩展性等方面的突出优势,同时提供丰富的增值特性,可广泛应用于广电媒资、高性能计算、数据中心、互联网运营和大型企业等各行业领域。

大数据是海量、高增长率和多样化的信息资产,大数据需要提供高效的分析处理模式才能提供更强的决策力、洞察发现力和流程优化能力。大数据的常见特点是:Volume、Velocity、Variety。大数据时代的到来,对存储系统的诉求也随之而来:

  • Volume特征包括容量和数量,需要存储具备灵活的扩展性。
  • Velocity特征需要采用分布式处理和分布式存储,采用Scale-out架构并使用通用硬件,在成本可控的前提下提供高性能。
  •  Variety特征需要存储提供更丰富的接口,以应对不同业务访问存储需求。

OceanStor 9000 V5是针对大数据的特点,推出的大数据存储平台。OceanStor 9000 V5采用全对称架构,提供3~288节点的弹性无缝扩展,支持如下功能:

  • 自研分布式文件系统OceanStor DFS支持海量非结构化数据存储,实现全局统一命名空间。
  • 支持对接由开源Hadoop组件封装而来的FusionInsight Hadoop/Cloudera Hadoop,让用户轻松构建企业级大数据分析平台。
  • OceanStor 9000 V5采用全互联全冗余的组网机制,允许系统中所有节点并发访问整系统的任何数据;支持从多个节点并发访问相同数据的不同区域,实现高并发高性能读写,对外提供标准的NFS/CIFS/FTP/HDFS接口。

OceanStor 9000 V5系统架构如图1-1所示。

图1-1 融合系统架构

OceanStor 9000 V5具有卓越性能、弹性空间、融合开放、高可靠性和简化管理等特点,可有效降低企业CAPEX(capital expenditure)和OPEX(operating expense)。

一、卓越性能

OceanStor 9000 V5提供业界领先的读写性能,可充分满足媒体编辑和高性能计算等领域的性能要求。

OceanStor 9000 V5针对文件系统应用提升性能的关键技术包括:

1)   并发访问

传统的NAS系统由引擎和存储单元组成。数据的全部并发访问需要先由NAS引擎处理,因此引擎容易成为性能瓶颈。

OceanStor 9000 V5采用全对称的逻辑架构,每个节点均可提供外部业务访问。通过负载均衡设计,数据访问在集群内均匀分布,可大幅提升系统并发访问能力。

2)  全局缓存

数据在缓存中的读写速度远高于硬盘,但单节点的缓存提升空间有限。同时如果各节点的缓存相互独立,则缓存命中率难以提升,数据的一致性保证机制也会趋于复杂。

OceanStor 9000 V5通过全局缓存模式,整合所有节点缓存,使同一文件的数据在缓存池只缓存一份,任意节点均可命中,有效提高数据访问命中率,减少硬盘读写次数,降低访问时延,提升系统整体性能。

3)  高速互联

OceanStor 9000 V5支持10GE高速以太网,单个节点可提供4个10GE端口。OceanStor 9000 V5还同时支持IB(InfiniBand)网络,可满足更加苛刻的性能要求。

OceanStor 9000 V5可适配用户的不同组网需求,通过节点间高速互联,降低系统内部时延,提供卓越性能。

4)  SSD加速和自动分级存储

SSD硬盘可解决数据读写性能的瓶颈,提供低延迟和高吞吐量。OceanStor 9000 V5可自动识别小文件和热点数据,根据热度在系统内不同存储介质之间进行数据迁移,使用SSD硬盘存储热点文件,提升资源利用率。

5)  SMB3 Multichannel

OceanStor 9000 V5支持SMB3 Multichannel功能,充分利用客户端内的多核CPU和带宽资源,可大幅提升业务性能和可靠性,且在单个连接通道故障后使用其他通道继续传输数据,不影响业务。

6)  内部文件快速复制

OceanStor 9000 V5内部文件复制时,无需经过客户端,直接在系统内部高速完成。

7)   NFS协议增强

传统NFS协议受到单网口带宽、块大小等限制,单客户端能够支持的极限带宽为1GB/s,无法满足更高的要求。OceanStor 9000 V5提供NFS协议增强特性,通过在NFS客户端上配置多个网口和安装NFS协议优化插件DFSClient,实现多网口并发连接和缓存优化,大幅度提升单客户端性能。

−Mac OS X单客户端带宽达到1.5GB/s。

− RHEL单客户端带宽达到2.5GB/s。

8)  磁盘碎片整理

OceanStor 9000 V5提供磁盘碎片整理功能,在指定时间段,周期性的执行磁盘碎片整理任务,保证系统长时间运行的整体性能。

二、弹性空间

OceanStor 9000 V5采用分布式架构,集群支持3~288节点弹性无缝扩展。集群内部各节点完全对称,数据和元数据均匀分布于各个节点上,有效消除系统瓶颈。

OceanStor 9000 V5能够根据业务增长进行平滑扩容,容量和性能支持线性扩展,最大可提供100PB规模的单一文件系统,可有效降低企业CAPEX和OPEX,真正实现“应需而变”。

OceanStor 9000 V5提供多种节点类型,分别对应如下业务应用:

  • P12/P12E/P12X/P12A、P25/P25E/P25X/S25X和P36/P36E/P36X/P36A为高性能存储节点,应用于OPS密集型应用场景和高带宽应用场景。
  • C36/C36E/C36X为大容量归档节点,应用于大容量应用场景。

三、高可靠性

OceanStor 9000 V5采用分布式集群架构,系统全冗余部署,无单点故障。存储节点的关键部件,如风扇模块、电源模块、接口模块均采用冗余设计,有效提升硬件可靠性。OceanStor 9000 V5提升可靠性的设计还包括:

1) N+M数据保护级别

应用Erasure Code技术实现节点间RAID功能,支持整节点故障而不影响数据完整性,可对文件系统内任意空目录指定采用N+1、N+2、N+3、N+4、N+2:1或N+3:1保护级别。

2) 镜像

应用镜像方式存储多份元数据于多个存储节点,相比数据具有更高的保护级别。

3) 数据重构

支持节点故障自动检测和数据自动恢复,当硬盘或节点故障时,通过数据重构任务找回数据,避免再次发生故障而导致数据失效。

4) 物理分域

物理分域是一种隔离故障的有效手段。启用物理分域后,单个域(节点池或节点池组)内的硬盘或节点故障,将不会导致其他域的数据可靠性降级或失效,也不会因执行数据重构任务而影响其他域的读写性能。

5) 数据一致性扫描

也称为数据擦洗(Data Scrub),指在不影响业务的情况下,通过在后台周期性校验系统中的数据,提早发现硬盘的部分错误,避免因发生静默损坏而导致硬盘数据丢失。

  • OceanStor 9000 V5还提供多种高级数据保护技术,支持灾备,即使在毁灭性的灾难下,也能够保障数据安全,从而使业务正常持续运行。
  • InfoReplicator:即远程复制,支持多套存储系统之间,通过设置自动复制周期或手动启动数据复制任务,经由IP链路(LAN或WAN均可)实现指定目录与文件的传输复制,从而最大限度提供数据容灾能力。
  • NDMP(Network Data Management Protocol)备份:将OceanStor DFS作为数据源,备份数据到备份介质(如磁带库)中,实现对数据的备份和恢复。
  • InfoStamper:即目录级快照,支持对文件系统内的任意目录创建快照(文件系统根目录除外),方便用户对重要数据进行备份。
  • InfoRevive:在视频监控场景中,在故障节点/硬盘超出冗余上限的情况下,可抢救读出一定比例已经损坏的视频文件数据,并且可对该文件继续进行写操作,增强系统业务的连续性、可用性和安全性。

四、简化管理

OceanStor 9000 V5支持可视化自动部署、灵活的空间配额、全面的性能监控、网络拓扑统一管理和统一的命名空间,管理维护高效集中,简洁易用。

  •  管理员通过访问DeviceManager,可以完成对硬件、软件、集群和业务的统一管理。
  •  OceanStor 9000 V5采用灵活的配额空间,在目录、用户、用户组的级别对存储进行精简资源调配。
  •  当存在多套OceanStor 9000 V5,比如在视频监控、远程复制等应用场景中,可通过eSight实现集中管理和维护。
  •  SystemReporter作为OceanStor 9000 V5的性能分析工具,采用数据采集、归档、分析、预测等方法,提供实时监控、历史趋势分析、对比分析、诊断分析和容量预测等功能,便于您合理利用资源。
  • 软件平台自动化部署和配置,支持“一键式”快速扩容。

 

*华为OceanStor 9000 V5产品物理特性描述