查看原文
其他

磁带将在 ZB 时代发挥关键作用

常华Andy Andy730 2024-03-16

Source: Tape Storage Council, Tape Storage Council Market Outlook 2022, May 2022



介绍


ZB时代正在如火如荼地发展,随着许多企业向百万兆级存储需求靠拢,产生了前所未有的容量需求。对IT服务日益增长的渴望将能源使用,碳排放以及存储行业对全球气候变化日益增长的影响推向了中心舞台。现代数据中心几乎没有人类活动,但消耗了全球至少1%的电力生产,并且只会随着新的应用而继续增长。仅比特币的计算密集型开采过程每年就使用约91兆兆瓦时的电力,超过芬兰这个拥有约550万人口的国家。全球数据中心对气候变化的影响已成为整个IT行业面临的核心挑战。展望未来,全球气候变化和碳排放将开始使Covid疫情黯然失色,环保导向的磁带日益增长的价值将变得更加引人注目。除了减少碳排放外,磁带在降低数据中心总体拥有成本和遏制存储增长方面也起着核心作用,同时提供额外的网络犯罪保护级别。随着 ZB 时代的腾飞,磁带有望在整个 IT 生态系统中发挥更广泛的作用。 



管理 ZB 时代的数据增长


数据的生成速度快于分析速度,从而大大延长了数据保留时间。由于存储的所有数据中有 60 - 80% 不经常访问并分类为归档或冷数据,因此,这种数据量很快就会变得非常昂贵,因此始终在线维护成本过高。随着存储需求的飙升,将冷数据从能源密集型 HDD 迁移到磁带的能源和经济价值变得显而易见。IDC的全球数据存储图表预计,到2025年将存储11.1ZB的数据,这表明2025年存储的所有数据中约有7.0 - 9.0ZB将被归类为归档或冷数据,并且最经济高效地存储在磁带上。许多大型组织的存储数据每两年翻一番。一个 ZB(ZB = 1x1018)将填充 5556 万个 LTO-9 (18 TB) 磁带盒或 18 TB HDD,或 1.25 亿年的一小时电视节目。 



LTO 磁带支持 ZB 时代的增长,2021 年容量出货量创历史新高


LTO计划技术提供商公司(TPC, Technology Provider Company),HPE,IBM和昆腾发布了他们的年度磁带介质出货报告,详细说明了截至2021年第四季度的同比增长出货量。该报告显示,2021 年磁带总容量(压缩)的 148 EB,标志着 LTO 计划创纪录的一年。以40%的增长率增长,这种强劲的出货表现在2019年破纪录的114 EB运力和2020年疫情影响的105 EB运力之后继续保持。组织继续投资LTO磁带技术,这要归功于其高容量,可靠性,低成本,低功耗和强大的数据保护功能,特别是在网络安全威胁飙升的情况下。 



LTO-9 和更高性能特性问世


磁带技术的亮点包括更高容量的 LTO-9 磁带驱动器的可用性、访问时间和数据速率的改进、对 S3 磁带作为对象存储目标的广泛支持,以及与其他存储解决方案相比更高的能效优势。LTO-9 的可用性为经济高效、可扩展、安全的存储提供了显著的推动力,以满足许多快速发展的 21 世纪存储密集型应用的需求。LTO-9 将 LTO-8 的本机磁带盒容量提高 50% 至 18 TB(压缩后为 45 TB),并将驱动器吞吐量 (11%) 提高到 400 MB/秒,使单个 LTO-9 驱动器的写入速度高达 1.44 TB/小时。LTO-9 的新功能 oRAO(开放推荐访问顺序)将初始文件访问时间减少到数据的第一个字节。还开发了新的R/W头和伺服技术,可以记录更窄的数据轨迹并进一步提高磁带盒容量。原生的18 TB LTO-9 单盒磁带可以容纳来自哈勃太空望远镜的约21个月的数据,9000小时的电影或6480000首歌曲。目前的LTO路线图具有相当大的空间,并预计LTO-12的本机盒容量高达144 TB。容量增加对于企业、云、HPC 和超大规模数据中心的增长是受欢迎的,因为归档数据的堆积速度继续快于分析的速度。 


可持续性 — 磁带应纳入每个绿色数据中心战略


随着世界面临日益严重的气候危机,许多数据中心已经制定了积极的可持续发展目标,以减少能源消耗和二氧化碳排放。服务器和HDD是数据中心能源的两个最大消费者。在主要数据中心,从2017年到2020年,能耗增加了31%,到2025年,存储的数据量预计将以每年27%的速度增长。IDC 估计,在全球范围内,到 2030 年,将更多的归档和冷数据从 HDD 迁移到磁带可以减少 43.7%(6.64 亿吨)的 CO2 排放量。 



使用磁带减少 TCO、能源和碳排放


碳减排 – Brad John's Consulting发布的一篇研究论文,专注于整个产品生命周期,题为“通过现代磁带存储提高信息技术的可持续性”。此报告将“所有数据 ON HDD”解决方案与“全磁带”解决方案以及将 60% 的 HDD 驻留数据移动到磁带的活动归档进行了比较。碳排放量减少了57%,电子废物减少了48%。此外,如果所有数据都是归档/冷的,并传输到磁带,则碳排放量将减少 95%,总体拥有成本将降低 73%。磁带提供了可观的可持续性和成本优势,同时解决了数据中心对气候变化日益增长的影响。LTO.org 提供了一个易于使用的TCO计算器,以提供定制的数据存储成本曲线。 



磁带强化勒索病毒和网络犯罪防御


勒索病毒已成为每个人的噩梦,没有计算机系统可以免受网络犯罪的影响。每 39 秒就有一次新的 Web 攻击,或者每天大约有 2244 次攻击在互联网上。2020年,平均数据泄露成本为386万美元;然而,有史以来最高的勒索病毒需求增长到7000万美元。


Quest Strategic Systems报告称,勒索病毒攻击造成的平均停机时间为21天。截至2021年9月30日的数据泄露数量已超过2020年全年事件总数17%(2021年为1291起违规行为,而2020年为1108起)。勒索病毒预计到2021年底将使全球组织损失高达200亿美元,到2031年将超过2650亿美元。


磁带固有的Air-Gap提供了更高级别的网络犯罪防御。“磁带Air-Gap”意味着与存储在可移动磁带盒上的数据没有电子连接,从而防止了对磁带数据的直接恶意软件攻击(黑客攻击)。连接和在线 7x24x365 的 HDD 和 SSD 系统始终容易受到网络犯罪攻击,使磁带成为唯一可行的数据中心Air-Gap存储解决方案。备份是原始的数据保护策略,但拥有一个备份副本已不再足够。流行的 3-2-1-1 数据保护策略指出,企业应该在两种不同的介质类型上拥有三个备份数据拷贝,一个异地拷贝和一个Air-Gap拷贝。通过将Air-Gap拷贝与加密和 WORM 相结合,磁带在构建和加强任何数据中心网络弹性战略方面发挥着不可或缺的作用。 


3–2–1–1 数据保护策略

3

2

1

1

数据副本

不同类型的媒体

异地复制

Air-Gap拷贝

  • 主拷贝

  • 备份副本

  • 第二个备份副本

  • (固态硬盘、硬盘、磁带)

  • 云、远程保险库

    (固态硬盘、硬盘、磁带)

  • (磁带)


oRAO 和 TAOS 等性能功能可以缩短从磁带访问和恢复备份和归档数据所需的时间,从而缩短网络弹性响应时间。现代磁带以优惠的价格为备份和归档数据提供了不可变的大规模Air-Gap,并且应该成为任何数据保护策略的一个组成部分,无论是在本地、云中还是混合环境中。 


一些磁带库供应商通过提供具有受管分区的库,将Air-Gap保护提升到一个新的水平,这些分区由外部应用程序不可见的专用插槽组成。这些隔离分区不包含驱动器,从而在库中创建安全的存储位置,从而提供额外的访问障碍。它们仅由磁带库管理员配置,他们可以创建、修改、删除或重新配置分区以满足所需的任何大小。


由于分区磁带保留在库中,因此避免了介质处理。分区只能由库管理员访问,任何应用程序都不会意外访问分区。


超越LTO路线图


磁带行业继续将数据速率、可靠性和介质寿命推向超过磁盘驱动器的创纪录水平。2020年12月,IBM和富士胶片在线性磁带上展示了创纪录的317 gb/in2的面密度,这将使用一种称为锶铁氧体(SrFe)的新磁性颗粒产生580 TB的本机盒容量。SrFe 改善了超越钡铁氧体 (BaFe) 的磁性特性,并提供更好的信号强度。与BaFe一样,SrFe是一种化学稳定的氧化物,表明它将在长期数据保存方面表现良好。实验室演示表明,在未来十年或更长时间里,磁带技术限制相对较少,并且可能为到 2025 年建立一个新的、非常低成本的深度归档存储层指明道路。 


是否会出现新的存储层?


世界上大多数数字数据存储在 SSD、HDD 和磁带介质上。随着2025年的临近,新的深度归档(非常冷)辅助存储层的出现势头正在形成。深度归档必须易于扩展,并且需要最少的重新制作(较长的介质生命周期),并且可能是“黄金拷贝”的家园,这是最关键数据的不可变主拷贝。重新制作是一个劳动密集型过程,通常每约 5 - 10 年将数据迁移到新介质,具体取决于技术。几个小时甚至几天的访问时间是可以接受的。最佳设计将具有强大的路线图,最小的环境/碳足迹,并且价格低于所有其他竞争产品。深度归档将与传统的归档数据不同,因为它理论上将包含分类为WORSE(Write-Once-Read- Seldom-if-Ever)或WORN(Write-Once-Read-Never)的数据。 


现代磁带路线图具有相对较少的面密度限制,并且是目前解决新存储层问题的最佳技术。其他技术正专注于深度归档层,并且仍处于不同的开发阶段,包括DNA,这需要编码和解码二进制数据的过程, 以及从合成的DNA链中。虽然与磁存储相比,合成的成本、访问时间和可靠性存在风险,并且仍然未知。 


磁带将扮演更广泛的角色 — 解决迫在眉睫的存储优化挑战


有效地解决“在正确的位置、以正确的时间、以正确的成本获得正确的数据”这一存储优化难题,为存储经理带来了最大的回报。为了应对这一挑战,必须利用 SSD、HDD、磁带和云的分层存储的优势。随着大多数数据老化,访问频率会迅速下降,数据通常会在 90 - 120 天内达到归档状态,最终成为冷数据。然而,在达到归档状态后很长一段时间内,许多归档数据仍会继续存在于HDD上,这对于冷数据来说是一个昂贵的住所。幸运的是,现代磁带技术缩短了存取时间,提高了数据速率,降低了总体拥有成本和能耗,因此最适合处理不断增长的冷数据量。智能数据管理软件和活动归档是使优化和可扩展的存储基础架构成为现实的关键要素。 


活动归档 — 在适当的位置、在适当的时间以适当的成本获得适当的数据


存储优化从活动归档中获得巨大提升,该归档为归档存储系统提供动态优化和快速数据访问。活动归档在文件系统后面集成了两种或多种存储技术(SSD、HDD、磁带和云存储),从而提供了一种无缝的方式来管理单个虚拟化存储池中的归档数据。SSD 或 HDD 用作存储在磁带上的归档数据的缓存缓冲区,从而更快地访问第一个字节的数据、更高的 IOP,以及随机访问以进行更活跃的归档。许多数据管理产品现在都支持使用 S3 服务将磁带作为对象存储目标。将开放磁带文件系统 LTFS 与磁带分区、数据移动器软件 (HSM 等) 以及磁带库前面的 SSD、HDD 阵列或 NAS 相结合,可创建活动归档。LTFS 目前有 36 个实施者,预计未来将有越来越多的 ISV(独立软件供应商)利用 LTFS。活动归档概念由活动归档联盟提供支持。请参阅下图中的活动归档概念视图。 




数据密集型应用程序和工作流推动了新的磁带增长


到 2021 年,随着存取时间的缩短、总体拥有成本优势和对环境影响的显著减少,磁带有效解决的垂直市场和更复杂的使用案例的数量继续增加,从而提供了高效、安全的存储基础架构。磁带使用案例已经从较小的文件转向更大的线性数据流,这些数据流需要在整个数据生命周期中提供智能数据管理服务。下面列出的用例在ZB时代蓬勃发展,产生了大量高价值和非结构化数据,其中大部分数据存储为归档,等待将来参考。鉴于这种工作流模式,其中许多应用程序可以立即从利用高容量、低成本磁带系统的活动归档实施中受益。 


大数据

到2027年底,全球大数据市场规模预计将达到1160亿美元。人工智能和机器学习分析的日益整合将会出现,以加速市场增长。2019年市场规模为413亿3,000万美元,预计在2020年~2027年的预测期间内,以14.0%的年复合成长率 (CAGR) 成长。大数据分析可激活冷归档,并可以从活动归档中实现显著优势。 


云存储服务

全球云存储市场规模,2019年达461亿2,000万美元,预计2027年达2,222亿5,000万美元,2020年~2027年以21.9%的年复合成长率成长。预计增长将从向混合云和数据湖作为主要部署模式的重大转变中上升。各行各业的云采用率增加,对云存储的安全问题,高昂的出口费用以及中小型企业的云采用率都是影响全球云存储市场增长的重要因素。据估计,目前有82%的企业使用混合(本地和公共)云。 


高性能计算

高性能计算通常使用活动归档为计算密集型应用程序提供分析、模式识别和模拟,以预测结果。尽管疫情造成了动荡和影响,但广泛的HPC市场在2020年结束时的收入为389亿美元,仅比2019年下降了0.2%。HPC正在恢复增长,预计到2025年将达到600亿美元。 


物联网

预计到2021年,物联网连接设备总数将达到100.7亿台,到2030年底将达到254.4亿台。2020年,支出接近7610亿美元大关,现在被视为数字化转型的主要驱动力。物联网、移动应用程序、自动驾驶汽车、视频、激光雷达、雷达、无人机和传感器的生成速度将比分析速度快得多,从而留下大量归档数据,理想地存储在磁带上以供将来分析。物联网市场预计将达到1.3万亿美元,这将产生无数新的存储和数据安全要求。 


医疗保健和生命科学

生命科学分析市场规模在2020年达到77亿美元,预计到2028年将达到141亿美元,复合年增长率为7.8%。越来越多地使用大数据分析和预测分析来识别未来趋势和成果是增长的关键。医疗记录、图像(X射线、MRI、CT)、基因组序列、药物开发和批准、远程医疗和Covid疫苗研究正在推动新的用例。使用 LTFS 的 LTO 允许临床医生和管理员快速检索和共享 EMR、PACS、DICOM 和医疗数据,这些数据通常在数据湖中驻留多年,然后再进行参考。 


媒体与娱乐

媒体和娱乐行业是一个主要的磁带市场,在整个2020年都受到了影响,由于Covid-19疫情,许多现场活动被取消。对于电影制作,通常具有严重依赖安全磁带来保护和永久归档原始制作素材的工作流程。全球媒体、娱乐储存市场规模在2019年达到66亿美元,预计到2027年将达到179亿美元,复合年增长率为13.7%。预计到2024年,M&E数字归档,内容转换和保存的存储容量将超过174 EB。 


安全与监控

视频监控现在是最大的视频市场,而且已经变得无处不在。摄像机和监控系统在所有垂直领域的激增为视频监控存储市场带来了显著和可持续的增长。更多的摄像机数量、更高的分辨率、AI 和基于元数据的分析正在给安全基础设施带来压力,推动了对更大规模、更高性能和最新存储技术的需求。原始摄像机镜头通常在 7 天后归档,监控保留期正在迅速增加。据估计,到2023年,在剪切和编辑之前产生的全球日均监测数据将达到3.5EB。全球影像监控市场,预计从2020年的75亿美元,到2025年达到102亿美元,以6.1%的年复合成长率成长。 


体育档案和分析

仅MLB网络就归档了超过120万小时的视频内容,这些内容被索引并以无限的保留期存储,并通过代理视频提供给制作团队。一场四小时的 MLB 比赛通常消耗 1.43 GB 到 5.45 GB,具体取决于分辨率。除了永久存储和归档大多数体育赛事广播外,全球体育分析市场规模预计将从2019年的19亿美元增长到2024年的52亿美元,复合年增长率为22.0%。体育市场的主要增长动力来自专业和大学球队,他们正在增加对数据驱动决策的投资,以提高球员和球队的表现。 



磁带性能改善了访问时间和吞吐量


HDD 和 SSD 对数据的第一个字节的访问速度更快。对于大型文件,磁带系统对数据的最后一个字节的访问速度更快。oRAO(建议打开访问顺序)是 LTO-9 提供的一项新功能,它可减少初始文件访问时间,作为数据检索加速器,使应用程序能够通过优化文件之间的物理寻道时间从磁带检索非连续文件。oRAO 可以通过在磁带盒上创建最佳顺序的文件列表,将初始 LTO-9 文件访问时间缩短 70% 以上,同时显著减少物理磁带移动和驱动器磨损。LTO-9 将硬盘数据速率提高到 400 MB/秒,使其成为数据流和大型文件传输的理想选择。 


磁带性能改进摘要

访问时间改进(到第一个字节的时间)

活动归档

活动归档 通过将高容量 HDD 或 SSD 用作缓存缓冲区与磁带库结合使用,大大缩短了对文件和对象磁带数据的访问时间。

oRAO

oRAO(开放推荐访问顺序)是 LTO-9 的新增功能,它生成了一个名为最佳访问顺序的优化列表,使应用程序能够通过最大限度地减少文件之间的物理寻道时间,从磁带中检索非连续文件。

TAOS

TAOS(基于时间的访问排序系统)检索 LTO 文件的顺序可以使用磁带上的快捷方式重新排序,以实现最佳访问,从而减少检索文件所需的磁带移动时间。

LTFS

LTFS 提供对文件的直接访问,而无需编写数据的应用程序。

更快的库

机器人

更快、更智能的机器人可优化机器人运动,减少磁带盒安装和访问时间,同时提高可靠性。

最快的数据速率

LTO-9 和  TS1160 企业级硬盘的数据传输速率均为 400 MB/秒。相比之下,7,200 RPM 硬盘的速度在 160 260 MB/秒之间。

RAIT

RAIT (独立磁带冗余阵列)跨多个磁带驱动器并行条带化数据,显著提高了吞吐量,并为数据重建提供了奇偶校验,就像 RAID 对 HDD 所做的那样。

RAIL

RAIL(独立库冗余阵列)跨磁带盒将数据条带化,但位于不同地理位置的不同库中。


磁带价值主张


磁带行业的现状凸显了对智能库、新驱动器、高级媒体和智能数据管理软件的持续开发和投资。下面的磁带价值主张非常引人注目,它满足了对任何可用存储中更高的可靠性、更高的容量、更好的电源效率、易用性以及最低的每 TB 和 TCO 的不懈需求。


磁带性能改进摘要

功能

磁带行业的现状

价格/总拥有成本/二氧化碳

磁带具有最低的购买价格/TB、最低的总体拥有成本和最低的碳足迹。

性能

大大改进 主动归档、最快的数据速率、RAIT、更智能、更快速的机器人技术、到1st Byte 的时间功能(oRAO、TAOS)可以将磁带访问时间缩短多达 70%。 

能力

LTO-9 磁带盒容量 @ 18TB(45TB 压缩),数据速率为  400MB/秒。EB 容量库可用。实验室演示演示演示了磁带容量可以达到  580TB。

开放标准

LTO 磁带机和 LTFS 提供开放的标准接口和访问。

可伸缩性

磁带通过添加介质来扩展容量,同时增加能耗。HDD 通过添加驱动器来增加容量,同时增加能耗。

能源/二氧化碳

与HDD相比,磁带使用更少的能源,碳足迹也低得多(约85%)。在实现企业可持续发展目标方面发挥关键作用。

可移植性

磁带介质易于携带,硬盘难以移动,以防数据中心中断。 

数据完整性

磁带使用边读边写过程,在数据写入磁带时检查数据。HDD 提供完全验证,基本上导致数据速率降低 50%。

网络安全

磁带Air-Gap、加密和 WORM 提供了针对网络犯罪和恶意软件的防御。

耐用性和可靠性

LTO 可靠性 (BER 1X1019) 已超过 HDD (1X1016),介质寿命>现代磁带的 30 年。

录制限制

HDD 面临面密度和性能限制。已定义且可持续的磁带路线图。 

云存储

磁带可提高云的可靠性和安全性,降低存储成本并实现无限的容量扩展。



结论


随着 ZB 时代的加速,预计碳排放和气候变化问题将变得更加重要。幸运的是,磁带生态系统近年来已显著扩展其作用,从最初作为备份目标的功能发展到关键的存储优化解决方案,为改善 IT 运营的碳排放做出了重大贡献。虽然磁带的可持续性优势是巨大的,但将冷数据从 HDD 移动到磁带所节省的 TCO 也相当令人印象深刻。磁带已成为领先的纯存储解决方案,通过无缝集成Air-Gap、加密和 WORM 功能来防御网络犯罪。新的容量、性能和吞吐量进步使磁带能够满足许多存储密集型垂直市场的需求,这些市场以前锚定在昂贵的 HDD 领域。随着这些进步的到位,现代磁带技术提供了当今最可靠、最节能、最经济高效的存储解决方案,并且具有最大的潜力来满足 ZB 时代的巨大容量需求。路线图表明,这种稳定的磁带创新趋势将在 2022 年持续下去,并持续到未来。

继续滑动看下一个
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存