查看原文
其他

Nydus 镜像加速插件迁入 Containerd 旗下

葛长伟 金融级分布式架构 2022-05-17



文|葛长伟(花名:川朗 )

蚂蚁集团技术专家
负责容器镜像加速项目 Nydus 的开发和维护专注于容器镜像存储、持久存储和文件系统领域

本文 1597 字 阅读 4 分钟


前言

Nydus


今年 1 月 ,Containerd 社区通过投票接收 Nydus-Snapshotter 成为 Containerd 社区的子项目。这是继 ttrpc-rust 之后,蚂蚁容器团队再次向 Containerd 捐赠子项目。


此举将方便 Nydus 和 Containerd 的开发协同,减少项目迭代过程中可能出现的不兼容问题,也让用户可以更容易地使用 Nydus 镜像加速服务。


目前 Nydus 已经将 Nydus-Snapshotter 的代码迁移到了 Containerd 组织下的新仓库[1]


Nydus 简介

Nydus


Nydus 是蚂蚁集团和阿里云共同开源的容器镜像加速项目,属于 CNCF Dragonfly 项目,是其中的镜像服务部分。


Nydus 是在最新的 OCI Image-Spec 基础之上设计的容器镜像加速服务,重新设计了镜像格式和底层文件系统,从而加速容器启动速度,提高大规模集群中的容器启动成功率。


Nydus 设计了一个为镜像优化的文件系统—Rafs


Nydus 镜像可以推送和保存在标准的容器镜像中心,Nydus 镜像格式完全兼容 OCI Image Spec 和 Distribution Spec。成功转换或者创建镜像后,Nydus 镜像会生成一个元数据文件 Bootstrap、若干个数据文件 blob、manifest.json、config.json。


目前可以通过 NydusifyAcceld 或者 Buildkit 创建 Nydus 加速镜像。


其中,Acceld[2] 是 Nydus 和 eStargz 的开发者正在合作开发的 Harbor 开源企业级镜像中心的一个子项目,它提供了一个通用的加速镜像转换服务和框架。基于 Acceld,Nydus 和 eStargz 可以方便地从 Harbor 触发加速镜像转换。


与此同时,Nydus 也在开发 Buildkit 相关的支持,在未来也可以直接通过 Buildkit 从 Dockerfile 直接创建加速镜像。


Nydus-Snapshotter 是 Containerd 的 Remote Snapshotter 插件,它是一个独立于 Containerd 的进程。


当集成 Nydus-Snapshotter 到 Containerd 后,Nydus-Napshotter 在容器镜像准备阶段,只会将 Nydus 镜像的元数据部分 Bootstrap 从镜像中心下载下来,并且创建了一个新的进程 Nydusd。Nydusd 是处理文件系统操作的用户态进程。通过配置,Nydusd 可以作为基于 Linux FUSE 的用户态文件系统 virtio-fs vhost-user backend,甚至可以是 Linux Fscache 的用户态进程


Nydusd 负责从镜像中心或者对象存储下载文件数据以响应读文件的请求,并可以将文件数据块缓存在 Host 的本地文件系统。



Nydus 特性

Nydus


Nydus 有如下重要的特性:


1、镜像层间块级数据去重,可以减少镜像中心的存储成本,降低数据传输的带宽消耗。

2、Whiteout 文件不会再被打包进 Nydus 镜像。

3、端到端的数据完整性校验。

4、作为 CNCF 孵化项目 Dragonfly 的子项目,Nydus 可以接入 P2P 分发系统,以此降低对镜像中心的压力。

5、支持数据和元数据分离存储。可以将数据保存在 NAS、阿里云 OSS 或者 AWS S3。

6、支持文件访问行为记录,这样就可以审计和分析容器内应用的访问行为。增强安全能力、优化镜像数据排布。


除了以上的关键特性,Nydus 可以灵活地配置成 Linux FUSE 用户态文件系统、基于轻量虚拟化技术容器的 Virtio-fs daemon,或者 Linux 内核磁盘文件系统 EROFS 的用户态 on-demand 数据下载服务:


1、轻量化地集成到 vm-based 容器运行时。现在 KataContainers 正在考虑原生地支持 Nydus 作为容器镜像加速方案。

2、Nydus 和 EROFS 紧密合作,期望可以直接使用 EROFS 作为容器镜像的文件系统。相关修改的第一部分已经合并入 Linux Kernel v5.16。


Nydus 部署形态

Nydus


支持 Runc 时,Nydus 作为 FUSE 用户态文件系统进程:



支持 KataContainers 时,Nydus 作为 Virtio-fs daemon:



目前 EROFS 正在尝试联合 Fscache 一起,以内核文件系统 EROFS 直接作为容器 Rootfs:



Nydus 将与 Containerd 社区紧密合作,致力于提供更优秀的容器镜像加速方案,提高镜像的存储和分发效率,提供安全可靠的容器镜像服务。



「参 考」


[1] nydus-snapshotter repository: https://github.com/containerd/nydus-snapshotter.

[2] acceld repository: https://github.com/goharbor/acceleration-service


求贤若渴:


关于蚂蚁集团可信原生技术部安全容器和存储团队。在蚂蚁集团内部主要负责公司内部容器运行时和云原生存储技术,是公司数据链路的守护者,运行时环境的看门人。我们团队也是 Kata Containers 的创立者,镜像加速服务 Nydus 的发起者,分布式事务服务 Seata 的维护者,也维护着公司内数据访问组件 ZDal/ZCache/XTS 等产品。


我们是开源精神的信徒,也是实现开源软件和公司业务双赢的践行者。我们是一个关注业务、关注业界前沿、关注基础设施技术,更关心成员成长的团队。目前我们正在招收 2023 届实习生,有兴趣的可以参考蚂蚁集团2023届实习生招聘


联系邮箱liyuming.lym@antgroup.com



   本周推荐阅读  


恭喜 李志强 成为 Layotto committer!


社区文章|MOSN 路由框架详解


HAVE FUN | SOFARegistry 源码解析





BabaSSL:支持半同态加密算法 EC-ElGamal



您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存