博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
大规模集群中Docker镜像如何分发管理?试试Uber刚开源的Kraken
阅读量:5973 次
发布时间:2019-06-19

本文共 1016 字,大约阅读时间需要 3 分钟。

Docker注册表的主要目的是存储和分发Docker镜像,看似是一个相对简单的任务,但是如果遇到了像Uber这样的大规模计算集群,就很容易成为可伸缩性的瓶颈。在多区域和混合云系统的计算环境中,镜像分发会变得更具挑战性。

为了解决遗留Docker注册表堆栈的性能问题,Uber的集群管理团队开发了一个开源对等(P2P)Docker注册表kraken。

Docker容器是Uber基础设施的基础构建块,但是随着计算集群数量和大小的增加,一个简单的带有sharding和缓存的Docker注册表设置无法跟上高效分发Docker映像所需的吞吐量。

Kraken重点关注在可扩展性和可用性方面,用于混合云环境中的Docker镜像管理、复制和分发。支持可插拔的后端,Kraken可以作为分发层插入到现有的Docker注册表设置中。

\"\"

图1 Docker图像层分布在Kraken集群中的可视化

架构

在Kraken研发时,Uber探索了多种设计,最终选择了p2p架构。Kraken使用针对数据中心网络环境定制的P2P协议,并在企业级改进了微服务生命周期管理。

\"image\"

代替管理数据块,Kraken支持可插入存储选项,可以插入可靠的blob存储选项,如S3、HDFS或其他注册表,且存储接口简单,易于添加新选项。

另外,Kraken在现有的成熟技术上建立了独特的数据分发解决方案,支持自我修复,易于维护,支持集群之间的无损和基于规则的异步复制。

大规模的性能改进

2018年年初,Kraken首次部署在了Uber中,其在遗留Docker注册表堆栈中遇到的性能问题迎刃而解。

据悉,在Uber最繁忙的时候,Kraken集群每天分发超过100万个blob,其中有10万个分发的blob大小超过1GB或更多。在生产高峰期,Kraken可以在30秒内分发20000个100MB到1GB的blob。

Kraken的高可扩展性使其能够支持至少8000台主机的集群,并以超过集群中主机最大下载速度限制50%的速度分发Docker镜像。另外,对Kraken来说,集群和镜像大小对下载速度没有显著影响。

自内部发布以来,Kraken一直被用于管理和分发Uber的所有Docker镜像。这次将该工具开源出来,Uber表示希望能够激发有关工程和设计最佳实践的讨论,以便与Docker一起构建一个适应性强且可靠的基础设施。

Kraken的GitHub地址:

Uber博客的原文链接:

转载地址:http://gbdox.baihongyu.com/

你可能感兴趣的文章
我的友情链接
查看>>
Centos 7.2 failed to load SELinux policy freezing
查看>>
tracert和traceroute的异同
查看>>
LINUX下多路径(multi-path)介绍及使用
查看>>
通过keepalived实现LVS的高可用
查看>>
数据加密openssl&openssh
查看>>
Hadoop学习笔记-入门
查看>>
命令模式
查看>>
HTTP和HTTPS的区别
查看>>
linux学习一天一个命令(14)[tail命令]
查看>>
Linux系统安装ORACLE
查看>>
Error code signing
查看>>
This用法和闭包
查看>>
JSP页面获取系统时间
查看>>
L-1-19 Linux之RAID&分区&文件系统命令
查看>>
stat查找权限以数字形式显示
查看>>
Java面向对象学习笔记(二)
查看>>
源码编译安装httpd2.4.9
查看>>
linux系统优化
查看>>
在使用 Windows Update 检查更新时,系统没有提供下载 Windows 7 SP1 的选项
查看>>