张乾 - 数据中心操作系统

典世韵

2018/05/13 发布于 技术 分类

张乾,目前就职于Mesosphere,担任Mesosphere中国区研发负责人。国内首位Apache Mesos committer,专注于各种容器相关的开源技术。

文字内容
1. GOPS 全 球 运 维 ⼤大 会 2 0 1 8 2018.4.13-4.14 中国·⼴广东·深圳·南⼭山区 圣淘沙⼤大酒店(翡翠店) G O P S 全 球 运 维 ⼤大 会 2 0 1 8 · 深 圳 站
2. 数据中⼼心操作系统DC/OS 张乾 Mesosphere资深软件⼯工程师 G O P S 全 球 运 维 ⼤大 会 2 0 1 8 · 深 圳 站
3. ⽬目录 1 DC/OS内核Mesos的基本介绍 2 Mesos对容器器的⽀支持和推动 3 微服务概述 4 DC/OS如何⾼高效部署和管理理微服务 G O P S 全 球 运 维 ⼤大 会 2 0 1 8 · 深 圳 站
4. Mesos概述 1. Apache基⾦金金会下顶级开源项⽬目 • 发起于加州⼤大学伯克利利分校的AMP实验室 • 将多台机器器的CPU、内存、磁盘以及各种计算资源抽象并管理理起来 • 把计算资源提供给上层计算框架来创建任意类型的任务 • Mesosphere是⽀支持并维护Mesos的商业公司 2. 主要功能 • ⽀支持Linux、macOS,即将⽀支持Windows • ⽀支持超过20000个计算节点的超⼤大规模集群 • ⽀支持Docker container • 多维资源调度,包括:CPU、内存、磁盘、⽹网络端⼝口等 • 提供Java、Python、C++和HTTP的编程接⼝口 • 提供基于Web的图形化界⾯面 G O P S 全 球 运 维 ⼤大 会 2 0 1 8 · 深 圳 站
5. Mesos在业界的应⽤用 近100家公司/组织正在使⽤用Mesos 超过20个计算框架运⾏行行在Mesos之上 1. Long Running Services Aurora, Marathon, Singularity, SSSP 2. Big Data Hadoop, Spark, Storm, Exelixi, Dpark 3. Batch job Chronos, Jenkins, JobServer 4. Data Storage Cassandra, ElasticSearch, Hypertable G O P S 全 球 运 维 ⼤大 会 2 0 1 8 · 深 圳 站
6. Mesos可运⾏行行在各种主流计算平台之上 G O P S 全 球 运 维 ⼤大 会 2 0 1 8 · 深 圳 站
7. Mesos架构 G O P S 全 球 运 维 ⼤大 会 2 0 1 8 · 深 圳 站
8. DEMO Launch Mesos Cluster G O P S 全 球 运 维 ⼤大 会 2 0 1 8 · 深 圳 站
9. ⽬目录 1 DC/OS内核Mesos的基本介绍 2 Mesos对容器器的⽀支持和推动 3 微服务概述 4 DC/OS如何⾼高效部署和管理理微服务 G O P S 全 球 运 维 ⼤大 会 2 0 1 8 · 深 圳 站
10. 什什么是容器器 1. 轻量量级 • 更更少的系统消耗 • 更更快的启动速度 2. ⾼高密度 • 单台服务器器可运⾏行行成百上千个容器器 3. 标准化 • 打包⼀一次,四处部署 4. 核⼼心技术 • Cgroups:资源限定 • Namespace:资源隔离 • Layer-basedFS:镜像⽂文件共享 5. 容器器的本质 • ⼀一个或⼀一组使⽤用了了cgroups做资源限定、使⽤用了了 namespace做资源隔离、且使⽤用了了镜像⽂文件做根⽂文 件系统的进程。 G O P S 全 球 运 维 ⼤大 会 2 0 1 8 · 深 圳 站
11. 容器器三⼤大标准规范 1. OCI(Open Container Initiative):专注于容器器镜像⽂文件 格式和容器器⽣生命周期管理理的规范,⽬目前已经发布了了1.0的版 本。
 2. CNI(Container Network Interface):专注于容器器⽹网络⽀支 持的规范,⽬目前已经发布了了0.6.0版本。
 3. CSI(Container Storage Interface):专注于容器器存储⽀支 持的规范,⽬目前还在草案阶段。 G O P S 全 球 运 维 ⼤大 会 2 0 1 8 · 深 圳 站
12. Mesos对容器器的⽀支持 1. 核⼼心组件:containerizer • 位于Mesos agent和container之间 • 创建、更更新、销毁容器器 • 上报容器器的状态信息和资源使⽤用统计信息 2. Docker containerizer • 调⽤用Docker命令⾏行行将创建容器器的请求交由 Docker来处理理 3. Mesos containerizer • 完全⾃自主实现的容器器引擎 • 全⾯面⽀支持三⼤大容器器标准规范 • 插件式的架构,易易于扩展和定制 • 极⾼高的稳定性,⻓长期在超⼤大规模的⽣生产环境 中使⽤用 G O P S 全 球 运 维 ⼤大 会 2 0 1 8 · 深 圳 站
13. DEMO Launch Container G O P S 全 球 运 维 ⼤大 会 2 0 1 8 · 深 圳 站
14. ⽬目录 1 DC/OS内核Mesos的基本介绍 2 Mesos对容器器的⽀支持和推动 3 微服务概述 4 DC/OS如何⾼高效部署和管理理微服务 G O P S 全 球 运 维 ⼤大 会 2 0 1 8 · 深 圳 站
15. 企业级软件系统的演进 G O P S 全 球 运 维 ⼤大 会 2 0 1 8 · 深 圳 站
16. 微服务 G O P S 全 球 运 维 ⼤大 会 2 0 1 8 · 深 圳 站
17. 微服务架构简介 ❖ 微服务架构的基本准则 • 把单个⼤大型软件系统分解为多个相互协作且可独⽴立部署的服务 • ⼀一般来说,服务之间通过REST协议进⾏行行交互 • 运⽤用CI/CD的⽅方式对单个服务进⾏行行快速⾼高效的开发 ❖ 微服务架构带来的优势 • 提升开发效率:多个团队可同时并⾏行行开发多个服务组件。 • 解除紧耦合:每个服务可以独⽴立上线部署和升级。 • 节省资源:仅对处于性能瓶颈的服务单独进⾏行行扩容。 G O P S 全 球 运 维 ⼤大 会 2 0 1 8 · 深 圳 站
18. 微服务架构带来的挑战 ❖ 各个微服务对资源的使⽤用要求可能都不不尽相同 • Spark在执⾏行行任务时需要尽可能多资源。 • Kafka消息队列列运⾏行行时所需的资源根据要传递的消息量量⽽而动态变化。 • Cassandra需要相对稳定数量量的资源来存储数据。 G O P S 全 球 运 维 ⼤大 会 2 0 1 8 · 深 圳 站
19. ⽬目录 1 DC/OS内核Mesos的基本介绍 2 Mesos对容器器的⽀支持和推动 3 微服务概述 4 DC/OS如何⾼高效部署和管理理微服务 G O P S 全 球 运 维 ⼤大 会 2 0 1 8 · 深 圳 站
20. Mesos的两层调度模型 G O P S 全 球 运 维 ⼤大 会 2 0 1 8 · 深 圳 站
21. DC/OS G O P S 全 球 运 维 ⼤大 会 2 0 1 8 · 深 圳 站
22. DC/OS G O P S 全 球 运 维 ⼤大 会 2 0 1 8 · 深 圳 站
23. DC/OS Dashboard G O P S 全 球 运 维 ⼤大 会 2 0 1 8 · 深 圳 站
24. DC/OS应⽤用市场 G O P S 全 球 运 维 ⼤大 会 2 0 1 8 · 深 圳 站
25. Thanks ⾼高效运维社区 开放运维联盟 荣誉出品 G O P S 全 球 运 维 ⼤大 会 2 0 1 8 · 深 圳 站
26. 想第⼀一时间看到⾼高效运维社区 的新动态吗? G O P S 全 球 运 维 ⼤大 会 2 0 1 8 · 深 圳 站