Volcano架构解读：基于Kubernetes的云原生批量计算平台

Volcano是一个基于Kubernetes的云原生批量计算平台，也是CNCF的首个批量计算项目。

Volcano 主要用于AI、大数据、基因、渲染等诸多高性能计算场景，对主流通用计算框架均有很好的支持。它提供高性能计算任务调度，异构设备管理，任务运行时管理等能力。本篇文章将从Volcano架构、Volcano核心概念及功能、Volcano Code Tour、平台组件安装部署等方面来带大家认识Volcano。

一、Volcano架构

1、Volcano全景

Volcano是基于Kubernetes的高性能批量计算平台，目前支持几乎所有的主流计算框架，包括MindSpore、TensorFlow、Kubeflow、MPI、PyTorch、飞浆、Spark、HOROVOD 等。

Volcano支持的部分计算框架

计算框架遇到的问题：

1）1:1的operator部署运维复杂

2）不同框架对作业管理、并行计算等要求不同

3）计算密集高，资源需求波动大，需要高级调度能力

Volcano面向主流计算框架提供：

1）统一容器基础设施，提高资源利用率

2）通用作业管理、队列Fair-share, Gang, bin-pack等高级调度算法

3）简化运维管理

2、Volcano整体架构

Volcano利用声明式的CRD定义我们的API，主要有3个核心的API，Volcano Job、PodGroup、Queue。

Volcano Job 是对高性能任务的通用定义，PodGroup提供了Job中Task的管理能力，Queue 为任务的分类提供了基础。

Volcano的架构

Volcano 核心组件主要包含三个：Admission、ControllerManager、Scheduler 。Admission对Volcano CRD API提供校验能力；ControllerManager负责对Volcano CRD进行资源管理;Scheduler对任务提供丰富的调度能力。

3、Volcano工作流程

从零开始运行Volcano作业：

1）用户创建一个 Volcano 作业

2）Volcano Admission 拦截作业的创建请求，并进行合法性校验

3）Kubernetes 持久化存储 Volcano Job 到 ETCD

4）ControllerManager 通过 List-Watch 机制观察到Job 资源的创建，创建任务（Pod）

5）Scheduler 负责任务的调度，绑定 Node

6）Kubelet Watch 到 Pod的创建，接管 Pod 的运行

7）ControllerManager 监控所有任务的运行状态，保证所有的任务在期望的状态下运行

二、Volcano核心概念及功能

1、Volcano核心概念

1）Queue：Queue的概念源于 Yarn，它是Cluster 级别的资源对象，可为其声明资源配额，也可由多namespace 共享，并且提供 soft isolation

2）PodGroup：PodGroup是任务的分组，它与 queue 绑定，占用队列的资源。它与 Volcano Job 是一对一的关系；也可为其声明 Scheduling 条件

3）Volcano Job：它是批量计算作业的定义，支持定义作业所属队列、生命周期策略、所包含的任务模板以及持久卷等信息

2、作业管理插件

svc：提供不同类型任务之间互访能力

env：任务索引，例如 Tensorflow Worker index

ssh：ssh 秘钥对创建及挂载，主要供 MPI 作业使用

3、Scheduler架构

Scheduler支持动态配置和加载。

4、核心调度算法

1）Gang Scheduling

2）Fair Share

3）Preempt & Reclaim

4）Reserve & Backfill

5）Topology Aware Scheduling

6）GPU Sharing

三、Volcano Code Tour

cmd目录是Volcano所有组件启动的入口；config 是Volcano的配置；defs 是安装时的配置；docs 是Volcano的设计文档；example 提供了简单的例子，hack 提供安装时的脚本；installer 提供安装的模板。

pkg 是最重要的目录，里面包含了 api、controller、scheduler 、webhook 等代码。test 提供了e2e测试用例, vendor是依赖库。

四、安装部署

1、Volcano Install

Volcano安装部署有多种方式：若已存在K8S集群，建议通过 Helm方式安装部署，该方式支持自定义安装配置；开发者建议通过Development Yaml方式部署。

对于开发者，Volcano已内置一键式安装部署脚本，路径为 volcano. sh/volcano/hack/local-up-volcano. sh。运行该脚本时，默认会使用kind创建 Docker in Docker的模拟集群，并安装部署Volcano。

2、Volcano 组件

正确安装部署后，将生成4个组件，分别为：Volcano-admission、Volcano-admission-init、Volcano-controllers、 Volcano-scheduler ,其中admission-init以作业的方式生成证书。

Kubernetes 云原生

OWASP Top 10 Threats and Mitigations Exam - Single Select

Last updated 4 Aug 11 Course Title: OWASP Top 10 Threats and Mitigation Exam Questions - Single Select 1) Which of the following consequences is most likely to occur due to an injection attack? Spoofing Cross-site request forgery Denial of service Correct Insecure direct object references 2) Your application is created using a language that does not support a clear distinction between code and data. Which vulnerability is most likely to occur in your application? Injection Correct Insecure direct object references Failure to restrict URL access Insufficient transport layer protection 3) Which of the following scenarios is most likely to cause an injection attack? Unvalidated input is embedded in an instruction stream. Correct Unvalidated input can be distinguished from valid instructions. A Web application does not validate a client’s access to a resource. A Web action performs an operation on behalf of the user without checking a shared sec

CKA Simulator Kubernetes 1.22

https://killer.sh Pre Setup Once you've gained access to your terminal it might be wise to spend ~1 minute to setup your environment. You could set these: alias k = kubectl # will already be pre-configured export do = "--dry-run=client -o yaml" # k get pod x $do export now = "--force --grace-period 0" # k delete pod x $now Vim To make vim use 2 spaces for a tab edit ~/.vimrc to contain: set tabstop=2 set expandtab set shiftwidth=2 More setup suggestions are in the tips section . Question 1 | Contexts Task weight: 1% You have access to multiple clusters from your main terminal through kubectl contexts. Write all those context names into /opt/course/1/contexts . Next write a command to display the current context into /opt/course/1/context_default_kubectl.sh , the command should use kubectl . Finally write a second command doing the same thing into /opt/course/1/context_default_no_kubectl.sh , but without the use of k

标题: 关于Daniel Guo 律师

发信人: q123452017 (水天一色), 信区: I140 标题: 关于Daniel Guo 律师关键字: Daniel Guo 发信站: BBS 未名空间站 (Thu Apr 26 02:11:35 2018, 美东) 这些是lz根据亲身经历在 Immigration版上发的帖以及一些关于Daniel Guo 律师的回帖，希望大家不要被一些马甲帖广告帖所骗，慎重考虑选择律师。 WG 和Guo两家律师对比 1. fully refund的合约上的区别 wegreened家是case不过只要第二次没有file就可以fully refund。郭家是要两次case 没过才给refund，而且只要第二次pl draft好律师就可以不退任何律师费。 2. 回信速度 wegreened家一般24小时内回信。郭律师是在可以快速回复的时候才回复很快，对于需要时间回复或者是不愿意给出确切答复的时候就回复的比较慢。比如：lz问过郭律师他们律所在nsc区域最近eb1a的通过率，大家也知道nsc现在杀手如云，但是郭律师过了两天只回复说让秘书update最近的case然后去网页上查，但是上面并没有写明tsc还是nsc。 lz还问过郭律师关于准备ps （他要求的文件）的一些问题，模版上有的东西不是很清楚，但是他一般就是把模版上的东西再copy一遍发过来。 3. 材料区别（推荐信）因为我只收到郭律师写的推荐信，所以可以比下两家推荐信 wegreened家推荐信写的比较长，而且每封推荐信会用不同的语气和风格，会包含lz写的research summary里面的某个方面郭家四封推荐信都是一个格式，一种语气，连地址，信的称呼都是一样的，怎么看四封推荐信都是同一个人写出来的。套路基本都是第一段目的，第二段介绍推荐人，第三段某篇或几篇文章的abstract，最后结论 4. 前期材料准备 wegreened家要按照他们的模版准备一个十几页的research summary。郭律师在签约之前说的是只需要准备五页左右的summary，但是在lz签完约收到推荐信，郭律师又发来一个很长的ps要lz自己填，而且和pl的格式基本差不多。总结下来，申请自己上心最重要。但是如果选律师，lz更倾向于wegreened，

Brain Dumps

Search This Blog