Taint 和 Toleration
使用 kubectl taint 命令可以给某个 Node 节点设置污点，Node 被设置上污点之后就和 Pod 之间存在了一种相斥的关系，可以让 Node 拒绝 Pod 的调度执行，甚至将 Node 已经存在的 Pod 驱逐出去。
使用场景：
如果某天我们要更新或者维护某个节点,需要先把所有pod驱除出去, 然后等更新或者节点恢复了，再清除污点。原来的pod就又回来了。
污点基本都是针对节点操作，节点污点的标签设置如下：
每个污点的组成如下：
|
1 2 |
#设置node污点 key=value:effect |
每个污点有一个 key 和 value 作为污点的标签，其中 value 可以为空，effect 描述污点的作用。当前 tainteffect 支持如下三个选项：
- NoSchedule ：表示 k8s 将不会将 Pod 调度到具有该污点的 Node 上
- PreferNoSchedule ：表示 k8s 将尽量避免将 Pod 调度到具有该污点的 Node 上
- NoExecute ：表示 k8s 将不会将 Pod 调度到具有该污点的 Node 上，同时会将 Node 上已经存在的 Pod 驱逐出去
查看当前k8s-master节点是否设置了污点
|
1 |
kubectl describe node k8s-master |
Taints: node-role.kubernetes.io/master:NoSchedule #表示 k8s 不会将 Pod 调度到,具有master标签污点的节点上。
这也是，为什么pod为什么不会被分配到master节点的原因，因为master节点天生就打了(NoExecute)这么个标签。
2.污点的设置、查看、去除
|
1 2 3 4 5 6 |
# 设置污点 kubectl taint nodes [节点] key1=value1:NoSchedule # 节点说明中，查找 Taints 字段 kubectl describe pod pod-name # 去除污点 kubectl taint nodes node1 key1:NoSchedule- |
为当前node1节点设置污点
|
1 |
kubectl taint nodes k8s-node1 shooter=byshooter:NoExecute |
其他依次类推
|
1 2 3 |
kubectl taint nodes k8s-node1 shooter=byshooter:NoExecute kubectl taint nodes k8s-node1 shooter=byshooter:NoSchedule kubectl taint nodes k8s-node1 shooter=byshooter:PreferNoSchedule |
删除以此类推
|
1 2 3 |
kubectl taint nodes k8s-node1 shooter:NoExecute- kubectl taint nodes k8s-node1 shooter:NoSchedule- kubectl taint nodes k8s-node1 shooter:PreferNoSchedule- |
2.污点容忍
设置了污点的 Node 将根据 taint 的 effffect：NoSchedule、PreferNoSchedule、NoExecute 和 Pod 之间产生 互斥的关系，Pod 将在一定程度上不会被调度到 Node 上。 但我们可以在 Pod 上设置容忍 ( Toleration ) ，意思 是设置了容忍的 Pod 将可以容忍污点的存在，可以被调度到存在污点的 Node 上
pod.spec.tolerations
|
1 2 3 4 5 6 7 8 9 10 11 12 13 |
tolerations: - key: "key1" operator: "Equal" value: "value1" effect: "NoSchedule" tolerationSeconds: 3600 - key: "key1" operator: "Equal" value: "value1" effect: "NoExecute" - key: "key2" operator: "Exists" effect: "NoSchedule" |
- 其中 key, vaule, effffect 要与 Node 上设置的 taint 保持一致
- operator 的值为 Exists 将会忽略 value 值
- tolerationSeconds 用于描述当 Pod 需要被驱逐时可以在 Pod 上继续保留运行的时间
例：
|
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 |
apiVersion: apps/v1 kind: DaemonSet metadata: name: deamonset-example labels: app: daemonset spec: selector: matchLabels: name: deamonset-example template: metadata: labels: name: deamonset-example spec: containers: - name: daemonset-example image: hub.atshooter.com/k8s/nginx:v1.0 tolerations: #containers同级 - key: "shooter" #能容忍的污点key operator: "Equal" #Equal等于表示key=value ， Exists不等于，表示当值不等于下面value正常 value: "byshooter" ##值 effect: "NoExecute" #effect策略，见上面 tolerationSeconds: 3600 #原始的pod多久驱逐，注意只有effect: "NoExecute"才能设置，不然报错 |
当不指定 key 值时，表示容忍所有的污点 key：
|
1 2 |
tolerations: - operator: "Exists" |
当不指定 effffect 值时，表示容忍所有的污点作用
|
1 2 3 |
tolerations: - key: "key" operator: "Exists" |
有多个 Master 存在时，防止资源浪费，可以如下设置
|
1 |
kubectl taint nodes Node-Name node-role.kubernetes.io/master=:PreferNoSchedule |
3. k8s调度之固定节点的调度
Pod.spec.nodeName 将 Pod 直接调度到指定的 Node 节点上，会跳过 Scheduler 的调度策略，该匹配规 则是强制匹配
|
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 |
apiVersion: extensions/v1beta1 kind: Deployment metadata: name: myweb spec: replicas: 7 template: metadata: labels: app: myweb spec: nodeName: k8s-node1 containers: - name: myweb image: hub.atshooter.com/k8s/nginx:v1.0 ports: - containerPort: 80 |
上面的例子强制匹配了所有pod都必须运行在node1节点
继续向下：
Pod.spec.nodeSelector：通过 kubernetes 的 label-selector 机制选择节点，由调度器调度策略匹配 label， 而后调度 Pod 到目标节点，该匹配规则属于强制约束
查看当前各个节点标签
|
1 |
kubectl get node --show-labels |
给Node1节点添加一个label标记
|
1 2 3 4 5 |
标记规则：kubectl label nodes <node-name> <label-key>=<label-value> kubectl label nodes k8s-node1 shooter.com/role=dev #查看标记 kubectl get nodes k8s-node1 --show-labels |
例子：
|
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 |
apiVersion: extensions/v1beta1 kind: Deployment metadata: name: myweb spec: replicas: 2 template: metadata: labels: app: myweb spec: nodeSelector: shooter.com/role: dev #指定调度节点为带有label标记为：shooter.com/role=dev的node节点 containers: - name: myweb image: hub.atshooter.com/k8s/nginx:v1.0 ports: - containerPort: 80 |
可以看到节点全都去了node1 因为node1的标签是shooter.com/role=dev
- 本文固定链接: https://www.yoyoask.com/?p=2378
- 转载请注明: shooter 于 SHOOTER 发表
