在集群中设置 DRA
Kubernetes v1.34 [stable]
(enabled by default: true)本文介绍如何在 Kubernetes 集群中通过启用 API 组并配置设备类别来设置动态资源分配(DRA)。 这些指示说明适用于集群管理员。
关于 DRA
Kubernetes 提供的一项特性,允许你在多个 Pod 之间请求和共享资源。
这些资源通常是挂接的设备,例如硬件加速器。
借助 DRA,设备驱动和集群管理员可以定义设备的类别,这些类别可供工作负载中的 Pod 申领。 Kubernetes 会将匹配的设备分配给特定的申领,并将相应的 Pod 调度到能够访问这些已分配设备的节点上。
确保你已了解 DRA 的工作机制及其术语,例如 DeviceClasses、 ResourceClaims以及 ResourceClaimTemplates。 更多信息请参见动态资源分配(DRA)。
准备开始
你必须拥有一个 Kubernetes 的集群,且必须配置 kubectl 命令行工具让其与你的集群通信。 建议运行本教程的集群至少有两个节点,且这两个节点不能作为控制平面主机。 如果你还没有集群,你可以通过 Minikube 构建一个你自己的集群,或者你可以使用下面的 Kubernetes 练习环境之一:
你的 Kubernetes 服务器版本必须是 v1.34.要获知版本信息,请输入 kubectl version
.
- 将设备直接或间接挂接到你的集群中。为避免驱动相关的问题,请在安装驱动之前先完成 DRA 特性的配置。
DRA 在 Kubernetes 1.34 中进阶至 Stable 并默认启用。 一些较旧的 DRA 驱动或工作负载可能仍需要 Kubernetes 1.30 的 v1beta1 API 或 Kubernetes 1.32 的 v1beta2 API。 当且仅当需要支持这些时,才启用以下 API 组:
resource.k8s.io/v1beta1
resource.k8s.io/v1beta2
更多信息请参阅启用或禁用 API 组。
验证是否启用了 DRA
若要验证集群是否配置正确,可尝试列出 DeviceClass:
kubectl get deviceclasses
如果组件配置正确,输出类似如下:
No resources found
如果 DRA 未正确配置,则上述命令的输出可能如下:
error: the server doesn't have a resource type "deviceclasses"
你可以尝试以下排查步骤:
重新配置并重启
kube-apiserver
组件。如果从 Pod 中完全删除了
.spec.resourceClaims
字段, 或者 Pod 在不考虑 ResourceClaim 的情况下被调度, 那么请验证DynamicResourceAllocation
特性门控在 kube-apiserver、kube-controller-manager、kube-schedule 或 kubelet 组件中是否被关闭。
安装设备驱动
你启用集群的 DRA 特性后,你可以安装所挂接设备的驱动。 安装方式请参见设备所有者或驱动维护方提供的文档。你安装的驱动必须与 DRA 兼容。
若要验证驱动是否正常工作,可列出集群中的 ResourceSlice:
kubectl get resourceslices
输出示例如下:
NAME NODE DRIVER POOL AGE
cluster-1-device-pool-1-driver.example.com-lqx8x cluster-1-node-1 driver.example.com cluster-1-device-pool-1-r1gc 7s
cluster-1-device-pool-2-driver.example.com-29t7b cluster-1-node-2 driver.example.com cluster-1-device-pool-2-446z 8s
尝试以下故障排查步骤:
- 检查 DRA 驱动的健康状况,并在其日志输出中查找关于发布 ResourceSlice 的错误消息。驱动的供应商可能有关于安装和故障排除的进一步指示。
创建 DeviceClass
你可以通过创建 DeviceClasses 定义设备的分类,供应用运维人员在工作负载中申领这些设备。 某些设备驱动提供方也可能在驱动安装过程中要求你创建 DeviceClass。
你的驱动所发布的 ResourceSlice 中包含了设备的相关信息,例如容量、元数据和属性。你可以使用 通用表达式语言(CEL) 表达式按 DeviceClass 中的属性进行筛选, 从而帮助工作负载运维人员更轻松地找到合适的设备。
若要查看可通过 CEL 表达式在 DeviceClass 中选择的设备属性,你可以查看某个 ResourceSlice 的规约:
kubectl get resourceslice <resourceslice-name> -o yaml
输出类似如下:
apiVersion: resource.k8s.io/v1 kind: ResourceSlice # 为简洁省略部分内容 spec: devices: - attributes: type: string: gpu capacity: memory: value: 64Gi name: gpu-0 - attributes: type: string: gpu capacity: memory: value: 64Gi name: gpu-1 driver: driver.example.com nodeName: cluster-1-node-1 # 为简洁省略部分内容
你也可以查阅驱动提供商的文档,了解可用的属性和对应值。
查看以下 DeviceClass 示例清单,它选择所有由
driver.example.com
设备驱动管理的设备:apiVersion: resource.k8s.io/v1 kind: DeviceClass metadata: name: example-device-class spec: selectors: - cel: expression: |- device.driver == "driver.example.com"
在集群中创建 DeviceClass:
kubectl apply -f https://k8s.io/examples/dra/deviceclass.yaml
清理
要删除本任务中创建的 DeviceClass,运行以下命令:
kubectl delete -f https://k8s.io/examples/dra/deviceclass.yaml