通过配置文件设置 Kubelet 参数

准备工作

此页面中的某些步骤使用 jq 工具。如果您没有 jq,可以通过操作系统的软件源安装它,或者从 https://jqlang.github.io/jq/ 获取它。

某些步骤还涉及安装 curl,可以通过操作系统的软件源安装它。

可以通过磁盘上的配置文件设置 kubelet 配置参数的子集,以替代命令行标志。

建议使用配置文件提供参数,因为它简化了节点部署和配置管理。

创建配置文件

可以通过文件配置的 kubelet 配置子集由 KubeletConfiguration 结构定义。

配置文件必须是此结构中参数的 JSON 或 YAML 表示形式。确保 kubelet 对该文件具有读取权限。

以下是该文件可能类似的示例

apiVersion: kubelet.config.k8s.io/v1beta1
kind: KubeletConfiguration
address: "192.168.0.8"
port: 20250
serializeImagePulls: false
evictionHard:
    memory.available:  "100Mi"
    nodefs.available:  "10%"
    nodefs.inodesFree: "5%"
    imagefs.available: "15%"

在此示例中,kubelet 使用以下设置进行配置

  1. address:kubelet 将在 IP 地址 192.168.0.8 上提供服务。

  2. port:kubelet 将在端口 20250 上提供服务。

  3. serializeImagePulls:镜像拉取将并行完成。

  4. evictionHard:kubelet 将在以下条件之一下驱逐 Pod

    • 当节点的可用内存低于 100MiB 时。
    • 当节点的主文件系统的可用空间小于 10% 时。
    • 当镜像文件系统的可用空间小于 15% 时。
    • 当节点的主文件系统中超过 95% 的 inode 正在使用时。

imagefs 是容器运行时用来存储容器镜像和容器可写层的可选文件系统。

启动通过配置文件配置的 kubelet 进程

使用设置为 kubelet 配置文件路径的 --config 标志启动 kubelet。然后,kubelet 将从此文件加载其配置。

请注意,目标值与配置文件相同的命令行标志将覆盖该值。这有助于确保与命令行 API 的向后兼容性。

请注意,kubelet 配置文件中的相对文件路径是相对于 kubelet 配置文件的位置解析的,而命令行标志中的相对路径是相对于 kubelet 的当前工作目录解析的。

请注意,命令行标志和 kubelet 配置文件之间的一些默认值不同。如果提供了 --config 并且没有通过命令行指定值,则应用 KubeletConfiguration 版本的默认值。在上面的示例中,此版本为 kubelet.config.k8s.io/v1beta1

kubelet 配置文件的放置目录

功能状态: Kubernetes v1.30 [测试版]

您可以为 kubelet 指定一个放置配置目录。默认情况下,kubelet 不会在任何地方查找放置配置文件 - 您必须指定一个路径。例如:--config-dir=/etc/kubernetes/kubelet.conf.d

对于 Kubernetes v1.28 到 v1.29,只有在为 kubelet 进程设置环境变量 KUBELET_CONFIG_DROPIN_DIR_ALPHA 时,才能指定 --config-dir(该变量的值无关紧要)。

kubelet 通过按字母数字顺序对整个文件名进行排序来处理其配置放置目录中的文件。例如,首先处理 00-kubelet.conf,然后使用名为 01-kubelet.conf 的文件覆盖它。

这些文件可能包含部分配置,但不应无效,并且必须包含类型元数据,特别是 apiVersionkind。仅对存储在 kubelet 内部最终生成的配置结构执行验证。这为管理和合并来自不同来源的 kubelet 配置提供了灵活性,同时防止了不希望的配置。但是,请务必注意,行为会根据配置字段的数据类型而有所不同。

kubelet 配置结构中的不同数据类型合并方式不同。有关更多信息,请参阅参考文档

Kubelet 配置合并顺序

启动时,kubelet 会合并以下配置

  • 通过命令行指定的 Feature gate(优先级最低)。
  • kubelet 配置。
  • 放置配置文件,按排序顺序。
  • 命令行参数(不包括 Feature gate)(优先级最高)。

查看 kubelet 配置

由于现在可以使用此功能将配置分散到多个文件中,因此如果有人想要检查最终的实际配置,则可以按照以下步骤检查 kubelet 配置

  1. 在终端中使用 kubectl proxy 启动代理服务器。

    kubectl proxy
    

    这将给出如下输出

    Starting to serve on 127.0.0.1:8001
    
  2. 打开另一个终端窗口,并使用 curl 获取 kubelet 配置。将 <node-name> 替换为节点的实际名称

    curl -X GET http://127.0.0.1:8001/api/v1/nodes/<node-name>/proxy/configz | jq .
    
    {
      "kubeletconfig": {
        "enableServer": true,
        "staticPodPath": "/var/run/kubernetes/static-pods",
        "syncFrequency": "1m0s",
        "fileCheckFrequency": "20s",
        "httpCheckFrequency": "20s",
        "address": "192.168.1.16",
        "port": 10250,
        "readOnlyPort": 10255,
        "tlsCertFile": "/var/lib/kubelet/pki/kubelet.crt",
        "tlsPrivateKeyFile": "/var/lib/kubelet/pki/kubelet.key",
        "rotateCertificates": true,
        "authentication": {
          "x509": {
            "clientCAFile": "/var/run/kubernetes/client-ca.crt"
          },
          "webhook": {
            "enabled": true,
            "cacheTTL": "2m0s"
          },
          "anonymous": {
            "enabled": true
          }
        },
        "authorization": {
          "mode": "AlwaysAllow",
          "webhook": {
            "cacheAuthorizedTTL": "5m0s",
            "cacheUnauthorizedTTL": "30s"
          }
        },
        "registryPullQPS": 5,
        "registryBurst": 10,
        "eventRecordQPS": 50,
        "eventBurst": 100,
        "enableDebuggingHandlers": true,
        "healthzPort": 10248,
        "healthzBindAddress": "127.0.0.1",
        "oomScoreAdj": -999,
        "clusterDomain": "cluster.local",
        "clusterDNS": [
          "10.0.0.10"
        ],
        "streamingConnectionIdleTimeout": "4h0m0s",
        "nodeStatusUpdateFrequency": "10s",
        "nodeStatusReportFrequency": "5m0s",
        "nodeLeaseDurationSeconds": 40,
        "imageMinimumGCAge": "2m0s",
        "imageMaximumGCAge": "0s",
        "imageGCHighThresholdPercent": 85,
        "imageGCLowThresholdPercent": 80,
        "volumeStatsAggPeriod": "1m0s",
        "cgroupsPerQOS": true,
        "cgroupDriver": "systemd",
        "cpuManagerPolicy": "none",
        "cpuManagerReconcilePeriod": "10s",
        "memoryManagerPolicy": "None",
        "topologyManagerPolicy": "none",
        "topologyManagerScope": "container",
        "runtimeRequestTimeout": "2m0s",
        "hairpinMode": "promiscuous-bridge",
        "maxPods": 110,
        "podPidsLimit": -1,
        "resolvConf": "/run/systemd/resolve/resolv.conf",
        "cpuCFSQuota": true,
        "cpuCFSQuotaPeriod": "100ms",
        "nodeStatusMaxImages": 50,
        "maxOpenFiles": 1000000,
        "contentType": "application/vnd.kubernetes.protobuf",
        "kubeAPIQPS": 50,
        "kubeAPIBurst": 100,
        "serializeImagePulls": true,
        "evictionHard": {
          "imagefs.available": "15%",
          "memory.available": "100Mi",
          "nodefs.available": "10%",
          "nodefs.inodesFree": "5%"
        },
        "evictionPressureTransitionPeriod": "1m0s",
        "enableControllerAttachDetach": true,
        "makeIPTablesUtilChains": true,
        "iptablesMasqueradeBit": 14,
        "iptablesDropBit": 15,
        "featureGates": {
          "AllAlpha": false
        },
        "failSwapOn": false,
        "memorySwap": {},
        "containerLogMaxSize": "10Mi",
        "containerLogMaxFiles": 5,
        "configMapAndSecretChangeDetectionStrategy": "Watch",
        "enforceNodeAllocatable": [
          "pods"
        ],
        "volumePluginDir": "/usr/libexec/kubernetes/kubelet-plugins/volume/exec/",
        "logging": {
          "format": "text",
          "flushFrequency": "5s",
          "verbosity": 3,
          "options": {
            "json": {
              "infoBufferSize": "0"
            }
          }
        },
        "enableSystemLogHandler": true,
        "enableSystemLogQuery": false,
        "shutdownGracePeriod": "0s",
        "shutdownGracePeriodCriticalPods": "0s",
        "enableProfilingHandler": true,
        "enableDebugFlagsHandler": true,
        "seccompDefault": false,
        "memoryThrottlingFactor": 0.9,
        "registerNode": true,
        "localStorageCapacityIsolation": true,
        "containerRuntimeEndpoint": "unix:///var/run/crio/crio.sock"
      }
    }
    

后续步骤

上次修改时间:2024 年 5 月 31 日上午 10:34(太平洋标准时间):文档:修复 kubelet 配置目录合并文档的链接 (73cd6a24f5)