Kubernetes

Kubernetes 是什么？

你在服务器上跑的 AI 模型、API、数据库，往往被塞进一个个「容器」里。容器多了，谁来安排它们去哪台机器、用多少资源、挂了怎么办？Kubernetes（常简称 K8s）就是那个「总调度」：你说一句「我要跑 3 个副本」，它自动帮你分配机器、监控健康、挂了就重启，甚至按流量自动扩缩容。

它和 Docker 有什么区别？

Docker 管「打包」
Docker 把程序和依赖装进一个标准的「集装箱」，让它到哪都能跑。
Kubernetes 管「调度」
K8s 负责指挥这一堆集装箱：放哪台船、开几艘、坏了怎么补，是更大一层的「码头管理系统」。

它为什么对 AI 很重要？

GPU 调度
AI 推理服务吃 GPU，K8s 能把请求分到有空闲 GPU 的节点上，别让贵的显卡闲着。
自动扩缩容
流量高峰自动加副本，低谷自动回收，省钱又稳。
自愈能力
某个服务崩了，K8s 自动重启或换台机器，用户几乎无感。

它要解决哪些痛点？

没有编排平台，运维只能手敲命令、一个个重启，几十个服务就乱成一团。K8s 把「部署、扩缩、回滚、健康检查」变成声明式的配置，团队只要描述「期望状态」，剩下的交给它。

一句话记住：Kubernetes 就是容器的「调度指挥官」，让成百上千个 AI 服务各就各位、稳定运行。