Serverless GPU 的冷启动到底在做什么为什么第一张图要等 60 秒

Serverless GPU 冷启动的 60 秒耗时,并不是单纯模型推理计算慢,而是从调度分配 GPU 资源、拉取镜像、加载模型权重、初始化 CUDA