为模型创建实验环境。
下载模型。
Podman AI Lab 可以帮助您轻松地在本地运行大型语言模型 (LLM)。
Podman AI Lab 是 Podman Desktop 的一个开源扩展,用于处理 LLM。
创建了一个配方,也称为用于与模型交互的推理服务器。
启动模型的推理服务器。