为模型创建游乐场环境。
下载模型。
Podman AI Lab 可以帮助您轻松地在本地运行大型语言模型 (LLM)。
Podman AI Lab 是 Podman Desktop 的开源扩展,用于处理 LLM。
创建了一个配方,也称为推理服务器,用于与模型交互。
为模型启动推理服务器。