运行大型语言模型在本地使用 Podman AI Lab

Podman AI Lab 是在本地开发工作站上使用大型语言模型 (LLM) 最简单的方式。查找食谱目录，利用精选的开源模型列表，试验和比较模型。使用 Podman AI Lab 走在前沿，将您的开发提升到新的高度！

免费体验开源食谱

LLM 聊天机器人

在本地试验提示

文本摘要器

获取大型文本语料库的见解

语音转文本

从任何音频文件获取文字记录

对象检测

开始使用计算机视觉

食谱目录

为各种 AI 用例和问题领域收集的预构建解决方案。每个食谱都包含详细的解释和可以使用不同大型语言模型 (LLM) 运行的示例应用程序。从用例中获得启发，并学习如何以最佳方式集成 AI。食谱已为 Kubernetes 做好准备。

模型目录

开箱即用的精选开源大型语言模型列表。检查许可证和所需资源。导入您自己的模型。

模型服务

使用推理服务器在本地运行模型。获取与 OpenAI 兼容的端点，使用代码片段并开始在您的应用程序中集成 AI。

实验环境

使用专用 UI 体验大型语言模型。配置模型设置和系统提示，以测试和验证您的提示工作流。比较不同模型的行为。