提示词管理

提示词管理是一种系统化的方法,用于存储、版本化和检索 LLM 应用的提示词。你不再把提示词硬编码在应用代码里,而是在 Langfuse 中集中管理它们。

观看本演示视频,了解 Langfuse 提示词管理以及如何将它集成到你的应用中。

将提示词更新与代码部署解耦

在大多数 LLM 应用中,提示词迭代和代码部署由不同的人负责。产品经理和领域专家迭代提示词,而工程师管理部署。

当提示词写在代码里时,一次简单的文本修改也需要工程师介入、代码评审和完整的部署流程,把一次 2 分钟就能完成的更新变成数小时甚至数天的等待。

当提示词存放在 Langfuse 中时,非技术团队成员可以直接在 UI 中更新提示词,而你的应用会自动获取最新版本。这种职责分离意味着提示词更新可以即时生效,无需工程师介入,也不会触发部署。

无延迟、无可用性风险

Langfuse 提示词管理不会给你的应用增加任何延迟。提示词由 SDK 在客户端缓存,因此获取提示词和从内存读取一样快。更多细节请参阅缓存文档页。

开始使用

首先添加你的第一个提示词到 Langfuse,并将它连接到你的应用。你可以在 UI 中从零创建提示词,也可以从应用中导入现有提示词。

花点时间理解核心概念:提示词类型、版本控制、标签和配置。

当你在 Langfuse 中有了提示词并在应用中使用它们之后,你可以做以下几件事,充分发挥 Langfuse 提示词管理的价值:

• 将提示词关联到 traces,按提示词版本分析性能
• 使用版本控制和标签,管理跨环境的部署

在找某个具体功能?查看 Features 下的具体主题指南。