文档 / Langfuse 概览
Langfuse 概览
Langfuse 是一个开源的 AI 工程平台(GitHub),帮助团队协作调试、分析和迭代 LLM 应用。所有平台功能原生集成,加速开发工作流。Langfuse 是开放的、可自托管的、可扩展的(为什么选择 langfuse?)。
可观测性
可观测性对于理解和调试 LLM 应用至关重要。与传统软件不同,LLM 应用涉及复杂、非确定性的交互,监控和调试颇具挑战。Langfuse 提供全面的追踪能力,帮助你准确了解应用中正在发生什么。
- Traces 包含所有 LLM 与非 LLM 调用,包括检索、嵌入、API 调用等
- 支持将多轮对话追踪为 sessions,以及用户追踪
- Agent 可以表示为图
- 通过原生 Python/JS SDK、100+ 库与框架集成、OpenTelemetry,或 LiteLLM 等 LLM 网关采集 traces
- 基于 OpenTelemetry 构建,提升兼容性、减少供应商锁定
想看示例?试玩交互式演示。
观看端到端演示视频,了解 Langfuse 可观测性以及如何将它集成到你的应用中。
提示词管理
提示词管理对于构建高效的 LLM 应用至关重要。Langfuse 提供工具,帮助你在整个开发生命周期中管理、版本化和优化提示词。
- 开始使用提示词管理
- 在整个开发生命周期中管理、版本化和优化你的提示词
- 在 LLM Playground 中交互式测试提示词
- 针对数据集运行实验,直接在 Langfuse 内测试新的提示词版本
想深入了解?观看端到端演示视频,了解 Langfuse 提示词管理以及如何将它集成到你的应用中。
评估
评估对于确保 LLM 应用的质量与可靠性至关重要。Langfuse 提供灵活的评估工具,适应你的具体需求——无论你是在开发阶段测试,还是在监控生产性能。
- 从不同的评估方法入手:LLM-as-a-judge、代码评估器、用户反馈、人工标注,或自定义流水线
- 通过对生产 traces 运行评估,尽早发现问题
- 创建并管理数据集,在开发阶段进行系统化测试,确保应用在各种场景下可靠运行
- 运行实验,系统化地测试你的 LLM 应用
想深入了解?观看端到端演示视频,了解 Langfuse 评估以及如何用它来改进你的 LLM 应用。
从哪里开始?
搭建完整的流程——在线追踪、提示词管理、用于发现问题的生产评估,以及基于数据集的离线评估——需要一些时间。本指南旨在帮你弄清对自己的用例来说什么最重要。
从 PoC 到生产的简化生命周期:
快速开始
几分钟内跑起来 Langfuse。选择最符合你当前需求的路径:
为什么选择 Langfuse?
- 开源: 完全开源,提供公开 API 供自定义集成
- 面向生产优化: 以极小的性能开销为目标而设计
- 一流的 SDK: 原生 Python 与 JavaScript SDK
- 框架支持: 与 OpenAI SDK、LangChain、LlamaIndex 等流行框架集成
- 多模态: 支持追踪文本、图像及其他模态
- 完整平台: 覆盖 LLM 应用完整开发生命周期的工具套件
社区与联系
我们与社区一起,以开源方式积极开发 Langfuse:
- 为 Langfuse 路线图贡献想法并投票。
- 在 GitHub Discussions 或私有支持渠道提问。
- 通过 GitHub Issues 报告 bug。
- 在 Discord 上与社区聊天。
- 参加 community hour,与团队交流并现场提问。
- 为什么大家选择 Langfuse?
Langfuse 迭代飞快,查看 changelog 了解最新更新。订阅邮件列表,第一时间获知重要新功能。