跳转到主内容
跳转到主内容

Langfuse

什么是 Langfuse？​

Langfuse 是一个开源的大语言模型（LLM）工程平台，帮助团队协作调试、分析并迭代其 LLM 应用。它是 ClickHouse 生态系统的一部分，以 ClickHouse 为核心，提供可扩展、高性能的可观测性后端。

通过利用 ClickHouse 的列式存储和高速分析能力，Langfuse 可以以低延迟处理数十亿条跟踪记录（traces）和事件，非常适合高吞吐量的生产工作负载。

为什么选择 Langfuse？​

  • 开源： 完全开源，并提供公开 API 用于自定义集成
  • 生产环境优化： 设计时将性能开销降至最低
  • 一流 SDKS： 为 Python 和 JavaScript 提供原生 SDK
  • 框架支持： 集成 OpenAI SDK、LangChain 和 LlamaIndex 等主流框架
  • 多模态： 支持对文本、图像和其他模态进行追踪
  • 完整平台： 为整个 LLM 应用开发生命周期提供完整的工具套件

部署选项​

Langfuse 提供灵活的部署选项，以满足不同的安全性和基础设施需求。

Langfuse Cloud 是一项完全托管的服务，由托管的 ClickHouse 集群提供支持，以实现最佳性能。它通过了 SOC 2 Type II 和 ISO 27001 认证，符合 GDPR 要求，并在美国（AWS us-west-2）和欧盟（AWS eu-west-1）数据区域可用。

自托管 的 Langfuse 完全开源（MIT 许可证），可以使用 Docker 或 Kubernetes 免费部署在您自己的基础设施上。您可以运行自己的 ClickHouse 实例（或使用 ClickHouse Cloud）来存储可观测性数据，从而确保对数据实现完全掌控。

架构​

Langfuse 仅依赖开源组件，可以部署在本地、云基础设施或本地自建环境中：

  • ClickHouse：存储大规模的可观测性数据（traces、spans、generations、scores），并为仪表板提供快速聚合与分析能力。
  • Postgres：存储事务型数据，如用户账户、项目配置和 prompt 定义。
  • Redis：处理事件队列和缓存。
  • S3/Blob Storage：存储大体量的负载和原始事件数据。

功能特性​

可观测性​

可观测性 对于理解和调试 LLM 应用至关重要。与传统软件不同，LLM 应用涉及复杂的、非确定性的交互，因而更难监控和调试。Langfuse 提供了全面的追踪能力，帮助你准确理解应用中正在发生的一切。

📹 想进一步了解？观看端到端演示，了解 Langfuse 可观测性以及如何将其集成到你的应用中。

Trace 允许你追踪应用中每一次 LLM 调用和其他相关逻辑。

提示管理​

提示管理 对于构建高效的 LLM 应用至关重要。Langfuse 提供工具，帮助你在整个开发生命周期中对提示进行管理、版本控制和优化。

📹 想进一步了解？观看端到端演示，了解 Langfuse 提示管理以及如何将其集成到你的应用中。

通过 UI、SDKs 或 API 创建新的提示。

评估与数据集​

评估 对于确保你的 LLM 应用的质量和可靠性至关重要。Langfuse 提供灵活的评估工具，可适配你的特定需求，无论你是在开发环境中进行测试，还是在生产环境中监控性能。

📹 想了解更多？观看端到端演示，了解 Langfuse Evaluation 以及如何利用它改进你的 LLM 应用。

在 Langfuse 控制台中可视化评估结果。

快速入门​

几分钟内即可开始使用 Langfuse。选择最符合当前需求的路径：

了解更多​