Openlit

一键实现LLMs & GPUs的可观测性与评估

2024-07-26

Openlit
OpenLIT是一款基于OpenTelemetry构建的开源LLM和GPU可观测性工具。它提供追踪、指标和一个用于调试和改进LLM应用的游乐场。支持20多种集成,如OpenAI、LangChain,并能将数据导出到您现有的可观测性工具中。
OpenLIT是一款专为LLM和GPU应用设计的开源可观测性工具,基于OpenTelemetry构建。它提供追踪、指标和调试游乐场,以优化LLM性能。支持包括OpenAI和LangChain在内的20多种集成,能无缝将数据导出到现有的可观测性平台,提升开发者的效率和洞察力。
Open Source Developer Tools Artificial Intelligence