Kodosumi

使用Kodosumi部署和扩展您的AI代理，这是一个专为开发者构建的开源运行时。快速、可扩展，完全免费使用。

Kodosumi 是一个开源的运行时环境，旨在高效地部署和扩展AI代理。基于Ray、Litestar和FastAPI构建，它简化了长期运行的复杂工作流的管理，而无需深入的Ray专业知识。该平台提供水平扩展能力，以应对不可预测的流量高峰，并通过Ray仪表板提供内置的实时监控可观测性。开发者可以使用最简化的YAML配置，集成他们偏好的大型语言模型（LLMs）、框架和工具，无需担心供应商锁定。Kodosumi支持多种部署选项，包括Kubernetes和Docker，并且完全免费使用。对于那些构建代理服务的开发者来说，它平衡了灵活性和企业级的可靠性，是理想的选择。