Modular平台(原名MAX)是一套完整的AI库、工具与技术集合,旨在整合碎片化的AI部署工作流程。它为开发者提供了一条统一且强大的工具链,实现了完全可编程性、卓越性能和无缝硬件移植能力,大幅加速AI创新产品的上市速度。
核心特性
- 端到端流水线:包含开箱即用的常见AI任务处理流程,例如自托管Llama 3.1文本生成模型,并提供可定制扩展的代码。
- 代码示例与Notebook:代码库提供了大量示例和Jupyter notebook,展示如何将Modular平台应用于各类AI任务。
- 稳定版与每日构建版:同时提供稳定版和 nightly版本,并附有通过Magic工具安装及项目配置的清晰指引。
- MAX Engine与容器:搭载高性能模型推理引擎MAX Engine,以及支持Docker便捷部署的MAX容器(含GPU支持与Kubernetes集成)。
- 社区支持:活跃的Discord社区和论坛可供交流、提交错误报告及功能建议。
快速入门
- 克隆代码库:
git clone https://github.com/modular/modular.git
- 切换稳定分支(如使用稳定版):
git checkout stable
- 探索示例:查看
examples
和tutorials
目录获取实用指南和完整代码。
贡献与许可
- 欢迎参与Mojo标准库贡献(参见贡献指南)。
- 采用Apache License v2.0 with LLVM Exceptions许可,并附加Modular、MAX及Mojo社区许可条款。
更多详情请访问Modular文档站或加入Discord社区。