Mojo

以无与伦比的性能和硬件可移植性,统一AI部署工作流程。

2024-04-05

Modular平台(原名MAX)是一套完整的AI库、工具与技术集合,旨在整合碎片化的AI部署工作流程。它为开发者提供了一条统一且强大的工具链,实现了完全可编程性、卓越性能和无缝硬件移植能力,大幅加速AI创新产品的上市速度。

核心特性

  • 端到端流水线:包含开箱即用的常见AI任务处理流程,例如自托管Llama 3.1文本生成模型,并提供可定制扩展的代码。
  • 代码示例与Notebook:代码库提供了大量示例和Jupyter notebook,展示如何将Modular平台应用于各类AI任务。
  • 稳定版与每日构建版:同时提供稳定版和 nightly版本,并附有通过Magic工具安装及项目配置的清晰指引。
  • MAX Engine与容器:搭载高性能模型推理引擎MAX Engine,以及支持Docker便捷部署的MAX容器(含GPU支持与Kubernetes集成)。
  • 社区支持:活跃的Discord社区和论坛可供交流、提交错误报告及功能建议。

快速入门

  1. 克隆代码库
    git clone https://github.com/modular/modular.git
  2. 切换稳定分支(如使用稳定版):
    git checkout stable
  3. 探索示例:查看examplestutorials目录获取实用指南和完整代码。

贡献与许可

  • 欢迎参与Mojo标准库贡献(参见贡献指南)。
  • 采用Apache License v2.0 with LLVM Exceptions许可,并附加Modular、MAX及Mojo社区许可条款

更多详情请访问Modular文档站或加入Discord社区

Artificial Intelligence Machine Learning AI Deployment GPU Acceleration Deep Learning