跳到主要内容
Version: v0.1.9

Colossal-AI 总览

作者: Shenggui Li, Siqi Mai

关于 Colossal-AI

随着深度学习模型规模的发展,向新的训练模式转变是非常重要的。没有并行和优化的传统训练方法将成为过去,新的训练方法是使训练大规模模型高效和节省成本的关键。

Colossal-AI 是一个集成的系统,为用户提供一套综合的训练方法。您可以找到常见的训练方法,如混合精度训练和梯度累积。此外,我们提供了一系列的并行技术,包括数据并行、张量并行和流水线并行。我们通过不同的多维分布式矩阵乘法算法来优化张量并行。我们还提供了不同的流水线并行方法,使用户能够有效地跨节点扩展他们的模型。更多的高级功能,如卸载,也可以在这个教程文档中找到详细的内容。

Colossal-AI 的使用

我们的目标是使 Colossal-AI 易于使用,并且对用户的代码不产生干扰。如果您想使用Colossal-AI,这里有一个简单的一般工作流程。

Workflow
  1. 准备一个配置文件,指定您要使用的功能和参数。
  2. colossalai.launch 初始化分布式后端。
  3. colossalai.initialize 将训练特征注入您的训练组件(如模型、优化器)中。
  4. 进行训练和测试.

我们将在基本教程部分介绍整个工作流程。

未来计划

Colossal-AI 系统将会进一步拓展和优化,包括但不限于:

  1. 分布式操作的优化
  2. 异构系统训练的优化
  3. 从模型大小的维度切入,提升训练速度并维持精度
  4. 拓展现有的并行方法

我们始终欢迎社区的建议和讨论,如果您遇到任何问题,我们将非常愿意帮助您。您可以在GitHub 提 issue ,或在论坛上创建一个讨论主题。