HAI - 任务级算力调度，GPU 集群管理，开源深度学习平台

HAI Platform 是幻方 AI 团队开源的大规模高性能深度学习训练平台，基于任务级分时调度共享 AI 算力的理念，整合集群零散资源，统一分配算力，最大化集群整体利用效率。平台针对深度学习训练场景下的资源管理、任务管理、环境管理、用户管理、数据管理、可视化交互等需求，设计了全流程解决方案及灵活的扩展方式。

一、功能特点

1. 资源调度与管理

HAI Platform 以配额方式记录集群资源，通过优先级管理用户使用权限。用户在不同优先级上有相应 GPU 节点配额，提交任务时按优先级调度算力资源，同优先级内交替使用集群算力，确保高优先级用户需求优先满足，提升集群整体资源利用率。

2. 用户与工作区管理

每个用户属于一个用户组，资源和优先级配额按用户分配，同组用户可共享虚拟环境和私有数据集。用户使用 HAI Platform 进行 AI 训练时，需先将代码、数据、环境等迁移到集群，平台按用户或用户组在集群建立和管理工作区及数据集仓库。工作区是用户在集群上的自主管理存储空间，适用于多种使用场景，如开发容器挂载、本地环境与集群目录同步、任务容器挂载执行代码等。

3. 可视化交互与任务管理

HAI Platform 提供用户界面 HAI Platform Studio，具备多种功能，包括管理启动基于 JupyterLab 的开发容器、配合 Jupyter 插件进行代码调试或任务提交，以及管理提交任务、实时监控、日志分析和任务状态管理等。同时，集成讨论区、任务性能监控、任务调度管理等功能。其子应用`/monitor`具备一定监控和管理能力，如用户及任务管理、节点管理等。

4. 高效的 GPU 集群资源利用

HAI Platform 可部署在私有集群或公有云的 GPU 资源中，帮助用户高效利用 GPU 集群资源，支持在 1500+ 计算节点上稳定运行深度学习训练和其他多类型任务，日常算力占用率 95%以上，日常 GPU 使用率 75%以上，计算和存储节点间的数据吞吐 7TB/s 以上。

5. 灵活的扩展与适配

HAI Platform 经过多年研发与测试，可快速适配集群升级迭代场景，如调整算力规模、类型、使用规则等，尽可能降低切换成本，满足不同用户的多样化需求。

6. 开源与开放

幻方 AI 将 HAI Platform 开源，服务于更广阔的 AI 社区，希望让更多“想象力”和“创造力”生长，期待与各方科学家及开发者们一同共建 AI 时代。

二、应用场景

1. AI 研究与开发

科研人员和开发者可利用 HAI Platform 的高效资源管理和灵活任务调度功能，快速开展深度学习模型训练和研究工作，加速 AI 技术创新和突破，推动 AI 领域的发展。

2. 企业 AI 应用开发

企业可以借助 HAI Platform 高效利用 GPU 集群资源，提升团队整体研发效率，快速开发和部署各种 AI 应用，如智能客服、图像识别、自然语言处理等，增强企业竞争力。

3. 教育与培训

教育机构可利用 HAI Platform 为学生提供实践教学环境，帮助学生更好地掌握 AI 技术和应用，培养 AI 专业人才，满足社会对 AI 人才的需求。

三、优势

1. 高性能与高效率

HAI Platform 通过任务级分时调度共享 AI 算力，整合零散资源，最大化集群整体利用效率，支持大规模 GPU 集群资源的高效管理和利用，确保用户在深度学习训练等高性能计算场景中获得优秀的性能和效率表现。

2. 灵活性与可扩展性

平台针对深度学习训练场景下的多种需求，设计了全流程解决方案及灵活的扩展方式，能够快速适配集群升级迭代场景，满足不同用户的多样化需求，适应不断变化的技术和业务环境。

3. 易用性与便捷性

HAI Platform 提供便捷的接口设计和简单明了的任务管理界面，用户无需关注如何获取和配置计算节点，平台自动处理任务编排、调度、打断恢复等流程。此外，平台还提供了丰富的文档和操作指引，帮助用户快速上手，降低使用门槛。

4. 开源与社区共建

HAI Platform 的开源特性使其能够汇聚社区的力量，开发者可以基于平台进行二次开发和定制，共同推动平台的改进和完善，形成良好的开源生态，促进 AI 技术的普及和发展。