无问芯穹Infini-AI云平台宣布支持千卡混训,具备万卡扩展能力

2024-07-09 10:04:00 新浪网 

新浪科技讯 7月9日上午消息,近日,无问芯穹联合创始人兼CEO夏立雪发布了无问芯穹大规模模型异构分布式混合训练系统,该系统千卡异构混合训练集群算力利用率最高达97.6%。同时,无问芯穹Infini-AI云平台宣布已集成大模型异构千卡混训能力,可进行单任务千卡规模异构芯片混合训练,具备万卡扩展性,支持包括AMD、华为昇腾、天数智芯、沐曦、摩尔线程、NVIDIA六种异构芯片在内的大模型混合训练。

据介绍,7月起,通过试训申请的用户,已可在Infini-AI上一键发起700亿参数规模的大模型训练。今年三月,无问芯穹Infini-AI大模型开发与服务云平台宣布首次公测,智谱AI、月之暗面、生数科技等大模型公司客户在Infini-AI上稳定使用异构算力,还有20余家AI Native应用创业公司在Infini-AI上持续调用各种预置模型API,使用无问芯穹提供的工具链开发业务模型。

“上次我们证明了10多种异构芯片在Infini-AI上可被用于大模型推理,这次我们则是证明了异构算力在Infini-AI上可以被用来做大模型训练。”夏立雪表示,“这项技术工程化的初衷,是希望能够通过整合更多异构算力,继续推高大模型技术能力的上限,同时通过打通异构芯片生态,持续降低大模型应用落地成本。”(文猛)

 

责任编辑:郝欣煜

(责任编辑:董萍萍 )
看全文
写评论已有条评论跟帖用户自律公约
提 交还可输入500

最新评论

查看剩下100条评论

热门阅读

    和讯特稿

      推荐阅读