发布时间:2024-09-13 14:07

郑纬民院士详解“八卦炉”软件系统最新进展

 

  随着大模型的应用日益广泛,我国对算力的需求也呈现出爆发性的增长,构建国产智能算力系统成为推动我国人工智能产业发展的关键。9月12日,中国工程院院士、清华大学计算机科学与技术系教授郑纬民在2024服贸会通用人工智能算力论坛上指出,发展国产智能算力系统需要“软硬兼备”,优秀的系统软件能够充分释放底层硬件算力的潜力,因此,我国人工智能产业不仅需要关注硬件性能,更需要重视软件生态的建设。


  郑纬民院士指出,构建人工智能大模型主要分数据获取、数据预处理、模型训练、模型微调、模型推理等五个环节,而这每一个环节都对算力提出了极高的要求。“为了应对人工智能大模型带来的算力需求,我国对AI芯片的需求也在加大。”郑纬民表示,近年来,我国自主研发的AI芯片取得了显著进展,但产业依然面临智能算力的软件生态建设和软件支持不足等问题。


  “智能算力的软件生态建设是当前制约我国AI芯片发展的关键因素。”郑纬民指出,硬件性能固然重要,但系统软件的完善同样不可或缺,只有两者兼备,才能真正推动我国智能算力的发展。优秀的系统软件能够充分释放底层硬件算力的潜力。通过优化软件生态,不仅可以提高算力效率,还能降低应用成本,为智能算力系统的广泛应用奠定坚实基础。


  为了解决AI芯片生态建设的问题,清华大学开发了一套名为“八卦炉”的智算系统核心基础软件。这套软件包括并行系统、编程框架、AI编译器、算子库等多个组件,旨在优化AI芯片的性能并提高其易用性。


  据郑纬民介绍,该“八卦炉”已在多个场景中得到了验证,如在神威平台上实现大模型训练,结果显示训练结果准确,而且成本较低(预计成本仅为英伟达GPU的六分之一)。此外,在与沐曦、燧原科技、摩尔线程等企业的合作中,“八卦炉”也显著提升了算力效率,降低了推理成本。“随着智能算力系统的不断完善,相信不久的将来,我们将看到更多基于国产技术的人工智能应用不断涌现,为我国的科技创新和产业升级注入新的活力。”郑纬民表示。


  作者:谷月  来源:中国电子报、电子信息产业网