面向突破超万亿参数大模型算力瓶颈！燧原科技清程极智携手开发高性能系统方案

产业




为了突破人工智能大模型发展所面临的算力瓶颈，国内两家人

<body>
 <div class="medium_layout" contenteditable="false">
  <div contenteditable="true">
   <img class="ait_item_box img_default" style="max-width: 600px; height: auto; display: block; margin: 0 auto;" src="https://image.whb.cn/image/26f94701043c43ee884056896a19cba7.jpg" alt="" width="1379" height="802" data-id="1090223" data-src="https://image.whb.cn/image/26f94701043c43ee884056896a19cba7.jpg" data-width="1379" data-height="802">
  </div>
 </div>
 <p>为了突破人工智能大模型发展所面临的算力瓶颈，国内两家人工智能行业知名企业——燧原科技与清程极智今天签署战略合作协议，将面向超万亿参数大模型和超大规模集群，联合开发高性能系统软件方案。</p>
 <p>当前，大模型在加速发展的同时，日益增长的模型参数、海量的语料库以及广泛的场景需求，也对算力基础设施提出了巨大挑战。正在火热进行的世界人工智能大会上，许多人都在关注，如何能使超大规模集群能同时具备高效率和高性价比。</p>
 <p>燧原科技和清程极智此次联手，就是致力于共同打造超大规模智算集群的训练方案，针对大模型实际应用场景，进行软硬协同的开发与优化，满足基础大模型的预训练、行业大模型的微调、大模型推理部署等不同应用场景和多元的算力需求，提供更高性能、更高效率、更高性价比的算力方案。</p>
 <p>此前，这两家企业已在技术领域开展了一系列重要合作。其中，基于燧原的新一代人工智能推理加速卡“燧原S60”和清程极智的高性能推理框架“FastDecode”，双方共同研发了千亿参数规模大模型的高性能推理平台，可在不同场景下实现最高10倍的吞吐量提升，实测并发量是vLLM等开源框架的4倍，为进一步降低算力成本提供了可规模落地的方案。</p>
 <div class="medium_layout" contenteditable="false">
  <div contenteditable="true">
   <img class="ait_item_box img_default" style="max-width: 600px; height: auto; display: block; margin: 0 auto;" src="https://image.whb.cn/image/db100b0c8dbe4998912ea8562ad8754a.jpg" alt="" width="8192" height="5464" data-id="1090224" data-src="https://image.whb.cn/image/db100b0c8dbe4998912ea8562ad8754a.jpg" data-width="8192" data-height="5464">
  </div>
 </div>
 <p>燧原科技创始人、董事长、首席执行官赵立东表示，清程极智的系统软件方案，有效提升大模型训练和推理算力利用率，显著降低使用成本。双方合作将有效推动生成式人工智能的变革，助力中国数字经济发展。</p>
 <p>清程极智CEO汤雄超表示，双方优势互补，战略合作正逢其时。相信随着合作的深入，两家公司还将进一步拓展合作维度，在更多前沿技术领域协同创新，共同赋能新质生产力的构建。</p>
 <div class="content_sign">
  文：张懿<br>
   编辑：史博臻<br>
   责任编辑：唐玮婕
 </div>
</body>

面向突破超万亿参数大模型算力瓶颈！燧原科技清程极智携手开发高性能系统方案

扫码下载文汇客户端