新聞
23/02/2024 15:40

報告指商湯(20)大裝置實現大模型推理效率提升600%

  《經濟通通訊社23日專訊》商湯(00020)引述國際調研機構Frost & 
Sullivan聯合頭豹研究院發布的《2023年中國AI開發平台市場報告》指出,商湯
科技在市場綜合競爭表現位列國內第一。報告亦稱,SenseCore商湯大裝置擁有近
30000張GPU對外提供大模型訓練與推理服務,實現了大模型推理效率提升600%,大
模型增量訓練降低90%,單個智算中心超過6800P算力規模。
  報告亦稱,大裝置搭建了完善的AI原生基礎設施,包括算力基礎架構、大模型生產平台、
模型即服務,並輔以AI專家服務和數據服務,助推動相關技術的應用發展。(rh)

【你點睇】教育局最新初中教材提出應堅拒婚前性行為,你認為教材內容是否不合時宜?► 立即投票