• 恒指
  • 20,832
  • +264
  •  大市成交 812億
  • 期指
  • 20,859
  • +278
  • 高水27
  • 國指
  • 7,483
  • +115
  • 紅籌
  • 3,858
  • +54
  • 科指
  • 4,626
  • +94
  • 上證
  • 3,370
  • +59
  •  成交 5,624億
07/05/2024 10:57

《連場取勝-連敬涵》商湯端側大模型--邁向商業化之路(二)

  《連場取勝》港股連升第十日,科技股表現突出,當中,近期倍升的商湯(00020)繼續受到市場追捧,大家可以繼續關注。  在「日日新5﹒0」發布會上,我們聽到商湯CEO徐立表示,「今年是端側大模型爆發的一年」。商湯的運算力大幅提升,投放在「雲、邊、端」全棧大模型中,產生了「雲端模型」及「端邊模型」。  雲端模型,主要是指經過電訊商的網絡,來進行雲上與端機上的接觸。由於商湯千億大模型SenseChat(商量)已升級到5﹒0,達到6000億參數,支持混合專家架構MoE大幅提升創意寫作能力、推理能力及總結能力等,在端機輸入相同的中文知識注入後,可獲得更好的理解總結及問答,達到業內領先水平。在多模態能力上,支持高清長圖的解析和理解以及文生圖交互式生成,實現複雜的跨文檔知識抽取及總結問答展示,並具備豐富的多模態交互能力。  而隨著大模型技術的快速發展,不同應用場景的需求日益顯現,人工智能(AI)大模型在智能手機、電腦、VR眼鏡等終端設備領域的應用也成為一大趨勢,因此公司推出1﹒8B(18億)參數規模的SenseChat-Lite版本端側大模型,是為端邊模型。而商量端側模型SenseChat-Lite亦成為了此次發布的亮點,不但全面領先所有開源2B的同級別模型,並在測評上部分超越Llama-2 7B模型的效果。  事實上,自去年以來,端側大模型一直是消費電子行業和AI行業共同關注的熱點。端側大模型是運行在設備端的大模型,通常比我們熟悉的GPT等大模型參數量更小,只有18億參數,對比雲端模型的6000億參數,因此可以使用端側算力直接運行。端側大模型有著在任何網絡條件下都可以生成回答、隱私不必離開設備、無需雲端算力使成本更低等種種優勢。  有著更強的端側AI能力,意味著原本做不到的用戶場景將被進一步打開,如工作文件也可以直接用手機大模型進行處理,保存最高的私隱權;在沒有網絡的飛機上,亦能流暢聊天;也可以讓孩子在斷網的情況下學習知識。而端側模型使用的算力和電力是由設備本身提供,用戶不需要額外付費,就能得到體驗提升,而廠家則能夠省下雲端的成本,是雙贏局面。由於成本更低,對消費電子產業本身也將產生影響,端側模型將使包括汽車(如小米SU7上的小愛同學設備)、XR在內的種種終端設備,尤其是平價的電子設備如小愛智能音箱等,能夠有機會接入智能體驗,而毋須過多考慮算力成本。  商湯從上一個AI時代就為手機提供底層能力,而在大模型時代,再次抓住了相關機遇,不但推出能力媲美GPT-4的雲端大模型,此次又推出了速度最快的端側模型。公司的端側模型,目前用戶還無法直接在手機上體驗到,需要智能硬件的廠商與商湯合作,共同部署。但可以想象到,端側模型市場潛力巨大,每年有數十億部手機及電腦出貨量,手握智能設備市場在過往的良好合作經驗,在端側未來的廣大市場,商湯大有可為,商業化變現能力將大為提升,為未來一年內達成收支平衡帶來基礎,大家應繼續留意此股。《香港股票分析師協會理事 連敬涵》 *筆者持有上述股份 *《經濟通》所刊的署名及╱或不署名文章,相關內容屬作者個人意見,並不代表《經濟通》立場,《經濟通》所扮演的角色是提供一個自由言論平台。

《說說心理話》:講講常見年輕人理財問題!想「人有我有」?認可理財社工分享理財觀念小秘訣!► 即睇

備註︰

即時報價更新時間為 05/11/2024 11:50

港股即時基本市場行情由香港交易所提供; 香港交易所指定免費發放即時基本市場行情的網站

權證
即時報價
全文搜索
Search
最近搜看
貨幣攻略
大國博弈
More
Share