數碼新秩序

　　當下生成式AI運算主要依靠雲端平台執行，如要為用戶帶來更爽快、安全的使用體驗，便非要從電腦端著手改善不可——能夠獨立運行大型語言模型的AI PC遂應運而生。Microsoft與Intel已發表AI PC的硬件要求：必需配備NPU晶片與「Copilot」鍵。AI晶片龍頭NVIDIA則宣稱，擁有GPU的PC可以稱為「Premium AI PC」，代表著AI效能更強，而單靠NPU運行的PC則是「Basic AI PC」，雙方較勁意味甚濃。究竟未來誰可主宰AI PC市場呢？

各廠商對AI PC定義持不同看法

　　市場普遍預期，AI PC銷售將在未來幾年大幅增長，讓PC市場走出低谷。市調機構Gartner預估，AI PC在2024年將佔全球所有電腦出貨量的22%，總計為5,450萬部。IDC亦預測，2024年AI PC的出貨量將接近5,000萬部，到2027年更有望倍增至1.67億部，佔所有電腦出貨量的60%。

　　面對這波AI PC換機潮，微軟（Microsoft）、英特爾（Intel）、輝達（NVIDIA）無不拼盡全力搶攻這個新市場。所謂「AI PC」，意指在無需連線上網、不依靠雲端運算的情況下，能夠獨立提供生成式AI服務的個人電腦；換言之，這要把雲端平台的強大運算力，適度地遷移至PC之上。但上述只是一個基本概念，而各大廠商對AI PC的具體定義都有著自己的看法。

微軟定義AI PC要有NPU晶片

　　微軟與英特爾已定下AI PC應具備的3大基本條件：一、能夠運行AI服務Microsoft Copilot；二、內置神經網絡處理器（Neural-network Processing Unit，NPU）；三、實體鍵盤上設有「Copilot」按鍵。此後，鍵盤位於Alt鍵旁、印有微軟標誌的按鈕將會消失，取而代之的是印有Copilot標誌的按鍵，讓用戶可以一鍵呼叫AI功能。

　　稍後，微軟將會推出離線版Copliot服務，讓用戶可以在沒有網絡連線的環境下，都能使用生成式AI功能。由於AI推理所需的運算效能完全來自電腦本身，所以微軟要求NPU的運算力要達到40 TOPS（Tera Operations Per Second，每秒一兆次操作）才算符合AI PC標準。

微軟指出，除內建NPU外，AI PC必需在鍵盤上配備「Copilot」按鍵，意味著市面上大部分電腦都不符合AI PC標準。（圖片來源：Intel）

微軟要求NPU效能起碼40 TOPS

　　綜觀當今電腦規格，40 TOPS的要求可說是非常苛刻。英特爾首款內建NPU核心的Intel Core Ultra處理器系列僅能提供10 TOPS；其對手超微（AMD）旗下的Ryzen 8040處理器，NPU效能亦只有16 TOPS，兩者均未能達標。

Intel於2023年12月推出第一款內建NPU核心的Core Ultra晶片，已被裝配到Acer、Dell、HP、Lenovo等品牌的新款電腦中，但卻被未能符合微軟要求的40 TOPS效能門檻。（圖片來源：Intel）

　　有鑑於此，Intel將於2024年底發表的Arrow Lake和Lunar Lake NPU，效能會比現有版本高出3倍以上，理論上應可達到微軟的最低要求。 AMD下一代Ryzen流動處理器將採用 XDNA 2架構，其NPU性能也可達到40 TOPS。從手機晶片跨足電腦晶片領域的高通（Qualcomm），亦會在2024年底前推出X Elite晶片，預計AI效能可達到45 TOPS。

輝達：有GPU是Premium AI PC

　　另一邊廂，AI晶片霸主NVIDIA亦已提出他們對AI PC的看法。該公司認為，內建NPU的電腦雖可稱作AI PC，惟效能與支援性卻遠遜於配備GPU的電腦。根據輝達提供的測試數據，NVIDIA GPU能夠提供100至1,300 TOPS的AI運算力，遠遠拋離NPU的10至45 TOPS。

　　當用戶要利用AI工具生成影片，甚或處理3D噪音降噪、遊戲畫面光線追蹤等，目前也只有GPU能夠辦得到。NVIDIA表示，旗下GeForce RTX已可支援逾500款AI應用工具與遊戲，代表著消費者買回來後無需擔心產品的支援性。故此輝達認為，只有NPU的電腦僅可稱作「Basic AI PC」，與具備GPU的「Premium AI PC」不屬同一個檔次。

假如市場接受NVIDIA的說法，認同內置GPU的電腦是「Premium AI PC」，勢必推動GeForce RTX系列GPU與顯示卡的銷量成長。（圖片來源：NVIDIA）

2025年AI PC軟硬件配套始齊備

　　除電競PC外，普通PC因成本考量大都不設獨立的GPU。一旦NVIDIA能夠成功向市場推廣AI PC必需裝配獨立GPU，那麼其消費級GPU與顯示卡的銷量就可以獲得大幅增長。輝達現已雄霸AI雲端伺服器領域，假如連AI PC紅利也能分一杯羹的話，將進一步鞏固GPU在AI晶片市場的地位，增強該公司在整個AI產業鏈中的影響力。

　　初步估計，AI PC發展初期的主要用戶群是高階商務用戶和內容創作者，他們對運用AI來提升生產力有高度需求，不介意多花一點錢購入高階AI PC。面向普羅大眾的消費型AI PC如要普及，還有待更多元化的AI應用軟件面世。

　　現時《Windows》作業系統仍未支援AI PC，微軟需要重寫應用程式始能讓系統使用NPU，預計AI兼容版的《Windows 11》將會在2024年晚些時候釋出；針對AI PC作出全面優化的下一代系統《Windows 12》，更有可能在2025年上市。由此可見，AI PC硬件與軟件配套或許要等到2025年始能齊備，屆時才是市場大規模擁抱這類型電腦的時機，也是AI PC市場爭霸戰的決勝時刻！

　　在生成式AI世代下，最搶手的硬件產品是輝達（NVIDIA）出品的圖像處理器（GPU），在全球AI加速器的市佔率高達80％至95％，讓該公司躍居為AI晶片龍頭。AMD、Intel兩大處理器生產商拼命追趕輝達，但卻難見其尾燈，於是聯同微軟、Google、Meta等合共8大科技巨頭，組建AI技術聯盟「Ultra Accelerator Link」，試圖與之抗衡。究竟這個巨大聯盟能否動搖NVIDIA的AI霸業呢？

排除NVIDIA的AI產業聯盟

　　2024年4月，微軟（Microsoft）、Meta、超微（AMD）、博通（Broadcom）宣布結盟，成建立一個新的AI產業小組「Ultra Accelerator Link」（UALink），以開發GPU連結技術的新標準。5月，UALink建立一個名為「UALink Promoter Group」的推廣小組，同時再有新成員加入，包括： Google、英特爾（Intel）、思科（Cisco）、惠普（HP）。但有趣的是，這個AI產業小組始終將AI晶片龍頭NVIDIA排除在外。

　　國際市調機構Gartner評估，2024年用於AI伺服器中的GPU市場可望達到210億美元（約1,638億港元），及至2028年將攀升至330億美元（約2,574億港元），但預計當中80%至95%的份額都會由NVIDIA獨佔。微軟、Google、Meta已購入數十億美元的NVIDIA硬件，用於自身的AI模型與雲端運算平台，但如今顯然想減少對AI晶片龍頭的過度依賴，於是決定採取合縱策略，聯合不同廠商抗衡輝達，形成8大科技巨頭圍攻輝達之勢。

GPU互連技術壁壘相對較低

　　事實上，NVIDIA之所以能建立有如堡壘般穩固的AI霸業，全賴有多重護城河在背後支撐。除廣為人知的GPU硬件設計和《CUDA》開發軟件平台外，輝達還有第三條護城河——GPU高速互連技術「NVLink」。相比起GPU和《CUDA》，GPU與GPU之間高速連接的技術壁壘相對較低，加上相關產業變革正處於起步階段，故此成為８大巨頭突破NVIDIA堡壘的最佳切入點。

　　2024年3月，NVIDIA執行長黃仁勳在GTC大會上發表的最矚目產品，當然是新一代Blackwell架構GPU，惟第五代NVLink也非常重要。它的雙向總理論頻寬從900GB/s倍增至1.8TB/s，足以讓由36組GB200（一顆Grace CPU+兩顆B200 GPU）組成的GB200 NVL72伺服器，把72顆GPU當成單一巨大GPU執行運算，令AI模型的訓練速度增加4倍，推論速度更提高30倍。

今年第三季推出UALink 1.0

　　衝著NVLink而來的全新互聯技術UALink，能夠提供精準而高速的低延遲通訊，不但可以讓單一伺服器內連接1,024顆GPU，而且容許GPU附加的記憶體之間進行直接載入和儲存；藉著為GPU之間的溝通建立一個通用協定，使GPU到GPU能夠更有效地進行通訊，讓AI業者可以更輕鬆地整合AI系統，並提高數據中心部署的靈活性與可擴展性。

　　UALink小組計劃在2024年第三季成立一個「UALink聯盟」（UALink Consortium），以監督UALink標準的開發進程。有別於NVLink只限運作於NVIDIA GPU之上，UALink屬於開放標準，規格細節公開，讓不同廠商自由讀取、使用、實作，沒有任何限制或授權問題。UALink 1.0版本將會同一時間推出，更高頻寬的後繼版本UALink 1.1則會在同年第四季推出。至於UALink的第一批產品，預估在「未來幾年」便會上市。

Cerebras研發AI專用晶片

　　在Computex 2024的主題演講上，AMD執行長蘇姿丰讚揚UALink開放標準協定，強調標準開放方能促進AI產業創新，與NVIDIA叫戰的意味甚濃。面對著UALink聯盟的進逼，黃仁勳顯得毫不畏懼。他老神在在地表示，該公司在7年前已著手研發NVLink，如今人們才開始意識到它的重要性：「我們的NVLink已經開發到第五代，而UALink只剛起步，等UALink第一代推出，NVLink可能到第七、八代了。」

蘇姿丰認為，以乙太網絡技術為基礎的UALink，才是擴大GPU運算規模的最佳解決之道。（圖片來源：翻攝AMD官片YouTube影片）

NVIDIA執行長黃仁勳表示，NVLink能以令人難以置信的速度，連接起AI伺服器內的GPU，形成一個巨大的GPU來執行運算。（圖片來源：NVIDIA官網）

黃仁勳指出，在NVLink架構下，可以將8台GB200 NVL72伺服器合組成「DGX SuperPOD」，把576顆B200 GPU當作是一顆超巨大GPU，提供11.5exaFLOPS的超級運算力。（圖片來源：NVIDIA官網）

　　除科技巨頭外，市場上也有不乏要挑戰NVIDIA的初創公司。創立於2015年的美國加州初創Cerebras，埋首於研發比GPU更適用於訓練AI模型的晶圓級晶片（WSE），被視為輝達最強挑戰者之一。踏入2024年，該公司已推出一款5奈米製程的WSE-3晶片，並開始跟戴爾（Dell）合作。Cerebras亦仿傚NVIDIA，推出自家AI開發軟件，可以搭配WSE晶片使用，惟功能暫時仍遠遜於《CUDA》。

群雄並起爭奪10%市場份額

　　雖然NVIDIA幾近獨佔了整個AI晶片市場，又擁有多重護城河構成的無敵競爭優勢，惟市場對尋求輝達替代方案仍是興趣滿滿。創投公司Thomvest Ventures董事總經理烏梅什·帕德瓦爾（Umesh Padval）直言：「客戶喜歡看到市場領導者，但也期待有更多供貨來源以供選擇。」

　　作為Cerebras 投資者之一的創投公司Eclipse Ventures認為，AI晶片市場規模日趨龐大，Cerebras等初創只要從NVIDIA手上搶到10%的市場份額，已是獲利甚豐；但要留意的是，AMD與Intel也同樣瞄準這10%份額。由是觀之，未來AI晶片市場競爭格局可能會是：各大小企業拼命爭奪這塊10%的小片蛋糕；至於90%的大片蛋糕，則會被NVIDIA牢牢握在手中，短時間內仍未看到有誰可動其分毫！

「延伸閱讀」：

AI競賽隱形贏家！NVIDIA技壓Google、Intel、AMD，穩坐AI晶片龍頭，致勝關鍵全靠軟件！

雲端AI已落伍？AI PC掀起電腦端運算新戰局！微軟、Intel英特爾惡鬥NVIDIA爭奪市場龍頭寶座！

稱霸AI晶片！NVIDIA吃掉9成AI利潤，科技巨頭尋找替代方案！未來競爭格局將面臨巨變？