數碼新秩序

智城物語
22/03/2024

AI晶片 | NVIDIA最強AI晶片誕生!Blackwell運算力領先群雄,市場形勢大好,卻暗藏2大隱憂?

#Smart Living #輝達 #GPU #智慧生活 #AI #Blackwell #科技 #Nvidia #黃仁勳 #創科

  當今科技市場的焦點已不再是Google、蘋果(Apple)等傳統龍頭,而是手握全球9成AI晶片供應的輝達(NVIDIA)。執行長黃仁勳在GTC 2024大會上,發表新一代Blackwell架構GPU,AI訓練速度比上代晶片快4倍、推理能力優30倍,能夠運行兆級參數規模的大型語言模型,重新定義AI產業的天花板。看似優勢佔盡的NVIDIA是否可以一直順風順水呢?究竟在一片好景背後暗藏著甚麼隱憂呢?

 

復辦實體GTC大會受全球注目

 

  2009年,NVIDIA舉辦首屆GPU Technology Conference(GTC)大會,參加人數頂多約1,500人;2020年新冠疫情爆發,移師至網上舉行;睽違4年後,該公司砸下重金復辦實體GTC大會,2024年3月18日在美國聖荷西SAP中心舉行,全場2萬個座位皆無虛席,輝達官方YouTube頻道的直播更有逾6萬人收看。

 

  黃仁勳在GTC展台上,左手拿著2023年全球瘋狂搶購的Hopper GPU,右手則拿著體積更大、效能更強的新一代AI晶片Blackwell GPU。這款以首位入選美國國家科學院的黑人科學家大衛·布萊克威爾(David Blackwell)命名的GPU共有3個版本,分別為單顆晶片B100與B200、以及組合型超級AI晶片GB200。

 

黃仁勳透露,Blackwell架構晶片(左)定價介乎3萬至4萬美元(約23.4萬至31.2萬港元),即是跟上代Hopper(右)定價區間相若。(圖片來源:翻攝輝達官方YouTube影片)

 

GB200推理能力比前作高30倍

 

  使用2顆Blackwell架構、台積電4奈米製程的B200 GPU,再加上1顆ARM架構的Grace CPU,合組成GB200。在基於GPT-3模型的基準測試中,它的性能是前一代晶片H100的7倍、AI訓練速度快上4倍、AI推理能力高出30倍,惟能源消耗卻低25倍。

 

GB200是今次的旗艦級產品,內含1顆Grace CPU和2顆B200 GPU,將於2024年稍晚供貨,Google、微軟和亞馬遜均已下單訂購。(圖片來源:翻攝輝達官方YouTube影片)

Blackwell GPU性能是Hopper的7倍,訓練速度提升4倍,推論速度更加快上30倍。(圖片來源:翻攝輝達官方YouTube影片)

 

  為迎合數據中心的需要,NVIDIA推出以GB200為核心的GB200 NVL72機架系統,把72顆Blackwell GPU與36顆Grace CPU集成到一組巨大的液冷機架,足以運轉規模達27兆組參數的大型語言模型。其特殊的液冷設計具備1300kW強大散熱能力,水冷液以每秒循環2公升的速度,可將滾燙的AI伺服器降溫至攝氏45度。

 

  瑞穗證券分析師喬丹·克萊因(Jordan Klein)表示,當NVIDIA不斷強調B100用於AI推論的潛力後,外界擔心同樣以AI推論能力作賣點的AMD MI300可能會變成「路人甲」,逐漸被市場忽略。半導體分析師陸行之更直言,假如GB200賣得很好,那麼AMD與英特爾(Intel)的AI晶片「就不用玩了」。

 

輝達推AI代工欲做AI界台積電

 

  當市場將NVIDIA視為AI晶片霸主之際,黃仁勳反而高喊輝達不是AI硬件公司,而是「AI平台企業」。他以台積電作比喻:「大家帶著構想去找台積電,台積電把晶片製造出來;我們也一樣,這就是『AI代工』。」黃仁勳的目標是,把NVIDIA變成AI界的台積電。

 

  有鑑於此,NVIDIA推出為數十種企業而設的生成式AI微服務。例如面向醫療產業,輝達推出逾20項醫療專用AI微服務,並更新BioNeMo模型以強化AI輔助藥物開發;針對製造業,NVIDIA則發表人形機械人的通用基礎模型「GR00T」,讓具備自然語言理解能力的機械人,透過觀察和模仿,快速學習各項生產技能,進而融入工廠環境,提升生產線產能。

 

黃仁勳宣布,即將推出人形機械人計劃「Project GR00T」,以推動AI機械人的產業發展。(圖片來源:翻攝輝達官方YouTube影片)

 

政府管制晶片出口損害輝達收入

 

  NVIDIA的業務發展看似形勢大好,是否真的毫無逆風?答案當然不是。現時各國監管機關擔憂AI對社會、經濟、以至國家安全構成風險,正尋求技術規管。自2023年起,美國政府限制高效能AI晶片和高階晶片製造設備出口給部分中國企業,輝達A100和H100晶片也被納入管制之列,損害了NVIDIA第三季收入。該公司表示,Blackwell GPU同樣會受到美國出口管制的約束。

 

  然而,輝達的最大隱憂不是來自美國政府,而是自己的客戶。科技巨頭希望自家的AI伺服器可以建基於自己的解決方案,而不是長期依靠外部單一供應商。例如雲端平台3大巨頭,亞馬遜(Amazon)自行研發Inferentia與Trainium晶片,分別用於AI模型推論與訓練;微軟(Microsoft)亦推出自研晶片Maia 100和Colbert 100應戰;Google則早已手握自家開發的TPU,用作AI雲端運算。

 

NVIDIA大客戶爭相自研AI晶片

 

  近年,雲端3巨頭不斷增加對IT基建的投資。美國銀行(BofA)調高Amazon、Microsoft、Google在2023年雲端支出總額至840億美元(約6,552億港元),成長率為14%;又預測2024年支出總額將攀升至1,160億美元(約9,048億港元),成長率高達22%。

 

  此外,依靠NVIDIA GPU起家的Open AI,執行長山姆·奧特曼(Sam Altman)甚至想與阿聯酋政府、軟銀集團合作,集資7兆美元(約54.6兆港元)自建半導體供應鏈。這些科技巨頭有錢、有技術,一旦下決心要脫離對單一廠商的依賴,絕對是NVIDIA值得懼怕的對手!

 

02/08/2024

從西雅圖到香港:亞馬遜與經濟通30年平行宇宙!如何重塑人們消費購物、獲取財經資訊模式?

#Smart Living #電子商務 #互聯網 #經濟通 #亞馬遜 #美國 #Amazon #etnet #etnet30週年特輯 #財經媒體 #etnet30週年 #財經資訊 #消費購物

  在互聯網商業發展史上,1994年可說是里程碑之年。就在這一年,一家名為「亞馬遜」(Amazon)的網上書店在美國西雅圖悄然創立,開啟了往後30年全球電子商務的黃金盛世;在地球的另一邊,一家名為「經濟通」(etnet)的財經資訊供應商也在香港正式成立,揭開了此後30年香港財經媒體的輝煌時代。這兩家在平行線上各自創新的公司,究竟如何改變用戶消費購物與獲取財經資訊的習慣呢?

 

1994:亞馬遜、經濟通同步誕生

 

  1994年,傑夫·貝佐斯(Jeff Bezos)看好當時尚未普及的互聯網科技,於是辭掉在對沖基金公司的高薪厚職,在西雅圖家中的車庫創業。同年7月,他成立了一家名為「Cadabra」的公司,籌備開設網上書店。後來他認為公司名稱不夠好聽,決意另覓新名字——他希望新名字以英文字母A開頭,這樣在按字母排序的商業目錄中就可以更快被人找到。

 

  多番查閱字典後,貝佐斯決定以「Amazon」作為公司的新名字,因為他覺得亞馬遜是一個「富有異國情調且與眾不同」的地方,而且按流域面積和水流量計算,亞馬遜河是全球最大的河流,正好符合貝佐斯希望公司成為世界之最的期盼。貝佐斯的公司於1994年11月正式易名為亞馬遜,翌年7月Amazon網站正式營運,起初只銷售圖書,隨著業務擴張,開始涉足音樂、影視、電子產品等領域,逐步發展成網上百貨公司,為消費者提供一站式的網購平台。

 

亞馬遜的販售商品涵蓋圖書、影音作品、電子消費品、電器、廚具、食品、玩具、母嬰用品、化妝品、運動用具、服裝鞋帽等。(圖片來源:翻攝Amazon官網)

圖中是貝佐斯位於西雅圖都會區貝爾維尤(Bellevue)的家,Amazon公司於1994年在那裏成立。(圖片來源:維基百科)

 

  在太平洋的另一邊,經濟通也在1994年成立,以專線系統提供實時財經資訊。當時,資訊的獲取主要依賴於傳統媒體,投資者通常透過報紙或電視來獲取市場動態,但資訊傳遞卻存有延滯,追不上瞬息萬變的金融市場。經濟通的專線系統能夠提供即時股票報價和財經新聞,正可以彌補此問題,讓財經資訊可以更快速地傳播。

 

除香港外,經濟通業務範圍已涵蓋內地、澳門、台灣及日本等地區,成為區內各大金融機構的主要財經資訊來源。(圖片來源:翻攝經濟通官網)

 

2000:亞馬遜、經濟通各自崛起

 

  Amazon在成立初期一直處於虧蝕狀況,從1994至1997年累計有900萬美元(約7,020萬港元)的赤字。1997年5月,亞馬遜在納斯達克IPO上市,在上市申請表中非常坦蕩地告訴投資者,虧損在上市後仍會持續擴大,因為公司不但把大量金錢投入到營銷活動、技術開發、基礎建設等層面,還會繼續補貼降低商品價格,以吸引更多消費者嘗試網購,並強調不急於在4至5年內實現盈利。

 

  如此「緩慢」的增長模式自然惹來一眾股東的抱怨,認為公司業績成長不夠快,難以令其投資獲得合理回報,甚至無法在競爭激烈的科網市場存活下去。不過,當科網泡沫於2000年爆破後,很多互聯網公司相繼倒下,反而亞馬遜可以生存下來。2001年第4季,Amazon首度實現盈利,季度收入超過10億美元(約78億港元),淨利約500萬美元(約3,900萬港元)。這些都證明了貝佐斯的「緩慢」增長策略獲得成功。

 

  當亞馬遜網購業務不斷成長,伺服器和資源管理就成為最大的發展瓶頸。為解決此問題,公司內部工程團隊開發了一個網上服務平台「Amazon Web Services」(AWS),用作管理分散式、虛擬化伺服器和各種網上資源。其後,Amazon發現其他互聯網公司也遇上類似問題,所以在2006年將AWS對外開放。結果,這項新服務受到很多中小企和初創公司歡迎,讓亞馬遜成功開拓雲端藍海市場,最終躍居為全球最大的雲端供應商。

 

  隨著互聯網的興起,經濟通於2000年推出其網站,透過互聯網提供實時報價和財經資訊。這個轉變不僅擴大了用戶群,還豐富了服務內容,除基本的市場數據外,也有專家評論、新聞搜尋、市場分析報告及圖表等深度內容。同時,一般投資者亦可以通過電腦瀏覽網站上的豐富財經資訊,讓獲取即時財經信息不再是專業投資機構的專利。

 

  經濟通在2007年正式進駐北京開設記者站,與香港新聞部相互連接,以取得第一手的中國經濟資訊;2008年,更推出面向國內投資者的財經資訊網站etnetchina.com.cn,提供中港兩地的專業財經新聞及評論。

 

2010以後:亞馬遜、經濟通多元化發展

 

  當電商和雲端業務站穩陣腳後,Amazon就積極展開業務多元化部署。2014年,亞馬遜斥資9.7億美元(約75.66億港元)收購網上直播平台Twitch.tv,跨入社交媒體領域;2017年,豪擲137億美元(1,069億港元)買下連鎖超市Whole Foods Market,從網上轉戰到實體零售業;2018年,動用10億美元(約78億港元)併購網上藥局PillPack,涉足藥物零售。

 

  2022年,Amazon以84.5億美元(約659.1億港元)吞併電影公司米高梅(MGM),藉此強化旗下影音串流平台Prime Video的內容豐富度,並提升自製內容的製作能力,務求跟Netflix、Disney+一較高下。

 

  另一邊廂,因應智能手機的普及,經濟通推出了多款手機APP,讓用戶可以在手機上收看股票即時報價、成交分析、互動圖表、即時新聞、以及專家分析。此外,APP內又提供各種理財工具,包括:個人化監察表、ETF及基金精選及回報排行、定存息率比較、匯率比較、銀行交易匯價等。

 

etnet旗下有多款手機APP,包括:《財經·生活 經濟通》、《經濟通 股票強化版TQ》、以及《經濟通 財曆》。(圖片來源:翻攝Google Play官網)

 

  近年,隨著用戶需求的變化,經濟通開始推行內容多元化策略。除傳統的財經新聞外,etnet平台還推出了不同類型的內容頻道,包括:講解職場管理技巧、智能科技發展、消閒飲食娛樂情報的「生活」頻道;論述歐日韓潮流前瞻、藝術文化、兩性關係的「DIVA Channel」;涵蓋靚湯食譜、養生食療、運動瘦身的「健康好人生」。為吸引更廣泛的受眾,etnet又推出自製影片頻道「etnet TV」,內容涉及財經評論、風水知識、烹飪教學、吃喝玩樂、時尚潮流等。

 

  回顧過去30年,亞馬遜與經濟通的發展歷程,不僅僅是一家公司的成功故事,更是一個行業技術變革和市場變遷的縮影。Amazon從網上書店到電商霸主,etnet從專線系統供應商到財經數碼媒體巨頭,均展示了技術創新和市場策略的重要性。未來,隨著科技進步和市場需求變化,電子商務和財經資訊行業必將迎來更多的挑戰;在這個過程中,企業需要像亞馬遜、經濟通般不斷創新,保持靈活,才能在激烈的市場競爭中立於不敗之地。

 

#食譜 #素食 #數碼營銷 #電影 #移民 #減肥 #創科 #Netflix #外賣 #辦公室貼士 #疫情 #在家運動 #WFH #抗疫不悶 #限聚令 #辦公室求生術
more on etnet.com.hk