英特爾推出新一代 Gaudi 3 AI 加速器，比 H100 能效提高40%，期望攻佔企業生成式AI市場

今日在 Intel Vision 2024 客戶暨合作夥伴大會上，英特爾宣布了一系列嶄新的產品及策略，其中最受矚目的莫過於全新的 Intel Gaudi 3 AI 加速器。此款加速器不僅在性能上大幅領先Nvidia的H100，同時也提供了開放、可擴充的架構，為企業AI生態帶來了全新的選擇。透過Gaudi 3的推出，攻佔了企業生成式AI應用的關鍵市場。根據英特爾的數據，目前僅有10%的企業成功將生成式AI專案投入生產，顯見這一領域仍存在許多挑戰。而Gaudi 3的問世，有望協助更多企業克服這些障礙，順利實現生成式AI的落地。除了Gaudi 3之外，英特爾在本次大會上還推出了 Xeon 6 處理器系列、新一代的Core Ultra PC平台，以及面向邊緣計算的各類創新產品。同時，英特爾也宣布了一系列重要的戰略合作，與產業巨頭攜手打造開放、安全的企業AI生態。

全新的 Intel Gaudi 3 AI 加速器

在本次Vision 2024大會上，英特爾重磅推出了全新的Gaudi 3 AI加速器。與前一代Gaudi 2相比，Gaudi 3在多個關鍵指標上實現了顯著突破。首先是算力提升。英特爾表示，在Llama 2等大型語言模型上，Gaudi 3的平均訓練時間較英偉達H100縮短50%。同時，在Llama 70億參數、700億參數以及Falcon 1800億參數的模型中，Gaudi 3的推理性能也較H100平均提高50%。

此外，Gaudi 3的能源效率也得到大幅改善。英特爾數據顯示，與H100相比，Gaudi 3的能源效率平均提高40%。這意味著在功耗相當的情況下，Gaudi 3的計算能力將明顯優於H100。除了性能提升，Gaudi 3在價格方面也更具競爭力。與之前的Gaudi 2相比，Gaudi 3的價格更加親民，這將有助於推動更多企業採用英特爾的AI加速方案。

「創新正在以前所未有的速度發展，且都需要晶片的助力，每家公司亦正迅速地轉型為AI公司。」英特爾執行長Pat Gelsinger在大會上表示，「英特爾在企業的各層面實現『AI無所不在』，從PC、資料中心到邊緣應用。我們最新的Gaudi、Xeon和Core Ultra平台提供一套全面且彈性的解決方案，以滿足客戶與合作夥伴不斷改變的需求，並充分利用未來的龐大機會將其盈利化。」

擁抱開放生態 布局企業AI版圖

英特爾表示，Gaudi 3除了在性能上獨佔鰲頭，還擁有卓越的開放性和可擴充性。Gaudi 3將通過乙太網通用標準連接數萬個加速器，為AI系統提供強大的支持。與此同時，英特爾還推出了一系列經過AI優化的乙太網路解決方案，包括AI NIC和AI連接小晶片等，旨在進一步拓展AI架構的縱向及橫向擴展能力。這種開放的策略，充分契合了企業對彈性、靈活部署生成式AI系統的需求。英特爾表示，Gaudi 3能夠讓企業從單一節點靈活擴展到數千個節點的叢集，滿足從小規模試驗到大規模生產的各種應用場景。

「企業正在尋求將生成式AI從小規模試驗擴展到生產。」英特爾表示，「透過基於高效能、能源效率、成本效益的處理器如Intel Gaudi 3 AI加速器，打造可用的解決方案，不僅可以解決複雜性、碎片化等問題，還符合資料安全性和法規要求。」

為了進一步推動生成式AI在企業的廣泛應用，英特爾還宣布與多家業界龍頭展開了戰略合作。這其中包括谷歌雲、Thales、Cohesity等公司，共同探索在機密運算環境中部署AI模型和演算法的方案，為客戶提供更安全可靠的解決方案。另一方面，英特爾還攜手Anyscale、DataStax、Domino、Hugging Face等合作夥伴，共同打造一個開放、多供應商的企業AI平台。該平台將通過檢索增強生成(RAG)技術，實現生成式AI系統在標準雲環境下的高效部署和卓越性能。

值得一提的是，除了Gaudi 3，英特爾在本次大會上還宣布了Xeon 6處理器系列、Core Ultra PC平台等新品，這些產品均瞄準了企業AI市場的關鍵需求。Xeon 6系列針對RAG等生成式AI應用進行了優化，提供了高效能和高能效的解決方案。而Core Ultra則聚焦於賦能企業PC，為內容創作、安全性等場景帶來新的突破。

「英特爾在企業AI領域的布局可謂全方位。」業內分析師指出，「從硬件到軟件，從中央到邊緣，英特爾正在以Gaudi 3為核心，構建起一個開放、彈性的AI生態圈，這將大幅提升企業AI應用的落地效率。」

強化生態合作 助力全球企業AI轉型

除了硬件和平台層面的創新，英特爾在本次大會上也宣布了一系列重要的合作動作，進一步夯實了其企業AI業務的生態基礎。其中最受矚目的要數英特爾與全球領先企業的戰略合作。英特爾表示，NAVER、Bosch、IBM、Ola/Krutrim、NielsenIQ、Seekr、IFF、CtrlS Group、Bharti Airtel、Landing AI、Roboflow、Infosys等一批企業，已經確定使用英特爾的Gaudi加速器解決方案。

以NAVER為例，該公司正在開發強大的大型語言模型，並計劃在全球範圍內部署從雲端到邊緣設備的先進AI服務。NAVER已經驗證了Gaudi在執行大型Transformer模型運算作業方面的卓越能力，並對其出色的能源效率給予了高度評價。

類似的，Bosch也正在探索將生成式AI應用於智慧製造領域，包括利用基礎模型生成異常檢測的合成數據集。IBM則正在將英特爾第5代Xeon處理器用於其watsonx.data資料平台，並與英特爾緊密合作，驗證適用於Gaudi加速器的watsonx平台。此外，印度公司Ola/Krutrim也在運用Gaudi加速器，預訓練和微調了首個具有10種語言生成能力的印度基礎模型，並計劃在Gaudi叢集上訓練一個更大的基礎模型。

除了與下游客戶的戰略合作，英特爾在上游生態建設方面也已經取得了重要進展。在本次大會上，英特爾宣布與SAP、RedHat、VMware等業界巨頭攜手，共同打造一個開放的企業AI平台。該平台將利用RAG技術，幫助企業在標準化的雲環境中快速部署生成式AI應用，提升安全性和性能。

總的來說，在本次Vision 2024大會上，英特爾展現出了在企業AI領域的強大實力和野心。不論是性能領先的Gaudi 3加速器，還是開放、安全的AI生態系統，亦或是面向客戶端和邊緣的創新產品，英特爾都密切瞄準了企業AI轉型的關鍵需求，為全球企業注入了强勁的創新動能。