在英特爾 Vision 2024 客戶暨合作夥伴大會上,英特爾推出了 Intel Gaudi 3 加速器,為企業生成式 AI 帶來效能、開放性和選擇,並揭露新的開放式可擴充系統、下一代產品和策略合作,以加速生成式 AI 的採用。去年僅有 10% 的企業成功將生成式 AI 專案投入生產,英特爾的最新產品將解決企業在擴展 AI 計畫時所面臨的挑戰。
英特爾執行長 Pat Gelsinger 表示:「創新正在以前所未有的速度發展,且都需要晶片的助力,每家公司亦正迅速地轉型為 AI 公司。英特爾在企業的各層面實現『AI 無所不在』,從 PC、資料中心到邊緣應用。我們最新的 Gaudi、Xeon 和 Core Ultra 平台提供一套全面且彈性的解決方案,以滿足客戶與合作夥伴不斷改變的需求,並充分利用未來的龐大機會將其盈利化。」
企業正在尋求將生成式 AI 從小規模試驗擴展到生產。透過基於高效能、能源效率、成本效益的處理器如 Intel Gaudi 3 AI 加速器,打造可用的解決方案,不僅可以解決複雜性、碎片化等問題,還符合資料安全性和法規要求。
推出用於 AI 訓練和推理的 Gaudi 3Intel Gaudi 3 AI 加速器將透過乙太網路通用標準,連接數萬個加速器,為 AI 系統提供支援。與前一代產品相比,Intel Gaudi 3 將 BF16 的 AI 運算能力提高 4 倍,並將記憶體頻寬提高 1.5 倍。Intel Gaudi 3 AI 加速器將為尋求大規模布署生成式 AI 的全球企業,帶來 AI 訓練和推理方面的重大躍進。
在具有 70 億和 130 億參數的 Llama2 模型及 1750 億參數的 GPT-3 模型上,預計 Intel Gaudi 3 的平均訓練時間將比 Nvidia H100 縮短 50%。此外,在 Llama 70 億、700 億參數以及 Falcon 1800 億參數模型中,Intel Gaudi 3 加速器的推理處理量,預計將比 H100 平均高出 50%,推理效能平均高出 40%。
Intel Gaudi 3 提供開放、基於社群的軟體和符合業界標準的乙太網路,讓企業能從單一節點彈性延伸到數千個節點的叢集、超級叢集和巨型叢集,支援最大規模的推理、微調和訓練。
Intel Gaudi 3 將於 2024 年第二季開始提供給 OEM 廠商, 包括戴爾科技、慧與科技、聯想和美超微等。
英特爾 AI 解決方案為客戶創造價值
英特爾闡述針對開放、可擴充 AI 系統的策略,包括硬體、軟體、框架和工具。英特爾的方法為 AI 參與者建立廣大且開放的生態系,以提供符合企業特定生成式 AI 需求的解決方案,包括設備製造商、資料庫提供者、系統整合商、軟體和服務提供者等,並且讓企業得以運用熟悉並信任的生態系合作夥伴與解決方案。
在廣大的動能下,英特爾與各產業的企業客戶和合作夥伴共同為全新、創新的生成式 AI 應用布署 Intel Gaudi 加速器解決方案:
英特爾也宣布與 Google Cloud、Thales 和 Cohesity 合作,在其雲端執行案例中利用英特爾的機密運算功能,包括Intel Trust Domain Extensions(Intel TDX)、Intel Software Guard Extensions(Intel SGX)和英特爾的認證服務。客戶可以在受信任的執行環境(TEE)中運行AI模型和演算法,並利用英特爾的信任服務,獨立驗證 TEE 的可信任度。
生態系齊心協力開發企業 AI 開放平台英特爾攜手 Anyscale、DataStax、Domino、Hugging Face、KX Systems、MariaDB、MinIO、Qdrant、RedHat、Redis、SAP、SAS、VMware、Yellowbrick 和 Zilliz 等合作夥伴,宣布為企業 AI 創建開放平台。這項業界合作計畫旨在開發開放、多供應商的生成式 AI 系統,透過檢索增強生成(RAG)實現一流的布署便利性、最佳效能和價值。RAG 使企業在標準雲端基礎上運行大量現有的專屬資料來源,並透過開放的 LLM 功能增強,進而加速企業中的生成式AI應用。
在最初階段,英特爾將在以安全的 Xeon 和 Gaudi 為基礎的解決方案上,釋出生成式 AI 流程(pipeline)的參考建置,發布技術概念框架,並繼續在 Intel Tiber 開發者雲端中增加基礎設施容量,以供生態系統開發、驗證 RAG 以及未來流程。英特爾鼓勵生態系統擴大參與此開放式計畫,以促進企業採用解決方案並加速業務成效。
英特爾延伸AI藍圖和開放生態系方法除了 Intel Gaudi 3 加速器之外,英特爾也針對企業 AI 領域的下一代產品和服務發布最新消息。
全新 Intel Xeon 6 處理器:Intel Xeon 處理器提供高效能解決方案以運作目前的生成式 AI 解決方案,包括使用專有資料產生特定業務結果的 RAG。英特爾為資料中心、雲端和邊緣的下一代處理器推出新產品 Intel Xeon 6。採用新型效率核心(E-core)的 Intel Xeon 6 處理器可提供卓越效率,將於本季推出,而 Intel Xeon 6 效能核心(P-core)將提供更高的 AI 效能,並於 E-core 處理器後不久推出。
英特爾宣布來自客戶端的最新動能,以及邊緣和連結方面的藍圖更新,包括:
英特爾推出 Intel Tiber 商業解決方案組合,以簡化企業軟體和服務,包含生成式 AI 布署。
統一的體驗使企業客戶和開發人員更容易找到符合需求的解決方案,加速創新並釋放價值,且不會影響安全性、合規性或效能。客戶即日起可開始探索計劃於 2024 年第三季全面推出的 Intel Tiber 產品組合。
英特爾在 Vision 2024 發布的消息彰顯英特爾致力於為全球企業提供可用、開放且安全的 AI 的承諾。借助這些新的解決方案和合作計畫,英特爾將引領 AI 革命,為世界各地的企業釋放前所未有的價值。
加入T客邦Facebook粉絲團 固定链接 '英特爾透過 Gaudi 3、AI 開放系統策略與贏得新客戶推動企業 AI' 提交: April 28, 2024, 3:30pm CST