作者
標題 [新聞] 英特爾推新款AI加速器Gaudi 3 台積電5奈
時間 Wed Apr 10 12:30:02 2024
標題 [新聞] 英特爾推新款AI加速器Gaudi 3 台積電5奈
時間 Wed Apr 10 12:30:02 2024
英特爾推新款AI加速器Gaudi 3 台積電5奈米生產
2024/04/10 11:45:32
中央社 記者張建中新竹10日電
英特爾（Intel）推出新款AI加速器Gaudi 3，採用台積電5奈米生產，預計今年第2季向代
工廠提供通用基板和開放加速器模型的標準配置，第3季全面上市。
英特爾表示，Gaudi 3加速器是專為高效能、高效率的生成式AI運算所打造，每台加速器
都有專屬的異質運算引擎，運算效率高，並擅於處理複雜的矩陣運算，是深度學習演算法
的基礎運算。
都有專屬的異質運算引擎，運算效率高，並擅於處理複雜的矩陣運算，是深度學習演算法
的基礎運算。
英特爾指出，Gaudi 3搭載128 GB的HBMe2記憶體容量、3.7 TB的記憶體頻寬和96 MB的靜
態隨機存取記憶體（SRAM），能夠提供處理大型生成式AI資料集所需的記憶體，且適用於
大型語言和多模態模型，有助於提升工作負載效能和資料中心的成本效率。
Gaudi 3加速器整合24個200 GB的乙太網路連接埠，提供開放標準網路，實現高效擴充，
以支援大型運算集，並克服專有網路架構的供應商限制。
英特爾表示，Gaudi 3加速器是採用台積電5奈米製程生產，在B16浮點格式的運算效能，
為前一代採用7奈米Gaudi 2加速器的4倍；Gaudi 3的記憶體頻寬和網路頻寬也分別是
為前一代採用7奈米Gaudi 2加速器的4倍；Gaudi 3的記憶體頻寬和網路頻寬也分別是
Gaudi 2的1.5倍和2倍。
英特爾說，Gaudi 3的參數模型訓練時間、推論吞吐量和推論能源效率皆優於輝達（
NVIDIA）的H100，推理速度也優於輝達的H200。
https://reurl.cc/2YMMv9
英特爾推新款AI加速器Gaudi 3 台積電5奈米生產 | 產業熱點 | 產業 | 經濟日報
![[圖]]()
英特爾（Intel）推出新款AI加速器Gaudi 3，採用台積電5奈米生產，預計今年第2季向代工廠提供通用基板和開放加速... ...
![[圖]](https://money.udn.com/static/img/moneyudn.jpg)
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 113.196.174.254 (臺灣)
※ 作者: jeff0025 2024-04-10 12:30:02
※ 文章代碼(AID): #1c5XNDAx (Tech_Job)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1712723405.A.2BB.html
推 : Intel AI老三，卻有兩條AI產品線1F 04/10 12:43
推 : 台積真香2F 04/10 13:05
推 : 我就問台積怎麼輸? 各聯盟晶片都找台積生產3F 04/10 13:55
→ : 三星5nm表示，，，4F 04/10 15:07
![[圖]](https://i.imgur.com/vrym3Rsh.jpg)
推 : 先上256gb6F 04/10 16:13
→ : 笑死 intel4不是很香嗎 怎麼下台積5nm7F 04/10 17:30
→ : 還在比H200 知道B200多快嗎8F 04/10 18:39
→ : 連Google 的AI 晶片也來GG了，終究是要來的，跟著三星穩死的9F 04/10 22:27
噓 : 電蝦板在置底討論13/14代 cpu災情，不是個案
製程沒進步只會加電壓擠效能 結果電死XD11F 04/11 01:22
製程沒進步只會加電壓擠效能 結果電死XD11F 04/11 01:22
--