作者 jeff0025 (無法顯示人物名稱)
標題 [新聞] 英特爾推新款AI加速器Gaudi 3 台積電5奈
時間 Wed Apr 10 12:30:02 2024




英特爾推新款AI加速器Gaudi 3 台積電5奈米生產

2024/04/10 11:45:32

中央社 記者張建中新竹10日電

英特爾(Intel)推出新款AI加速器Gaudi 3,採用台積電5奈米生產,預計今年第2季向代

工廠提供通用基板和開放加速器模型的標準配置,第3季全面上市。


英特爾表示,Gaudi 3加速器是專為高效能、高效率的生成式AI運算所打造,每台加速器

都有專屬的異質運算引擎,運算效率高,並擅於處理複雜的矩陣運算,是深度學習演算法

的基礎運算。




英特爾指出,Gaudi 3搭載128 GB的HBMe2記憶體容量、3.7 TB的記憶體頻寬和96 MB的靜

態隨機存取記憶體(SRAM),能夠提供處理大型生成式AI資料集所需的記憶體,且適用於

大型語言和多模態模型,有助於提升工作負載效能和資料中心的成本效率。




Gaudi 3加速器整合24個200 GB的乙太網路連接埠,提供開放標準網路,實現高效擴充,

以支援大型運算集,並克服專有網路架構的供應商限制。



英特爾表示,Gaudi 3加速器是採用台積電5奈米製程生產,在B16浮點格式的運算效能,

為前一代採用7奈米Gaudi 2加速器的4倍;Gaudi 3的記憶體頻寬和網路頻寬也分別是


Gaudi 2的1.5倍和2倍。




英特爾說,Gaudi 3的參數模型訓練時間、推論吞吐量和推論能源效率皆優於輝達(

NVIDIA)的H100,推理速度也優於輝達的H200。




https://reurl.cc/2YMMv9
英特爾推新款AI加速器Gaudi 3 台積電5奈米生產 | 產業熱點 | 產業 | 經濟日報
[圖]
英特爾(Intel)推出新款AI加速器Gaudi 3,採用台積電5奈米生產,預計今年第2季向代工廠提供通用基板和開放加速... ...

 

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 113.196.174.254 (臺灣)
※ 作者: jeff0025 2024-04-10 12:30:02
※ 文章代碼(AID): #1c5XNDAx (Tech_Job)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1712723405.A.2BB.html
demonhell: Intel AI老三,卻有兩條AI產品線1F 04/10 12:43
TCross2: 台積真香2F 04/10 13:05
jayemshow: 我就問台積怎麼輸? 各聯盟晶片都找台積生產3F 04/10 13:55
ryusez: 三星5nm表示,,,4F 04/10 15:07
qazxc1156892: 惹錯人了https://i.imgur.com/vrym3Rs.jpg5F 04/10 15:30
[圖]
Chilloutt: 先上256gb6F 04/10 16:13
jimmykuo123: 笑死 intel4不是很香嗎 怎麼下台積5nm7F 04/10 17:30
samm3320: 還在比H200 知道B200多快嗎8F 04/10 18:39
SabreN: 連Google 的AI 晶片也來GG了,終究是要來的,跟著三星穩死的9F 04/10 22:27
SRT0619: 電蝦板在置底討論13/14代 cpu災情,不是個案
製程沒進步只會加電壓擠效能 結果電死XD11F 04/11 01:22

--
作者 jeff0025 的最新發文:
點此顯示更多發文記錄