[情報] 英特爾推出搭載P-core效能核心的Xeon 6處理器，更新AI加速器Gaudi 3 - PC_Shopping板

首頁(home) 上頁(↑) 下頁(↓) 末頁(end)

※ 本文轉寄自 ptt.cc 更新時間: 2024-09-27 10:33:20

看板 PC_Shopping

作者 yymeow (ㄚㄚ喵)
標題 [情報] 英特爾推出搭載P-core效能核心的Xeon 6
時間 Fri Sep 27 01:49:23 2024

英特爾推出搭載P-core效能核心的Xeon 6處理器，更新AI加速器Gaudi 3

搭載P-core效能核心的Xeon 6處理器，最高擁有128個核心，504MB快取記憶體，鎖定
邊緣、資料中心到雲端的AI，以及HPC高效能運算需求。

文/蘇文彬 | 2024-09-25發表

英特爾在今年Computex電腦展發表Xeon 6處理器，由搭載效率核心(E-core)版本的
Xeon 6處理器先打頭陣，本周英特爾再補齊Xeon 6處理器產品線，推出搭載效能核心
(P-core)版本，提高核心數及記憶體頻寬，最高至128個核心。

Xeon 6為伺服器專用處理器，是英特爾首款採用Intel 3節點設計的產品，其中分為搭
載E-core效率核心版本（代號Sierra Forest），以及搭載P-core效能核心版本（代號
Granite Rapids）。今年6月，英特爾先推出E-core版Xeon 6處理器，鎖定超多核心需
求，最高擁有144個E-Core核心，主要鎖定高密度、高能源效率資料中心使用需求，適
用於雲原生、CDN、微服務架構等應用。

至於新推出的P-core版本Xeon 6處理器，鎖定密集型工作負載需求，AI及高效能運算
市場，不僅增加核心數，並且將AI加速功能嵌入到每個核心，記憶體頻寬也加倍。英
特爾稱該處理器適用於邊緣、資料中心到雲端的AI運算需求，強調能在不需獨立加速
器之下，執行數十億參數的AI模型。

根據官網的訊息，Xeon 6900P系列搭載的P-core為超執行緒核心，針對AI、HPC、資料
等工作負載需求，採用矩陣引擎，最高擁有128個核心，最多504MB的快取記憶體；而
E-core版本的Xeon 6700E系列，使用單執行緒提高核心密度，並且省略矩陣引擎，單
處理器最高擁有144個核心，英特爾計畫今年底再推出更高核心數，將單插槽核心數推
升至288個核心。

除了P-core版Xeon 6的推出，英特爾也更新旗下的AI加速器Gaudi 3，強調為大規模生
成式AI需求設計的Gaudi 3，擁有64個張量處理器核心、8個矩陣乘法引擎，內建128GB
HBM2e記憶體，支援24個200Gb的網路埠，使新的Gaudi 3 提升20%的吞吐量，英特爾強
調和Nvidia的H100相比，在Llama 2 70B推論時，同樣成本下提供2倍的效能。

英特爾指出，Gaudi 3支援PyTorch框架、Hugging Face Transformer、Diffuser模型。
目前英特爾已和合作夥伴聯手，針對生成式AI最佳化的方案，例如戴爾合作規畫設計
RAG方案。

來源：
https://www.ithome.com.tw/news/165180

英特爾推出搭載P-core效能核心的Xeon 6處理器，更新AI加速器Gaudi 3 | iThome

搭載P-core效能核心的Xeon 6處理器，最高擁有128個核心，504MB快取記憶體，鎖定邊緣、資料中心到雲端的AI，以及HPC高效能運算需求。 ...

心得：
好像真的有點強，所以這兩天INTC漲上去不是因為Lunar Lake解禁，而是因為6900P
發表喔?

實測其實有，在這個影片：
https://www.youtube.com/watch?v=-Pq_nFLL9n0

https://i.imgur.com/96Chmed.png

不過AMD很快也要發布新一代的EPYC，鹿死誰手還很難說。

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.37.34.80 (臺灣)
※ 作者: yymeow 2024-09-27 01:49:23
※ 文章代碼(AID): #1czPwbBe (PC_Shopping)
※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1727372965.A.2E8.html

推 luvstarrysky: 筆電桌電伺服器全面反攻1F 36.225.176.169 台灣 09/27 01:55
→ luvstarrysky: LNL已經用超低續航把AMD的Strix
→ luvstarrysky: point打得滿地找牙了即將上市的
→ luvstarrysky: ARL-S跑分洩漏更是直接輾壓伺服器
→ luvstarrysky: 也要追上了嗎
→ luvstarrysky: 打錯 LNL用超低功耗

→ yymeow: 我是持保守態度啦，並竟6900P有沒有比對手7F 114.37.34.80 台灣 09/27 01:57
→ yymeow: 省電，沒有被提到
→ yymeow: Arrow Lake就算跑上有稍稍贏過對手，如果

→ luvstarrysky: 能追上就不錯了畢竟伺服器這塊已經10F 36.225.176.169 台灣 09/27 01:57
→ luvstarrysky: 算是被輾壓了桌上和筆電至少還小贏

→ yymeow: 又是靠電上去的，一樣會被酸能耗比差12F 114.37.34.80 台灣 09/27 01:58

→ luvstarrysky: 如果性能差不多 INTEL支援性會比較13F 36.225.176.169 台灣 09/27 01:58
→ luvstarrysky: 好那續航差一點也沒差

→ yymeow: 不過這的確是我近年第一次看到xeon贏過15F 114.37.34.80 台灣 09/27 01:59

→ luvstarrysky: 前提是能耗比要先追近16F 36.225.176.169 台灣 09/27 01:59

→ yymeow: EPYC17F 114.37.34.80 台灣 09/27 01:59

→ eric13141230: 先準時出貨再說吧18F 42.72.94.19 台灣 09/27 02:00

推 sigma9988: 股價重返農藥19F 36.229.19.219 台灣 09/27 02:41

→ yymeow: 還早得很呢。不過如果是在被笑跟高露潔比20F 114.37.34.80 台灣 09/27 02:43
→ yymeow: 下去那天買INTC的人，現在應該還蠻雀躍的

推 yeeouo: 這得多少瓦啊22F 124.213.115.96 日本 09/27 02:53

→ eric13141230: 裁員沒砍掉印度冗員反彈完還是要23F 42.72.94.19 台灣 09/27 02:56
→ eric13141230: 下去

→ yymeow: 帳面數據是128C256T，500W25F 114.37.34.80 台灣 09/27 02:56
→ yymeow: 而EPYC 9754也是256T，360W

→ justice2008: 我對E-core比較有興趣當年12代出的27F 114.32.14.43 台灣 09/27 03:15
→ justice2008: 時候一堆人在狂吹不曉得效能如何

→ pcfox: 剛出桶就整天發作有夠吵29F 36.231.96.188 台灣 09/27 03:17

推 sachialanlus: 是因為要被收購30F 111.248.230.117 台灣 09/27 03:37

→ amd7356: 他都快被永桶了31F 101.12.22.86 台灣 09/27 05:23

推 kkcity59: 真慘啊...一拖拉古新創公司拿H100做比對32F 114.24.103.147 台灣 09/27 05:28
→ kkcity59: 都是說自己的方案可以快各五倍十倍的
→ kkcity59: i皇只敢說是兩倍...嘻嘻
→ kkcity59: 隨便找一個Etched的Sohu就說快了20倍
→ kkcity59: 換句話說也就是Intel的十倍

你說的是gaudi 3，這個還沒出。現在出的是xeon 6。
gaudi 1/2都沒有賣的很好，據說gaudi 3主打便宜，應該不用指望太多。

→ narukaza: 這感覺就像我看到蟖unar Lake NPU可以37F 114.34.174.204 台灣 09/27 07:04
→ narukaza: 跑超過40TOPS，原以為好像很厲害，結果
→ narukaza: 仔細一查發現4090可以跑1321TOPS一樣..
→ narukaza: .

推 soapmactony: 星空大濕信心滿滿41F 27.53.25.253 台灣 09/27 07:20

推 ayuhb: 自製的？42F 42.73.198.176 台灣 09/27 07:22
推 ayuhb: CPU的NPU就是讓你加減玩的，誰不知道顯卡
→ ayuhb: 算力比較高...

→ narukaza: 說反了吧...是GPU加減玩就能輕鬆超過NP45F 114.34.174.204 台灣 09/27 07:43
→ narukaza: U算力...那為何要特別強調NPU，還吹得
→ narukaza: 好像超過50TOPS多高似的...
→ narukaza: 如果你要說用了新CPU，你的算力就會是1
→ narukaza: 321+50UP，那我沒話說

推 ayuhb: 那輕薄本的1321TOPS怎麼來50F 42.73.198.176 台灣 09/27 07:55

噓 roy33456: 1.5v電死51F 118.163.63.243 台灣 09/27 08:09

推 Transposon: Intel 3歐，保重欸52F 223.138.5.112 台灣 09/27 08:14

→ spfy: 我以為那個40T是當初為了Elite量身打造的規53F 223.137.133.200 台灣 09/27 08:15
→ spfy: 格主打WOA不用獨顯超高續航也能用AI 結果
→ spfy: 高通拖到IA兩家競品都出來了才上這個專屬
→ spfy: 規格就沒用了

→ narukaza: 說桌面端扯筆電，那接下來是不是要扯掌57F 114.34.174.204 台灣 09/27 08:20
→ narukaza: 機？
→ narukaza: 算了，算我輸，別扯了

→ spfy: 不然實在不懂沒有終端應用也沒有硬體的時候60F 223.137.133.200 台灣 09/27 08:20
→ spfy: 開一個40T標準到底是幹嘛的納德拉夢到的？

推 ayuhb: 啥？Lunar lake你自己提的欸，那是筆電CPU62F 42.73.198.176 台灣 09/27 08:22

推 tony1768: 印特爾從來不弱，只是太傲嬌63F 210.242.222.220 台灣 09/27 08:35

推 MusicD: 能耗比慘慘繼續用AMD64F 211.72.116.78 台灣 09/27 08:38

推 mrme945: 是不是急了最近發那麼多篇I的文章65F 111.71.215.102 台灣 09/27 08:41

→ narukaza: 那我說錯了，應該說 Arrow Lake才對，66F 114.34.174.204 台灣 09/27 08:45
→ narukaza: 這就吹更大了，相比Raptor Lake，CPU T
→ narukaza: OPS提升幅度為87.5%，總TOPS來到了驚人
→ narukaza: 的37，這樣你滿意了吧

→ PolarClover: 對依照核心數計價的商用軟體方案，70F 111.71.109.116 台灣 09/27 08:47
→ PolarClover: 用E-Core架構感覺血虧

推 ayuhb: 自己搞不清楚狀況講錯嘴臭還成這樣= =72F 42.73.198.176 台灣 09/27 08:48

推 mayolane: Arrow Lake不會有40 TOPS吧73F 118.161.1.223 台灣 09/27 08:51

→ yymeow: 我一開始以為xeon 6就是gaudi 3，結果是74F 114.37.34.80 台灣 09/27 08:57
→ yymeow: 不一樣的東西。這次出的是xeon 6，至於
→ yymeow: AI晶片gaudi 3還沒出。gaudi 3用了TSMC 5
→ yymeow: 說來說去還是要靠GG

→ william456: 如果用GG還能縮缸，大英真的賣掉好了78F 36.235.132.228 台灣 09/27 09:00
→ william456: ，連設計都輸的話

※ 編輯: yymeow (114.37.34.80 臺灣), 09/27/2024 09:10:42

→ amos30627: AI卡跟GPU部門早就是GG的形狀了80F 61.218.213.43 台灣 09/27 09:17
→ amos30627: 有intel 3也不要要用N5

推 sharkbay: ARL-H: 90, -U: 22.5, -S: 35 TOPS82F 39.14.34.94 台灣 09/27 09:27
→ sharkbay: 都是合計怎麼沒有90？

→ narukaza: 雖然我一開始講錯，但仔細一查桌面端CP84F 114.34.174.204 台灣 09/27 09:30
→ narukaza: U TOPS比行動端還低，這不就回到原來的
→ narukaza: 比較了不是...
→ narukaza: 是說I粉真的有夠玻璃心，被點破就說人
→ narukaza: 嘴臭，我上面言論有帶半個髒字嗎？

→ AmibaGelos: 真的好強可這耗電傳統機房吃得下嗎89F 104.129.17.131 美國 09/27 09:31

→ friedpig: NPU就ASIC 為了能效用的有續航問題的90F 118.163.149.125 台灣 09/27 09:33
→ friedpig: 平台才比較在意拉不過以微軟要求的
→ friedpig: 40 TOPS ARL理論上應該也得配個差不多的
→ friedpig: NPU比較合理拉不然都得去搶GPU資源
→ friedpig: 微軟要求40就只是他們測過覺得他們要推
→ friedpig: 的Local Model最低限度就40的算力夠也
→ friedpig: 不可能無上限要求 NPU都是要$$換來的
→ friedpig: 應該是盡量壓低以後的結果了

推 oopFoo: npu主要是筆電用的，能效比高。桌上型npu98F 36.224.209.165 台灣 09/27 09:38
→ oopFoo: 就比較不重要。主要還是微軟主導，不然gpu
→ oopFoo: 一直加上去還比較合理。微軟要copilot在
→ oopFoo: 背景一直跑，所以才需要npu。

→ friedpig: 我是覺得拉微軟都喊這樣了 DT還是得輔102F 118.163.149.125 台灣 09/27 09:41
→ friedpig: 合不可能預設要吃GPU效能 ARL 87%來不
→ friedpig: 急改才這樣下代規模絕對會加到超過40

推 oopFoo: 是這樣沒錯，反正amd的桌面也沒有，就先把105F 36.224.209.165 台灣 09/27 09:50
→ oopFoo: xmx加在igpu上。ARL的igpu還不錯。

→ friedpig: 我只能說 ARL上不合規的NPU有可能是扣分107F 118.163.149.125 台灣 09/27 09:52
→ friedpig: 項除非優化的很好能隨時混合使用
→ friedpig: 不然搞到最後NPU永遠在那發呆也很好笑
→ friedpig: 純浪費面積
→ friedpig: 要看MS的開發還有牙膏的One API有沒有
→ friedpig: 處理好了

推 mayolane: 「LNL的超低續航」，星空實際上是反串113F 223.137.71.252 台灣 09/27 09:57
→ mayolane: 成I吹的A粉吧

→ kuninaka: 挖靠這要500W想也知道怎麼選= =115F 1.174.85.3 台灣 09/27 10:01

→ friedpig: 這個比較其實沒啥意義拉牙膏現在贏是116F 118.163.149.125 台灣 09/27 10:08
→ friedpig: 128P打贏96P or 128E(C)
→ friedpig: AMD的128P要等Zen5 也沒多久之後的事情

→ mayolane: 至於價錢多少呢119F 223.137.71.252 台灣 09/27 10:10

→ friedpig: AMD的128P應該也是500W拉雖然還沒公佈120F 118.163.149.125 台灣 09/27 10:12
→ friedpig: 400W的128應該是Zen5c

→ twosheep0603: (ﾟω。)沒關係就繼續吹LNL吧122F 42.73.92.217 台灣 09/27 10:13

→ friedpig: 牙膏這代的重點是核心數終於能打平AMD了123F 118.163.149.125 台灣 09/27 10:14

→ tactics2100: 越來越長124F 39.12.56.223 台灣 09/27 10:25
→ tactics2100: 為什麼不做成更方一點

推 ZengMaktub: 有人可以講解一下樓上們在爭什麼嗎126F 1.162.172.29 台灣 09/27 10:29

※ 看板: PC_Shopping　文章推薦值: 0 目前人氣: 0 累積人氣: 153　

分享網址: 複製

DispBBS

回到看板(←)《PC_Shopping》

→

guest

x)推文 r)回覆 e)編輯 d)刪除 M)收藏 ^x)轉錄同主題: =)首篇 [)上篇 ])下篇

回列表(←) 分享