顯示廣告
隱藏 ✕
※ 本文轉寄自 ptt.cc 更新時間: 2024-04-12 15:04:28
看板 Stock
作者 strlen (strlen)
標題 [新聞] 採台積電 5 奈米製程,Meta 下一代自研 A
時間 Thu Apr 11 18:10:58 2024



原文標題:
採台積電 5 奈米製程,Meta 下一代自研 AI 晶片性能提升 3 倍

原文連結:
https://tinyurl.com/3czfhkta
採台積電 5 奈米製程,Meta 下一代自研 AI 晶片性能提升 3 倍 | TechNews 科技新報
[圖]
Meta 去年公開首款自研晶片 MTIA(Meta Training and Inference Accelerator)成果,第一代 MTIA(MTIA v1)即採台積電 7 奈米製程,下一代 MTIA 同樣委由台積電生產。 在英特爾、Google 發表最新 AI 晶片之後,Meta 10 日也公 ...

 

發布時間:
2024 年 04 月 11 日 11:46

記者署名:
作者 陳 冠榮


Meta 去年公開首款自研晶片 MTIA(Meta Training and Inference Accelerator)成果
,第一代 MTIA(MTIA v1)即採台積電 7 奈米製程,下一代 MTIA 同樣委由台積電生產


在英特爾、Google 發表最新 AI 晶片之後,Meta 10 日也公開自研晶片開發成果。MTIA
v1 後繼產品官方稱為下一代 MTIA(Next Gen MTIA),它執行的模型用於處理與 AI 推
薦系統相關的工作。與台積電 7 奈米製程建構的 MTIA v1 相比,下一代 MTIA 採用 5
奈米製程。


下一代 MTIA 配備更多處理核心,擁有更多 on-chip memory(256MB 對比 MTIA v1
128MB)和 off-chip LPDDR5(128GB 對比 MTIA v1 64GB),並以更高的平均時脈速度運
行,從 800MHz 上升到 1.35GHz,同時功耗增加(90W 對比 MTIA v1 25W)。

Meta 指出,下一代 MTIA 目前已投入 16 個資料中心區域使用。Meta 評估的四個關鍵模
型中,下一代 MTIA 性能比 MTIA v1 提升 3 倍,「由於我們控制整個堆疊,所以與商
用 GPU 相比,可以達成更高的運算效率」,Meta 部落格文章寫道。

Meta 也透露,目前還沒有使用下一代 MTIA 訓練生成式 AI,儘管該公司聲稱有多項專案
正在進行。此外,Meta 承認下一代 MTIA 不會取代目前用於訓練模型的 GPU,而是補充
運算資源。


英特爾最新發表 Gaudi 3,聲稱能源效率比 NVIDIA H100 晶片高 40%,推論速度快 50%
。Google 正向 Google Cloud 客戶推出用於訓練 AI 模型的 TPU v5p,並發表首款為資
料中心設計的 Arm 架構 Axion CPU。亞馬遜擁有多款自研 AI 晶片,微軟去年也已 AI
晶片 Azure Maia 100 和雲端運算處理器 Azure Cobalt 100 參戰。


Meta 近年不遺餘力加強 AI 技術開發,自行研發客製化晶片以滿足運算需求。該公司一
直是 NVIDIA H100 GPU 的大客戶,今年底前 Meta 運算基礎設施預計採購達到 35 萬顆
H100。同時 MTIA 系列晶片開發也將加速進行,希望在 AI 軍備競賽趕上競爭對手。


心得/評論:
又是老黃包圍網?
怎麼一夕之間
人人都是晶片專家
紛紛自幹晶片?
原來晶片根本沒什麼技術?
隨便組個團隊湊一湊就超輝趕微?
但不管是誰做的
通通都是要找台積電代工
而且還是訓練跟推理通吃耶
什麼時候台積電市值要超越輝達?


--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.169.25.109 (臺灣)
※ 作者: strlen 2024-04-11 18:10:58
※ 文章代碼(AID): #1c5xSsZ5 (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1712830262.A.8C5.html
horseorange : 大科技的人才都互相跳來跳去的有啥好意外1F 04/11 18:12
CIEenergy   : 需求不變,搶先供應,有賣鴨!!2F 04/11 18:20
brian10207  : 台積電打台積電嗎?3F 04/11 18:20
AFM         : 裝在哪?4F 04/11 18:21
saisai34    : 美積電 日積電 台積電互打 @@5F 04/11 18:24
jerrylin    : FB的AI能分辨詐騙集團嗎6F 04/11 18:27
iceyeman    : 我以為租客伯去三星勒7F 04/11 18:28
lawyer94    : 出貨文8F 04/11 18:30
dolaenom    : AI雙贏=GG贏兩次9F 04/11 18:38
gamesame7711:                又贏債蛙10F 04/11 18:41
zhong33     : 全部晶片都找台積做 台積要不要自己開發?11F 04/11 18:47
panjanhon   : GG才是AI的鏟子吧12F 04/11 18:48
panjanhon   : 這樣1000還是便宜吧 各家都要用GG的
a1106abc    : 他之前不是找3星?14F 04/11 18:48
kamitengo   : 我只能說你各位台面上看的到的玩家每個都在自己做15F 04/11 18:49
kamitengo   : 你們就再繼續cuda不可逾越之墻吧
Shepherd1987: AI server 吃電太兇, 沒有第二選擇17F 04/11 18:50
joe0934     : 還都靠我233018F 04/11 18:54
knives      : 設計跟做不做得出來,還有良率是另外一回事19F 04/11 18:54
b777787     : 找哪一個asic20F 04/11 18:55
motan       : 打仗就是軍火商最賺21F 04/11 18:56
Heedictator : 神仙打架22F 04/11 19:00
accoh       : 反正贏家就是台積電23F 04/11 19:12
g007        : 3奈米要賣給誰?蘋果今年也不太樂觀24F 04/11 19:13
payneblue   : 賣給誰不會自己Google嗎 媒體比你還清楚25F 04/11 19:17
y800122155  : GG只賺代工薄利而已 有本事漲10倍把NV獲利搶光嗎?26F 04/11 19:18
gamesame7711: GG幾年前有討論要不要自有品牌 後來沒下文27F 04/11 19:21
allen0080   : 先公布訓練跟推理的效率還有耗能,才能對標輝達產品28F 04/11 19:23
allen0080   : 吧? 不然都只是一張嘴嘴在講。
doranako    : 他這不是gpu,應該是特定目的的cpu30F 04/11 19:24
ter2788     : 你們都要跟我買31F 04/11 19:25
HRyan       : 他這樣還薄利喔,你要叫他搶劫32F 04/11 19:28
aweara      : 目前有機構 ADR目標價調到16533F 04/11 19:35
aegis43210  : gaudi3強多了,這個主要是拿來AI推論的34F 04/11 19:37
bnn         : 其實當你看到功耗...算力三倍有賺嗎35F 04/11 19:57
Max112358   : 科技巨頭重金挖人組團隊自研晶片叫沒技術...36F 04/11 19:58
Transposon  : meta要軟硬稱王?37F 04/11 20:13
truthzero   : 老黃包圍網38F 04/11 20:33
findwind0826: 不知道說什麼= =39F 04/11 20:48
findwind0826: 股板水準= =
cidcheng    : 台積電毛利都五成了還薄利 XD41F 04/11 20:53
jo4         : 都看不到CUDA的車尾燈42F 04/11 21:12
wardraw     : 各大巨頭搶肉吃 台積電一旁悠栽喝湯43F 04/11 22:07
stosto      : 3nm a跟 i拿走了44F 04/11 22:10
Mikli       : 薄利(五成)多銷45F 04/12 07:33
jccy        : 因為有台積電,美國這些公司才有辦法自行設計ai ic46F 04/12 11:00

--
※ 看板: Stock 文章推薦值: 0 目前人氣: 0 累積人氣: 46 
作者 strlen 的最新發文:
點此顯示更多發文記錄
分享網址: 複製 已複製
guest
x)推文 r)回覆 e)編輯 d)刪除 M)收藏 ^x)轉錄 同主題: =)首篇 [)上篇 ])下篇