※ 本文轉寄自 ptt.cc 更新時間: 2023-04-07 20:23:24
看板 Stock
作者 標題 [新聞] AI晶片競爭開跑,谷歌公布第四代TPU,宣
時間 Fri Apr 7 09:44:45 2023
原文標題:
AI晶片競爭開跑,谷歌公布第四代TPU,宣稱比輝達A100晶片更快更節能
原文連結:
https://bit.ly/3meYAG8
發布時間:
2023.4.6
記者署名:
茋郁
原文內容:
谷歌於2023年4月5日公佈了其用於訓練AI模型的超級電腦的新細節,稱該系統比輝達的同類型系統A100更快、更節能。雖然現今大多數涉足AI領域的公司的處理能力都來自輝達的晶片,但谷歌設計自己客製化晶片Tensor Processing Unit(TPU)期望能夠推動其在AI研究。
谷歌是在COVID-19大流行高峰期間宣布了其Tensor晶片,當時從電子到汽車的企業面臨晶片短缺的困境。由於谷歌看到蘋果在客製化晶片的投入,幫助了iPhone以及其他產品的開發。因此最初該晶片是為其Pixel智慧型手機提供動力,可是歷經幾年之後,谷歌將TPU延伸至更多領域,可見得其開發方面取得了長足的進步。
如今谷歌90%以上的AI訓練工作都使用這些晶片,即通過模型提供數據的過程,使它們在諸如類似人類的文字查詢或生成影像等任務中發揮作用。
谷歌TPU現在已經是第四代了。之所以世代晶片發展那麼迅速的關鍵在於,谷歌使用AI來設計其TPU晶片。谷歌聲稱,與人類花費數月時間設計晶片相比,使用AI設計晶片僅需要6小時即可完成設計過程。
一旦採用AI設計晶片,產品迭代都在迅速發生,這就是TPU進入第四代的原因。未來隨著生成式AI的快速發展,將造成大型語言模型的規模呈現爆炸式成長,這意味著它們太大而無法儲存在單顆晶片上。所以谷歌客製化開發的光訊號交換器將4,000多顆晶片串在一起成為一台超級電腦,以幫助連接各個機器。此外,微軟也是將晶片拼接在一起以滿足OpenAI的研究需求。
谷歌指出,PaLM模型——其迄今為止最大的公開披露的語言模型——通過在50天內將其拆分到4,000顆晶片超級電腦中的兩個來進行訓練。更重要的是,其超級電腦可以輕鬆地動態重新配置晶片之間的連接,有助於避免出現問題並進行調整以提高性能。
谷歌除了自己使用TPU之外,一家新創公司Midjourney使用該系統訓練其模型,該模型在輸入幾句文字後即可生成新影像。
可是谷歌並沒有將其第四代晶片與輝達目前的旗艦H100晶片進行比較。谷歌暗示它可能正在開發一種新的TPU,它將與輝達H100展開競爭。
總之,隨著生成式AI的崛起,AI晶片的開發腳步將成為下一個廠商積極介入的領域,以搶奪未來商機。
心得/評論:
Google公布第四代TPU,並宣稱比NVIDIA A100更快更節能,其客戶Midjourney利用TPU訓練其模型再輸入文字後生成圖片。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.36.40.35 (臺灣)
※ 作者: ynlin1996 2023-04-07 09:44:45
※ 文章代碼(AID): #1aBtMFhB (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1680831887.A.ACB.html
※ 同主題文章:
● 04-07 09:44 ■ [新聞] AI晶片競爭開跑,谷歌公布第四代TPU,宣稱比輝達A100晶片更快更節能
04-07 15:09 ■ Re: [新聞] AI晶片競爭開跑,谷歌公布第四代TPU,宣稱比輝達A100晶片更快更節能
推 : 你有停下來等馬斯克嗎1F 04/07 09:49
推 : AI自己設計晶片給自己用嗎?2F 04/07 09:51
推 : 馬投顧:等等我,剛把小鳥變狗頭3F 04/07 09:51
推 : 魔鬼終結者現正熱映中4F 04/07 09:52
→ : 可是Tensor得到垃圾級的評價6F 04/07 09:56
推 : 晚了,我們不要了7F 04/07 09:58
→ : 馬斯克還在玩鳥跟狗 可憐啊8F 04/07 09:59
推 : google TPU 又不拿出來賣 發表有啥鳥用9F 04/07 09:59
噓 : 人類還剩幾集可以桃10F 04/07 10:01
→ : google是不是怕了,一直發這種新聞出來,很明顯就是11F 04/07 10:08
→ : 被海放了
→ : 被海放了
推 : google是在追,被海放到不見的是蘋果13F 04/07 10:13
推 : 天網會用誰家的晶片14F 04/07 10:14
推 : 天網當然是用X8615F 04/07 10:17
推 : X86陣營一直在研發更適合的特殊指令集,TPU如果只能
→ : 訓練小模型,那很快就會被超越
推 : X86陣營一直在研發更適合的特殊指令集,TPU如果只能
→ : 訓練小模型,那很快就會被超越
→ : 可是天蛇很會熱耶,這顆真的可以涼嗎???18F 04/07 10:21
推 : 蘋果繼續廢,賈伯斯還在該有多好19F 04/07 10:23
推 : 超級電腦可以用浸沒式散熱,甚至把主機放到深海之中20F 04/07 10:24
→ : ,倒不是什麼問題
→ : ,倒不是什麼問題
推 : 連設計晶片都Ai 未來人類真的需要工作嗎22F 04/07 10:25
推 : a100不是上一代 不跟h100比?23F 04/07 10:30
噓 : 整天投片三星 是要怎麼贏 笑死人的GOOGLE24F 04/07 10:33
→ : 你要不要看看你的自然語言定價多貴?25F 04/07 10:34
→ : 同樣的價格 openai 可以跑3000萬筆
→ : Google 自然語言只能跑不到一萬筆
→ : 同樣的價格 openai 可以跑3000萬筆
→ : Google 自然語言只能跑不到一萬筆
噓 : 肯定只能做特定用途。GPU是通用28F 04/07 10:35
推 : 沒用 還是直接買Nvda29F 04/07 10:37
→ : 我信你個鬼,當nv吃素的喔30F 04/07 10:43
推 : 被H100打爆了31F 04/07 10:44
噓 : 跟A100比? 怎不是幹掉H100?32F 04/07 11:03
推 : 先說是不是三星工藝?33F 04/07 11:09
→ : 他又不是拿來賣製程爛一點總體成本更低就好了吧34F 04/07 11:13
推 : TPU v4 2021年中就推出了,本來就不是和H100比…35F 04/07 11:22
推 : 還沒到T800,你各位還有時間,塊陶啊啊啊啊36F 04/07 11:51
推 : 印度CEO你信嗎37F 04/07 12:08
推 : 自己設計訓練自己 真的覺醒了38F 04/07 12:13
推 : 啊就三星啊39F 04/07 12:17
推 : 你用三星,難怪你會輸40F 04/07 12:21
噓 : 2021年中就推出 2023現在公布?41F 04/07 12:36
推 : 現在比’系統’,不是單純比晶片42F 04/07 12:40
→ : 大你1000倍!43F 04/07 12:53
推 : 看股版唱衰成這樣 真的想買了44F 04/07 12:57
推 : 笑死,蘋果市值可以把Google買下來45F 04/07 13:12
→ : 在說啥呢?晶片菜雞46F 04/07 13:15
→ : 蘋果市值2.6t alphabet 1.4t 要怎麼買?47F 04/07 13:17
推 : 還有兩家要出勒48F 04/07 13:18
推 : chatgpt:谷歌已經到極限,我們還沒開始49F 04/07 13:28
推 : ai終究被軟軟獨大
推 : ai終究被軟軟獨大
推 : 不用在那邊想買 要買的就買不用牽拖51F 04/07 13:34
→ : 三星做的CHIP就是爛52F 04/07 14:24
→ : 等APPLE自製AI晶片再跟我說53F 04/07 14:27
→ : 投三星都能贏的話 那很強啊54F 04/07 14:43
推 : 三星代工沒救。55F 04/07 20:06
--
※ 看板: Stock 文章推薦值: 0 目前人氣: 0 累積人氣: 81
回列表(←)
分享