※ 本文轉寄自 ptt.cc 更新時間: 2023-08-24 13:24:06
看板 Tech_Job
作者 標題 [新聞] IBM開發出一款類比AI晶片雛型,在性能上
時間 Wed Aug 23 14:01:09 2023
IBM開發出一款類比AI晶片雛型,在性能上匹敵GPU,在功耗上更勝GPU
https://bit.ly/3KR6ZbW
IBM一直處於量子運算和許多其他研究領域的前沿,最近其展示了它認為的新AI處理解決
方案。IBM的願景並不是以GPU為中心,相反的,其認為混合訊號類比晶片中,可以大幅提
高能源效率,同時提供與市場當前主流產品GPU相同競爭力的性能。
方案。IBM的願景並不是以GPU為中心,相反的,其認為混合訊號類比晶片中,可以大幅提
高能源效率,同時提供與市場當前主流產品GPU相同競爭力的性能。
如今IBM開發了一款類比AI晶片雛型。經過測試,該晶片與GPU等數位晶片一樣擅長電腦視
覺AI任務。就這一點來說,它的能源效率比GPU要高得多。在過程中,它將多個數位處理
單元和數位通訊結構與類比記憶體內運算結合。
覺AI任務。就這一點來說,它的能源效率比GPU要高得多。在過程中,它將多個數位處理
單元和數位通訊結構與類比記憶體內運算結合。
換句話說,這是一種將部分混合訊號和類比晶片結合在一起的晶片。此外,該晶片結合了
相變記憶體(PCM)和數位電路,其聲稱在人工智慧推理方面將與GPU性能相匹配,但效率
高上得多。
相變記憶體(PCM)和數位電路,其聲稱在人工智慧推理方面將與GPU性能相匹配,但效率
高上得多。
AI推理現有的主要瓶頸之一涉及在記憶體和處理晶片之間分流數據,這會減慢處理速度並
消耗電力。至於IBM的類比AI晶片採用了不同的方式,使用PCM單元將推理權重儲存為類比
值並執行運算。
消耗電力。至於IBM的類比AI晶片採用了不同的方式,使用PCM單元將推理權重儲存為類比
值並執行運算。
簡單來說,IBM的類比AI晶片本質上是在同一位置運算和儲存記憶體,因此可以糾正數據
傳輸中引起的畸變,同時也使系統變得更加節能。它幾乎像人腦的運作方式一樣,神經網
路就是在技術處理上和儲存發生在同一個位置的方式。
傳輸中引起的畸變,同時也使系統變得更加節能。它幾乎像人腦的運作方式一樣,神經網
路就是在技術處理上和儲存發生在同一個位置的方式。
不過,目前這款類比AI晶片還只是紐約IBM的Albany奈米技術中心之研究雛型機,且處於
實驗階段。因此,仍還需要一段時間才能看到這類產品商業化。所以現階段,GPU在AI推
理的使用上仍是獨一無二的存在,可是其高功耗的型態必須慢慢的解決。
實驗階段。因此,仍還需要一段時間才能看到這類產品商業化。所以現階段,GPU在AI推
理的使用上仍是獨一無二的存在,可是其高功耗的型態必須慢慢的解決。
現今GPU在AI推理上的功耗是非AI處理器的10倍。一旦全球愈來愈多廠商佈建更多的AI伺
服器,那麼以現今的發電系統,將面臨負荷過重的情況。畢竟,電動車愈來愈普及的情況
下,也需要全球各國重新思考如何佈建更有效率地發電系統。
服器,那麼以現今的發電系統,將面臨負荷過重的情況。畢竟,電動車愈來愈普及的情況
下,也需要全球各國重新思考如何佈建更有效率地發電系統。
如果IBM這種記憶體內運算之類比AI晶片在AI推理領域起飛,那麼微軟、谷歌等公司將減
少從輝達公司購買的GPU數量,同時限制AI處理中對GPU的猛增需求,這對於市場遊戲規則
的改變,又將帶來很大衝擊。不過,IBM並沒有跟市場明說,這款晶片何時能夠進行量產
,所以短中期來說,AI市場仍舊需要依賴GPU。從這可以看出,當許多廠商跟隨輝達追求
GPU市場大餅的同時,IBM以反向操作模式,給產業界一個新的研發方向。
少從輝達公司購買的GPU數量,同時限制AI處理中對GPU的猛增需求,這對於市場遊戲規則
的改變,又將帶來很大衝擊。不過,IBM並沒有跟市場明說,這款晶片何時能夠進行量產
,所以短中期來說,AI市場仍舊需要依賴GPU。從這可以看出,當許多廠商跟隨輝達追求
GPU市場大餅的同時,IBM以反向操作模式,給產業界一個新的研發方向。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245 (臺灣)
※ 作者: stpiknow 2023-08-23 14:01:09
※ 文章代碼(AID): #1avQ2dE- (Tech_Job)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1692770471.A.3BE.html
推 : 這篇是那招 ....1F 08/23 14:14
→ : IBM還是…算了…過氣2F 08/23 14:15
推 : AI新燃料3F 08/23 14:21
推 : 詐騙業龍頭IBM?4F 08/23 14:24
推 : XXX殺手定律 買XXX就對了5F 08/23 14:29
推 : 所以名稱叫IPU?6F 08/23 14:42
推 : 這個東西如果能做穩定且商用功耗應該會小幾個數量7F 08/23 14:42
→ : 級
→ : 級
推 : 炒很久了 cim+pcm9F 08/23 14:50
推 : ibm研發應該是先進,不過生產就10F 08/23 15:03
→ : 旺宏表示:11F 08/23 15:32
推 : 分久必合,合久必分。CPU和GPU要合併了嗎?12F 08/23 15:34
推 : 上個玩PCM的INTEL都已經收工了13F 08/23 15:52
推 : 類比..記憶體…應該跟人腦特性一樣,有人聰明有人14F 08/23 15:52
→ : 笨,有人過目不忘有人當場就忘,類比的特性
→ : 笨,有人過目不忘有人當場就忘,類比的特性
推 : IBM…想想算了16F 08/23 16:03
推 : IBM給的錢想做出好成果真的不容易,祝福17F 08/23 16:20
→ : 之前也看過IBM在實驗室很早就做出2nm晶片,然後就18F 08/23 16:20
→ : 沒然後了...
→ : 沒然後了...
推 : ibm的東西留在實驗室就好20F 08/23 16:25
→ : 痾首先你要說他能跟GPU比性能,那應該去比訓練啊,21F 08/23 16:38
→ : 比推理幹啥
→ : 比推理幹啥
噓 : 何時轉單23F 08/23 16:51
→ : 以前教科書提到AI都拿IBM深藍來舉例24F 08/23 17:02
推 : 等大家都買IBM股票的時候才是真的25F 08/23 17:31
推 : 然後量產落賽26F 08/23 18:27
推 : 不是 我好像跟這個組合作過 哈哈哈27F 08/23 18:32
推 : ibm有那個製程成果量產的嗎?三星的?28F 08/23 18:46
推 : 比推理才對吧 edge computing很重要好嘛29F 08/23 19:40
→ : Edge就在比省電,GPU有在跟你省電的嗎,誰會在edge30F 08/23 20:52
→ : 放一個h100在那邊推理
→ : 放一個h100在那邊推理
推 : IBM不是歷史課本裡才出現的組織嗎32F 08/23 21:31
推 : IBM 2022年全球35萬員工, Revenue 60B(USD)...33F 08/23 22:26
推 : 有趣的是 IBM美國股價比Intel/AMD/TSMC(ADR)都高...
推 : 有趣的是 IBM美國股價比Intel/AMD/TSMC(ADR)都高...
噓 : 毛利率大於40%+股本越小的漲的快。35F 08/23 22:49
推 : 樓上這樣講就外行了……股價不代表什麼,要看market36F 08/23 22:49
→ : cap才準。
→ : cap才準。
→ : 流通股數少的聯發科比台積快漲停。股本差15倍38F 08/23 22:50
→ : 聯發科可能創新高就漲停。股本159億 台積股本2594
→ : 億
推 : 只要華爾街主要持有券商假動作倒5萬張就不會漲
→ : 高盛常常放假新聞做假動作當然沒ibm高
→ : 不代表t和a的研發比I 弱
→ : 聯發科可能創新高就漲停。股本159億 台積股本2594
→ : 億
推 : 只要華爾街主要持有券商假動作倒5萬張就不會漲
→ : 高盛常常放假新聞做假動作當然沒ibm高
→ : 不代表t和a的研發比I 弱
→ : IBM開發,懂得就懂44F 08/24 00:53
推 : edge也不是用GPU來比啊XD45F 08/24 01:13
推 : 如果我也沒記錯類比AI晶片是希望可以達到更有效率46F 08/24 03:45
→ : 的on-chip training?
→ : 多打了也*
→ : 的on-chip training?
→ : 多打了也*
→ : 真要去跟GPU對幹好歹TOPS先寫出來49F 08/24 12:26
推 : 其實inference GPU就不是什麼大宗啊50F 08/24 13:12
--
※ 看板: Tech_Job 文章推薦值: 0 目前人氣: 0 累積人氣: 107
回列表(←)
分享