顯示廣告
隱藏 ✕
※ 本文轉寄自 ptt.cc 更新時間: 2023-02-15 07:06:07
看板 PC_Shopping
作者 ultra120 (原廠打手 !!!)
標題 [情報] 產生式 AI 大爆發 NVIDIA GPU 恐供不應求
時間 Tue Feb 14 20:26:02 2023



生成式 AI 大爆發,NVIDIA GPU 恐供不應求

來源 https://reurl.cc/EG778n
生成式 AI 大爆發,NVIDIA GPU 恐供不應求 | TechNews 科技新報
[圖]
微軟 Bing 搜尋引擎整合 ChatGPT,加上其他生成式 AI 工具的需求攀升,都相當依賴人工智慧處理能力,正是 NVIDIA GPU 優勢所在。當科技公司利用 NVIDIA GPU 滿足增長的 AI 需求,市場恐怕又要面臨 GPU 供貨短缺問題,尤其又會先擠壓遊戲玩家需求。 NVIDIA GP ...

 

微軟 Bing 搜尋引擎整合 ChatGPT,加上其他生成式 AI 工具的需求攀升
都相當依賴人工智慧處理能力,正是 NVIDIA GPU 優勢所在
當科技公司利用 NVIDIA GPU 滿足增長的 AI 需求
市場恐怕又要面臨 GPU 供貨短缺問題,尤其又會先擠壓遊戲玩家需求。

NVIDIA GPU 能高效運算,支援 AI 模型用 GPU 運算的 CUDA
(Compute Unified Device Architecture,統一計算架構)
因此廣泛應用於深度學習領域。FierceElectronics 網站報導

ChatGPT 初期在 1 萬個 NVIDIA GPU 訓練,自從獲得大眾關注後,系統不堪負荷

無法滿足龐大用戶需求。故 OpenAI 推出全新 ChatGPT Plus 訂閱服務
不僅能讓付費用戶尖峰時段優先造訪 ChatGPT,且回應時間更短,並能先使用最新功能。

產業分析師估計,目前 ChatGPT 模型在約 25,000 個 NVIDIA GPU 訓練

比初期測試 1 萬個 NVIDIA GPU 高許多。

微軟和 Google 雙雙宣布將類似 ChatGPT 的 LLM(對話式大型語言模型)
整合至自家搜尋引擎。如 Google 要將 AI 模型整合至搜尋結果
估計需要 512,820 台 A100 HGX 伺服器及 4,102,568 個 A100 GPU
光伺服器和網路成本,資本支出就高達 1,000 億美元(約台幣 3 兆元)左右。

生成式 AI 大爆發對 NVIDIA 來說是利多消息,但對消費市場尤其遊戲玩家
恐怕不算好消息。NVIDIA 有可能優先供貨給生成式 AI 的科技公司,排擠遊戲玩家需求
今年第一季因農曆新年使遊戲顯卡供應受限
儘管庫存問題仍在,但可能為已短缺的高階 GPU 增加供貨問題。

高階 GPU 提供 AI 功能,使 NVIDIA 有利可圖,可能為了滿足不斷增長的生成式 AI
而有供貨短缺問題。NVIDIA 如何因應 AI 領域龐大需求有待觀察
而 2 月 22 日其將公布 2023 財年第四季財報,屆時有望透露更多未來營運展望。

NVIDIA GPU Demand To Exceed Supply As Green Team Bets On ChatGPT,
Thousands of AI Chips Expected To be Incorporated By Tech Giants

相關新聞

NVIDIA AI GPU迎ChatGPT需求浪潮
楊智家/綜合報導
2023-02-14
ChatGPT相關熱潮帶動全球科技大廠人工智慧(AI)晶片需求增加
外界估可能導致NVIDIA GPU未來幾個月面臨供不應求
因ChatGPT與其他語言、影像、影視內容生成式...
https://www.digitimes.com.tw/tech/dt/n/shwnws.asp?id=0000656745

40 顯卡供應有限緊縮
https://www.youtube.com/watch?v=0dmzRwvObaE
https://www.eet-china.com/mp/a194751.html

PChome已出現 4090 禮包
4070Ti TUF ROG 限組裝




--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 60.249.18.108 (臺灣)
※ 作者: ultra120 2023-02-14 20:26:02
※ 文章代碼(AID): #1ZwttUDt (PC_Shopping)
※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1676377566.A.377.html
yafx4200p: 又要缺貨了嗎1F 02/14 20:29
reaturn: 反正老黃又不需要遊戲玩家來幫他撐市埸2F 02/14 20:31
dickey2: 又沒人買3F 02/14 20:32
kqalea: chatgpt只要幾張4090就跑的動太看得起4090了 XD4F 02/14 20:32
aa52189: 你不買我不買 明天漲五百5F 02/14 20:35
iamdota: 又反指標了嗎6F 02/14 20:35
qqq3q: 挖礦炒完換AI?7F 02/14 20:35
saygogo: 亂七八糟的新聞,優先供應排擠這種鬼話都講得出來8F 02/14 20:37
youtrue: 皮衣刀客蠢蠢欲動9F 02/14 20:38
greg7575: 恐你媽10F 02/14 20:38
Jkyzer: 好啦 要漲多少自己說11F 02/14 20:38
hololiveDD: 好窩12F 02/14 20:38
damnedfish: 元宇宙沒人鳥之後開始想新的名目了13F 02/14 20:38
cycutoxin: 算AI可以賺錢才會缺貨吧14F 02/14 20:39
DALLEN: 恐<315F 02/14 20:39
slimboy0213: 利多消息不停,要出貨了16F 02/14 20:39
mrlucas8891: 黃又贏 蘇又輸17F 02/14 20:40
leo3258: 老黃有理由漲價了18F 02/14 20:42
peter080808: 搜尋NVIDIA官網:人工智慧運算的全球領袖19F 02/14 20:46
saimeitetsu: 我是畫師,嘻嘻20F 02/14 20:47
peter080808: NVIDIA標語已經改成是AI運算晶片公司了 顯示晶片現21F 02/14 20:48
peter080808: 在是副業
pokiman: 企業對企業的管道跟一般玩家又不同23F 02/14 20:48
peter080808: NVIDIA官網點進去全部都是AI 心已經不在零售遊戲卡24F 02/14 20:50
peter080808: 上了
pudge: 算力佔產量還是很低拉26F 02/14 20:50
peter080808: 但企業端產能回和零售端搶產能27F 02/14 20:51
amd7356: AI又不像挖礦 你還要自己找買家耶28F 02/14 20:53
hmcedamon: chatgpi用25000個GPU 這樣有很會搶嗎29F 02/14 20:54
DrGun: 天下苦黃久矣30F 02/14 20:55
peter080808: 還要找買家 AI公司或研究院能不買nv 運算卡?31F 02/14 20:56
hmcedamon: 官網那些喊給股東聽的 炒股就是看你畫餅32F 02/14 20:57
a28200266: 好喔= =33F 02/14 20:58
u9596g12: 好 4060 2萬5起步 老闆惜售34F 02/14 21:00
jiaxie: AI可以自動挖礦嗎?35F 02/14 21:05
NetsFan: 兩家U都有內顯了 沒在怕36F 02/14 21:08
dos01: 有NV股票的人可以先賣了 有這種標題出來 大概不用太久就會37F 02/14 21:08
dos01: 開始跌到爛
woula: 恐= =39F 02/14 21:11
sacredshino: 又爽到老黃了40F 02/14 21:12
GGININDER4NI: 又在那邊恐…又有理由坐地起價了…41F 02/14 21:16
lioujeryuan: 好窩 反正PS5不缺貨了42F 02/14 21:17
scott112: 明明就是台積電在製作實體晶片 哪有差啊......43F 02/14 21:22
newsnew: 火山式噴出44F 02/14 21:23
kimula01 
kimula01: 全球用的才2萬5顆gpu?不多吧45F 02/14 21:26
pig: 可以賣電腦給暢銷作家啊46F 02/14 21:26
ILike58: 剛看了篇新唐人的新聞,就是個很強的喇低賽AI,逗人發笑47F 02/14 21:29
ILike58: 不錯用XD。
e446582284: 這不用酸,皮衣客在這塊本來就耕耘已久,CUDA是真的49F 02/14 21:33
e446582284: 香
falcon11: 訓練是訓練 推論是推論51F 02/14 21:36
MK47: 老黃好爽52F 02/14 21:40
shinjikawuru: 深耕又獨大 蒜泥厲害 反正頂規晶片給GG做就沒錯53F 02/14 21:41
zxc2331189: 薛爛了 50系列可以在漲幾萬了54F 02/14 21:46
alinwang: 應不會像挖礦潮嚴重。55F 02/14 21:46
s7515769: 宇宙ai56F 02/14 21:47
newsnew: 有在研究AI的單位你覺得他們沒硬體嗎?57F 02/14 21:49
jympin: 以後就是各種臭到不行的大便 不然你要買AMD?58F 02/14 21:49
SaberMyWifi: 無心在顯卡,所以40只出個90值得買,其他都是拉基59F 02/14 21:49
lc85301: AI 用 nv ,遊戲用 AMD,完美(?60F 02/14 21:49
ZengMaktub: 老黃假賽啦幹61F 02/14 21:50
LuckSK: 商用跟消費端混一起講 厲害了62F 02/14 22:03
PTTfaggot: 請問rtx5080要漲幾%了63F 02/14 22:04
u9596g12: 87%64F 02/14 22:05
aegis43210: 運算卡的投單不會影響到繪圖卡的投單,但老黃的降價壓65F 02/14 22:09
aegis43210: 力會更小,不過4080之前就說要降了,結果拖那麼久
Tsukasa0320: 台GG又要飛天了嗎67F 02/14 22:11
surimodo: 贏麻了 天賜良機68F 02/14 22:12
cat05joy: 又要漲了 起飛了 坐穩了69F 02/14 22:12
lazioliz: 你各位70F 02/14 22:13
SakeruMT: 繼續漲,以後都用內顯打遊戲-1幀能打、2幀不卡、3幀流71F 02/14 22:21
SakeruMT: 暢順滑
zweihander99: 要漲多少直接講73F 02/14 22:21
saygogo: 晶圓廠的訂單都還沒有滿,到底要怎麼供不應求74F 02/14 22:24
kamir: 以後學校教師在批報告時或許會需要鑒別是不是由AI完成的75F 02/14 22:25
tn601374: 利多快逃76F 02/14 22:29
twnd1836432: 還有其他漲價的藉口一起說一說77F 02/14 22:37
death111: nvidia要漲了嗎78F 02/14 22:43
kaj1983: AMD藥丸,顯卡更賣不出去了79F 02/14 22:47
kaj1983: 和CPU一樣遊戲、生產力、CP值都無
roseritter: 25000個高檔GPU  可以換算為多少片12吋呢?81F 02/14 22:49
crystal0504: 先囤10張40卡82F 02/14 22:54
believefate: AI大爆發? 笑死人83F 02/14 22:55
nextpage: 目前那些AI應用不是都不在本地本機執行的嗎?84F 02/14 22:56
ru04hj4: 老黃就是強85F 02/14 22:58
wave7410: 亂炒一通 傻眼86F 02/14 22:59
ccl007: 只能用中國流行語講 老黃贏麻了 或成最大贏家87F 02/14 23:01
arenoe: 有玩stable diffusion才會有一點在意吧88F 02/14 23:01
buteo: 12吋晶圓上可以放64個A100的die,假設一片有8成也就是50個89F 02/14 23:07
buteo: die OK。25000個A100需要500片12吋晶圓
withoutfall: NA卡蟲一起串聯91F 02/14 23:12
rgo: 搞AI又不是礦老闆不講武德的拉貨92F 02/14 23:14
nucleargod: 內文自己都寫 A100 是要排擠什麼?根本不同晶片93F 02/14 23:17
buteo: A100是用台積7奈米 台積7奈米月產能近20萬片 500片只佔月94F 02/14 23:18
buteo: 產能0.4% 更別說現在7奈米利用率低下 台積電產能絕對不是
buteo: 瓶頸
littlefish1: 只使用訓練完模型的一般用戶比較多吧  除了google跟97F 02/14 23:21
littlefish1: 微軟需要第一手去維護  其他企業真有必要購入顯卡自
littlefish1: 己訓練嗎?不都買服務而已  這篇比較像在炒顯卡價格
littlefish1: 30系列還很多庫存在倉庫裡  只是不肯現在拿出來罷了
cat05joy: 感覺會變成廣告機101F 02/14 23:46
GooglePixel: 這跟消費級沒什麼關係 主要是資料中心、伺服器需求102F 02/14 23:48
aegis43210: 相關性在於老黃在運算卡大賺,就不用煩惱繪圖卡的庫存103F 02/15 00:01
aegis43210: ,可以慢慢清
ankrro: 7nm產能有到200k?105F 02/15 00:03
eric00169: tesla那系列顯卡是有差喔 一般人又買不起106F 02/15 00:14
TainanGoldx5: 各種鬼事又出來囉,到底積多少呢107F 02/15 00:14
dos01: 這種新聞就是拿來騙炒股仔 連基本顯卡是在做什麼的都不知道108F 02/15 00:15
dos01: 名詞隨便套一套而已
dos01: 不對 應該說是炒股仔拿來騙韭菜 反正漲上去就賣掉 實際上
dos01: 是不是有這個需求...誰在乎了 套韭菜的利而已
sachialanlus: 老黃又多一個漲價的理由了112F 02/15 00:20
mkzkcfh: NV:是你們想看色圖的,怪我囉?113F 02/15 00:21
nk10803: 好了啦114F 02/15 00:32
lineage0916: 這種新聞多半給人拿來炒相關概念股用的,但如果會挑115F 02/15 00:35
lineage0916: 股,也許過陣子漲一波會有點小賺頭唷。
dos01: 沒 這種新聞出來 通常都是末升段 漲幅有限 跌幅...恩117F 02/15 00:37
dos01: 全市場都知道 代表當初炒作的人已經在出貨出貨了
HotDogCC: 哈哈119F 02/15 01:40
eric61446: 沒了礦難開始炒新ai了嗎 之前htc搞的VR都死一片了120F 02/15 02:14
winner0429: 挖礦沒得炒改炒AI 呵121F 02/15 02:34
AmigoSin: CUDA真香122F 02/15 03:20
IhateOGC: 所以算力多少123F 02/15 03:32
dreamgirl: 騙誰,google早就轉到TPU了124F 02/15 04:38
dreamgirl: 買廣告嗎
wardraw: 晶圓代工廠的產能有限 不同產品也會互相排擠126F 02/15 04:41
wardraw: 礦潮退去後又迎來AI浪潮 遊戲玩家的明天歸何處…
Boris945: 只好買AMD128F 02/15 05:54
laechan: 這啥小邏輯129F 02/15 06:04

--
※ 看板: PC_Shopping 文章推薦值: 0 目前人氣: 0 累積人氣: 125 
分享網址: 複製 已複製
guest
x)推文 r)回覆 e)編輯 d)刪除 M)收藏 ^x)轉錄 同主題: =)首篇 [)上篇 ])下篇