※ 本文轉寄自 ptt.cc 更新時間: 2024-03-31 13:55:26
看板 Stock
作者 標題 [新聞] AI晶片如何讓美國電網癱瘓？微軟工程師：
時間 Sat Mar 30 10:13:03 2024
原文標題：
AI晶片如何讓美國電網癱瘓？微軟工程師：只要10萬片就完了
原文連結：
https://www.ctee.com.tw/news/20240329701360-430704
發布時間：
2024.03.29 16:25 中時新聞網
記者署名：
吳美觀
原文內容：
全球掀起人工智慧（AI）熱潮，也讓AI進化成吃電巨獸！一位微軟工程師爆料，如果在美
國同一個州部署超過10萬片H100 GPU高階晶片，就會導致電網癱瘓。顯見AI運算速度愈快
，電力供應需求暴增將成為令人擔憂的問題。
國同一個州部署超過10萬片H100 GPU高階晶片，就會導致電網癱瘓。顯見AI運算速度愈快
，電力供應需求暴增將成為令人擔憂的問題。
財聯社報導，人工智慧聊天機器人ChatGPT開發者OpenAI下個版本GPT-5模型尚未面世，似
乎已開始著手訓練GPT-6，不過電力可能成爲一個「卡脖子」難題。
AI新創公司OpenPipe創辦人Kyle Corbitt在社群平台X上透露，自己最近與一位負責GPT-6
訓練集群項目的微軟工程師討論新版本中遇到的問題，這位工程師抱怨，不同區域GPU之
間部署infiniband（無線頻寛）級別鏈接，實在非常痛苦。
訓練集群項目的微軟工程師討論新版本中遇到的問題，這位工程師抱怨，不同區域GPU之
間部署infiniband（無線頻寛）級別鏈接，實在非常痛苦。
Corbitt接著問「為何不將訓練集群集中同一個區域？」這位微軟工程師回答，有嘗試過
，但是如果在一個州放置超過10萬片H100 GPU，電網就會癱瘓。
10萬片H100是什麼概念？據市場調查機構Factorial Funds的報告顯示，OpenAI的文字生
成影片模型Sora在高峰期間需要72萬片H100，依該工程師說法，這個數量足以讓美國7個
州的電網崩潰。
成影片模型Sora在高峰期間需要72萬片H100，依該工程師說法，這個數量足以讓美國7個
州的電網崩潰。
Corbitt指出，隨著越強大的AI製造出來，開發這些模型的成本也越來越高，並面臨電力
供應所帶來環境挑戰。
OpenAI 執行長奧特曼（Sam Altman）曾為AI的電力需求「叫苦」。在年初的達沃斯論壇
上，他表示，AI發展需要能源方面的突破，AI將帶來遠超預期的電力需求。
有數據顯示，ChatGPT每天需要消耗超過50萬千瓦時的電力，用於處理約2億個用戶請求，
相當於美國家庭日用電量的1.7萬多倍；至於搜尋巨頭谷歌，若在每次用戶搜尋中都調用
AIGC，年耗電量將增至290億千瓦時，這甚至高於肯亞、瓜地馬拉等國1年的用電量。
相當於美國家庭日用電量的1.7萬多倍；至於搜尋巨頭谷歌，若在每次用戶搜尋中都調用
AIGC，年耗電量將增至290億千瓦時，這甚至高於肯亞、瓜地馬拉等國1年的用電量。
心得/評論：
隨著AI運算速度愈快，電力供應需求也將暴增，將成為令人擔憂的問題
還好咱們台灣電網堅韌無比，不缺電，不停電，不是美國那種落後國家能比的
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.137.161.32 (臺灣)
※ 作者: anti87 2024-03-30 10:13:03
※ 文章代碼(AID): #1c1tKqE- (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1711764788.A.3BE.html
推 : 心得 笑死 也只能自娛娛人了我們1F 03/30 10:14
→ : 中時新聞網2F 03/30 10:14
→ : 「卡脖子」是什麼語？
→ : 「卡脖子」是什麼語？
推 : 台灣不適合核能，但AI真的吃電非常4F 03/30 10:15
→ : 說真的，這種擺明不是想討論股票的文就別發了，有很5F 03/30 10:15
→ : 多其他適合的板
→ : 多其他適合的板
噓 : 剛才跳過心得沒看，補噓沒意義的酸文心得7F 03/30 10:18
推 : 有股點阿，就是在ai 這條路上，台灣終究會被外拋，8F 03/30 10:19
→ : 要ai就投美股
→ : 要ai就投美股
推 : 台灣不適合核能個屁10F 03/30 10:19
→ : 台灣要零排放又要跟上AI時代 是打算把中央山脈砍光
→ : 插光電板？
→ : 台灣要零排放又要跟上AI時代 是打算把中央山脈砍光
→ : 插光電板？
推 : 純噓上面反核仔13F 03/30 10:21
推 : 找老黃呼籲核電 政府應該會買單14F 03/30 10:21
→ : 微軟+AI+電網 沒股點？ 這話有經過自己良心嗎？15F 03/30 10:21
→ : 高速快速公路插太陽能板有搞頭？16F 03/30 10:22
→ : 白天遮陽發電儲能，晚上照明
→ : 白天遮陽發電儲能，晚上照明
推 : 把公園通通插滿太陽能板就有電了18F 03/30 10:24
推 : 地震颱風就會滿地的太陽能板癱瘓交通19F 03/30 10:24
推 : 遲早用核電哈哈20F 03/30 10:25
→ : 捷運軌道上方蓋滿太陽能板有搞頭？21F 03/30 10:26
噓 : 台灣：40%用愛發電22F 03/30 10:27
→ : 簡單來說就是台灣只會有硬體業 AI軟體相關都是假的23F 03/30 10:27
推 : H100伺服器耗電量就要10kW了 10萬台需要100萬KW 自24F 03/30 10:27
→ : 己算要多少光電板吧
→ : 硬體業不耗電嗎 生產AI晶片EUV製程電力需求多恐怖
→ : 己算要多少光電板吧
→ : 硬體業不耗電嗎 生產AI晶片EUV製程電力需求多恐怖
→ : 人類電池!!!!各位 用脂肪發電時代來臨了!!27F 03/30 10:29
推 : 愛台灣股民是又看不慣電力汙名化了28F 03/30 10:32
噓 : 柵欄壞了29F 03/30 10:34
推 : 1度電=1kWh30F 03/30 10:34
→ : 以後會很耗電 我建議用人類來發電31F 03/30 10:34
→ : 靠光電板？所以陰雨天伺服器就停工嗎 XD32F 03/30 10:41
→ : 是不是當儲能是塑膠的（誤33F 03/30 10:43
→ : 如果是科幻小說會研發出在太陽旁邊吸取能源的訓練站34F 03/30 10:44
推 : 跟挖礦一樣浪費電35F 03/30 10:48
推 : 原來打敗天網只要攻擊電網就好了36F 03/30 10:51
→ : 天網真的形成你根本攻擊不完電網 起碼是分散式的37F 03/30 10:53
推 : 沒關係 AI不適合台灣 不需要擔心電力問題38F 03/30 10:53
→ : 電網可以24/7無限制生成 看卡爾達蕭夫文明等級到哪39F 03/30 10:56
→ : AI的主要應用在美國40F 03/30 10:56
→ : 台灣只是代工AI晶片
→ : 台灣只是代工AI晶片
推 : 不用幫美國擔心沒電好嗎！？42F 03/30 10:59
推 : 抽脂發電43F 03/30 10:59
噓 : 這種心得發在股板…有點扯44F 03/30 11:03
→ : 就跟之前瘋瘋算eth類似，也是狂用GPU45F 03/30 11:04
噓 : 是說這是誰46F 03/30 11:06
推 : 核電廠旁放AI47F 03/30 11:09
噓 : 高算力=高耗電≠獲利48F 03/30 11:11
推 : 徵求工讀生踩腳踏車發電給AI用49F 03/30 11:11
→ : 先進製程+先進封裝的重要性越來越高了50F 03/30 11:14
→ : 台灣有很多的電 不怕51F 03/30 11:15
推 : matrix有教過電力來源52F 03/30 11:20
→ : matrix明明就是紀錄片 只是穿越到了現代QQ53F 03/30 11:21
→ : 不管怎麼改 所有電力節點都要變壓器啊 華城表示：54F 03/30 11:25
推 : 核融合MIT55F 03/30 11:36
→ : 美國電力概念股會變股王嗎XDDDDDDDDDDDDDDDDDDDDD56F 03/30 11:38
推 : 結論：人類=電池57F 03/30 11:39
推 : 台灣不適合核能個屁58F 03/30 11:42
推 : 台灣不要用AI就好了，負責生產設備59F 03/30 11:42
推 : 說台灣不適合核能的應該是低能60F 03/30 11:48
→ : 低能發電 用愛發電
→ : 低能發電 用愛發電
推 : 真是笑話 這種有股點的新聞還不能放 乾脆規定只準62F 03/30 11:53
→ : 放三民自跟大妓院的好了
→ : 放三民自跟大妓院的好了
→ : 慘爆64F 03/30 11:55
推 : 哈哈 民視和三立也開始有美日重啟核電的新聞了65F 03/30 11:58
推 : 太耗電了台灣不需要66F 03/30 12:01
→ : 能發展算力就美中沙 其他都不可能 光蓋一堆核電廠67F 03/30 12:03
→ : 地狹人稠就無法
→ : 地狹人稠就無法
噓 : 聽起來根本沒問題啊，才幾萬戶家庭用電而已69F 03/30 12:04
推 : 日本： 啊我國土是很大嗎？ 要重啟全球最大核電廠70F 03/30 12:04
→ : 了喔
→ : 了喔
→ : 美國家庭至少也有8000萬戶，給你耗電2萬戶有什麼72F 03/30 12:06
→ : 白痴新聞
→ : 白痴新聞
推 : 樓上是不是因為電廠到你家中間沒電網？ 電網其中一74F 03/30 12:09
→ : 點瞬間少掉2萬的家庭用電 需要多少電力去穩電流？
→ : 點瞬間少掉2萬的家庭用電 需要多少電力去穩電流？
推 : 還好台灣都是用愛發電 不怕76F 03/30 12:15
→ : 台灣電多到可以藏起來，沒事沒事77F 03/30 12:17
推 : 台灣有愛78F 03/30 12:25
噓 : 建議土條趕快提出將龍門廢墟 改成fusion 試驗場的可79F 03/30 12:31
→ : 行性計畫 不然有可能光內科皆有可能榨乾整個台北市
→ : 的電網？？？
→ : 行性計畫 不然有可能光內科皆有可能榨乾整個台北市
→ : 的電網？？？
推 : 是無限頻寬 不是無線82F 03/30 12:49
推 : 美國怎麼跟得上台灣83F 03/30 12:54
→ : 那台灣怎麼發展84F 03/30 13:02
→ : 台灣算力準備落後了嗎
→ : 台灣算力準備落後了嗎
→ : 很明顯AI發展會進入一個算力瓶頸，而這個瓶頸就是電86F 03/30 13:08
→ : 力供應
→ : 力供應
推 : 卡陰囊88F 03/30 13:11
推 : 日本國土確實大啊，一個九州就跟台灣面積相近了89F 03/30 13:32
推 : 又是浪費錢跟電的玩意90F 03/30 13:45
推 : 這就是現在半導體的瓶頸，所以才有人開始研究量子91F 03/30 13:48
→ : 電腦想取代目前的大型訓練系統，但是變超導體應該
→ : 也是很耗能。
→ : 電腦想取代目前的大型訓練系統，但是變超導體應該
→ : 也是很耗能。
→ : 還談什麼節能減碳....暖化議題呢?94F 03/30 13:48
→ : 有些人總喜歡將綠能與基載混在一起談95F 03/30 14:18
→ : 電力消耗就是小模型跟自製AI晶片會有市場的重要考量96F 03/30 14:23
推 : 宏碁：這裡有一批神秘小盒子很便宜的 快來買喔97F 03/30 14:24
推 : 是自己公司沒有建立可以推10萬片H100 GPU的電力系統98F 03/30 15:23
→ : ，光想要推這麼多H100的不斷電系統就覺得驚人
→ : ，光想要推這麼多H100的不斷電系統就覺得驚人
推 : 怎不開發超導體ai晶片啊？這樣不就完全不用消耗電100F 03/30 15:36
→ : 力了。
→ : 力了。
推 : 台灣最需要的就是核能！102F 03/30 16:11
推 : 核能治百病 電不夠就核能就對了103F 03/30 17:17
噓 : 外拋什麼台灣的半導體業就是ai軟體的，87104F 03/30 18:33
→ : 核融合也要靠AI有突破了105F 03/30 19:06
推 : 主機+太陽能板上太空有沒有搞頭？106F 03/30 19:26
推 : 老黃會推下一代功耗降低30%吧107F 03/30 21:59
推 : 把台灣的路全部挖掉重鋪「發電公路」大家說好不好108F 03/30 22:56
→ : 啊
→ : 啊
噓 : 因AI失業的人改行當人力電池吧110F 03/31 11:31
--
※ 看板: Stock 文章推薦值: 0 目前人氣: 0 累積人氣: 76
作者 anti87 的最新發文:
- 25F 10推 1噓
![]()
上海首座「人形機器人工廠」正式開幕，互動式機器人「遠征」登場，具備語音、動作識 別功能，能執行多元場景互動任務，標誌著大陸人形機器人產業進入量產化時代。 上海人形機器人遠征：「歡迎，歡迎，見到你很高 …88F 48推 5噓![]()
中國生產的各類商品都陷產能過剩，紙類產品也在其中。《華爾街日報》報導說，面對這 一危機，中國最大的造紙商之一——山東晨鳴紙業採取了與其它公司一樣的做法：降價清 倉。然而，公司虧損卻不斷增加。 上個月 …59F 34推 5噓![]()
為期兩天的中共中央經濟工作會議已結束。因無外界期望新的救市措施細節出台，導致市 場預期落空。有分析認為，中南海現出現權力危機，經濟工作會議更像在走過場，2025年 的中國經濟面臨更大的未知數。亦有分 …47F 22推 1噓![]()
中國經濟惡化，消費疲軟。近日，中共官媒報導，學者估算中國低收入人群約有9億人， 外界分析指出，實際人數預計更多。 浙江大學共享與發展研究院院長李實日前估算，截至目前，中國沒有達到中等收入標準的 人群 …226F 94推 22噓
點此顯示更多發文記錄
→
guest
回列表(←)
分享