回看板
Disp BBS
作者 purplvampire (阿修雷)
標題 [新聞] 科學家預估AI到2027年的用電量堪比荷蘭
時間 Fri Oct 13 00:02:44 2023

備註請放最後面 違者新聞文章刪除

1.媒體來源:

iThome

2.記者署名:

文/陳曉莉 | 2023-10-12發表

3.完整新聞標題:

科學家預估AI到2027年的用電量堪比荷蘭

4.完整新聞內文:

科學家們開始注重AI的環保問題，《Cell》的姐妹期刊《Joule》本周出版了一篇名為《
持續成長的人工智慧能源足跡》（The growing energy footprint of artificial
intelligence）論文，指出人工智慧（AI）推論可能會消耗大量的電力，作者Alex De
Vries更向《BBC》表示，到了2027年，AI的用電量可能等同於荷蘭一年的電力使用。

這是繼加州大學河濱分校電機與電腦工程系副教授Shaolei Ren今年初發表的AI「容易口
渴」的論文之後，另一篇與AI環保議題相關、並吸引媒體目光的研究。當時Ren於《
Making AI Less “Thirsty”: Uncovering and Addressing the Secret Water
Footprint of AI Models》中指出，在微軟最先進的美國資料中心訓練GPT-3時，將直接
消耗70萬公升的乾淨淡水，相當於生產370輛BMW或320輛特斯拉，若是在微軟的亞洲資料
中心訓練，用水量將是3倍，若是於其它不那麼先進的資料中心訓練AI模型，用水量則會
更高。


而在推論上，ChatGPT僅是回答20~50個簡單的問題就需要500ml的水，當ChatGPT擁有數十
億用戶，再加上改用規模更龐大的GPT-4，AI的用水量更是難以估計。

其實目前並沒有針對AI用水或用電量的公開數據，不管是Ren或是來自Vries的最新研究都
是基於多種估計。

Vries為荷蘭阿姆斯特丹自由大學商業與經濟學院的博士候選人，同時他也是數位經濟平
臺Digiconomist及比特幣耗電量指數Bitcoin Energy Consumption Index的創辦人。這次
他於報告中指出，外界一向認為訓練一個AI模型是AI最耗電的階段，但Vries引用了

SemiAnalysis及Google的報告指出，推論所消耗的電力更多。

其中，Google的報告顯示，自2019年到2021年，與AI相關的能源消耗中有60%來自推論。
至於半導體研究機構SemiAnalysis則說OpenAI的ChatGPT服務需要由3,617臺Nvidia HGX

A100的伺服器來支撐，Vries計算其每日耗電量，認為它高於訓練GPT-3時所需要的電力。


另一方面，SemiAnalysis也估計，若要於Google搜尋中實現類似ChatGPT的搜尋能力，將
會需要512,821臺的Nvidia HGX A100，且Alphabet董事長John Hennessy亦曾向《路透社
》（Reuters）透露，與大型語言模型互動的成本可能是標準關鍵字搜尋的10倍。


這使得Vries以Google在2021年的18.3 TWh耗電量來計算，當時AI占了Google整體耗電量
的10%~15%，在Google全面實施AI搜尋之後，其AI耗電量最高可能達到27.4 TWh，接近愛
爾蘭一整年所使用的電力（29.3 TWh）。


就整個市場來看，隨著Nvidia合作夥伴台積電（TSMC）所投資的新CoWoS包裝廠預計於
2027年量產，Vries也估計屆時Nvidia所交付的AI伺服器數量與其用電量將達85~134 TWh
，相當於荷蘭一年的電力使用。

總之，Vries認為AI產業應該要考慮相關的環境衝擊，包括提高硬體效率，採用創新的模
型架構及演算法，還建議開發人員不僅應專注於優化AI，也必須考慮使用AI的必要性，亦
督促監管機構導入具體的環境披露要求，以讓此一新興技術的環境成本更加透明化。


除了環境之外，SemiAnalysis今年初即曾發表一篇文章，分析了大型語言模型的實際成本
，指出ChatGPT每周的推論成本都超過訓練成本，倘若Google在搜尋中部署了類似ChatGPT
的大型語言模型，原本擁有的300億美元利潤就會在一夜之間蒸發，轉移到其它業者手上
或是用來改善TPU效能。


5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體:

https://www.ithome.com.tw/news/159236
科學家預估AI到2027年的用電量堪比荷蘭 | iThome
[圖]
數位經濟平臺Digiconomist、比特幣耗電量指數的創辦人Alex De Vries預估到了2027年，AI的用電量可能等同於荷蘭一年的電力使用 ...

 

6.備註:

聽說有個總統候選人說要AI產業化，不知道他知不知道目前台灣的用電量跟用水量？

以及推動AI產業需要準備的用電量跟用水量是多少？

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 180.177.101.164 (臺灣)
※ 作者: purplvampire 2023-10-13 00:02:44
※ 文章代碼(AID): #1bA1YcXi (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1697126566.A.86C.html
→ dg01: 4個不同意1F 1.165.191.2 台灣 10/13 00:03
推 whitenoise: 題外話，這論文真是聽君一席話2F 42.77.132.26 台灣 10/13 00:03
推 NexusPrime: 比無用的挖礦式虛擬幣好太多了3F 148.109.13.133 日本 10/13 00:04
→ james732: 跟台積電比起來哪個比較厲害4F 223.137.214.8 台灣 10/13 00:05
→ cchh179: 叫老黃和台積電研究一下怎樣更省電 ==5F 49.217.3.6 台灣 10/13 00:06
→ dg01: 不管如何非核綠電都追不上之後十年度數6F 1.165.191.2 台灣 10/13 00:07
推 kamichu: 比拿來玩遊戲跟上ptt還值得7F 36.233.209.53 台灣 10/13 00:07
推 zzro: 接著AI會發現自己需要更多的電8F 118.160.123.68 台灣 10/13 00:08
→ dg01: 高價稅買外國架的綠店就算了還遠不夠
你們這幾年為何要胡搞能源跟工民供水政策
產業發展會變得綁手腳
成本一高就只能外移
還有那個外國廠的綠店技轉幾成了
有沒有兩成9F 1.165.191.2 台灣 10/13 00:11
推 duke791110: 不要浪費錢一直想搞什麼綠電就好 各國都一樣15F 101.10.46.191 台灣 10/13 00:22
→ lazioliz: 那也沒多少啊17F 1.200.151.46 台灣 10/13 00:23
→ dg01: 該篇列的很粗糙不過距離甚至不到5年18F 1.165.191.2 台灣 10/13 00:27
推 vios10009: 至少比虛擬貨幣好19F 101.12.114.181 台灣 10/13 00:28
→ dg01: 也只以現有知名公司服務當範例
一個新核廠前後瑣碎須要十年保守完成
新的淡水案更是麻煩
要做淡化或民廢水過濾之類新技術用電又更大產業會變得如何根本只差落槌宣判
也因此淡水跟燃料會越來越高價
台灣拿不出補貼就剩新廠移有補貼的區上報紙20F 1.165.191.2 台灣 10/13 00:29

--
作者 purplvampire 的最新發文:
點此顯示更多發文記錄