回看板
Disp BBS
作者 Articuno (水噹噹)
標題 [新聞] 馬斯克等上千人連署 籲暫停大型AI研究
時間 Sat Apr  1 21:55:19 2023

馬斯克等上千人連署 籲暫停大型AI研究

https://i.epochtimes.com/assets/uploads/2023/03/id13960389-GettyImages-1239416791-1200x804.jpg
[圖]
馬斯克和多位AI專家簽署了一封公開信，呼籲立即暫停訓練比GPT-4強大的AI系統，否則
可能危及全人類。圖為馬斯克資料照。(Patrick Pleul/Pool/AFP via Getty Images)

【大紀元2023年03月29日訊】（大紀元記者陳霆綜合報導）馬斯克和許多人工智慧（AI）
專家、企業領導人都簽署了一封公開信，信中呼籲所有AI實驗室應立即暫停訓練比GPT-4
更強大的AI系統，否則可能危及社會和全人類。


這封信（鏈接）由非營利性的「生命未來研究所」（Future of Life Institute）發布，
直至記者截稿時已有1,125人簽署。

簽署者之中，不乏科技界名人，例如馬斯克（Elon Musk）、蘋果聯合創辦人史蒂夫‧沃
茲尼克（Steve Wozniak）、Stability AI創辦人埃馬德‧莫斯塔克（Emad Mostaque）、
AI領域重量級科學家約書亞‧班吉歐（Yoshua Bengio）和斯圖爾特‧羅素（Stuart

Russell）等。

信中指出，大量研究表明，具有與人類競爭能力的AI系統，可能對社會和人類構成深遠的
風險，這點也得到了頂級AI實驗室的承認。

在信中，專家們呼籲高級AI開發至少應暫停6個月，讓AI實驗室和獨立專家利用這段時間
共同制定、實施一套開發與設計先進AI的共享安全協議，並由獨立的外部專家進行嚴格的
監督。


信中說：「如果這種暫停（計劃）不能迅速頒布，政府應介入並制定暫停令。」

信中形容，近幾個月AI實驗室陷入「一場失控的競賽」，競相開發越來越強大的數字頭腦
，然而，即使是AI的創造者，也沒有人能理解、預測或可靠地控制。

「只有當我們確信它們的影響是積極的且它們的風險是可控的時候，才能開發強大的AI系
統。」信中寫道。

專家們強調：「人工智慧的研究和開發應重新聚焦於使今天強大的、先進的系統更加準確
、安全、可解釋、透明、健全、一致、可信和忠誠。」

信中還呼籲開發者應與政策制定者合作，加強對AI的治理和監管，設立公共資金，並建立
資源充足的機構，應對AI可能對經濟與民主的破壞。

https://img.epochtimes.com.tw/upload/images/2023/03/30/607235_medium.jpg
[圖]
圖為人工智慧示意圖。（Pixabay）

雖然特斯拉也將AI用於自動駕駛系統，但馬斯克一向直言不諱地表達他對AI的擔憂。

馬斯克曾是OpenAI的聯合創辦人，但他對OpenAI的現況並不滿意，並在2月發推文：「創
建時OpenAI是一間開源非營利性公司（這就是為何我把它命名為OpenAI），以作為對
Google的制衡，但現在它已成為一個閉源盈利性公司，實際上由微軟控制。」

「這完全不是我的初衷。」馬斯克當時寫道。

    OpenAI was created as an open source (which is why I named it “Open”
AI), non-profit company to serve as a counterweight to Google, but now it has
become a closed source, maximum-profit company effectively controlled by
Microsoft.

    Not what I intended at all.

    — Elon Musk (@elonmusk) February 17, 2023

作為簽署公開信的學者之一，紐約大學名譽教授馬庫斯（Gary Marcus）對路透社說：「
這封信並不完美，但其精神是正確的：我們需要放慢腳步，直到我們更了解這麼做的後果
。」


「它們可能會造成嚴重的傷害大公司對他們在做的事情，變得越來越神祕，這使得社
會很難抵禦任何可能出現的傷害。」

責任編輯：葉紫微#

https://www.epochtimes.com/b5/23/3/29/n13960915.htm
馬斯克等上千人連署 籲暫停大型AI研究 | GPT-4 | OpenAI | 人工智能 | 大紀元
[圖]
馬斯克和許多人工智能（AI）專家、企業領導人都簽署了一封公開信，信中呼籲所有AI實驗室應立即暫停訓練比GPT-4更強大的AI系統，否則可能危及社會和全人類。 ...

 

--
                《大紀元時報》  X  《奇異博士2：失控多重宇宙》

                       https://i.imgur.com/WbfSqCv.png

                   兩行小字「歷史巨變在眼前 指路真相大紀元」

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.10.62.34 (臺灣)
※ 作者: Articuno 2023-04-01 21:55:19
※ 文章代碼(AID): #1aA3VBxn (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1680357323.A.EF1.html
推 xzcb2008: 白癡=.=1F 114.38.128.210 台灣 04/01 21:55
推 toto3527: 擋到這些科技人的財路了2F 60.249.223.82 台灣 04/01 21:56
推 popopal: 擋不住的3F 111.242.163.143 台灣 04/01 21:56
→ potionx: 這個馬 沒用了4F 61.231.68.108 台灣 04/01 21:57
→ koromo1991: 自己發現搞不贏人家要拿全人類情勒5F 114.136.215.120 台灣 04/01 21:57
噓 gankgf: 南非馬英九不意外 又想停下美國進步腳步6F 42.76.215.20 台灣 04/01 21:58
推 tontonplus: 連署個屁，眾籌買下來停止不會逆,笑死7F 175.182.219.184 台灣 04/01 21:59
噓 pupudice: 你算哪根蔥8F 118.148.86.112 紐西蘭 04/01 22:00
推 iphone55566: 誰理你 @@9F 111.252.243.11 台灣 04/01 22:00

--
作者 Articuno 的最新發文:
點此顯示更多發文記錄