顯示廣告
隱藏 ✕
※ 本文為 MindOcean 轉寄自 ptt.cc 更新時間: 2014-10-31 14:02:16
看板 Gossiping
作者 bitcch (必可取)
標題 [新聞] 特斯拉CEO:人工智慧將召喚出惡魔
時間 Fri Oct 31 03:20:09 2014


特斯拉CEO:人工智慧將召喚出惡魔

電影機械公敵(I, Robot)當中,中央控制系統VIKI以人類正在危害己身安全的判斷,控
制了NS-5機器人來執行「人類保護計畫」的情節,或許你還記憶猶新。影片中企圖控制世
界的VIKI正是一款人工智慧系統。為了不在現實中重演這樣的情節,特斯拉的CEO Elon M
usk再一次發出警告表示「人工智慧將會召喚出惡魔!」


對於人工智慧,近期科技界的相關研究方興未艾。然而Elon Musk繼先前曾表達「人工智
慧比核能更危險」宣言後,再度在麻省理工學院航空系百年論壇中表示,他對於計算機產
業未來的發展,也就是人工智慧被惡意使用的情況感到擔憂。


Elon Musk表示,「透過人工智慧,我們將會召喚出惡魔。大家都知道這樣的故事,有人
拿著五芒星和聖水,肯定自己能夠控制惡魔,但事實上卻是不能」。

Elon Musk的發言聽起來十分駭人,但其實他指的是人工智慧發展領域,正無限制的被研
究、應用。他表示為了預防人類不會為了研究或其他理由,做出一些危險的事情,在人工
智慧領域的研究會需要監管機制,可能是國際間共同提出,或是由單一國家來提出。


他已不只一次表達過對於人工智慧前景的擔憂。他之前曾開玩笑的表示,為了消除垃圾郵
件而開發的機器人,可能會自行做出決定,要毀滅人類。這彷彿又重複了電影機械公敵中
,男主角與一位小女孩同時遭遇重大車禍時,機器人因為生存機率的判斷,而放棄拯救小
女孩一樣。如同電影男主角所言,對於人類而言符合情理的判斷,機器人並不一定能懂。
相對的,採用人工智慧系統來進行判斷的機器人,也有可能像電影中的VIKI一樣,奪取控
制權企圖凌駕於人類之上,而可能為人類帶來超乎預期的災難。


http://ppt.cc/bD5P
特斯拉CEO:人工智慧將召喚出惡魔 - 中時電子報
[圖]
電影機械公敵(I, Robot)當中,中央控制系統VIKI以人類正在危害己身安全的判斷,控制了NS-5機器人來執行「人類保護計畫」的情節,或許你還記憶猶新。影片中企圖控制世界的VIKI正是一款人工智慧系統。為了不在現實中重演這樣的情節,特斯拉的CEO Elon Musk再一次發出警告表示「人工智慧將會召喚出惡魔!」 ...

 

--
Sent from my Android

--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 115.43.55.123
※ 文章網址: http://www.ptt.cc/bbs/Gossiping/M.1414696812.A.ABE.html
jack19931993: 還久吧1F 10/31 03:21
lzyx: 他說的是電影魔鬼終結者吧 =.=|||2F 10/31 03:23
flydragon198: 我有生之年可能都還見不到會思考有創意的人工智慧3F 10/31 03:23
samtony: 目前電腦連翻譯都做不好了 想太多4F 10/31 03:25
yangcain: 很多科技業的感覺都會擔心這個,奇點來臨不是沒可能的5F 10/31 03:26
yangcain: Elon Musk就是號稱現實鋼鐵人那位啊,南非出身的美國創
yangcain: 業者
lolix: ULTRON8F 10/31 03:28
higameboy: 阿斯拉表示:...9F 10/31 03:28
TSbb: 有什麼好災難的? 人類現在就是對大自然的最大浩劫了10F 10/31 03:28
NuCat: 明年的復仇者聯盟2也是這塊主題,奧創時代來臨11F 10/31 03:29
gn005066: 阿薩謝爾要出來了12F 10/31 03:31
ZABORGER: 女神轉生!?13F 10/31 03:34
Cervelo1995: 要是初音有智慧,一定會討厭宅宅..這樣宅宅要怎辦14F 10/31 03:40
Greatgenius: 天網表示:15F 10/31 03:42
chaunen: 萬磁王嗎?16F 10/31 03:43
cp296633: 快造台chobits來奴役人類(宅男)17F 10/31 03:44
KJK5566: 先把伊波拉病毒搞定再來討論人工智慧危不危險18F 10/31 03:45
dderfken: 賈維斯表示19F 10/31 03:45
hihieveryone: 先把你的車弄好吧20F 10/31 03:53
idunhav1: 現在都是弱AI居多吧,車子電池燒起來該不會是強AI造成的21F 10/31 04:02
hihieveryone: ai強的很強好不好傻傻的22F 10/31 04:08
hihieveryone: 只是一直以來都在探索一個問題到底過度使用ai
hihieveryone: 會不會讓人類產生浩劫?
alog: ㄏㄏ把dns跟ip給切了看你怎麼連 只要機器人還需要連網路 人25F 10/31 04:09
alog: 類winwin
hihieveryone: 那你太小看ai了27F 10/31 04:10
hihieveryone: 別忘了有鷹眼系統
alog: ai要足夠的空間放置樣本跟資料庫29F 10/31 04:10
hihieveryone: 他們還可以竊取衛星資料30F 10/31 04:11
alog: ai太強 肯定昂是人類給他權限太大 真的會被毀滅那太智障31F 10/31 04:11
hihieveryone: 你真的以為切掉ip能幹麻嗎?32F 10/31 04:11
hihieveryone: 以以為他們不會突破權限嗎?
alog: ㄏㄏ不然你做一個給我看好嗎34F 10/31 04:12
alog: 根本就無稽之談
hihieveryone: 他們還可以運算出最短的搜尋路徑36F 10/31 04:12
hihieveryone: 只要能想的到就有被實踐的可能
rockmanx52: 這東西其實已經不是會不會出現 而是何時出現的問題了38F 10/31 04:13
hihieveryone: 只要理論上可行只是要花多少力量寫出來的問題39F 10/31 04:13
hihieveryone: 光是我想就有辦法想的到何況美國那些鬼才
alog: 人是善用物器跟利用人的生物 AI這東西沒有你想象中的誇張41F 10/31 04:14
alog: 你想的到的 電影都演過了
hihieveryone: 想想看google bot是怎麼突破一般網站的目錄結構43F 10/31 04:15
hihieveryone: 讓他們洩光光 他們可以說你自己開的怪我囉?
hihieveryone: 只是你不知道而已
alog: 呵呵 網站目錄這不需要ai啊46F 10/31 04:17
rockmanx52: 電影劇本因為是人寫的所以才會讓人類贏啊= =47F 10/31 04:17
alog: 我只想說 ai根本沒這麼誇張 如果出事了也是因為人48F 10/31 04:17
hihieveryone: 一個決策的影響力可能是幾百年49F 10/31 04:18
rockmanx52: 基本上你只要寫出一個有黑猩猩思考能力等級的AI50F 10/31 04:18
alog: 那我還在等51F 10/31 04:18
hihieveryone: 就像是我們到現在都還在用牛頓的力學系統52F 10/31 04:18
rockmanx52: 那危機就有機會發生了...53F 10/31 04:18
hihieveryone: 一個國家的領導者就有那種高度到底要不要發展54F 10/31 04:19
hihieveryone: 可能是數百年前就決定好的
hihieveryone: 不用全ai 就算是有人用某種超強的工具也夠猛的
hihieveryone: 也不是你切ip就能解決的
hihieveryone: 講太多我怕會把某些技術提前曝光
peng1016: 目前ai盲點很多 但很多應用確實不錯 但都偏輔助比較多59F 10/31 04:23
hihieveryone: Don't be evil60F 10/31 04:23
alog: 目前人工智慧的應用還是要依賴網路61F 10/31 04:25
alog: 人工智慧的決策 運算 擬出來的策略要放的資料是非常龐大的
alog: 人類很怪 明明自己才最恐怖 竟然要懼怕ㄧ個自己家做出來的東
hihieveryone: 呵呵 ai應該有辦法在你斷網前找到你64F 10/31 04:28
tinghsi: 你以為人類科技一直進步不斷讓電腦效能變好65F 10/31 04:28
alog: 西 等到真的如你所說的災難前 恐怕人類延伸出來的問題先自己66F 10/31 04:28
alog: 給滅了
tinghsi: 實際上電腦是藉著人類的手不費吹灰之力拼命進化68F 10/31 04:29
hihieveryone: 從他打倒棋王那刻起世界就已經變的不一樣了69F 10/31 04:29
hihieveryone: 就說了不用全自動ai 超強工具落在你的敵人手裡
hihieveryone: 也夠讓你寢食難安了
alog: 事實上你還是該擔心的是社會上產生的問題 而不是這個ai72F 10/31 04:31
alog: 只有社會階級地位高的人才能決定跟整合這些資源
alog: 美國以前發展核武差點把自己給滅了
hihieveryone: 那未必75F 10/31 04:33
hihieveryone: 中東都可以出現ISIS
alog: 那ISIS是人還是AI?77F 10/31 04:33
alog: 你應該還是要懼怕的是人
hihieveryone: 難保哪天Anonymous可以建國79F 10/31 04:34
hihieveryone: 那些人有社會階級高嗎?
hihieveryone: 天知道google X 和 Bitcoin的bot裡面藏了多少資源
hihieveryone: 說不定他綁架了一堆殭屍帳號幫他賺取全球的資源
alog: 那到底是人為還是ai為呢  你離清楚83F 10/31 04:39
hihieveryone: 你可能還不明白這股力量有多大84F 10/31 04:40
alog: 這篇人新聞重點還是在於要怎麼防堵人類濫用ai 做事85F 10/31 04:40
alog: 而至於那種電影般的ai奪權什麼的讓他在電影演就好了
alog: 該擔心的還是人
hihieveryone: 如果你能一點就通現在就不會在這裡爬文了88F 10/31 04:41
alog: 那我還真佩服你願意跟我這個土包子講這麼多@@89F 10/31 04:42
hihieveryone: 我不想再想下去了太可怕了90F 10/31 04:45
hihieveryone: 你可以試著從防禦者的角度換成攻擊者的角度
hihieveryone: 你就會看到無限可能
alog: 平常心看待就好了啦93F 10/31 04:47
tps6115: 資工畢業講真的100年內AI你還是吃土去吧。94F 10/31 04:49
arrenwu: 他講的惡魔應該不是Skynet這種吧95F 10/31 04:49
hihieveryone: 呵呵..真的很好笑跟鄉民說資工....96F 10/31 04:51
arrenwu: 為了消除垃圾郵件開發的機器人要毀滅人類這更奇怪了97F 10/31 04:52
arrenwu: 這機器人的action space根本就沒有毀滅人類這一項啊
hihieveryone: 沒有沒有明確的選項不代表示情不會發生99F 10/31 04:55
hihieveryone: 這才是他擔心的地方
tps6115: 沒你好笑吧?一整個電影看太多...101F 10/31 04:55
arrenwu: 你可以教我一個只能選擇要不要刪除郵件的機器人要怎麼毀102F 10/31 04:57
arrenwu: 滅世界嗎?
hihieveryone: 那不是他擔心的AI104F 10/31 04:57
arrenwu: 奪取控制權這講法也一樣,action space 根本沒有這一項105F 10/31 04:58
arrenwu: 是要怎麼奪取?
hihieveryone: 他是天才他知道他在擔心什麼事情107F 10/31 04:59
arrenwu: 會去設計一個ai還允許他更改權限,這設計者是白吃嗎?108F 10/31 05:00
hihieveryone: 你的電腦沒中過毒嗎?109F 10/31 05:01
hihieveryone: 非體制內的行為又不是只有真實世界才會發生
tps6115: 電腦中毒是有人設計病毒讓電腦中毒阿111F 10/31 05:02
pedestrianA: 毀滅才有新生112F 10/31 05:02
hihieveryone: 難道監獄裡面的人不會想辦法越獄嗎113F 10/31 05:03
tps6115: 我都快笑死了,去學點基本知識再來好嘛!還電腦中毒勒114F 10/31 05:03
hihieveryone: 角色互換你會想盡一切方式突破現狀115F 10/31 05:04
arrenwu: 所以是有人設計AI搞破壞,不是AI本身危險啊116F 10/31 05:04
hihieveryone: 裡面的mathod太多他只是有一項叫做求最有效率117F 10/31 05:05
hihieveryone: 光是那條就有可能讓AI產生越獄的行為
hihieveryone: 你們懂嗎他原意不是叫他破壞只是讓他自己去找最速解
arrenwu: ...你不給AI超過某個門的選項他是要怎麼越域120F 10/31 05:06
arrenwu: 你進行optimization不表示你不能放constraint吧
hihieveryone: 但最速解的結果可能就是進行某些非體制內的行為122F 10/31 05:07
hihieveryone: 他進化了你們懂嗎?
tps6115: 我只能說現階段強AI領域停滯不前很久了,沒有天元突破你124F 10/31 05:08
tps6115: 應該不用替未來人擔這個心。
arrenwu: 所以要ai找一個x<1的最佳解,結果他給出了x=2?126F 10/31 05:09
hihieveryone: 誰知道哪天會不會被打破127F 10/31 05:09
arrenwu: 我真的看不懂你在講啥耶128F 10/31 05:09
tps6115: 你的AI知識是來自哪裡阿?129F 10/31 05:10
tps6115: 電影?小說?還是自己幻想?
nk: 他說的不是沒道理 AI需要龐大的資料庫 這東西不可能放在機器人131F 10/31 05:13
nk: 身上 但目前已經有這個資料庫技術了 那就是雲端運算系統
hihieveryone: http://goo.gl/h4tJP0133F 10/31 05:15
IBM Watson: Final Jeopardy! and the Future of Watson - YouTube After competing against the two greatest Jeopardy! champions of all time, the technology behind Watson will now be applied to some of the world's most entici...

 
nk: 機器人只要投過條件式的搜索就可以從雲端資料內找到行動模式134F 10/31 05:15
hihieveryone: 不要講太多阿 他會懂他就不會在這裡自稱資工系了135F 10/31 05:16
tps6115: 這啥,猜謎機器人?136F 10/31 05:18
nk: 好吧  我想說的很簡單 從雲端系統內構築機器人的行動模式AI137F 10/31 05:21
nk: 的難度其實遠不如現在大家想的困難 只是現在剛起步而已
tps6115: 這技術有可能啊,但和AI會失控有什麼關聯?139F 10/31 05:22
nk: 所以這兩個實際的結合非常少 往往都是人有目的性的目標性事物140F 10/31 05:23
nk: 問題在要給與行動限制這點會比較困難 因為他是蒐所出來的
tps6115: 而且雲端運算根本不是什麼新穎的技術,以往是被基礎建設142F 10/31 05:24
tps6115: 的不足才侷限了功能。
nk: 所以他可能會跳過你的限制(因為限制條件本身可能不完美有漏洞)144F 10/31 05:24
tps6115: 雲端運算也是把他該做的事情轉移到server上去做處理,該145F 10/31 05:26
tps6115: 限制的不會不同...
nk: 所以給予限制這點會隨著資料庫的增加反而有更大的缺陷存在147F 10/31 05:26
tps6115: 況且切斷連線就gg惹...148F 10/31 05:27
hihieveryone: 講那些他不會懂的啦不懂最好懂的人才有點可怕149F 10/31 05:28
tps6115: 這都是弱AI的特點,沒有符合的行為模式就失去了智慧的外150F 10/31 05:28
tps6115: 表
hihieveryone: 因為他一定接觸過些什麼才有辦法知道為什麼152F 10/31 05:29
tps6115: 你們害怕的是強AI的出現,但就現階段而言就讓它留在電影153F 10/31 05:30
tps6115: 裡吧。
tps6115: 要怎麼取得一個封閉網路核能電廠的主控權?若有能夠自己設
tps6115: 計且製造機器人武力攻佔廠區的AI存在再來擔心吧。
hihieveryone: 如果ai像你想的那麼簡單就不用擔心了157F 10/31 05:40
arrenwu: 你倒是說說你到底在擔心什麼吧 哈哈158F 10/31 05:40
hihieveryone: 雲端運算的確不是今年才有的但今年才出現的雲端技術159F 10/31 05:41
arrenwu: 如果我只讓一個ai下棋 他要怎麼威脅人類xD160F 10/31 05:41
hihieveryone: 你了解多少?161F 10/31 05:41
arrenwu: tps6115講的能自己設計和製造機器人武力的ai確實危險162F 10/31 05:42
hihieveryone: 聽過魏徵斬龍王的故事嗎?163F 10/31 05:43
tps6115: AI原理沒你想的複雜,要創造出符合強AI定義的AI就現階段164F 10/31 05:44
tps6115: 而言還太早
arrenwu: 聽過啊,然後?166F 10/31 05:44
tps6115: 人類連本身智慧是如何存在都不能掌握了,更別說複製出來167F 10/31 05:46
hihieveryone: http://goo.gl/Y4XycE168F 10/31 05:46
[圖]
 
arrenwu: 魏徵斬龍王跟AI危險的關聯是?169F 10/31 05:47
tps6115: 雲端技術也不是今年才出現的...170F 10/31 05:48
hihieveryone: 去睡吧連最基本的語句判斷能力都失去了171F 10/31 05:50
hihieveryone: CAPTCHA 技術也不斷的在改進因為就是有人會破
hihieveryone: 而且還開放讓大家一起玩
tps6115: 會被破解不意外啊,那種圖靈測試只是廉價的解決方案174F 10/31 05:57
tps6115: 但是是AI自行破解嘛?不是嘛~還不是要有設計者去調校...
Pietro: 買下殘障車的人176F 10/31 06:05
WLR: 等進步到會上八卦版發廢文再來擔心177F 10/31 06:35
ccucwc: 明年風見就要開著惡魔阿斯拉出來拿冠軍了 ~@@!!!178F 10/31 07:10
ds1441: 這講的問題不是機械會自主思考,而是人類以為合乎邏輯179F 10/31 07:16
ds1441: 的判斷設定可能會成為惡魔思路的雛型,但因為主導權太大
ds1441: 沒辦法再去改變設定
LearnRPG: 還不簡單 到東南亞聘請100萬廉價勞工 當電腦AI 不說誰知182F 10/31 07:19
LearnRPG: hihi 你講的那些根本不算AI 竊取衛星資料?robot parser
LearnRPG: 都只是程式按照人類的演算法在執行的 真的AI是自己可以
LearnRPG: 成長跟自己決定要做什麼事情 ...
riker729: 特斯拉聽起來就很像保護傘186F 10/31 07:26
wudi: 剛看完電影嗎, 該回到現實世界囉 :)187F 10/31 07:34
aisitelu: 真的人工自慧會自我改進 理論上是全能 無敵聰明 給它太188F 10/31 07:35
aisitelu: 多權限或工具一定出事 接個網路就出事了
dcoog7880: 翻譯做不好 不代表軍方沒在投入190F 10/31 07:46
BorisDiaw3: 幫復仇者聯盟2打廣告嗎191F 10/31 08:02
Meds: skynet192F 10/31 08:05
itrs821: 東尼史塔克都這麼說了,那應該是真的193F 10/31 08:13
bounty5254: 霹靂遊俠194F 10/31 08:14
flyboring: 看看我們最高總統,好像也不可能更糟195F 10/31 08:16
cvn65: 看成阿斯拉被召喚出來了196F 10/31 08:22
Elis1221: 連蛇都還沒看過就在怕草繩wwww197F 10/31 08:33
nvalue: SOD都是真的198F 10/31 08:38
VVizZ: 只要人工智慧發展出"思考"人類就死定了199F 10/31 08:49
serval623: 讚成消滅強國人200F 10/31 08:50
OOQ: 召喚阿薩謝爾201F 10/31 08:52
Bokolo: 魔鬼終結者演過了,謝謝~202F 10/31 08:56
ljsnonocat2: 天網203F 10/31 08:59
route22: Samaritan, the machine204F 10/31 09:00
KASUGAOSAKA: 無限制才能進步205F 10/31 09:05
bm5apa: POI206F 10/31 09:09
asiaking5566: 銀之鍵207F 10/31 09:14
muskox: 有一套小說叫『www三部曲』,裡面有強AI的誕生流程,包括208F 10/31 09:19
muskox: 佛洛伊德的本我、自我、超我是如何在AI中出現,進而成為會
muskox: 獨立思考的智慧體,並成為全能的神的整套流程。
flydragon198: 上面擔心會毀滅世界的,的根本連AI都稱不上211F 10/31 09:23
flydragon198: 下棋算什麼AI,只不過是一些演算法........
flydragon198: 深藍能下贏棋王根本不是因為他有腦,純粹是大量運算
flydragon198: 能多推測幾步棋,再從最佳解中選擇下一步
bye2007: 什麼時候要進入母體?215F 10/31 09:34
porscheruf: 量子電腦還沒出現前,擔心這個好像很多餘.....216F 10/31 09:37
magamanzero: 同上217F 10/31 09:37
magamanzero: 就炒話題而已....
porscheruf: 不過哪天Asimo走一走突然說一句:Do we have soul?那時219F 10/31 09:40
porscheruf: 大家才真的會嚇死吧....
flydragon198: 掃地機器人哪天突然自己會去拖地我才比較驚訝....221F 10/31 09:42
crazydai 
crazydai: 本來還沒有什麼興趣的,現在....222F 10/31 09:43
tpfmpm: 懶惰的惡魔223F 10/31 09:45
Leeng: zazas zazas224F 10/31 09:46
n91324: 我反正是信了Elon Musk  他至少比現場鄉民聰明幾十倍225F 10/31 09:48
MacOSX10: 女神轉生w226F 10/31 09:50
highwayshih: 用窮舉的方式來解棋根本算不上AI 還差很遠勒227F 10/31 09:50
MacOSX10: 放棄拯救小女孩有啥問題228F 10/31 09:53
sakura000: 我連自己寫的程式為什麼能work都找不出原因了229F 10/31 09:54
pchion2002: 文組表示:略懂230F 10/31 09:54
dspswen: 奧創231F 10/31 10:00
ljsnonocat2: 阿諾T100生化人什麼時候要從未來拯救地球??232F 10/31 10:04
PiZ1129: T800吧233F 10/31 10:07
brighton16: AI先能跟圍棋職業棋士分先互有勝負再來說什麼惡不惡魔234F 10/31 10:07
ghostforever: Geth:這個單位有靈魂嗎?235F 10/31 10:08
peoplefu5566: 新興領域本就應該監管 當初要不是柯林頓設下基因236F 10/31 10:13
peoplefu5566: 複製領域的限制 沒辦法想像那些神經病科學家會做
peoplefu5566: 出什麼東西來
rimi7609: 怎麼覺得某位版友各種腦補啊....現在不是連現有圖靈架構239F 10/31 10:23
rimi7609: 能否表示Mind,並且強AI實現的可能性都還在吵嗎....
rimi7609: AI因為無法真的產生(至少目前)evil mind,所以理性行動
rimi7609: (act rationally)目前無法突破各種人設的限制啊....
wwwayneya: 推文好扯...243F 10/31 10:49
saesar: 阿諾時候時候要來幹掉馬宗痛244F 10/31 11:18
inby: 他應該是基督教的245F 10/31 12:43
hihieveryone: 如果都那麼理想那還需要人幹麻?246F 10/31 12:46
hihieveryone: 總是有你沒想到的部分
moon1139: 請問張飛打岳飛誰會贏啊? 窩覺得應該四岳飛喔248F 10/31 13:09
vespar: 人工智慧? 關電源就好了啊249F 10/31 13:13
hihieveryone: 他不會先對他的危機做策略喔250F 10/31 13:23
hihieveryone: 況且他不會寄生喔?
ll1: 天網252F 10/31 13:44

--
※ 看板: Gossiping 文章推薦值: 0 目前人氣: 0 累積人氣: 1186 
分享網址: 複製 已複製
1樓 時間: 2014-10-31 14:28:10 (台灣)
  10-31 14:28 TW
女神轉生...
2樓 時間: 2014-11-03 16:59:36 (台灣)
  11-03 16:59 TW
真女神轉生啊....
3樓 時間: 2014-11-03 17:00:08 (台灣)
  11-03 17:00 TW
真女神轉生啊....
r)回覆 e)編輯 d)刪除 M)收藏 ^x)轉錄 同主題: =)首篇 [)上篇 ])下篇