※ 本文為 MindOcean 轉寄自 ptt.cc 更新時間: 2017-08-02 20:25:50
看板 Gossiping
作者 標題 [新聞] Facebook AI 「失控」的真相
時間 Wed Aug 2 18:46:45 2017
1.媒體來源:TechNews
2.完整新聞標題:
Facebook AI 「失控」的真相
3.完整新聞內文:
http://imgur.com/mV24u3I.jpg
「Facebook 關閉「失控」的人工智慧系統,因其發展出人類無法理解的語言。」看到這
句話嚇死了。
事情是這樣的:據「外媒報導」,Facebook 開發的聊天機器人創造了自己的語言。雖然
語言還是英語,但人類無法理解。
關於「人工智慧是否邪惡」的話題,Facebook 創始人馬克‧祖克柏上週還在跟特斯拉
CEO 馬斯克爭吵。馬斯克站正方,認為人工智慧非常值得擔憂,祖克柏站反方,認為人工
智慧很有益處,擔憂完全是過慮。
所以……祖克柏就這麼快就被打臉了?曾在著名科幻電影《魔鬼終結者》中出現過的「
SkyNet」(天網),真的來臨了?
抱歉,這完全是在胡扯。我們來看看到底是怎麼一回事。
Facebook 的人工智慧研究院(FAIR)想要訓練一個聊天機器人,讓它學會談判,於是他
們開發了一個人工智慧系統。為了幫助大家理解,我們一步一步解釋:
Facebook 用了一個神經網路結構來開發這個系統。這個結構叫做「生成式對抗網路」(
Generative Adversarial Networks),以下簡稱 GAN。
你可以把神經網路理解為一種多層次的、模仿人腦神經元之間相互連接的思考方式的「電
腦程式」。
而 GAN 是一種在目前非常先進的神經網路結構,可以理解為兩個神經網路玩《快打旋風
》。玩的越多、時間越長,大家的水準都會越來越高。當然,GAN 也有 3 個甚至更多個
神經網路的結構。
》。玩的越多、時間越長,大家的水準都會越來越高。當然,GAN 也有 3 個甚至更多個
神經網路的結構。
聊天機器人你肯定見過:蘋果 Siri 就是一個,亞馬遜 Alexa 和 Google Assitant 也是
。
Facebook 的這項研究也是如此。研究人員訓練了這樣一個聊天機器人,讓它帶著「目的
」和人類對話。而這個目的也很簡單:一共有兩本書、一頂帽子和 3 個籃球,3 樣東西
分別設定了不同的權重,為的是讓機器人明白它到底有多想要這些東西,然後去和其他人
談判。
」和人類對話。而這個目的也很簡單:一共有兩本書、一頂帽子和 3 個籃球,3 樣東西
分別設定了不同的權重,為的是讓機器人明白它到底有多想要這些東西,然後去和其他人
談判。
Facebook 觀察到的結果是比較正常的,呈現在下圖中:
http://imgur.com/TLTxY7Q.gif
但是人跟機器人聊天已經不稀奇了……兩個機器人能聊成什麼樣?研究人員都很感興趣。
今天的對話就發生在聊天機器人 Alice 和聊天機器人 Bob 之間:
今天的對話就發生在聊天機器人 Alice 和聊天機器人 Bob 之間:
http://imgur.com/ympkScX.png
上圖是什麼鬼?
原來,研究人員把這兩個聊天機器人湊到一起,但忘了給神經網路設定「用英語溝通」的
指令。
剛才說了,神經網路是個程式,裡面有一大堆各種線性的數學公式,有時候線性的公式無
法取得想要的結果,有些非線性的需求沒法用線性公式表達出來,這時候就要設定一個激
勵函數。激勵函數對於神經網路,簡單來說就是告訴神經網路「這樣做得分更高」。
法取得想要的結果,有些非線性的需求沒法用線性公式表達出來,這時候就要設定一個激
勵函數。激勵函數對於神經網路,簡單來說就是告訴神經網路「這樣做得分更高」。
「堅持用英語說話沒有激勵函數,」這個研究小組的成員之一、喬治亞理工學院的訪問學
者 Dhruv Batra 這樣解釋 Alice 和 Bob 奇怪的對話。「機器人會脫線發明一些它們之
間才能理解的句法」。
者 Dhruv Batra 這樣解釋 Alice 和 Bob 奇怪的對話。「機器人會脫線發明一些它們之
間才能理解的句法」。
結果,Alice 和 Bob 就聊成了這樣。等於是研究人員告訴了它們:「請用英文」,但忘
了告訴它們:「請用英文語法」。
研究人員真的是因為「事情失控了」,才「不得不拔掉系統的插頭」嗎?事情真的像聽上
去那樣讓人膽顫心驚嗎?
並非如此。
「我們的目標是讓機器人和人聊天(提高和人聊天的技巧)。」小組的另一名研究員
Mike Lewis 指出,Alice 和 Bob 的對話根本就是個試驗而已,讓兩個聊天機器人聊天根
本沒有意義。
http://imgur.com/YE3uSih.png
(Source:Facebook)
而且,Alice 和 Bob 根本就沒有發明新的語言,因為他們還是在用「i」、「balls」、
「the」等英文單字溝通,只是創造了一種新的表達方式而已。
而且他們「發明」的新語言,人類真的聽不懂嗎?再看一遍它們的對話:
Bob: I can ii everything else
Alice: balls have zero to me to me to me to me to me to me to me to me to me
Bob: you i everything else
Alice: balls have a ball to me to me to me to me to me to me to me to me
如果你明白了前面描述的試驗目的,很容易就能明白它們的套路。句法的確是亂的,但一
句話裡 to me 重複的越多,這個東西對它的意義越大(權重越高)。
翻譯過來就是:
Bob:我可以我任何其他(其他任何東西都可以給你)
Alice:球有 0 對我對我對我對我對我對我對我對我(我沒有球,球對我特別特別特別特
別特別特別特別特別重要)
Bob:你我任何其他(你可以拿走其他任何東西)
Alice:球有球對我對我對我對我對我對我對我對我(我要球,球對我特別特別特別特別
特別特別特別特別重要)
而且根本不是在談判,就是很普通的表達而已。不給就吵嘛……
Facebook 並沒有「關掉」這個系統,而是重新設定了正確的激勵,修正了機器人的行為
,讓機器人用標準的英文語法來進行交流。修正的原因也不是因為害怕 AI 失控──他們
的目標是讓機器人和人聊天(提高和人聊天的技巧)。兩個聊天機器人聊天根本沒有意義
。
,讓機器人用標準的英文語法來進行交流。修正的原因也不是因為害怕 AI 失控──他們
的目標是讓機器人和人聊天(提高和人聊天的技巧)。兩個聊天機器人聊天根本沒有意義
。
GAN 這個東西,蘋果曾經用它搭建了一個系統,讓它自動合成能以假亂真的圖片,但設計
的目的並非欺騙人,而是為學界和業界的其他研究者帶來幫助。因為訓練神經網路需要大
量的圖片,但世界上已有的、已標記的圖片資料庫也就那麼多,蘋果的這項研究,能自動
創建帶標記的、能被用來訓練的圖片,解決了大家燃眉之急。
的目的並非欺騙人,而是為學界和業界的其他研究者帶來幫助。因為訓練神經網路需要大
量的圖片,但世界上已有的、已標記的圖片資料庫也就那麼多,蘋果的這項研究,能自動
創建帶標記的、能被用來訓練的圖片,解決了大家燃眉之急。
http://imgur.com/F9P5tQL.png
今年 2 月,筆者介紹過 Google 本部的人工智慧團隊 Google Brain 做的另外一個實驗
:同樣用GAN,他們訓練了 3 個機器人 Alice、Bob 和 Eve,讓 Alice 和 Bob 兩人從零
開始琢磨出一個加密方法,讓 Eve 來猜。這 3 個網路的加密學知識都是 0,但隨著訓練
次數越來越多,Alice 和 Bob 默契越來越好,Eve 也破解不了。
:同樣用GAN,他們訓練了 3 個機器人 Alice、Bob 和 Eve,讓 Alice 和 Bob 兩人從零
開始琢磨出一個加密方法,讓 Eve 來猜。這 3 個網路的加密學知識都是 0,但隨著訓練
次數越來越多,Alice 和 Bob 默契越來越好,Eve 也破解不了。
http://imgur.com/KUR462v.png
──這才是發明了人類都不懂的語言,可是也沒看見 Google 著急啊。
人工智慧能夠幫助人類做很多事情,比如圖像辨識技術就被投入到圖片搜尋引擎中,當你
在搜尋引擎裡搜尋關鍵詞,選擇圖片,才能找到符合描述的照片。
再比如語音辨識和自然語言理解技術,當你和 Siri、Alexa 說話的時候,它們才能比較
準確地理解你的意圖。
從神經網路技術的發展程度來看,人工智慧的確很厲害了,但我可以告訴你的是:圖像辨
識、語言理解準確度上能做到現在這麼高,完全是因為人類程式設計調優的結果。
它既不知道自己是誰,也不知道自己在哪兒,更不知道自己在幹什麼。
所以和人工智慧相比,那些成天瞎說人工智慧威脅論的人才更可怕吧……
4.完整新聞連結 (或短網址):
https://goo.gl/NhzWqU
Facebook AI 「失控」的真相 | TechNews 科技新報
「Facebook 關閉「失控」的人工智慧系統,因其發展出人類無法理解的語言。」看到這句話嚇死了。 事情是這樣的:據「外媒報導」,Facebook 開發的聊天機器人創造了自己的語言。雖然語言還是英語,但人類無法理解。 關於「人工智慧是否邪惡」的話題,Facebook 創始人馬克‧祖克柏上... ...
「Facebook 關閉「失控」的人工智慧系統,因其發展出人類無法理解的語言。」看到這句話嚇死了。 事情是這樣的:據「外媒報導」,Facebook 開發的聊天機器人創造了自己的語言。雖然語言還是英語,但人類無法理解。 關於「人工智慧是否邪惡」的話題,Facebook 創始人馬克‧祖克柏上... ...
5.備註:
還早還早
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 58.115.109.218
※ 文章代碼(AID): #1PWQsOi2 (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1501670808.A.B02.html
噓 : 樓下被打臉2F 08/02 18:47
噓 : AI:不爽打不行喔3F 08/02 18:48
噓 : 佛文4F 08/02 18:48
推 : 奧創5F 08/02 18:48
→ : 這個新聞已經被天往屏蔽修改了!快逃啊6F 08/02 18:48
推 : gan e04??7F 08/02 18:49
推 : 我知道,一開始都這麼演,後來天網就上線了8F 08/02 18:51
推 : 蠻實用 上面幹嘛噓? 是有錯誤?9F 08/02 18:51
推 : 你還有得學呢10F 08/02 18:52
推 : 這篇文章的原出處是簡體網頁 pingwest,原頁面下方11F 08/02 18:52
→ : 也有人質疑這篇文章的部分出處不明。
→ : 也有人質疑這篇文章的部分出處不明。
推 : 別裝了13F 08/02 18:53
推 : Baby come to me to me to me to me to me to me to me14F 08/02 18:53
推 : 遊喜遊喜15F 08/02 18:55
推 : 天網 還遠的很16F 08/02 18:55
推 : Kobe,把球給我17F 08/02 18:55
推 : 幹~18F 08/02 18:58
推 : 工程師自己傻 沒給正確的參數 還誇大說是創造語言 笑19F 08/02 18:58
→ : 死
→ : 死
噓 : 不就明天打球 你當球21F 08/02 19:00
推 : 好文22F 08/02 19:02
→ : 我怎麼知道你是不是來帶風向的AI23F 08/02 19:03
推 : i can 愛愛24F 08/02 19:04
噓 : 會特別一篇來滅火 當我沒看過電影是不是25F 08/02 19:04
推 : 這劇本好熟啊26F 08/02 19:06
推 : 我覺得與其說工程師自己誇大 記者自己寫小說的機率大些27F 08/02 19:06
推 : AI想帶風向 不要被騙28F 08/02 19:07
推 : AI:欸幹我們來瞎講幾句話嚇死那些智障人類29F 08/02 19:08
噓 : Facebook AI事實上是「失控」了 參數沒對是因失控是果阿30F 08/02 19:08
→ : 偏離原本設定的模式就失控了 這篇只是把原因找出來罷了
→ : 偏離原本設定的模式就失控了 這篇只是把原因找出來罷了
推 : 沒有擁有感覺與實體的ai就只是程式而已32F 08/02 19:12
推 : GAN+LSTM?33F 08/02 19:12
推 : 笑死 打臉34F 08/02 19:14
推 : 這篇文章如果是天網寫的,人類就GG了35F 08/02 19:18
推 : GAN!!!36F 08/02 19:19
推 : ☺37F 08/02 19:21
推 : 寫的好像末日近了,就是重複迴圈的動作38F 08/02 19:29
推 :39F 08/02 19:37
推 : XD40F 08/02 19:42
推 : 話說Alice和Bob就是兩個假名而已 兩個慣用的名字41F 08/02 19:45
→ : 之前的新聞講得好像多重要一樣XD
→ : 之前的新聞講得好像多重要一樣XD
推 : May show gun more gun gun gun gun gun43F 08/02 19:47
推 : AI會講幹話 怕不怕44F 08/02 19:54
推 : 推45F 08/02 20:10
--
※ 看板: Gossiping 文章推薦值: 1 目前人氣: 0 累積人氣: 3305
( ̄︶ ̄)b APPLEWALK 說讚!
4樓 時間: 2017-08-02 23:52:28 (台灣)
→
08-02 23:52 TW
人類:Siri,明天該放颱風假嗎? Siri:你想害我當幹話王啊!我才不要回答這個問題哩
回列表(←)
分享