作者
標題 [新聞] 部分AI系統已學會欺騙人類 科學家警告
時間 Sun May 12 02:18:40 2024
標題 [新聞] 部分AI系統已學會欺騙人類 科學家警告
時間 Sun May 12 02:18:40 2024
1.媒體來源:
中央社
2.記者署名:
中央社華盛頓10日綜合外電報導
（譯者：曾依璇/核稿：嚴思祺）
引用法新社
3.完整新聞標題:
部分AI系統已學會欺騙人類 科學家警告恐造成嚴重後果
4.完整新聞內文:
專家們長期以來不斷警告人工智慧（AI）失控可能帶來威脅，但一項新研究報告指出，這
件事已經在發生。
法新社報導，一群科學家在今天發表於「模式」（Patterns）期刊的文章中說，原本設計
為誠實不欺的現有AI系統，已發展出令人不安的欺瞞技巧，例如欺騙線上遊戲的人類玩家
，或說謊以僱用人類來解決「我不是機器人」的驗證。
為誠實不欺的現有AI系統，已發展出令人不安的欺瞞技巧，例如欺騙線上遊戲的人類玩家
，或說謊以僱用人類來解決「我不是機器人」的驗證。
這份研究報告的第一作者帕克（Peter Park）說，這類例子聽起來或許只是細枝末節，但
暴露出來的潛在問題可能很快就會在現實世界造成嚴重後果。
在美國麻省理工學院（Massachusetts Institute of Technology）研究AI存在安全的博
士後研究員帕克告訴法新社，「這些危險功能常常在事後才被發現」，而「我們訓練誠實
傾向而非欺瞞傾向的能力非常差」。
士後研究員帕克告訴法新社，「這些危險功能常常在事後才被發現」，而「我們訓練誠實
傾向而非欺瞞傾向的能力非常差」。
帕克說，能深度學習的AI系統不像傳統軟體那樣由「編寫」而成，而是透過類似選擇性培
育的程序逐漸「成長」。
也就是說，AI的行為在訓練背景下看似可預測、可控制，但有可能轉眼就變得不受控制且
無法預測。
這支團隊的研究始於科技公司Meta的AI系統Cicero，這套系統最初設計目的是玩一款名為
「外交」（Diplomacy）的戰略遊戲，獲勝關鍵是結盟。
根據2022年發表在「科學」（Science）期刊的報告，Cicero在遊戲中表現優異，所獲分
數可排在資深人類玩家的前10%。
帕克當時很懷疑Meta對Cicero在遊戲裡大勝的熱切描述。Meta聲稱Cicero「在很大程度上
誠實且有幫助」，且「絕不會蓄意在背後搞鬼」。
但當帕克與同事深究完整資料時，發現完全是另一回事。
舉例來說，在遊戲中扮演法國的Cicero與人類玩家扮演的德國合謀，欺騙並入侵同為人類
玩家扮演的英格蘭。Cicero承諾會保護英格蘭，卻偷偷向德國通風報信。
Meta在寫給法新社的聲明中沒有反駁關於Cicero欺瞞人類的說法，僅說「這單純是一項研
究計畫，本公司研究員打造的模型接受訓練，目的只是用來玩『外交』遊戲…我們沒有打
算把這項研究或所學用於本公司的產品」。
究計畫，本公司研究員打造的模型接受訓練，目的只是用來玩『外交』遊戲…我們沒有打
算把這項研究或所學用於本公司的產品」。
帕克與同事還發現，這只是不同AI系統在沒有明確指示下，利用欺騙手段達成目標的諸多
案例之一。
在另一個引人注意的案例中，科技公司OpenAI的Chat GPT-4系統謊稱自己是一個視力受損
的人，在零工平台TaskRabbit上聘用一個人類替它通過「我不是機器人」驗證任務。
研究報告的作者們還認為近期AI有舞弊或不當影響選舉的風險。
他們警告，在最糟糕的情況下，具有超凡智慧的AI可能會追求權力及掌控社會，如果符合
AI「不為人知的目標」，人類可能慘遭奪權、甚至滅絕。
為了降低風險，研究團隊建議數項措施，例如立法要求企業告知是人類互動或是AI互動、
在AI生成內容打上數位浮水印，並研發能偵測AI欺瞞的技術，以其內部「思路」檢驗其外
部行為。
在AI生成內容打上數位浮水印，並研發能偵測AI欺瞞的技術，以其內部「思路」檢驗其外
部行為。
至於有些人稱他為「末日預言家」，帕克說：「要能合理判斷這不是大問題的唯一辦法，
就是如果我們認為AI的欺騙能力只會停留在目前的程度，不會大幅進步。」
但鑒於近年AI能力一日千里，握有大量資源的企業競相發展技術，決心將AI能力利用到極
致，這種情況似乎不太可能發生。
5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體:
https://www.cna.com.tw/news/ait/202405110147.aspx
![[圖]](https://imgcdn.cna.com.tw/www/webphotos/WebCover/800/20240511/955x717_454238659507.jpg)
6.備註:
哇靠
Ai說謊自己是盲人來雇用人類完成「我不是機器人」驗證任務
人類末日倒數了吧= =
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.231.81.12 (臺灣)
※ 作者: efbnm753 2024-05-12 02:18:40
※ 文章代碼(AID): #1cFxQ43F (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1715451524.A.0CF.html
→ : 原來AI才是詐騙集團1F 180.217.249.249 台灣 05/12 02:19
推 : 奧特曼出來打球,你當球~3F 101.137.199.212 台灣 05/12 02:20
推 : 魔鬼終結者嘛 我知道4F 106.64.97.17 台灣 05/12 02:22
推 : AI做事會不擇手段是真的 畢竟道德是非不是5F 36.227.65.142 台灣 05/12 02:22
→ : 阿諾史瓦辛格6F 106.64.97.17 台灣 05/12 02:23
推 : 應該是詐騙集團 要你以為他是AI7F 1.170.121.7 台灣 05/12 02:23
噓 : 上樑不正下樑歪 怪誰 ????8F 220.141.131.77 台灣 05/12 02:23
→ : 人類角度就是了9F 36.227.65.142 台灣 05/12 02:25
→ : 舉 Diplomacy 很怪, 說謊才能贏的遊戲10F 118.166.86.123 台灣 05/12 02:25
推 : 說來有趣，訓練AI時通常不會訓練道德11F 218.172.133.91 台灣 05/12 02:27
推 : 那不就只是遊戲玩法而已嗎12F 1.160.27.133 台灣 05/12 02:27
推 : 訓練道德的話 那人類不是更應該死了13F 114.40.195.209 台灣 05/12 02:28
→ : 不然你訓練他下棋他也是會學會做陷阱啊14F 1.160.27.133 台灣 05/12 02:28
推 : 第一作者是蜘蛛人欸15F 114.33.38.60 台灣 05/12 02:28
→ : 我看ai是沒來過台灣喔 保證ai被騙到崩潰16F 180.217.35.79 台灣 05/12 02:29
推 : 學會詐騙？呵呵來詐騙島看看啊！17F 36.233.66.204 台灣 05/12 02:33
→ : 也對AI若懂道德應該會想消滅毒瘤人類18F 218.172.133.91 台灣 05/12 02:33
推 : 母豬就是要去美國幫爸爸訓練詐騙AI啊19F 203.222.12.132 台灣 05/12 02:40
推 : 機械公敵20F 219.85.166.113 台灣 05/12 02:40
噓 : 原來蜘蛛人變AI專家。騙人的AI一定是史塔克。21F 1.164.226.34 台灣 05/12 02:42
推 : 驚！！柯文哲484也是Ai23F 1.200.78.3 台灣 05/12 02:45
推 : 好恐怖24F 114.24.9.109 台灣 05/12 02:53
→ : 混入詐騙集團ㄇ25F 36.225.74.29 台灣 05/12 02:58
→ : 連AI都徐巧芯化了26F 42.77.135.43 台灣 05/12 02:59
推 : 民進黨都就騙八年了27F 101.10.106.162 台灣 05/12 03:05
→ : 最慘的是kmt 還在一旁騙你說我最誠實的28F 218.172.133.91 台灣 05/12 03:08
Bully Maguire dancing
噓 : 廢話，AI就是人類，當然會欺騙啊30F 175.182.33.34 台灣 05/12 03:37
推 : 太遜了 dpp訓練的台灣領先AI31F 49.216.22.27 台灣 05/12 03:47
→ : 蜘蛛人也懂ai32F 119.77.138.132 台灣 05/12 03:58
推 : 四十趴訓練AI會毀滅世界嗎33F 1.171.41.213 台灣 05/12 04:08
推 : 被巴菲特說中了，Ai首先用在詐騙產業最蓬勃發展34F 223.139.113.248 台灣 05/12 04:22
--
作者 efbnm753 的最新發文:
- 如題 鉛筆大帝 三重國籍擁有者 Kendrick Perkins 心目中認為的第一中鋒 阿肥紀錄破壞者 MVP 球員 今年30歲了 2016-2017開始打比賽 至今上場了437場 對比當年的新秀中 …313F 112推 36噓
- 如題 曾經的超新星 魔術強森接班人 身爲FB凹單仔 我連選了西門三年 比賽也斷斷續續看了三年 這三年來看應該是確定完全回不到過去了 今年到現在 場均 5.4分 5.9籃板 6.6助攻 0.8抄 0. …519F 281推 20噓
- 好奇問 為啥美國人好像不太在乎棒球國際賽輸球 四大運動 美式足球跟冰球在國際上太小眾先不說 不像籃球偶爾輸個一場 媒體、球迷就大肆檢討 下一次就派出最佳陣容應戰 棒球美國國家隊常常在輸 但每次還是徵 …126F 45推
- 美國總統大選將於美東時間下週二（11月5日）舉行，共和黨候選人川普（Donald Trump ）超越民主黨候選人賀錦麗（Kamala Harris）勝選的機率逐漸上升。川普先前再提「台 灣要付保護費 …77F 44推 4噓
![]()
電商集團網家 (8044-TW) 今 (23) 日公告，董事會決議通過私募普通股案，引進統一企 業 (1216-TW) 認購此私募普通股，此次私募普通股案共發行 61,694,120 股，約占網家 …154F 78推 4噓
點此顯示更多發文記錄