作者 tomhawkreal (阿湯)標題 [討論] 人類對AI恐懼的來源時間 Wed Mar 6 21:51:44 2024
除了「失業恐懼」這種工業革命發生後就有的情形，
很類似「功高震主」
因為他功能很強又不會累，所以給他更多任務自己執行
「他要是罷工怎麼辦？
他比你強，要是反抗你，你擋的住嗎?」
典型的作品像「魔鬼終結者」，就是這類恐懼的創作回應
所謂「天網」(Skynet) 變成毀滅人類的開端
「把核彈發射控制權交給AI」，成為人類最終的惡夢，
可歸結到「該不該把重要決定丟給AI做」
其實早已有一些跡象，例如金融市場的「程式交易」，
符合特定條件就大量賣出，往往造成市場劇烈波動
授權與否，一開始是僅靠「這對我利大於弊」來考量，
而在軍事武器上，這種誘惑更大
人類有許多缺點和脆弱性，但法律體系基礎仍是
「只有人類或法人能負責，
(除了「無行為能力者」需要監護人負責)
人類以外則是財產或不可抗力」
所以AI做決定產生的災損，必定要找人來承擔
(無論那個人是誰) ，而不是歸因「不可抗力」
即使簡單到只讓AI來開車，爭議也不少，
真實都市的路上狀況太多，再強的AI仍然可能誤判，
於是再度歸結到「AI開車時出車禍，算誰的責任」
隨著AI逐漸進化，這類恐懼也成為約束AI行為的動力，
希望還有時間讓AI產生的利益和可能的危害之間，
達成一種平衡
是否杞人憂天呢? 歡迎各位提出您的看法
--
我知道有人曾說「拔插頭就好」，當然這是有插頭
可拔的情形 XD
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.163.152.93 (臺灣)
※ 作者: tomhawkreal 2024-03-06 21:51:44
※ 文章代碼(AID): #1bw7JoNY (C_Chat)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1709733106.A.5E2.html
→ BOARAY: 威爾私密四不是也有一部嗎2F 03/06 21:52
推 LTfish: 你不知道AI的“價值”是否與你一樣，做任何談到都需要價值6F 03/06 21:54
→ DAEVA: 萬一有天AI能操控外界機器開始量產自己 那就真的完了7F 03/06 21:55
→ jahnny: seed的自然人妒恨調整者8F 03/06 21:55
推 emptie: 啊？人完全理解人腦的決策邏輯了嗎？沒有啊9F 03/06 21:56
→ LTfish: 判斷* 當對方需要價值判斷時會恐懼，例如車禍選擇的方向10F 03/06 21:56
推 ikachann: 最大的問題是誰有能力跟資格幫AI背書11F 03/06 21:56
→ emptie: 我們還不是相信很多事情大家一起合議就能解決（實際並沒有12F 03/06 21:56
→ LTfish: 沒錯，誰來為AI的價值判斷背書13F 03/06 21:57
推 PTTJim: 像沙丘的故事背景也是發生過AI叛亂14F 03/06 21:58
→ ikachann: 如果今天AI遇到電車問題，你要怎麼說服群眾他的選擇是對的15F 03/06 21:58
→ shadowblade: 智慧生物無法和另個智商高到足以在你睡覺時幹掉你的物種共存,如果現在的猩猩會搞暗殺的話早被滅絕了17F 03/06 21:59
推 jeeyi345: 猩猩最近還要再上一部續集==19F 03/06 22:01
推 qaz31415: 韭菜被人類割和被AI割有什麼差別？只有割韭菜的人才會怕變成AI的韭菜。支持AI統治世界。20F 03/06 22:02
推 jeeyi345: ai只是訓練他的人的價值觀的延伸 你覺得會按核彈的ai本來就會按
人類就是那個幹掉人的猩猩吧 尼安德塔人22F 03/06 22:04
推 tw15: 不是怕ai 是怕還沒有開發出ai中間過程會有各種剝削可能會砍到自己 不然工具發展哪有啥問題
就像電動車 藍圖很完美很環保
但現在就還沒達到完美儲電系統 怎麼開發都沒環保到哪去26F 03/06 22:06
推 tony15899: 如果傳聞是真 現在地球已經早就被核平了30F 03/06 22:08
→ bluejark: 鼓吹不存在的東西來騙人就是人類常做的事啊31F 03/06 22:10
推 jason7786: 你看看Neuro把Vedal電成什麼樣子33F 03/06 22:11
→ bluejark: 你知道嗎 AI會不會故意說謊這件事才是人類最恐懼的34F 03/06 22:12
推 aa9012: 非我族其心必異=35F 03/06 22:12
→ tim012345: AI進化~人也會進化~最後看AI跟人誰先進化到不需要對方~36F 03/06 22:14
→ spfy: 如果變Chobits那種我覺得自己真的會暈爛 所以我真怕39F 03/06 22:20
→ AfterDark: 其實AI會不會反抗還是其次
重點是 智慧生物如人類忍受不了「威脅」
因為我們會思考 會想方設法存活 所以會對可能威脅到自己的東西有反應
而人類對於正要誕生的AI就是有這種威脅的認識 自己可能要造出一個自己無法掌控的東西來 所以害怕
人類提倡理性 科學思考 但是行動原理的根本依據還是在於生物情緒
會害怕這種情緒可以對威脅產生預期反應讓自己有機會活下來
所以我覺得這就是一種對未知的恐懼引發的爭論而已40F 03/06 22:23
推 samsonfu: 問就是電馭叛客世界觀
從羅梭的萬能工人RUR、大都會開始就是這樣
推tw15的剝削論51F 03/06 22:27
推 gaaaaper: 沙丘的背景也有這種設定，可以去看看小說54F 03/06 22:35
--