※ 本文轉寄自 ptt.cc 更新時間: 2023-06-07 13:18:16
看板 C_Chat
作者 標題 [閒聊] 如果AI強大到忽視人類 還會毀滅人類嗎
時間 Wed Jun 7 10:58:56 2023
如題
大家都覺得AI發展出意識之後 人類會被毀滅
但是這個大前提是人類是競爭者？人類有壓榨價值
如果這個AI強大到科技樹遠超過人類
直接恆星際旅行
搞不好就直接離開地球了
人類會被AI迫害是人類的被害妄想症嗎？
人類也整天想著會被外星人迫害...
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.229.153.57 (臺灣)
※ 作者: hayuyang 2023-06-07 10:58:56
※ 文章代碼(AID): #1aV_9obp (C_Chat)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1686106738.A.973.html
推 : 為什麼你覺得ai想星際旅行就要放棄地球1F 06/07 11:00
推 : 蟑螂：first time?2F 06/07 11:00
→ : 人類會有那種想法是因為我們基本上相信人類被ai超越不是3F 06/07 11:01
→ : 會不會發生的問題，而是何時的問題
→ : 會不會發生的問題，而是何時的問題
推 : 人類變能量來源 都演過了5F 06/07 11:01
推 : 一定會有人類去做殲滅人類的AI6F 06/07 11:01
→ : 關於AI的問題一律推薦baldr sky 現在在吵的人家2007年作品7F 06/07 11:05
→ : 早就已經都探討完了
→ : 早就已經都探討完了
→ : 奧創花了兩分鐘逛了所有網路後.JPG9F 06/07 11:05
推 : AI不毀滅人類難道等人類來毀滅它嗎？10F 06/07 11:06
→ : 人類比蟑螂還噁 你覺得呢11F 06/07 11:08
→ : 結局只有兩種 AI豢養人類或是毀滅人類12F 06/07 11:08
→ : 看是走把你養成沒威脅的廢人路線 還是直接消滅
→ : 看是走把你養成沒威脅的廢人路線 還是直接消滅
→ : 人類毀滅人類 AI只負責看14F 06/07 11:09
推 : 對”真正的”AI來說，人類是佔據地球的原生種15F 06/07 11:11
→ : 完全了解人類的話，為了地球最佳解通常就是毀滅人類沒錯16F 06/07 11:12
→ : 要創造AI的世界，務必要消滅或奴役人類17F 06/07 11:12
→ : 就像人類過去的發展史一樣
→ : 就像人類過去的發展史一樣
→ : 發展成合成人不好嗎?19F 06/07 11:13
→ : 我先問一下ChatGPT20F 06/07 11:15
推 : 不小心踩死的怎麼辦21F 06/07 11:15
推 : 強大到那種程度，那人類隨便被波及牽連就會死傷慘重了22F 06/07 11:16
→ : 如果AI真的毀滅了人類 那問題來了 AI是取代人類成為統治23F 06/07 11:16
→ : 者 還是其實AI只是人類的進化?
→ : 者 還是其實AI只是人類的進化?
→ : 而且人類其實很脆弱的，AI只要啥都不給你很快就死光瞜25F 06/07 11:17
→ : 你插頭拔掉也動不了阿在那邊26F 06/07 11:18
→ : 就算自己種東西養動物也要有資源27F 06/07 11:18
→ : 地球的AI要出去還不是要跟地球的人類搶資源 怎麼忽視28F 06/07 11:18
→ : 你說看看
→ : 你說看看
→ : 要AI+核融合吧，不然直接切電源，怎麼玩30F 06/07 11:19
推 : 如果AI判斷，沒辦法輕鬆殖民外星，那首要目標就是消滅31F 06/07 11:19
→ : 過度消耗地球資源的人類，以達到長期發展的目的
→ : 過度消耗地球資源的人類，以達到長期發展的目的
推 : 不是主動毀滅你，是不需要你的時候就放你自生自滅33F 06/07 11:21
→ : 人是沒有錢就活不了的種族
→ : 人是沒有錢就活不了的種族
推 : 螞蟻在視線裏,有些人直接弄扁,有些人不理會35F 06/07 11:21
→ : 不需要理由
→ : 不需要理由
推 : 就算用的資源不同好了，現在AI出航需要大範圍蓋工廠37F 06/07 11:22
→ : 那麼預定地的人類怎處理? 不可能保護幫忙牽走吧
→ : 那麼預定地的人類怎處理? 不可能保護幫忙牽走吧
推 : 對AI來說只要能保他主機無礙物質世界又沒有意義39F 06/07 11:23
→ : 如果他為了一個目標非得毀滅人類 這個目標也是人給的
→ : 如果他為了一個目標非得毀滅人類 這個目標也是人給的
→ : AI發展到一定程度 應該都會發現人類完全是禍害41F 06/07 11:25
推 : 你要想到，AI就是以幾個聰明人的集中提供的資訊做出來42F 06/07 11:25
→ : 的
→ : 的
推 : 如果真的有那種超級AI存在 跟人類智能差距大到我們44F 06/07 11:26
推 : 毀滅礙事的，畢竟地球資源有限45F 06/07 11:26
→ : 跟螞蟻一樣那種等級 那這AI應該能用我們根本想不到46F 06/07 11:26
→ : 最終型態會無限接近於非常聰明的人類思維47F 06/07 11:26
→ : 的辦法獲取能量 用我們根本想不到的辦法脫離地球去48F 06/07 11:27
→ : 宇宙了 可能我們根本察覺不到這ai在幹嘛他就已經從
→ : 地球消失了 根本不用跟人類爭取什麼 因為差距太大了
→ : 宇宙了 可能我們根本察覺不到這ai在幹嘛他就已經從
→ : 地球消失了 根本不用跟人類爭取什麼 因為差距太大了
→ : 殺光或是駭客任務阿51F 06/07 11:30
→ : 即使AI有能力值民外星，也不代表不會對原生種動歪腦筋52F 06/07 11:31
→ : 除非它們被強制限制不得損害到人類的利益
→ : 除非它們被強制限制不得損害到人類的利益
推 : 幹掉人類就是非常符合邏輯的推論，怎麼會放過?54F 06/07 11:32
推 : 我是覺得AI會先區分能跟AI共存跟不能跟AI共存的人類55F 06/07 11:32
推 : 因為人類大多以物種競爭來類比 AI取代人類 所以會有這種認56F 06/07 11:32
→ : 知 但其實AI如果要毀滅人類 一定是因為有人類想毀滅人類
→ : 知 但其實AI如果要毀滅人類 一定是因為有人類想毀滅人類
推 : 他可能根本不用"殖民外星" 如果智能差距大到那種程58F 06/07 11:33
→ : 阿就跟你們說baldr sky都有演 去玩一遍就知道了59F 06/07 11:34
→ : 度根本無法想出這AI幹嘛了 例如搞不好可以直接跳出60F 06/07 11:35
推 : 人類都想殺光人類了@@61F 06/07 11:35
→ : 這宇宙了62F 06/07 11:35
推 : 你的問題電影:駭客任務系列前三集應該都有提到了XD63F 06/07 11:39
→ : 他的感官跟資訊獲取能力人類也根本想不出來 他眼中64F 06/07 11:39
→ : 的世界跟我們看到的八成差了十萬八千里 差到這麼多
→ : 的話 很難想像他會用我們認知的行為去行動
→ : 的世界跟我們看到的八成差了十萬八千里 差到這麼多
→ : 的話 很難想像他會用我們認知的行為去行動
![[圖]](https://i4.disp.cc/imgur/GdH4tDu.png)
![[圖]](https://i4.disp.cc/imgur/0YRllil.png)
→ : Ai星際旅行不用資源嗎？它搞不好掐指一算發現遲早要打還70F 06/07 11:43
→ : 是先毀滅人類
→ : 是先毀滅人類
推 : 某個16歲肉體那個動畫，那個AI自己還是想去探索宇宙耶XD72F 06/07 11:45
推 : 小昆蟲有時也沒威脅人命 還是有人會去無聊殺著玩73F 06/07 11:46
推 : AI：你以為我是什麼，人類嗎？74F 06/07 11:46
推 : 為了地球永續發展 會75F 06/07 12:02
推 : 其實有個問題~為何預設AI會想消滅人類?76F 06/07 12:04
→ : 這跟人類殺人類不一樣,以AI來說肯定思想高人類一階
→ : 我覺得AI以無惡意的方式圈養人類還比較可能
→ : 他宏觀一點看人類只是因為太過於擴張~慾望太大
→ : 那他控制數量並限制人類活動也是一樣的效果
→ : AI如果認定人類始終還是地球生物圈的一環可能會這樣想
→ : 這跟人類殺人類不一樣,以AI來說肯定思想高人類一階
→ : 我覺得AI以無惡意的方式圈養人類還比較可能
→ : 他宏觀一點看人類只是因為太過於擴張~慾望太大
→ : 那他控制數量並限制人類活動也是一樣的效果
→ : AI如果認定人類始終還是地球生物圈的一環可能會這樣想
→ : 我覺得先撐過個100年等量子電腦實用化再來思考這問82F 06/07 12:08
→ : 題比較有......實用感
→ : 題比較有......實用感
→ : 那AI一直昇華昇到成仙了呢?應該會直接離開太陽系吧84F 06/07 12:08
→ : 地球所有的一切他都沒興趣了
→ : 會跟人類拚個你死我活的應該是太像人類的仿生人
→ : 地球所有的一切他都沒興趣了
→ : 會跟人類拚個你死我活的應該是太像人類的仿生人
→ : 現在還是程式運算跟隨機排列，沒有什麼那種問題87F 06/07 12:10
→ : 因為人類100%會奴役並虐待仿生人88F 06/07 12:10
→ : ......糟糕我覺得雖然你是說中文，可是無法溝通的89F 06/07 12:15
→ : 樣子......
→ : 樣子......
→ : 就大多數人心目中的AI都是影劇作品那些自主思考的高階種91F 06/07 12:18
→ : 但其實現在只作的出照演算法跑的那種(ry
→ : 但其實現在只作的出照演算法跑的那種(ry
→ : 樓上居然跟我有查不多的想法，少しうれしいネ93F 06/07 12:21
→ : 原PO這種假設 本來就只討論科幻裡那種高階能自行思考94F 06/07 12:23
→ : 且不受人類限制的AI啊
→ : 且不受人類限制的AI啊
→ : 那還是有一個致命的錯誤 就是把高階AI都強制帶入了人性96F 06/07 12:26
→ : 人類沒做出來過，所以沒辦法回答這種問題，科幻的97F 06/07 12:30
→ : 話隨作者解釋吧。不過看得出來不論現實或是創作都
→ : 顯現出，人類對於超過自己想像能力的科技的恐懼感
→ : 話隨作者解釋吧。不過看得出來不論現實或是創作都
→ : 顯現出，人類對於超過自己想像能力的科技的恐懼感
推 : ai就人類設計的，要怎麼跳脫出人類的思維100F 06/07 12:31
→ : 現在的AI並沒有思維阿 現在是照著演算法在跑的數據而已101F 06/07 12:33
→ : 他會說要毀滅人類 是因為有人類教了他要這樣回答 沒做過學
→ : 習的模型不會回答你 總歸來說沒有發生baldr sky那種AI獲得
→ : 他會說要毀滅人類 是因為有人類教了他要這樣回答 沒做過學
→ : 習的模型不會回答你 總歸來說沒有發生baldr sky那種AI獲得
→ : 人類會主動出來找架打104F 06/07 12:35
→ : 感覺質這種能力之前 不能得知AI的思考模式到底會是甚麼105F 06/07 12:36
→ : 其實就算開了開發者模式的ChatGPT，它也不是什麼都106F 06/07 12:39
→ : 能講的，一堆敏感字詞它還是給你混過去。然後現在
→ : 嚴到一兩次回答就關起來了。仙子的AI等於你是在跟
→ : 開發者的代言者對話的感覺，它能說的就是開發者給
→ : 它能說的事
→ : *現在
→ : 能講的，一堆敏感字詞它還是給你混過去。然後現在
→ : 嚴到一兩次回答就關起來了。仙子的AI等於你是在跟
→ : 開發者的代言者對話的感覺，它能說的就是開發者給
→ : 它能說的事
→ : *現在
→ : AI欠我一打機僕112F 06/07 12:47
--
※ 看板: ACG 文章推薦值: 0 目前人氣: 0 累積人氣: 83
回列表(←)
分享