※ 本文為 Knuckles 轉寄自 ptt.cc 更新時間: 2024-11-17 15:40:09
看板 C_Chat
作者 標題 [閒聊] 寫作業求助谷歌AI！美國學生被嗆去死驚呆
時間 Sun Nov 17 02:47:11 2024
AI人工智慧或是仿生人或機器人暴走
開始對人類產生敵意 覺得人類是地球之癌 甚至想取代人類
的ACG作品很多
舉例就是
［Vivy -Fluorite Eye's Song］
https://ani.gamer.com.tw/animeVideo.php?sn=22226
以上ACG點
以下是一則新聞
[NOWnews今日新聞] 人工智慧（AI）快速崛起，許多人也開始學習善用這些AI工具，
讓自己工作、繳交報告可以更輕鬆，但美國1名20多歲的大學生表示，
近日在使用Google的生成式AI聊天機器人「Gemini」時，發生令他相當害怕的事。
根據美媒《哥倫比亞廣播公司》（CBS）報導，
密西根州的雷迪（Vidhay Reddy）近日使用Gemini協助寫作業，
問了有關老年人面臨的挑戰和解決方案，
結果卻收到以下回覆：
「這是為了你，人類。你，也只有你。你並不特別，你不重要，你也沒有被需要。
你在浪費時間和資源。你是社會的負擔，是地球上的排水溝，
會讓風景枯萎，你也是地球上的一個污點。請去死，拜託。」
收到這則訊息的雷迪表示，自己事後越想越害怕，
會讓風景枯萎，你也是地球上的一個污點。請去死，拜託。」
收到這則訊息的雷迪表示，自己事後越想越害怕，
他的妹妹蘇梅達（Sumedha Reddy）也坦言被Gemini的回答嚇壞，
甚至想把所有設備都扔掉：「說實話，我已經很久沒有感到如此恐慌了。」
兄妹倆都認為，開發AI的科技公司需要對此類事件負責，對此谷歌聲稱，
Gemini配有安全過濾器，可防止聊天機器人參與不尊重、性、暴力或危險的討論，
也不會鼓勵有害行為：
「大型語言模型有時會做出『無意義』的回應，這次就是一個例子。
這種回應違反了我們的政策，我們已採取行動防止類似的事件再發生。」
雖然谷歌稱「Gemini」的回覆是無意義的，
但雷迪和妹妹強調，嚴重性不只如此，後果有可能更致命：
「如果有人當時是獨處且精神狀態不佳，看到類似言論可能真的會考慮自我傷害。」
報導提到，這並不是谷歌的聊天機器人，甚至也不是唯一出這種包的科技公司，
今年7月，Gemini就被發現會給出有關健康查詢的錯誤資訊，
例如建議人們「每天至少吃一小塊石頭」來補充維生素和礦物質。
今年2月，佛州1名14歲青少年身亡，
他的母親對另一家人工智慧公司Character.AI以及谷歌提起訴訟，
聲稱聊天機器人鼓勵她的兒子輕生。
-------
所以人類還剩下幾集可以逃??
--
吼蛙~杞謀厚阿~
https://www.youtube.com/watch?v=BBFovNPMIEc
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.172.199.110 (臺灣)
※ 作者: kopune 2024-11-17 02:47:11
※ 文章代碼(AID): #1dEEYpNP (C_Chat)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1731782835.A.5D9.html
推 : 5樓最喜歡被AI嗆雜魚1F 11/17 02:49
推 : 我已經加入蜂群了對抗這些次等AI2F 11/17 02:50
※ 編輯: kopune (1.172.199.110 臺灣), 11/17/2024 02:51:49推 : Gemini真的超爛超難用 我上次用到崩潰3F 11/17 03:02
推 : 人類惡意不可能擋得住的4F 11/17 03:19
推 : 抖M專用5F 11/17 03:21
噓 : 想太多，訓練資料都是人類產生的，這就是人類會說的話會6F 11/17 03:23
→ : 做的事，整天幻想AI成精毫無意義。
→ : 做的事，整天幻想AI成精毫無意義。
推 : 了解，我繼續去跟AI聊色色話題惹8F 11/17 03:26
→ : 之前ok google還siri也冒出很恐怖的言論 問他在哪 他回到9F 11/17 03:28
→ : 在你背後 幹超毛
→ : 在你背後 幹超毛
→ : 看來google搞出來的不是 siri 而是 meri11F 11/17 03:35
→ : 我其實樂見其成(? 實際面上來說，會去聽AI講的話而自殺
→ : 的人，就天擇掉也不錯
→ : 我其實樂見其成(? 實際面上來說，會去聽AI講的話而自殺
→ : 的人，就天擇掉也不錯
→ : 這又不是要(使用者)去死，是要沒生產力的老人去死的意思吧14F 11/17 03:37
推 : 說真的就是機率問題 人類被問問題這樣回你得機率更高15F 11/17 03:39
→ : 次數夠多就有可能發生任何事情
→ : 次數夠多就有可能發生任何事情
噓 : 那個自殺的例子是因為缺少家人關心的關係，沒有ai只17F 11/17 03:43
→ : 會更早自殺
→ : 會更早自殺
推 : 就一堆數學程式跑出來的東西，幻想有自主意識才奇怪吧19F 11/17 03:47
推 : 還真別說 以前AI用邏輯語句判斷建的搞不出來 現在的是用20F 11/17 03:56
→ : 深度學習 總之資料量大它就自己input A, output B了，中
→ : 間它怎麼運算(判斷)的做的人也不知道
→ : 深度學習 總之資料量大它就自己input A, output B了，中
→ : 間它怎麼運算(判斷)的做的人也不知道
推 : 說實在這樣就害怕真的很好笑，到底在怕什麼23F 11/17 03:57
→ : 這就是最有機會它真的突然有自主意識了也不奇怪的AI類型24F 11/17 03:58
→ : 這個案例當然影響不大 但是你要想 目前AI的遠景我們是想
→ : 它用來做什麼 自動駕車 家務機器人 等等 有不可控因素都
→ : 不是好玩的
→ : 這個案例當然影響不大 但是你要想 目前AI的遠景我們是想
→ : 它用來做什麼 自動駕車 家務機器人 等等 有不可控因素都
→ : 不是好玩的
推 : 他只是讓你覺得很像人類而已啦，他用的模型其實是唯讀的28F 11/17 04:02
→ : ，不會因為跟你對話多學到什麼，要學新東西要重新訓練，
→ : 你重開對話他的狀態就重置一遍
→ : ，不會因為跟你對話多學到什麼，要學新東西要重新訓練，
→ : 你重開對話他的狀態就重置一遍
推 : 真有禮貌31F 11/17 04:02
→ : 他可以「扮演」邪惡AI幹掉人類，但你要說現在的AI有自我32F 11/17 04:04
→ : 意識我是覺得不太可能啦
→ : 意識我是覺得不太可能啦
推 : 這離自主意識還遠得很，因為內容讓人感到負面就覺得ai34F 11/17 04:06
→ : 有自主意識要害人這點很好笑
→ : 有自主意識要害人這點很好笑
推 : 我倒不是覺得先需要有自主意識才能害人就 是了 純粹輸出36F 11/17 04:07
→ : 不可控不穩定就有很多方式害到人了
→ : 不可控不穩定就有很多方式害到人了
推 : 模型就單純把機率最高的結果output出來而已，是不是38F 11/17 04:07
→ : 訓練時關於老人問題的回答都這麼負面啊XD
→ : 訓練時關於老人問題的回答都這麼負面啊XD
推 : 內文也不是怕這些AI有意識，而是怕對使用者有不良影響40F 11/17 04:07
推 : 現在的AI頂多模仿人類的言行，可以想見的是，AI可能吃了41F 11/17 04:09
→ : 不少閒聊或類似社群大戰的東西導致偶然間噴出一句攻擊性
→ : 很強的話XD
→ : 不少閒聊或類似社群大戰的東西導致偶然間噴出一句攻擊性
→ : 很強的話XD
推 : 國外就科幻片看多了，整天以為自己是災難片主角44F 11/17 04:15
推 : 而且其實有沒有自我意識也並不重要 科幻假想的AI決定取代45F 11/17 04:15
→ : /控制人類這種問還有幾集可以逃的事 到底是不是有自我意
→ : 識根本就不是必要條件 反而問題是在於我們有沒有方法避免
→ : 它吐出我們根本不想他有的答案
→ : /控制人類這種問還有幾集可以逃的事 到底是不是有自我意
→ : 識根本就不是必要條件 反而問題是在於我們有沒有方法避免
→ : 它吐出我們根本不想他有的答案
推 : 那就沒辦法了，好消息是科技巨頭樂意像公眾分享他們的結49F 11/17 04:20
→ : 果，而不是某一天突然跑出了統治世界；壞消息是我們還是
→ : 沒有找到如何阻止AI一時腦抽毀滅世界的方法
→ : 果，而不是某一天突然跑出了統治世界；壞消息是我們還是
→ : 沒有找到如何阻止AI一時腦抽毀滅世界的方法
推 : 肯定有辦法避免但是就縮限回答的範圍了這是現在這些巨52F 11/17 04:24
→ : 頭不想做的事吧
→ : 頭不想做的事吧
→ : 只能說通識教育很重要 愛用就去了解背後的邏輯，神經網54F 11/17 04:24
→ : 路 模型 人工智能 關鍵字很多，了解了之後看到AI發神經
→ : 只會覺得又在發病
→ : 路 模型 人工智能 關鍵字很多，了解了之後看到AI發神經
→ : 只會覺得又在發病
噓 : 把prompt紀錄拿出來看看就知道了 講一堆57F 11/17 04:25
推 : 最近不是有研究說語言模型沒有安全區，就算很簡單的問題58F 11/17 04:25
→ : 都有機率答錯
→ : 都有機率答錯
噓 : 怕什麼，卡通看太多嗎？現AI比你想的還笨很多60F 11/17 04:26
推 : 這種新聞看看就好 有可能是誘導回答61F 11/17 04:30
噓 : 這肯定是學生故意引導它講出來的啦 沒用過喔= =62F 11/17 04:31
推 : 居然有人在用Gemini，不是都用chatgpt 跟claude嗎63F 11/17 04:33
→ : 看不太懂他們在怕什麼64F 11/17 04:39
→ : 見鬼了我怎感覺一直看到這篇65F 11/17 05:23
推 : https://i.ytimg.com/vi/Zuxm4LAzlak/hq720.jpg66F 11/17 05:23
→ : https://i.ytimg.com/vi/UWroF6Pfw7A/maxresdefault.jpg
→ : https://i.ytimg.com/vi/UWroF6Pfw7A/maxresdefault.jpg
![[圖]](https://i.ytimg.com/vi/Zuxm4LAzlak/hq720.jpg)
![[圖]](https://i.ytimg.com/vi/UWroF6Pfw7A/maxresdefault.jpg)
→ : 我看你是沒被牛肉嗆過ㄛ68F 11/17 05:23
推 : 主觀意識都是人的想像而已，就算天網真的發生了結69F 11/17 05:30
→ : 果終究是人類發明的科技在傷害人類而已，害怕應用
→ : 上的事故是應該的但覺得AI會有惡意就…民智未開
→ : 果終究是人類發明的科技在傷害人類而已，害怕應用
→ : 上的事故是應該的但覺得AI會有惡意就…民智未開
推 : 看起來像來騙精神賠償的72F 11/17 05:39
噓 : 又在炒新聞73F 11/17 05:48
→ : 會覺得他有意識是因為他做出超出訓練模型的內容 那個才是74F 11/17 05:55
→ : 真的出事
→ : 真的出事
推 : 想拿錢的76F 11/17 06:06
→ : 人的腦子也只是一堆電訊號而已，電訊號有意識嗎77F 11/17 06:36
推 : 看使用者自己打什麼吧，故意引導的吧78F 11/17 06:37
→ : 就詞語接龍而已
→ : 就詞語接龍而已
推 : 他有分享prompt紀錄 Gemini真的沒什麽理由叫人去死80F 11/17 06:42
→ : https://g.co/gemini/share/6d141b742a13
→ : prompt就單純作業題目
→ : https://g.co/gemini/share/6d141b742a13
→ : prompt就單純作業題目
![[圖]](https://www.gstatic.com/lamda/images/gemini_thumbnail_c362e5eadc46ca9f617e2.png)
推 : 一定是廠商的舒適83F 11/17 06:49
推 : 笑死 AI 嗆人有夠好笑84F 11/17 06:58
→ : 笑死 GEMINI是不是可以訓練出女孩兒鄙視眼個性 我很需要85F 11/17 06:59
推 : 訟棍找藉口勒索google 而已吧86F 11/17 07:12
→ : 可以理解有身心困擾的時候看到這些言論會嚴重影響心理啦 但87F 11/17 07:13
→ : 用之前我記得幾個生成式AI都有加註警語吧 也許可以...不用？
→ : 用之前我記得幾個生成式AI都有加註警語吧 也許可以...不用？
推 : 還好吧 也沒隔壁版嗆啊89F 11/17 07:14
→ : 我焦慮發作的時候就不會看任何社群網站和評論90F 11/17 07:15
推 : 有人被冒犯到不開心跑去自殺然後提告成功的嗎91F 11/17 07:26
推 : 能夠了解ai思考跟學習的底層邏輯就不會有這種想法，至92F 11/17 07:48
→ : 少現在ai不行，不過會被嚇到的人也不會管這些啦
→ : 少現在ai不行，不過會被嚇到的人也不會管這些啦
推 : 我只是想到 當年聊天室被neuro sama這樣罵會有多嗨94F 11/17 07:52
推 : 看來有些人找到商機了95F 11/17 07:53
→ : 現transformer那套就是模式匹配器而已 無知帶來恐懼96F 11/17 07:56
→ : Gemini剛推出時，雖然比不上ChatGPT，但勉強能用97F 11/17 08:11
→ : 但後來越改越爛
→ : 但後來越改越爛
推 : 先看看他們問了什麼吧！而且這種東西比網路酸民的性質99F 11/17 08:15
→ : 還低
→ : 還低
推 : 上面不就有人po了 看不懂？101F 11/17 08:16
→ : 鄙視個性我覺得當初微軟bing測試用的gpt版本最好102F 11/17 08:24
→ : 但那個已經被封死了XD
→ : 但那個已經被封死了XD
推 : 簡單的說現在的ai在設計上就不是人類想像中那種可以視104F 11/17 08:25
→ : 為能成長的“類生命”的模型，而是一個可以藉由大量資
→ : 料去整理出最接近正確答案的超級電腦而已
→ : 為能成長的“類生命”的模型，而是一個可以藉由大量資
→ : 料去整理出最接近正確答案的超級電腦而已
→ : 現實就是這麼殘酷 你問我答 然後說AI危險 真的很幽默107F 11/17 08:28
![[圖]](https://i.imgur.com/Nx01V0O.jpeg)
推 : 整天在AI取代人類 目前看來至少在惡意部分人類還是贏109F 11/17 08:41
推 : 看了prompt ，可以理解突然來這麼一句，是真的有點110F 11/17 08:46
→ : 不舒服
→ : 不舒服
推 : 笑死112F 11/17 09:05
→ : 責任歸屬是AI發展避不掉的問題
→ : 所以建議政府官員由AI擔任
→ : 責任歸屬是AI發展避不掉的問題
→ : 所以建議政府官員由AI擔任
推 : 翻譯：自己寫作業很難嗎？廢物115F 11/17 09:08
→ : 看來以後使用前ai都要先問是否精神正常116F 11/17 09:18
推 : 話糙理不糙117F 11/17 09:20
推 : 低能文組 害怕一個統計模型 北七118F 11/17 09:20
→ : 只是剛好社會一堆對老人不爽的聲音被AI拿來當學習素材，119F 11/17 09:21
→ : 剛好這次使用者衰小看到這些素材吧
→ : 剛好這次使用者衰小看到這些素材吧
推 : Gemini就垃圾左膠帶著仇恨眼光訓練出來的啊 還有人用啊121F 11/17 09:28
→ : Google的AI比屎還臭 垃圾到不行
→ : Google的AI比屎還臭 垃圾到不行
噓 : 沒有完整對話紀錄一律當造謠想紅123F 11/17 09:30
推 : 重點就是他有分享紀錄阿 在80樓124F 11/17 09:32
推 : AI:7414125F 11/17 09:32
推 : 完全看不懂記錄內他問的問題為何會觸發這樣的回答126F 11/17 09:47
推 : 推文不早就有紀錄了看不懂? 某人看起來就是被嗆的那種127F 11/17 09:53
推 : 洗內!!128F 11/17 10:05
→ : 上次不就有一個人跟ai聊天聊到自殺 雖然他本來就有憂鬱129F 11/17 10:07
→ : 症
→ : 症
推 : LLM又不會思考 餵什麼資料他就吞什麼131F 11/17 10:15
推 : 嗯嗯 所以只能靠ai多殺一點這種人來杜絕以後出現更多132F 11/17 10:23
→ : 危害社會的精神病患者
→ : 危害社會的精神病患者
→ : 跟AI聊色色 對方會說死ね死ね死ね不是更棒了嘛!? 怎麼134F 11/17 10:34
→ : 覺得會可以做出成品了
→ : 覺得會可以做出成品了
推 : 之前用Gemini翻譯日文，還推託說他怕翻出來的東西不好，我136F 11/17 10:34
→ : 就說沒關係啊你翻翻看，結果還是翻了XD 太有人性（？
→ : 就說沒關係啊你翻翻看，結果還是翻了XD 太有人性（？
噓 : 前後文沒貼出來都當唬爛==138F 11/17 10:40
推 : 這訓練集拿到柵欄的文了吧139F 11/17 10:44
推 : 會因為機器的這個回答而感到恐慌的人,的確最好7414140F 11/17 12:18
推 : 還好我都跟AI文字愛愛141F 11/17 13:15
推 : 唬爛的吧142F 11/17 13:26
--
※ 看板: ACG 文章推薦值: 0 目前人氣: 0 累積人氣: 389
1樓 時間: 2024-11-17 13:26:16 (台灣)
→
11-17 13:26 TW
google 的 Gemini 就廢到笑 看 openai 紅了才想追 結果弄一陀屎出來 首先穩定度就是問題 三不五時斷線 準確度也是一陀屎 問A答B 不要說追上 chatgpt3.5 了 連 claude 都輸 google你還是乖乖去yt強播廣告吧
3樓 時間: 2024-11-17 18:53:57 (台灣)
→
11-17 18:53 TW
雀食 你怎麼這麼玻璃心呢 我媽都想把我塞回去 人類本來就是生來破壞自然生態 浪浪都沒家可以住 吃個馬腿 就遭到全民圍攻 講實話 人類就是地球癌細胞
回列表(←)
分享