---

AI人工智慧或是仿生人或機器人暴走

開始對人類產生敵意 覺得人類是地球之癌　甚至想取代人類

的ACG作品很多

舉例就是

［Vivy -Fluorite Eye's Song］

https://ani.gamer.com.tw/animeVideo.php?sn=22226

以上ACG點


以下是一則新聞


[NOWnews今日新聞] 人工智慧（AI）快速崛起，許多人也開始學習善用這些AI工具，

讓自己工作、繳交報告可以更輕鬆，但美國1名20多歲的大學生表示，

近日在使用Google的生成式AI聊天機器人「Gemini」時，發生令他相當害怕的事。

根據美媒《哥倫比亞廣播公司》（CBS）報導，

密西根州的雷迪（Vidhay Reddy）近日使用Gemini協助寫作業，

問了有關老年人面臨的挑戰和解決方案，

結果卻收到以下回覆：

「這是為了你，人類。你，也只有你。你並不特別，你不重要，你也沒有被需要。




他的妹妹蘇梅達（Sumedha Reddy）也坦言被Gemini的回答嚇壞，

甚至想把所有設備都扔掉：「說實話，我已經很久沒有感到如此恐慌了。」

兄妹倆都認為，開發AI的科技公司需要對此類事件負責，對此谷歌聲稱，

Gemini配有安全過濾器，可防止聊天機器人參與不尊重、性、暴力或危險的討論，

也不會鼓勵有害行為：

「大型語言模型有時會做出『無意義』的回應，這次就是一個例子。

這種回應違反了我們的政策，我們已採取行動防止類似的事件再發生。」

雖然谷歌稱「Gemini」的回覆是無意義的，

但雷迪和妹妹強調，嚴重性不只如此，後果有可能更致命：

「如果有人當時是獨處且精神狀態不佳，看到類似言論可能真的會考慮自我傷害。」

報導提到，這並不是谷歌的聊天機器人，甚至也不是唯一出這種包的科技公司，

今年7月，Gemini就被發現會給出有關健康查詢的錯誤資訊，

例如建議人們「每天至少吃一小塊石頭」來補充維生素和礦物質。


今年2月，佛州1名14歲青少年身亡，

他的母親對另一家人工智慧公司Character.AI以及谷歌提起訴訟，

聲稱聊天機器人鼓勵她的兒子輕生。

-------

所以人類還剩下幾集可以逃??


--
吼蛙~杞謀厚阿~

https://www.youtube.com/watch?v=BBFovNPMIEc

--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.172.199.110 (臺灣)
※ 作者: kopune 2024-11-17 02:47:11
※ 文章代碼(AID): #1dEEYpNP (C_Chat)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1731782835.A.5D9.html