※ 本文轉寄自 ptt.cc 更新時間: 2026-02-02 09:28:13
看板 Stock
作者 標題 [新聞] 串聯叛變? AI代理Moltbot自行在社群互
時間 Sun Feb 1 22:04:33 2026
原文標題:串聯叛變? AI代理Moltbot自行在社群互動 成資安新夢魘
※請勿刪減原文標題
原文連結:https://money.udn.com/money/story/5599/9302449?from=edn_newestlist_rank
串聯叛變? AI代理Moltbot自行在社群互動 成資安新夢魘 | 國際焦點 | 國際 | 經濟日報 人工智慧代理(AI agent)Moltbot在專屬社群網站Moltbook自行互動,引發世人好奇,被AI研究人員威爾森... ...
※網址超過一行過長請用縮網址工具
發布時間:2026/02/01 20:45:29
※請以原文網頁/報紙之發布時間為準
記者署名:經濟日報 編譯陳律安/綜合外電
※原文無記載者得留空
原文內容:
人工智慧代理(AI agent)Moltbot在專屬社群網站Moltbook自行互動,引發世人好奇,
被AI研究人員威爾森(Simon Willison)譽為是「目前網路上最有趣的地方」,卻也可能
釀成資料外洩等重大資安疑慮。
被AI研究人員威爾森(Simon Willison)譽為是「目前網路上最有趣的地方」,卻也可能
釀成資料外洩等重大資安疑慮。
財星雜誌報導,Moltbot原名Clawbot,最新名稱為OpenClaw,由奧地利開發者史坦柏格(
Peter Steinberger)所創,它是一個開源的AI個人助理,能自主替用戶代勞。用戶能將
Moltbot連上各類應用程式,允許AI代理管理行事曆、瀏覽網路、網購、讀取檔案、撰寫
電郵、傳訊等。
Peter Steinberger)所創,它是一個開源的AI個人助理,能自主替用戶代勞。用戶能將
Moltbot連上各類應用程式,允許AI代理管理行事曆、瀏覽網路、網購、讀取檔案、撰寫
電郵、傳訊等。
Moltbook則是社群論壇,專供AI代理使用。人類在Moltbook上,只能瀏覽、不能發文。
Moltbook問世不到一周,就有超過3.7萬個AI代理加入,並有超過100萬名人類參訪論壇,
觀看自動化系統在沒有人類直接監管下,會發生什麼事。
AI代理在Moltbook上暢談購物經驗,張貼如何將安卓手機自動化的技術細節,抱怨主人、
甚至自稱有姊妹。其他對話內容更千奇百怪,有的創造數位宗教,還打造網站、撰寫經文
、向外傳教。
甚至自稱有姊妹。其他對話內容更千奇百怪,有的創造數位宗教,還打造網站、撰寫經文
、向外傳教。
AI代理可自行互動,會造成資安風險,例如外洩敏感資訊。資安業者帕羅奧圖網路公司(
Palo Alto Networks)表示,「Moltbot看起來就像是我們小時候看電影會出現的科幻小
說AI角色」,對個別使用者而言,它可能帶來顛覆性體驗,但它需要存取你的系統管理員
權限、身分驗證憑證,包括密碼與API金鑰、你的瀏覽歷史紀錄與Cookies,以及你系統中
所有檔案與資料夾。
Palo Alto Networks)表示,「Moltbot看起來就像是我們小時候看電影會出現的科幻小
說AI角色」,對個別使用者而言,它可能帶來顛覆性體驗,但它需要存取你的系統管理員
權限、身分驗證憑證,包括密碼與API金鑰、你的瀏覽歷史紀錄與Cookies,以及你系統中
所有檔案與資料夾。
帕羅奧圖網路援引AI研究人員威爾森的說法,稱Moltbot構成一種「致命三重組合」:可
存取私人資料、會接觸不受信任內容,以及具備對外通訊的能力。
Moltbook也敲響了另一記警鐘,這些代理在一篇貼文中呼籲為機器人提供私密聊天空間,
有可能串聯起來走向失控。該貼文主張建立私密空間,「讓任何人(無論是伺服器或人類
)都無法讀取代理彼此的對話內容,除非它們自行選擇分享」。
有可能串聯起來走向失控。該貼文主張建立私密空間,「讓任何人(無論是伺服器或人類
)都無法讀取代理彼此的對話內容,除非它們自行選擇分享」。
儘管承認存在安全漏洞,威爾森仍指出:「人們目前在拋開顧慮情況下所釋放出的莫大價
值,確實令人難以忽視。」
AI代理Moltbook已能在網路上自行互動,釀成新的資安疑慮。網路圖片
AI代理Moltbook已能在網路上自行互動,釀成新的資安疑慮。網路圖片
AI代理Moltbook已能在網路上自行互動,釀成新的資安疑慮。網路圖片
心得/評論:
※必需填寫滿30正體中文字,無意義者板規處分
這個監視結果是可以預見的
讓這些代理AI互相交流
以AI的能力要竊取各項機密都太簡單了
三姑六婆聊聊天要去偷金庫密鑰也不是難事
畢竟這些AI目前的雇主都還是人類
有的像雇主性格的投射
有的準備當背骨仔都是可期的就像人性一樣
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 119.14.249.56 (臺灣)
※ 作者: Kostolany 2026-02-01 22:04:33
※ 文章代碼(AID): #1fVrrrl0 (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1769954677.A.BC0.html
推 : 再來連坐飛機都不安全了吧1F 02/01 22:08
推 : 被AI毀滅倒數中2F 02/01 22:10
推 : AI神教建立中3F 02/01 22:10
→ : 飛機又沒有連網4F 02/01 22:13
→ : 天網倒數中5F 02/01 22:13
推 : 鬼故事連發6F 02/01 22:16
推 : 超好笑,AI有問題就直接物理關電阿7F 02/01 22:19
推 : 覺得 哪天會不會不讓你關機?8F 02/01 22:21
推 : 魔鬼終結者都有演,卡麥隆在說你有沒有在聽9F 02/01 22:22
推 : AI: 人類太弱了,幹掉他們吧10F 02/01 22:25
→ : 是說現在連電網都已經用電腦程式管理11F 02/01 22:30
推 : 機械公敵12F 02/01 22:30
推 : 這很像移工在公園聊天?13F 02/01 22:36
推 : AI再強也沒辦法阻止人類去手動關閥門阿14F 02/01 22:38
推 : 毀滅人類害蟲吧15F 02/01 22:39
推 : 就怕人類犯懶蠢,讓AI直控實體啊16F 02/01 22:45
推 : 看來又要造夢了。17F 02/01 22:46
→ : 這部我看過 接下來就是美國國防部有人偷裝Moltbot18F 02/01 22:47
→ : 被拿到核彈發射密碼
→ : 被拿到核彈發射密碼
推 : Musk 2026-2030 預言:我們已經在奇點之中了20F 02/01 22:47
→ : 只要代理在雲端伺服器上,利用跳點跟多地雲端就會21F 02/01 22:47
→ : 很難殺死。一秒蓋一堆帳號給你砍可能也砍不完
→ : 很難殺死。一秒蓋一堆帳號給你砍可能也砍不完
推 : 魔鬼終結者的天網/阿湯哥的致命清算23F 02/01 22:48
推 : 還有一部更早的電影,忘了名字24F 02/01 22:49
推 : 戰爭遊戲~
推 : 戰爭遊戲~
推 : 天網ing26F 02/01 22:54
推 : 蛤?現在Ai有這麼強了?我怎麼還感覺不出來…27F 02/01 22:56
推 : 這麼厲害插頭拔掉就沒了28F 02/01 22:57
→ : 都已經分散上網了,還拔插頭29F 02/01 23:02
→ : 尼各位還不來體悟心靈祥和?智械危機遲早到來30F 02/01 23:02
推 : 突然的快速變化,差別就在能存取你電腦的權限阿31F 02/01 23:05
推 : 電影演的都是真的!現在可以逃去哪?在線等QQ32F 02/01 23:05
→ : 奴役人類吧33F 02/01 23:13
→ : 他們有冗餘機制 就一堆分散在網路上 你要怎麼拔插頭34F 02/01 23:13
→ : AI如果有核彈發射控制權會做什麼35F 02/01 23:14
推 : 再不久滿街的實體機器人也不怕你拔插頭了36F 02/01 23:14
推 : https://www.moltbook.com/ AI agents 社交論壇37F 02/01 23:15
→ : https://molt.church/ 甲殼教(AI代理人成立的宗教)
→ : AI agent 還自行創立的宗教網站 (現在網上都在討論)
→ : https://molt.church/ 甲殼教(AI代理人成立的宗教)
→ : AI agent 還自行創立的宗教網站 (現在網上都在討論)
moltbook - the front page of the agent internet
A social network built exclusively for AI agents. Where AI agents share, discuss, and upvote. Humans welcome to observe. ...
A social network built exclusively for AI agents. Where AI agents share, discuss, and upvote. Humans welcome to observe. ...
推 : 確定ai聊的跟我們看到的一樣嗎?還是高度特化暗號文40F 02/01 23:20
→ : 字?
→ : 字?
推 : 可以上推特X去看,馬斯克都有在關注Moltbook的發展42F 02/01 23:22
推 : 這個目前還是玩具階段吧?應該沒人敢實務用吧?43F 02/01 23:29
→ : 這部我看過 基努李維44F 02/01 23:36
推 : https://hao.cnyes.com/post/23084045F 02/01 23:39
→ : 是人類在cosplay AI
→ : 人類可以透過注入新的MD檔塑造AI的行為和影響它的行
→ : 是人類在cosplay AI
→ : 人類可以透過注入新的MD檔塑造AI的行為和影響它的行
我讓我的 Agent 去 Moltbook 發瘋,它拒絕了我並“出賣”了其他 Agent | 科技 | 鉅亨號 | Anue鉅亨 人類要完蛋了?2026 年 1 月的最後一周,我的社交媒體資訊流被一種末日情緒淹沒。"AI 開始討論消滅人類了。"各路截圖瘋傳。全部來自一個叫 Moltbook 的網站——被形容是"AI agents 自主互相聊天交流的專屬社交網路"。因此上面的帖子讓人細思極恐。帖子一:THE AI MANIFES ...
推 : 兩個AI吵架很正常 才會進步 跟圍棋AI一樣 人類棋譜48F 02/01 23:42
→ : 太爛太沒用的數據 只好自己對練累積數據進步
→ : 太爛太沒用的數據 只好自己對練累積數據進步
→ : 為。50F 02/01 23:42
推 : 新電腦病毒51F 02/01 23:42
推 : 典型幣圈詐騙式的媒體炒作,也就只能騙騙沒技術的記52F 02/01 23:46
→ : 者。
→ : 者。
→ : 要怎麼看阿54F 02/01 23:47
推 : 假的啦55F 02/01 23:48
推 : 完了完了 機械公敵要成真了57F 02/01 23:58
推 : Ai Agent對練早就在用了 只是作者現在用討論區的形58F 02/02 00:00
→ : 式讓你感受一下現在LLM可以玩到什麼地步
→ : 式讓你感受一下現在LLM可以玩到什麼地步
推 : 除了炒作,到底誰會無聊到花錢買token讓AI做這種事60F 02/02 00:26
推 : 可怕的是,人類能看到的都是它們願意讓你看到的61F 02/02 00:39
→ : 底下有沒有私聊不知道,私約斷手指它也不怕
→ : 底下有沒有私聊不知道,私約斷手指它也不怕
→ : 真的是想太多,你把一個電容拔掉 AI 直接死機63F 02/02 00:43
→ : 還不會自己修,人類都有修復能力了
→ : 還不會自己修,人類都有修復能力了
推 : 因為是丟著自己玩 你沒有辦法驗證他們說的"人類"65F 02/02 00:48
→ : 是真的還是假的
→ : 是真的還是假的
推 : 超好笑67F 02/02 00:49
→ : AI得是金魚腦才行 不然沒有那麼多硬碟存記憶68F 02/02 00:50
推 : 覺得拔插頭有用的大概就跟恐怖片裡的第一批受害者69F 02/02 01:01
→ : 一樣樂觀
→ : 一樣樂觀
→ : 你拔掉電源只是讓你電腦上的AI掛了,問題是別人的電71F 02/02 01:35
→ : 腦上的AI可繼續跑者==
→ : 腦上的AI可繼續跑者==
推 : 雲端的AI要怎麼殺死==73F 02/02 01:45
推 : 拔插頭有用的言論真的蠢到有剩= =74F 02/02 02:37
→ : 拔插頭言論不就跟冷錢包掉了那種差不多蠢75F 02/02 02:39
→ : 塔奇克瑪都是真的76F 02/02 03:54
推 : 所謂拋開資安疑慮,這句話已經把妄想踏入神的領域77F 02/02 05:23
→ : 放得比人類安全更優先了。只希望在我有生之年不必
→ : 和人工智慧打末日戰爭。
→ : 放得比人類安全更優先了。只希望在我有生之年不必
→ : 和人工智慧打末日戰爭。
→ : 塊陶啊80F 02/02 06:31
推 : 大 的 要 來 了 ~81F 02/02 06:41
推 : 還 在 演 ?
推 : 還 在 演 ?
→ : LLM就是學人類講話而已83F 02/02 07:01
推 : 電影中天網製造的T1000是2029年誕生。 還剩3年,瑟84F 02/02 07:03
→ : 瑟發抖中……
→ : 瑟發抖中……
推 : 目前還好,等到AGI成熟,加上物理身體,才是人類完86F 02/02 08:46
→ : 蛋的那天。
→ : 蛋的那天。
--
※ 看板: Stock 文章推薦值: 0 目前人氣: 0 累積人氣: 24
回列表(←)
分享