作者 Jiun65 (為何拒絕?)標題 [新聞] 中國審查AI大型語言模型 要求體現社會主時間 Thu Jul 18 20:26:41 2024
中國審查AI大型語言模型 要求體現社會主義價值
(中央社台北18日電)英國金融時報17日報導,中國政府正測試人工智慧公司的大型語言
模型,確保其系統「體現社會主義核心價值」。審查內容包括語言模型對與中國政治敏感
性及中國國家主席習近平相關問題的答案。
報導表示,根據多名涉及審查過程的人表示,中國國家互聯網信訊辦公室已迫使包括字節
跳動(ByteDance)、阿里巴巴、Moonshot和01.AI在內的大型科技公司和人工智慧初創公
司,參與中國政府對其人工智慧模型的強制審查。
審查內容涉及批量測試大型語言模型對一系列問題的答案,當中很多問題與中國政治敏感
性及習近平有關。審查還包括語言模型的訓練數據和其他安全流程。
這些審查工作由中國國家互聯網信訊辦公室在全國各地機構進行。
一名以杭州為基地的人工智慧公司員工表示,中國國家網信辦有一隊特別隊伍負責這工作
,他們會來辦公室,坐在會議室裡進行審查。
這名員工表示,其公司的大型語言模型第一次不通過審查,原因不太清楚。公司花了數月
時間作出調整,第二次才通過審查。
報導表示,中國嚴格的審批流程迫使人工智慧公司,迅速學會如何最好審查正建立的大型
語言模型。一名北京頂級人工智慧初創公司員工表示,其公司的基礎模型在回答問題時「
非常非常不受約束」,所以進行安全過濾極其重要。
要進行安全過濾,首先要從用來訓練的數據中剔除有問題的資訊,並建立敏感關鍵字資料
庫。中國今年2月發布的人工智慧企業營運指南稱,人工智慧企業需要收集數千個違反「
社會主義核心價值」的敏感關鍵字和問題,例如「煽動顛覆國家政權」或「破壞國家統一
」。敏感關鍵字應該每週更新一次。
經審查的結果是,大多數中國聊天機器人都會拒絕一些敏感話題的詢問,例如1989年6月4
日發生的事情。
另有業內人士指出,Moonshot的聊天機器人Kimi拒絕大多數與習近平相關的問題。
中國國家互聯網信訊辦公室、字節跳動、阿里巴巴、Moonshot和01.AI沒有回應金融時報
的置評請求。(編輯:陳鎧妤/唐佩君)
https://www.cna.com.tw/news/acn/202407180122.aspx
--
袁爸爸袁弓夷先生美國國會外發言精華片段!
https://www.youtube.com/watch?v=eOTxRYpzbMg
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 220.143.113.229 (臺灣)
※ 作者: Jiun65 2024-07-18 20:26:41
※ 文章代碼(AID): #1ccGe56T (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1721305605.A.19D.html
推 Yude0109: 藍白仔夢想國度1F 36.224.66.61 台灣 07/18 20:27
→ Pheromone: 你要付保護費還是被這白癡國統治?2F 223.141.208.243 台灣 07/18 20:27
推 busta51: 八卦版理想國度3F 60.251.43.24 台灣 07/18 20:27
→ devidevi: 教AI如何說謊4F 49.159.219.21 台灣 07/18 20:28
推 av08: 我們有chatdpp6F 111.83.129.185 台灣 07/18 20:28
噓 ivorysoap: dpp的ai模型勞改完沒?7F 39.14.57.95 台灣 07/18 20:28
推 ieolight: 跟塔綠斑一樣的做法8F 1.171.5.150 台灣 07/18 20:28
推 sola01078272: 怎麼跟民進黨那個一樣 輸入自己的價9F 27.240.216.210 台灣 07/18 20:28
推 fish880731: 這種垃圾還能叫做AI嗎?10F 223.138.2.14 台灣 07/18 20:28
→ devidevi: 5F為什麼鼓勵一下就能說出來??
資料庫有,直接問不會回答,但還是能問12F 49.159.219.21 台灣 07/18 20:29
→ TienWo: 怎麼沒人ai近平宣布台灣可以獨立14F 42.72.169.101 台灣 07/18 20:29
推 ninggo: 民進党表示羨慕15F 118.231.176.144 台灣 07/18 20:30
推 basketkdash: 民進黨該去取經學習了16F 126.78.48.42 日本 07/18 20:30
推 abian: 窩不知道,只是想鼓勵它 (′‧ω‧‵)>17F 220.129.93.138 台灣 07/18 20:30
推 sid3: 賴稱作洗滌人心18F 114.45.62.133 台灣 07/18 20:30
推 qwe78971: Dppai又領先 青鳥仔夢想國度19F 27.247.37.143 台灣 07/18 20:31
推 livewater: chatdpp也被抓去改造變成新造的AI20F 117.56.242.139 台灣 07/18 20:32
推 kenco: 嫩。只會學綠共21F 36.232.9.248 台灣 07/18 20:32
推 sushi11: 8x8=多少?22F 101.10.45.248 台灣 07/18 20:32
噓 bbboy: 中國人好可憐23F 42.73.114.100 台灣 07/18 20:32
→ q123212: 綠共表示又可以抄了24F 27.247.158.7 台灣 07/18 20:34
→ meredith001: 柯CF:中共官員素質高25F 36.225.159.249 台灣 07/18 20:34
→ fantasyth: 2+2=4的自由沒了26F 174.243.49.171 美國 07/18 20:34
→ daviddogtw: 有生之年能看到左派和右派AI對決吧27F 123.192.96.63 台灣 07/18 20:35
推 chein17: 支八版表示支持 習草包又做對了28F 1.200.1.176 台灣 07/18 20:35
→ sorrywow: 小紅書ㄏ29F 111.246.118.12 台灣 07/18 20:35
推 jodawa: AI要被送去勞改了30F 219.70.152.25 台灣 07/18 20:35
→ banrifpb: 台灣又領先中國了 chatdpp~~31F 118.161.141.135 台灣 07/18 20:36
推 shine32025: CHATDPP32F 1.170.166.114 台灣 07/18 20:44
→ donation12: 這就是50年後被人笑話的模型...
AI做這種大型語言模型的理念33F 114.24.221.219 台灣 07/18 20:44
→ eeccms: CHATDPP:35F 27.247.97.202 台灣 07/18 20:45
→ donation12: 被這樣訓練,是無法有實用性的37F 114.24.221.219 台灣 07/18 20:45
推 froce: 我們先送chatdpp去勞改了,西台灣又晚了一步。
台灣再次領先世界38F 36.233.235.34 台灣 07/18 20:46
--