作者 Jiun65 (為何拒絕?)
標題 [新聞] 中國審查AI大型語言模型 要求體現社會主
時間 Thu Jul 18 20:26:41 2024


中國審查AI大型語言模型 要求體現社會主義價值


(中央社台北18日電)英國金融時報17日報導,中國政府正測試人工智慧公司的大型語言
模型,確保其系統「體現社會主義核心價值」。審查內容包括語言模型對與中國政治敏感
性及中國國家主席習近平相關問題的答案。


報導表示,根據多名涉及審查過程的人表示,中國國家互聯網信訊辦公室已迫使包括字節
跳動(ByteDance)、阿里巴巴、Moonshot和01.AI在內的大型科技公司和人工智慧初創公
司,參與中國政府對其人工智慧模型的強制審查。


審查內容涉及批量測試大型語言模型對一系列問題的答案,當中很多問題與中國政治敏感
性及習近平有關。審查還包括語言模型的訓練數據和其他安全流程。

這些審查工作由中國國家互聯網信訊辦公室在全國各地機構進行。

一名以杭州為基地的人工智慧公司員工表示,中國國家網信辦有一隊特別隊伍負責這工作
,他們會來辦公室,坐在會議室裡進行審查。

這名員工表示,其公司的大型語言模型第一次不通過審查,原因不太清楚。公司花了數月
時間作出調整,第二次才通過審查。

報導表示,中國嚴格的審批流程迫使人工智慧公司,迅速學會如何最好審查正建立的大型
語言模型。一名北京頂級人工智慧初創公司員工表示,其公司的基礎模型在回答問題時「
非常非常不受約束」,所以進行安全過濾極其重要。


要進行安全過濾,首先要從用來訓練的數據中剔除有問題的資訊,並建立敏感關鍵字資料
庫。中國今年2月發布的人工智慧企業營運指南稱,人工智慧企業需要收集數千個違反「
社會主義核心價值」的敏感關鍵字和問題,例如「煽動顛覆國家政權」或「破壞國家統一
」。敏感關鍵字應該每週更新一次。


經審查的結果是,大多數中國聊天機器人都會拒絕一些敏感話題的詢問,例如1989年6月4
日發生的事情。

另有業內人士指出,Moonshot的聊天機器人Kimi拒絕大多數與習近平相關的問題。

中國國家互聯網信訊辦公室、字節跳動、阿里巴巴、Moonshot和01.AI沒有回應金融時報
的置評請求。(編輯:陳鎧妤/唐佩君)


https://www.cna.com.tw/news/acn/202407180122.aspx
中國審查AI大型語言模型 要求體現社會主義價值 | 兩岸 | 中央社 CNA
[圖]
英國金融時報17日報導,中國政府正測試人工智慧公司的大型語言模型,確保其系統「體現社會主義核心價值」。審查內容包括語言模型對與中國政治敏感性及中國國家主席習近平相關問題的答案。 ...

 





--

袁爸爸袁弓夷先生美國國會外發言精華片段!
https://www.youtube.com/watch?v=eOTxRYpzbMg



--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 220.143.113.229 (臺灣)
※ 作者: Jiun65 2024-07-18 20:26:41
※ 文章代碼(AID): #1ccGe56T (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1721305605.A.19D.html
Yude0109: 藍白仔夢想國度1F 36.224.66.61 台灣 07/18 20:27
Pheromone: 你要付保護費還是被這白癡國統治?2F 223.141.208.243 台灣 07/18 20:27
busta51: 八卦版理想國度3F 60.251.43.24 台灣 07/18 20:27
devidevi: 教AI如何說謊4F 49.159.219.21 台灣 07/18 20:28
abian: https://i.imgur.com/2MCrlDe.jpg5F 220.129.93.138 台灣 07/18 20:28
[圖]
av08: 我們有chatdpp6F 111.83.129.185 台灣 07/18 20:28
ivorysoap: dpp的ai模型勞改完沒?7F 39.14.57.95 台灣 07/18 20:28
ieolight: 跟塔綠斑一樣的做法8F 1.171.5.150 台灣 07/18 20:28
sola01078272: 怎麼跟民進黨那個一樣 輸入自己的價9F 27.240.216.210 台灣 07/18 20:28
fish880731: 這種垃圾還能叫做AI嗎?10F 223.138.2.14 台灣 07/18 20:28
sola01078272: 值觀 笑死11F 27.240.216.210 台灣 07/18 20:28
devidevi: 5F為什麼鼓勵一下就能說出來??
資料庫有,直接問不會回答,但還是能問12F 49.159.219.21 台灣 07/18 20:29
TienWo: 怎麼沒人ai近平宣布台灣可以獨立14F 42.72.169.101 台灣 07/18 20:29
ninggo: 民進党表示羨慕15F 118.231.176.144 台灣 07/18 20:30
basketkdash: 民進黨該去取經學習了16F 126.78.48.42 日本 07/18 20:30
abian: 窩不知道,只是想鼓勵它 (′‧ω‧‵)>17F 220.129.93.138 台灣 07/18 20:30
sid3: 賴稱作洗滌人心18F 114.45.62.133 台灣 07/18 20:30
qwe78971: Dppai又領先 青鳥仔夢想國度19F 27.247.37.143 台灣 07/18 20:31
livewater: chatdpp也被抓去改造變成新造的AI20F 117.56.242.139 台灣 07/18 20:32
kenco: 嫩。只會學綠共21F 36.232.9.248 台灣 07/18 20:32
sushi11: 8x8=多少?22F 101.10.45.248 台灣 07/18 20:32
bbboy: 中國人好可憐23F 42.73.114.100 台灣 07/18 20:32
q123212: 綠共表示又可以抄了24F 27.247.158.7 台灣 07/18 20:34
meredith001: 柯CF:中共官員素質高25F 36.225.159.249 台灣 07/18 20:34
fantasyth: 2+2=4的自由沒了26F 174.243.49.171 美國 07/18 20:34
daviddogtw: 有生之年能看到左派和右派AI對決吧27F 123.192.96.63 台灣 07/18 20:35
chein17: 支八版表示支持 習草包又做對了28F 1.200.1.176 台灣 07/18 20:35
sorrywow: 小紅書ㄏ29F 111.246.118.12 台灣 07/18 20:35
jodawa: AI要被送去勞改了30F 219.70.152.25 台灣 07/18 20:35
banrifpb: 台灣又領先中國了 chatdpp~~31F 118.161.141.135 台灣 07/18 20:36
shine32025: CHATDPP32F 1.170.166.114 台灣 07/18 20:44
donation12: 這就是50年後被人笑話的模型...
AI做這種大型語言模型的理念33F 114.24.221.219 台灣 07/18 20:44
eeccms: CHATDPP:35F 27.247.97.202 台灣 07/18 20:45
louiswei1986: chatdpp 笑死36F 27.53.121.57 台灣 07/18 20:45
donation12: 被這樣訓練,是無法有實用性的37F 114.24.221.219 台灣 07/18 20:45
froce: 我們先送chatdpp去勞改了,西台灣又晚了一步。
台灣再次領先世界38F 36.233.235.34 台灣 07/18 20:46

--
作者 Jiun65 的最新發文:
點此顯示更多發文記錄