回看板
Disp BBS
作者 y2468101216 (芸)
標題 Re: [討論] chatGPT會取代軟體工程師嗎?
時間 Tue Mar  7 16:39:01 2023

提供一個有趣的觀點

在 堆疊溢出 的網站有關於一則公告內容是禁止 chatgpt 回文。
底下有一個 AI 研究員的論點很有趣。

https://meta.stackoverflow.com/questions/421831/
Temporary policy: ChatGPT is banned - Meta Stack Overflow
[圖]
Use of ChatGPT1 generated text for content on Stack Overflow is temporarily banned.
Please see the Help Center article: Why posting GPT and ChatGPT ge ...

 
temporary-policy-chatgpt-is-banned?cb=1

有意願看英文詳細的可以直接搜尋TL;DR，第三個就是了。
我這邊簡單敘述大意

stackoverflow 應該禁止所有 AI 回文，因為 chatgpt 是基於 stackoverflow 上
訓練的，如果 stackoverflow 不禁止會導致無法訓練 2022 年以後的 AI，
因為 AI 無法分辨訓練資料這是 AI 回文還是人類回文，會導致 Circular reasoning。

這意味著 AI 還是是需要真正人類的資料去訓練，如果不訓練就無法進步。

除非你的公司有 FAANG 一樣大，不然我不認為可以訓練出足夠強大的 offline
chatgpt。

我覺得這個論點很有趣的地方在於，實務上你是無法禁止AI回文的，也就是說 AI 訓練
會出現一個死胡同，越強的語言模型會被濫用的越嚴重，最終會有一個上限。

我大概可以猜測為何使用 stackoverflow 訓練，因為有問題有答案，答案還
大部分都有標準解答，跟 chatgpt 與你聊天的模式有點像。


簡單來說你想用 chatgpt 解決工程師就會有雞生蛋，蛋生雞的問題。
你開除工程師，就沒訓練資料可用，沒訓練資料可用的 chatgpt 就不能產生 code
最終還是要請工程師開發。

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.226.10.119 (臺灣)
※ 作者: y2468101216 2023-03-07 16:39:01
※ 文章代碼(AID): #1a1lWe1R (Soft_Job)
※ 文章網址: https://www.ptt.cc/bbs/Soft_Job/M.1678178344.A.05B.html
※ 同主題文章:
[討論] chatGPT會取代軟體工程師嗎?
03-07 11:02 isaacting
Re: [討論] chatGPT會取代軟體工程師嗎?
03-07 16:39 y2468101216
推 quickbym1: 酷1F 03/07 17:09
推 RayLeeRock: 很有意思的觀點2F 03/07 18:27
推 ohmylove347: 可以換個角度，能被AI回答的問題，本身就屬於 已解決/爛問題 ，比起禁止AI回答，不如說是禁止能被AI輕易解答的問題發文，像是Quora好像就有導入相關使用3F 03/07 18:34
→ GoalBased: 禁的原因是因為錯誤率太高但是回答品質又高。我在review 的時候都會覺得是高品質的回答但答案卻是錯的
而且那種code 會有人覺得寫的很好，但其實在很多情況下會出bug6F 03/07 18:51
推 JaccWu: 簡單來說  AI回文可能導致從自己身上學習
使得既有的錯誤被強化這樣？
AI自己污染了訓練資料10F 03/07 19:02
→ jonathan793: 不認同 因為最後答案還是人去標的 如果ai回錯了就不會被當成訓練資料13F 03/07 19:40
→ superpandal: 所以閉源好 自己寫的又跟別人寫的很不一樣
黑魔法就是讚15F 03/07 20:52
推 yueayase: 讚，這表示工程師的思路才是真正有價值的地方17F 03/07 21:34
推 shortoneal: 所以標仔也得是個高手，不然難一點的問題你連判斷他對不對都沒辦法18F 03/07 21:47
→ bnd0327: 挑點讚率高的答案就好啦，哪需要人肉標20F 03/07 22:58
推 TAKADO: 就是訓練時拿已經被AI標過的資料再回去餵AI，或是兩套AI戶餵資料，就會發生各種神奇現象。21F 03/07 23:22
推 maypcc: 不會啊，因為2022後又不是只有chatgpt回文
還是會有真人回23F 03/08 01:01
推 now99: 拿奇摩知識+的資料訓練不知道會走鐘成什麼樣子25F 03/08 01:27
推 stu51211: 有趣的切入點 學習了26F 03/08 03:10
→ eva19452002: 再訓練新的AI來判斷是AI回文或是人類回文不就好了27F 03/08 05:58
→ ku399999: 6樓才是對的28F 03/08 06:31
推 EKman: 就是ai 還不夠強大啊，似懂非懂要怎麼用
跟死胡同是不同的兩個問題29F 03/08 08:31
比較好的做法確實是挑打勾的答案，目前這個結論是推測 chatgpt 沒有這樣做。
至於不這樣做的原因不知道，我猜是因為要更多訓練資料吧。
因為這個是語言模型，不是 coding ai。
※ 編輯: y2468101216 (1.171.133.82 臺灣), 03/08/2023 10:13:52
推 jobintan: 如果ChatGPT的相關數據是出於StackOverflow的話，那麼，StackOverflow應該有權要求ChatGPT付費。31F 03/08 10:16
→ lycantrope: chatGPT就很適合用在產ptt廢文 頭頭是道但內容錯誤33F 03/08 10:32
推 jason017050: 說的真好34F 03/08 11:39
→ Ekmund: chatgpt商用的話 有權要他支付授權費用的單位會多到爆...相較於圖文創作和數據 code可能反而還好35F 03/08 12:29
→ bheegrl: 取代版上廢文應該是沒問題了，至少還頭頭是道37F 03/08 12:34
推 jay123peter: 有趣的文章！38F 03/08 13:12
→ ku399999: 簡單理解一下gpt原理就知道為什麼他不這麼做
他根本不理解自己在輸出什麼39F 03/08 13:20
→ DrTech: 我還以為這是常識耶，本壘就不可能取代工程師，不然誰產生資料…。取代的是搜尋參考資料的時間而已。取代的是Google搜尋的使用次數而已。41F 03/08 13:26
推 keepxha: 被取代的是google！？44F 03/08 14:10

--
作者 y2468101216 的最新發文:
點此顯示更多發文記錄