※ 本文為轉錄連結，轉錄者為 Knuckles
※ 本文為 Knuckles 轉寄自 ptt.cc 更新時間: 2023-04-06 18:33:08
看板 Soft_Job
作者 標題 Re: [討論] 用AI寫code產生的疑問
時間 Wed Mar 29 10:36:13 2023
※ 引述《Suleika (Suleika)》之銘言：
: 相信對新技術具有敏銳度的各位，
: 在這幾個月都有使用過AI來幫忙寫code，
: 但在使用過程中不經有一個問題一直迴盪在我的腦海中：
: 「AI幫我快速生成一個feature的模板，
: 我在修改的過程中就像在做code review，
: 公司還需要找初階工程師嗎？」
: 不曉得各位高手們是怎麼看待這個問題的？
https://news.ycombinator.com/item?id=35316526
這篇展示ChatGPT的威力與限制。
他問Bing如何raycast一個有displacement map的geometry.
原po問到最後，答案是不可能或給錯誤的程式。
下面有人回答他把原po的問提去問ChatGPT4，說得到很好的解決。
https://pastebin.com/PPy4vMrU
-----------------------------------------------------------
程式不錯，看來有解決，但其實不然。Displacement map是"per pixel"的效果，你用"per vertex"來運算是毫無意義。
這題一開始的假設就錯了。"per pixel"只能在gpu裡運算，想在cpu raycast "per pixel"的效果，黑人？.jpg
這也是目前LLMs的問題，它其實邏輯能力不行，但有龐大的知識。如果你問的問題不在知識裡？那就是盲人帶領盲人走入死巷。
以前我讀過一段很有道理的話。Programmer’s job is NOT to write code; Programmer’s job is to solve problems。結果現在一堆人一直在寫CRUD
現在AI寫code的風潮，其實是軟體工程的失敗。我們一直在強調DRY，REUSE.....結果現在用AI來重複生成同樣的程式碼，覺得比較有效率？
在某方面這是這是20多年來軟體發展大倒退的結果。以前HyperCard，VB，GUI Builder，4GL把非程式師帶進來開發軟體，軟體元件一副要起飛的樣子。結果現在Web Component有人知道？有人用嗎？
我目前不擔心AI寫code，現在看來只會製造更多智障問題需要更多的程式人員解決。
如果哪天AI真能取代人類，沒工作不是我們需要考慮的問題。
我覺得LLMs很棒，有很多應用用途。但.....
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.231.130.220 (臺灣)
※ 作者: oopFoo 2023-03-29 10:36:13
※ 文章代碼(AID): #1a8wGZOm (Soft_Job)
※ 文章網址: https://www.ptt.cc/bbs/Soft_Job/M.1680057379.A.630.html
※ 同主題文章:
03-28 08:40 ■ [討論] 用AI寫code產生的疑問
03-29 01:13 ■ Re: [討論] 用AI寫code產生的疑問
● 03-29 10:36 ■ Re: [討論] 用AI寫code產生的疑問
04-01 10:20 ■ Re: [討論] 用AI寫code產生的疑問
推 : 很棒啊 讓AI產生垃圾 再讓工程師收爛攤1F 03/29 10:54
→ : 讓大家知道AI不能取代工程師
→ : 讓大家知道AI不能取代工程師
推 : 確實 web仔只會CRUD才在擔心這個3F 03/29 10:57
推 : 太好了 以後有更多bug可以解4F 03/29 11:04
推 : 今天問的是通用AI才是這個結果，未來一定會有專門寫各種5F 03/29 11:41
→ : code訓練有素的AI出現
→ : code訓練有素的AI出現
→ : 自駕還需要幾年？LLMs離真正理解code還要幾年？LLMs為何無7F 03/29 12:13
→ : 法解決"幻想"問題？真正能code的AI還很遙遠。
→ : 我覺得LLMs很好用，但現在寫code，代替search，方向錯了
→ : 法解決"幻想"問題？真正能code的AI還很遙遠。
→ : 我覺得LLMs很好用，但現在寫code，代替search，方向錯了
推 : 喜歡你對 reuse/dry 那段下的論點10F 03/29 12:29
推 : 路上很多餐飲店，並不是每間都要有飯店廚師的能力11F 03/29 12:31
→ : 寫軟體需求越來越大，當然只能多找一些堪用的人才
→ : 寫軟體需求越來越大，當然只能多找一些堪用的人才
推 : 確實13F 03/29 12:49
→ : 推盲人帶盲人進死巷 詠唱咒文念對很重要14F 03/29 14:38
推 : 你把這篇餵給chatGTP. 他就又進化了15F 03/29 15:05
→ : 來個人餵公子吃....
→ : 來個人餵公子吃....
噓 : 喔 那一堆文組已經用AI在coding做產品的是平行世界?17F 03/29 16:41
推 : 樓上方便介紹個由ai開發完成的專案嗎18F 03/29 17:34
→ : 樓樓上指的是chatbot嗎 蛤 o’_’o19F 03/29 17:47
推 : 推這篇20F 03/29 17:48
推 : 哪個產品是AI做的 讓我看看21F 03/29 20:20
![[圖]](https://i4.disp.cc/imgur/pOxQkec.jpg)
推 : 嗯…你應該不太懂 你先把Open-Ended Learning Leads to Ge24F 03/30 02:46
→ : nerally Capable Agents這篇看懂 再來討論AI能不能寫code
→ : nerally Capable Agents這篇看懂 再來討論AI能不能寫code
推 : AI目前無法保證百分百正確，提供思路與框架方便而已26F 03/30 09:22
→ : 如果真的有沒有人工review的AI專案，我也想看看
→ : 如果真的有沒有人工review的AI專案，我也想看看
推 : 用來代替搜尋引擎感覺還不錯28F 03/30 10:00
→ : AI不是用來解決問題?那大家對AI的期望是?29F 03/30 10:21
推 : 不會啊，AI可以生成片段的程式，而且風格近似，光30F 03/30 12:37
→ : 是這樣就減少很
→ : 多打字跟review的功夫。
→ : 是這樣就減少很
→ : 多打字跟review的功夫。
噓 : 軟體工程的失敗？你說失敗就失敗？你誰阿你？33F 03/30 14:21
→ : DRY大家都有在做好嗎？重點不是DRY這觀念 重點是DRY要切割
→ : 到多細小 共用模組要怎麼切 這是永遠沒有一個銀彈的問題
→ : 你仔細去想想為什麼會有重複的code 不是因為大家想重複好
→ : 嗎？是因為真實世界的需求就是有無窮多種
→ : 你模組切太大塊 就沒辦法應付多樣化的需求 切太小 又是跟
→ : 沒切一樣 這你要怎麼解決？講那麼多 終究還是要回歸需求面
→ : 這完全跟什麼邏輯一點關係也沒有 也跟CRUD一點關係也沒有
→ : 今天還是有大量CRUD碼農 就是因為實務端需求面太多樣化了
→ : 跟效率也沒任何關聯 整篇完全不知所云 大概是雲工程師吧
→ : DRY大家都有在做好嗎？重點不是DRY這觀念 重點是DRY要切割
→ : 到多細小 共用模組要怎麼切 這是永遠沒有一個銀彈的問題
→ : 你仔細去想想為什麼會有重複的code 不是因為大家想重複好
→ : 嗎？是因為真實世界的需求就是有無窮多種
→ : 你模組切太大塊 就沒辦法應付多樣化的需求 切太小 又是跟
→ : 沒切一樣 這你要怎麼解決？講那麼多 終究還是要回歸需求面
→ : 這完全跟什麼邏輯一點關係也沒有 也跟CRUD一點關係也沒有
→ : 今天還是有大量CRUD碼農 就是因為實務端需求面太多樣化了
→ : 跟效率也沒任何關聯 整篇完全不知所云 大概是雲工程師吧
推 : 看起來就是學店畢業+小公司的工程師心得感想43F 03/30 23:09
推 : 上面幾樓貶低別人學經歷的做法還蠻糟糕的44F 03/31 07:05
推 : 這跟搜尋引擎不同東西 沒有誰代替誰45F 03/31 12:32
噓 : 目前不就是快速剪貼簿而已，一堆人一直吹屁啊46F 03/31 12:58
→ : 現在的LLMs比較像"群體的智慧"。會是一個很好的另一個意見47F 03/31 17:40
→ : 但太多的"幻想"，對不熟練的人，反而有害。
→ : 但太多的"幻想"，對不熟練的人，反而有害。
推 : 國外論壇有看到在ML跟AI領域深耕多年的工程師，寫道目前49F 04/01 00:55
→ : OpenAI釋出的版本還是弱化版本的，而且他也不曉得為什麼
→ : OpenAI要去弱化這塊，他說現在的AI已經完全可以做到解決
→ : 問題這一段了，也許我們過段時間就能看到他說的那個版本
→ : OpenAI釋出的版本還是弱化版本的，而且他也不曉得為什麼
→ : OpenAI要去弱化這塊，他說現在的AI已經完全可以做到解決
→ : 問題這一段了，也許我們過段時間就能看到他說的那個版本
→ : OpenAI是一直在持續訓練Model，東西會更強。LLMs有很多53F 04/01 11:17
→ : 意想不到的功能，如有點邏輯，有點會算術。但這條路是有
→ : 極限的。像Llama好像有特地訓練算術的部份，就表現比GPT3
→ : 好。但知識是無限的，現在這種訓練方式能達到AGI嗎？我是
→ : 持保留態度。就像自駕碰到瓶頸一樣，LLMs需要更多的研究與
→ : 發展。就目前而言LLMs是很有用的。但問錯方向，給垃圾答案
→ : 是很大的問題與研究課題。
→ : 意想不到的功能，如有點邏輯，有點會算術。但這條路是有
→ : 極限的。像Llama好像有特地訓練算術的部份，就表現比GPT3
→ : 好。但知識是無限的，現在這種訓練方式能達到AGI嗎？我是
→ : 持保留態度。就像自駕碰到瓶頸一樣，LLMs需要更多的研究與
→ : 發展。就目前而言LLMs是很有用的。但問錯方向，給垃圾答案
→ : 是很大的問題與研究課題。
--
→
guest
回列表(←)
分享