顯示廣告
隱藏 ✕
回列表(←)
Disp BBS guest 註冊 登入(i) 線上人數: 1092
首頁(home) 上頁(↑) 下頁(↓) 末頁(end)
※ 本文轉寄自 ptt.cc 更新時間: 2023-12-30 08:51:13
看板 PC_Shopping
作者 oopFoo (3d)
標題 Re: [閒聊] 現在橫空出世的NPU
時間 Fri Dec 29 06:44:08 2023

NPU還是很有用的，以後應用會越來越多。

我舉個遊戲應用的例子。

現在遊戲對話都是固定死的。但用現代ai可以活潑很多。我大概解釋一下技術流程。

玩家用語音跟遊戲角色對話。
用Whisper轉換語音到文字。
用bert/gpt來分析文字的情緒與關鍵字。
用RAG(embedding vector database)來取出遊戲設計的答案。
如果跑得動，用gpt+答案+情緒prompt來回答。這是最有變化的。
跑不動gpt，就用預先(gpt+答案+prompt)錄好的回答。這只要bert+vector database。
也可跑自然聲的TTS來說話，這個目前還有很大的(問題/發展空間)
這些是npu剛好可以實踐的東東。

------------------
以上是我在某個call center的案子得到的靈感。
現在國外很多公司辦公的流程也是在弄這些ai。重點是提高品質，並不是取代人。

--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 219.70.128.119 (臺灣)
※ 作者: oopFoo 2023-12-29 06:44:08
※ 文章代碼(AID): #1bZVezuB (PC_Shopping)
※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1703803453.A.E0B.html
※ 同主題文章:
　 12-28 08:05 oopFoo. ■ Re: [閒聊] 現在橫空出世的NPU
● 12-29 06:44 oopFoo. ■ Re: [閒聊] 現在橫空出世的NPU
推 sheng76314: 是這樣嗎 那一張3060比npu有用多了吧1F 111.255.65.65 台灣 12/29 07:05
推 ltytw: GPU要有GPU的樣子2F 114.33.46.227 台灣 12/29 07:07
推 sheng76314: 內文說的 CPU+3060都跑的好好的 不覺3F 111.255.65.65 台灣 12/29 07:10
→ sheng76314: 得npu有特別優勢
推 wind183: 現在npu尷尬的地方在於它能做的事gpu也5F 123.192.158.248 台灣 12/29 07:21
→ wind183: 做得來，gpu做的來npu做不到或是效能很
→ wind183: 差
→ wind183: 只能期望未來軟體能針對npu做優化然後np
→ wind183: u晶片規模也能上去吧，但到時功耗又是一
→ wind183: 個問題
推 yenchieh1102: 推11F 42.71.215.17 台灣 12/29 07:35
推 widec: 第一個做出內建gpt的開放世界應該會紅很久12F 1.165.11.2 台灣 12/29 08:25
→ justicebb: 跑很久是真的，每次對話都要跑一次13F 123.110.195.144 台灣 12/29 08:28
推 ltytw: 我不覺得這遊戲會紅   等對話生成要等好幾14F 114.33.46.227 台灣 12/29 08:30
→ ltytw: 秒吧？  而且有時會跳針或跨服聊天？
→ ltytw: skip流的speedrun玩家不會喜歡
→ justicebb: 而且頂多是用在罐頭任務之類的玩意，17F 123.110.195.144 台灣 12/29 08:32
→ justicebb: 用在主框架上還要加一堆限制，會需要
→ justicebb: 重跑N次
→ Ceferino: 不懂一直在吹gup幹麻，跑4k時喊不夠跑20F 118.231.145.189 台灣 12/29 08:38
→ Ceferino: 推論又說好好的，自助餐吃好吃滿
→ widec: 遊戲不是把gpt弄進去就完事22F 1.165.11.2 台灣 12/29 08:47
→ widec: 還要寫出適合的遊戲類型
→ widec: 而NPU的目的不就是自己做AI演算嗎
→ widec: 比如像模擬市民這類就很容易整合AI
推 littlefish1: 不否認未來有用途，但現在買soc附帶26F 220.141.152.105 台灣 12/29 09:01
→ littlefish1: 的npu等到應用成熟早就不堪使用了，
→ littlefish1: 還得買最新一代，消費者不要過早為
→ littlefish1: 它買單付出溢價是重點
→ oopFoo: 剛開始模擬類型比較適合，如大逆轉裁判，30F 114.45.136.16 台灣 12/29 09:19
→ xxxx9999xxxx: 用在戀愛遊戲，攻略難度倍增。31F 223.138.49.99 台灣 12/29 09:19
→ oopFoo: avg遊戲，美少女夢工廠這類的。32F 114.45.136.16 台灣 12/29 09:21
→ Ceferino: 不爽可以去買AMD，如果每家都硬綁該想33F 118.231.145.189 台灣 12/29 09:23
→ Ceferino: 的是你為什麼這麼抗拒
推 xxxx9999xxxx: ai*少女dlc 「真」，npu即時口說互35F 223.138.49.99 台灣 12/29 09:31
→ xxxx9999xxxx: 動，滑鼠無用。
推 mayolane: 不是欸，AMD的Phoenix跟Hawk Point上面37F 223.137.209.74 台灣 12/29 09:33
→ mayolane: 也有NPU啊
→ BruceChang: 攻略難度不一定增加...沒擋好會直接被39F 223.136.101.250 台灣 12/29 09:39
→ BruceChang: 話術催眠XD
→ oopFoo: 被話術催眠也是玩點啊XD41F 114.45.136.16 台灣 12/29 09:55
→ oopFoo: 這個東東會越來越成熟越來越有趣
→ Makeinu: INTEL幾年前還有推出過的VPU，想拿來做邊43F 211.72.5.154 台灣 12/29 09:58
→ Makeinu: 緣運算，結果一下子就停產了
推 pcfox: 肥宅的春天45F 36.231.107.72 台灣 12/29 10:14
推 chchwy: 玩遊戲的時候 GPU 沒空算這種東西好不好46F 125.227.69.169 台灣 12/29 10:34
→ chchwy: ，一定要讓其他東西來做
推 RaiGend0519: 10年後KK園區都塞滿機房，連人都不48F 111.83.8.22 台灣 12/29 10:48
→ RaiGend0519: 要了
推 lolpklol0975: NPU 用在低功耗筆電, 伺服器電競電50F 49.217.113.142 台灣 12/29 11:10
→ lolpklol0975: 腦都馬用GPU
推 lolpklol0975: 而且NPU也沒辦法處理參數太大的模
→ lolpklol0975: 型
→ guanting886: 遊戲最終目的還是娛樂玩家 Ai 只是54F 42.78.108.181 台灣 12/29 11:23
→ guanting886: 輔助開發公司把一些非主線且繁瑣的
→ guanting886: 工作由他來補
→ guanting886: 而且生成的內容也不太能脫離主線或
→ guanting886: 意外劇透
→ guanting886: 一開始可能很新鮮 久了就跟手遊的每
→ guanting886: 日任務一樣無聊
推 kamichu: codemiko就正在開發結合chatgpt的61F 36.232.155.156 台灣 12/29 11:27
→ kamichu: 遊戲
推 guanting886: 那他的粉絲就要為這些token買單63F 42.78.108.181 台灣 12/29 11:30
→ guanting886: 預先處理好成本可以控制，動態產生
→ guanting886: 未來都要持續算錢
→ guanting886: 像模擬市民這個遊戲沒太高科技的輔
→ guanting886: 助下製作到現在相當成熟，如果還要
→ guanting886: 再導入現在的Ai…你就要問 你到底是
→ guanting886: 在做遊戲 還是在做專業社會科學模擬
→ guanting886: 軟體XD
→ oopFoo: 遊戲本身設計還是最重要的，AI真的只是輔71F 114.45.136.16 台灣 12/29 11:48
→ oopFoo: 助。變成每日任務，乾脆讓ai來掛著玩
→ oopFoo: AMD的問題是。npu有的有，有的沒有，也不
→ oopFoo: 了解它在client端的策略。也不自己開放sdk
→ oopFoo: 是掛在onnx下面。沒有很清楚的roadmap
推 roiop710: 可以瑟瑟對話了76F 27.52.196.154 台灣 12/29 12:04
→ sdbb: H-Game77F 112.104.66.116 台灣 12/29 12:33
→ ILike58: 怎麼覺得開發遊戲開始複雜了起來，有些決78F 223.136.36.133 台灣 12/29 13:01
→ ILike58: 策的部分套用AI是不錯，像棋手這類專競技
→ ILike58: 方面，可是一般人遊戲其實也就跑跑劇本，
→ ILike58: 套AI實際上遊戲的本質會提升多少是蠻值得
→ ILike58: 商榷的。
推 AmigoSin: 推，有趣的應用83F 114.136.188.166 台灣 12/29 13:30
→ ehai0725: 感覺意義不大，你有大量生成需求就用顯84F 27.51.105.50 台灣 12/29 13:48
→ ehai0725: 卡，小量用cpu也能跑，npu一個食之無味
→ ehai0725: 棄之可惜
→ ehai0725: 啊你套用ai npc每個舉動要等他跑根本沒
→ ehai0725: 有人玩得下去
推 sdbb:89F 112.104.66.116 台灣 12/29 13:55
→ widec: 怎麼大家都預設十年後AI還是跑在server上90F 1.165.11.2 台灣 12/29 14:01
→ widec: AI這玩意兒就是要在客戶端並客戶化才能起飛
推 garlic1234: 一個遊戲叫你要等十年的話，哪會有人92F 42.71.44.40 台灣 12/29 14:11
→ garlic1234: 買單，這都還是研發端的部分，要到最
→ garlic1234: 終消費者端還要好幾年
推 Amulet1: 這東西如果能跟VR結合，那蘋果有救了95F 42.72.218.126 台灣 12/29 14:16
推 labbat: 從FPU到APU，從APU到NPU96F 27.247.226.61 台灣 12/29 14:44
推 Litfal: 玩家都很懶的，你讓玩家用語音指令，玩家97F 39.10.50.183 台灣 12/29 15:12
→ Litfal: 會說還不如我滑鼠點一下快
推 Litfal: 看看VR，視覺回饋那麼強，還不是懶得玩
推 xxxx9999xxxx: 你確定連續動作時，還是口說好，例100F 223.138.49.99 台灣 12/29 15:36
→ xxxx9999xxxx: 如：蜜雪兒換一下。
→ pxhome: 請給我木頭，請給我黃金102F 36.230.172.140 台灣 12/29 15:58
推 ziya: 你可以去看目前最強的Ai  neuro-sama 觀察103F 59.126.199.180 台灣 12/29 16:43
→ ziya: 那個回話應對 真的是很可怕
→ ILike58: 蜜雪兒換一下.....是我想的那樣嗎XD。105F 223.136.36.133 台灣 12/29 17:10
推 WiLLSTW: PVE敵人AI不能用AI 會變糞game  這東西106F 49.216.185.197 台灣 12/29 18:02
→ WiLLSTW: 需要的是精巧的設計 更像是發條玩具
→ widec: 現在不是在聊NPU這玩意的用處嗎108F 1.165.11.2 台灣 12/29 18:45
→ scarbywind: npu便宜阿... nv卡東卡西還限東限西109F 114.46.94.199 台灣 12/29 20:24
→ chauan: 用在不是支線任務的路人NPC不錯啊110F 172.56.113.214 美國 12/30 00:19
→ chauan: ，不會只有固定幾種罐頭訊息
推 a1e: 這還是第一代，不要奢望性能能多好，不如等112F 118.160.132.1 台灣 12/30 02:47
→ a1e: 個兩、三代算力提升後再看看

--
※ 看板: PC_Shopping　文章推薦值: 0 目前人氣: 0 累積人氣: 107　
作者 oopFoo 的最新發文:
點此顯示更多發文記錄
分享網址: 複製 已複製
→
guest
x)推文 r)回覆 e)編輯 d)刪除 M)收藏 ^x)轉錄 同主題: =)首篇 [)上篇 ])下篇