看板 Stock
作者
標題 Re: [請益] ai晶片除了server還可以裝在什麼東西上
時間 Tue May 30 10:56:02 2023
作者
標題 Re: [請益] ai晶片除了server還可以裝在什麼東西上
時間 Tue May 30 10:56:02 2023
※ 引述《OoShiunoO (機機勳)》之銘言：
: 如題，這兩天server odm股票都大漲了，其實本質上應該還是硬體廠思維，只是原本的serv
: er特化成gpu型。
: 那麼，除了server以外，還有哪些臺廠擅長的東西可以跟ai結合的呢？
ai 泡沫化的可能性滿高的唷，我覺得現在 nv 主要就是受惠軍備競賽跟幾間獨大的公司吧，台灣政府也因為這波投了不少錢在超級電腦上，但這種比賽終究是虛的，要能賺到錢才算阿，最後 gpt 應該只會剩下 openai/微軟而已，頂多再多個 Google 或 Meta
chatgpt 目前主要的應用在企業端還是用 openai 的 api ，而且還沒殺手級的應用，頂多就把本來的內部資料庫搜尋變的比較智慧，一般公司自己訓練或布署以現階段來說應該還沒有，成本太高了，而呼叫 api 只要租用一般 awa cpu server 就好了，主要運算還是在 openai 的 gpu server 上
我覺得這波主要還是看 openai 會買 nv 的 卡買到什麼程度啦，但微軟聽說也在開發自己的 gpu，這對 nv 來說就麻煩了
所以你說現在像網路泡沫嗎？我覺得沒殺手級應用的話就是真的很像阿XD
-----
Sent from JPTT on my Xiaomi M2004J19C.
--
~宅男的四個徵兆~
![[圖]](/img/ansi/4/4c8a561350.png)
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.163.153.33 (臺灣)
※ 作者: Arim 2023-05-30 10:56:02
※ 文章代碼(AID): #1aTMN5Qv (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1685415365.A.6B9.html
※ 同主題文章:
05-30 10:08
Re: [請益] ai晶片除了server還可以裝在什麼東西上
05-30 10:56
05-30 11:53
05-30 12:48
05-30 13:52
05-30 15:03
推 : 多變成國家級軍備競賽了 政府補助 企業競爭 應用面廣 比什麼元宇宙 虛擬貨幣好太多
虛擬貨幣 元宇宙都有人能天天來這瞎吹 照他們邏輯AI直接勃起到宇宙銀行
宇宙銀河1F 05/30 10:57
虛擬貨幣 元宇宙都有人能天天來這瞎吹 照他們邏輯AI直接勃起到宇宙銀行
宇宙銀河1F 05/30 10:57
噓 : 還在chatgpt 現在一堆變形蟲惹6F 05/30 10:58
→ : 金礦有沒有不知道 賣鏟子倒是輸不了7F 05/30 10:58
aws 的 cpu server 肯定也會成長的..先被取代的是客服推 : 一句話 賣的就是算力 以後世界 算力需求只多不少8F 05/30 10:59
→ : 老黃在虛擬幣發現大祕寶9F 05/30 10:59
※ 編輯: Arim (118.163.153.33 臺灣), 05/30/2023 10:59:44企業級尖端人工智慧平台 | NVIDIA AI
搭配運算、軟體、AI 模型與服務等創新的世界最先進的全端 AI 平台。 ...
搭配運算、軟體、AI 模型與服務等創新的世界最先進的全端 AI 平台。 ...
推 : 老黃有打算做個出租算力給小公司來訓練AI
理論上能解決小公司無法投資大量硬體問題12F 05/30 11:01
訓練也要養 RD 阿，這成本超高理論上能解決小公司無法投資大量硬體問題12F 05/30 11:01
→ : BTC當初也喊得很大聲 說要取代實體貨幣喔
好像全世界走透透只要有網路就行
實際上要炒的時候餅看起來香又大 吃下去發現都是毒14F 05/30 11:02
※ 編輯: Arim (118.163.153.33 臺灣), 05/30/2023 11:04:02好像全世界走透透只要有網路就行
實際上要炒的時候餅看起來香又大 吃下去發現都是毒14F 05/30 11:02
推 : 夢想很大 問題一堆17F 05/30 11:04
→ : 這些算力 電哪來啊 餅都很大啦 產出不划算阿18F 05/30 11:04
→ : 正確要說核心產業有受惠 但一些沾醬油亂噴的要小心19F 05/30 11:05
cpu server 肯定會成長啦，而且應該不會輸給 gpu server※ 編輯: Arim (118.163.153.33 臺灣), 05/30/2023 11:07:09
推 : AI 能如果可以發展成人機的溝通介面很有fu糗阿20F 05/30 11:07
推 : 股價都是先漲再說21F 05/30 11:10
→ : 跟自駕車有點像吧，是可行但例外的事太多，真的要完全取代還有路要走，現在也只能解決繁雜的重複動作22F 05/30 11:11
推 : AI 能走入一般人生活應用就很堪用了 現在的語言助理真的不夠好25F 05/30 11:11
推 : 不是只有chatgpt需要算力而已……27F 05/30 11:19
推 : 還有一間 特斯拉阿 ai用很久
人機介面 火箭 機器人 都要ai28F 05/30 11:21
特斯拉是用 nv 的卡嗎？人機介面 火箭 機器人 都要ai28F 05/30 11:21
→ : 現在語言助理比起來真的像智障一樣，期待導入應用光翻譯最終若能達到即時口譯等級，那應用就超大了30F 05/30 11:22
※ 編輯: Arim (118.163.153.33 臺灣), 05/30/2023 11:24:34推 : 阿斯拉，夥計32F 05/30 11:26
→ : 少在那邊...33F 05/30 11:31
推 : 我覺得即時口譯真的很需要 不用在跟智障一樣打google翻譯 然後還要轉給對方看
光出國可以 租一個即時口譯AI助理 一堆人都會買單34F 05/30 11:31
光出國可以 租一個即時口譯AI助理 一堆人都會買單34F 05/30 11:31
推 : 迪士尼或是電影特效引入ai做動畫應該可以省下很多人力37F 05/30 11:33
推 : 只要繼續競爭就有賺 元宇宙都收了39F 05/30 11:37
推 : 光office+AI就射了
然後AI做色色圖片/影片 人人都是導演 阿斯40F 05/30 11:39
然後AI做色色圖片/影片 人人都是導演 阿斯40F 05/30 11:39
噓 : 這樣還不夠殺手級？42F 05/30 11:42
→ : 光蘋果要是把sirius改成chatgpt.... 這個就有得噴了43F 05/30 11:43
噓 : 滿可憐的44F 05/30 11:44
噓 : 殺豬公思維45F 05/30 11:51
推 : #這次不一樣46F 05/30 11:57
→ : 以後的手機都AI雲端計算了根本不用裝cpu
這樣又省電又省空間還不發熱47F 05/30 11:59
這樣又省電又省空間還不發熱47F 05/30 11:59
推 : 蘋果跟特斯拉早晚會導入Ai的辣49F 05/30 12:06
推 : 自駕系統本身就是一種AI AI運算有很多種形式 不是OpenAI那種才是AI Deepmind也是AI啊50F 05/30 12:23
推 : 對微軟來說光是搜尋引擎份額增加就夠了52F 05/30 12:28
噓 : 太多可以應用了好嗎？光是汽車自動駕駛的升級53F 05/30 12:29
→ : 現場還卡在chatgpt4連網效能慢54F 05/30 12:29
→ : meta llama 已經 open 了，全民可自建55F 05/30 12:39
推 : 特斯拉的自駕模型肯定是用NV訓練的呀56F 05/30 12:45
噓 : 身為行業內的人士覺得你可以再想一下57F 05/30 12:51
→ : 自駕應該是很有可能達成的AI應用，以後買車就要比自駕系統58F 05/30 12:54
推 : 可用裝置太多了。通訊裝置即時語言互轉。家電能玩的也一堆，例如ai家管，洗衣機冷氣機掃地機器人什麼時候動都幫你training好。個人電腦文書生產工具相關的功能更強更方便60F 05/30 12:54
→ : AI女友 相信很多宅宅會很喜歡，這是一個大趨勢
chatgpt讓這部分有了可能64F 05/30 12:55
chatgpt讓這部分有了可能64F 05/30 12:55
推 : 再來就是人力的汰換，例如櫃檯行政人員、銀行行員，甚至教育也能用ai66F 05/30 12:57
噓 : 自製晶片真的想太多惹
尼自製到大量使用/上市 最少四五年
四五年後世界又變惹
所有自製ai晶片跟startup都會遇到這問題
而且LLM這種training巨獸目前只有老黃能扛
cuda不說 尼光要跟他拚卡&卡之間io都是死68F 05/30 13:26
自製晶片不見得要賣啊，可以自己用，賣服務就好尼自製到大量使用/上市 最少四五年
四五年後世界又變惹
所有自製ai晶片跟startup都會遇到這問題
而且LLM這種training巨獸目前只有老黃能扛
cuda不說 尼光要跟他拚卡&卡之間io都是死68F 05/30 13:26
→ : scaling老黃整套 沒人能跟他打74F 05/30 13:28
推 : 老黃的AI已經成神了 AI繪圖的技術我單看paper還看不懂 跟去年2022的神經網路技術完全不一樣= =
說會泡沫化的是拿什麼屁都沒有的元宇宙來比較的嗎75F 05/30 13:42
說會泡沫化的是拿什麼屁都沒有的元宇宙來比較的嗎75F 05/30 13:42
推 : 一個人的武林是很寂寞孤單的？==78F 05/30 13:51
噓 : 應用太多了79F 05/30 14:02
![[圖]](https://i4.disp.cc/imgur/x8LuOfG.jpg)
推 : 的確如此，不過現在在泡沫裡的沒幾個人聽的進去81F 05/30 15:56
推 : Ai繪圖是Gan 2015就有了 diffussion也差不多時間就有，你2023才發現還覺得他比2022的paper難？？
而且那paper有啥難得，公認最難的生成模型是VAE，不過這東西根本沒人在用了，GAN或是Diffsssion都是很簡單的 gpt的transformer更不用說了，背後的數學原理大概是高中生就能懂的82F 05/30 16:48
而且那paper有啥難得，公認最難的生成模型是VAE，不過這東西根本沒人在用了，GAN或是Diffsssion都是很簡單的 gpt的transformer更不用說了，背後的數學原理大概是高中生就能懂的82F 05/30 16:48
推 : 最難的生成模型VAE……我看了神馬（汗88F 05/30 17:02
推 : 你覺得VAE很簡單嗎？
VAE背後的數學原理是variational inference, 這本身就是一個大坑，很多博士畢業都不是非常了解
既然你覺得這麼簡單，那不如你來說說看簡單在哪裡我洗耳恭聽
當年我在研究variational inference 的時候，指導我得是一個北京清華cs本科，MIT博士畢業的博後，他直接跟我說，他博士畢業後也不是很懂這東西，叫我不要期待自己博士期間就能搞懂
沒想到有人覺得很簡單，看來我真是太弱了，真是抱歉89F 05/30 17:06
※ 編輯: Arim (118.163.153.33 臺灣), 05/30/2023 17:32:53VAE背後的數學原理是variational inference, 這本身就是一個大坑，很多博士畢業都不是非常了解
既然你覺得這麼簡單，那不如你來說說看簡單在哪裡我洗耳恭聽
當年我在研究variational inference 的時候，指導我得是一個北京清華cs本科，MIT博士畢業的博後，他直接跟我說，他博士畢業後也不是很懂這東西，叫我不要期待自己博士期間就能搞懂
沒想到有人覺得很簡單，看來我真是太弱了，真是抱歉89F 05/30 17:06
推 : 沒這回事 未來是ai的99F 05/30 17:43
噓 : 紅明顯 特斯拉自駕是用他們自己的晶片
曲博科技有一集有講到 用NV訓練是很久以前的事情了用他們自己的晶片所造的伺服器100F 05/30 17:51
曲博科技有一集有講到 用NV訓練是很久以前的事情了用他們自己的晶片所造的伺服器100F 05/30 17:51
推 : 預測天氣4000x快 這叫沒有應用嗎103F 05/30 18:27
問題是可以賺多少錢How AI and Science Can Mitigate Climate Change | NVIDIA Blog
![[圖]]()
NVIDIA’s director of machine learning research highlights a physics-informed machine learning operator that can help mitigate climate change. ...
![[圖]](https://blogs.nvidia.com/wp-content/uploads/2021/11/hurricane-matthew-simulation.jpg)
推 : 這蠻厲害的 氣象應該是通用型超算的領域
沒想到GPU的可以快成這樣106F 05/30 21:07
※ 編輯: Arim (118.163.153.33 臺灣), 05/31/2023 06:25:23沒想到GPU的可以快成這樣106F 05/30 21:07
推 : 股價在狂漲後修正是必然，但是人類發展到這裡，越來越強的AI計算，不會回頭。帶動更大的記憶體裝置也是必然。不會什麼事都交給雲端，你自己的終端什麼都不做，裝個8051加上1M記憶體，連收一張大奶妹圖都要幾十分，不可能的。108F 05/31 11:51
--