回看板
Disp BBS
看板 Stock
作者 mooto (退出會比較好, 就退出)
標題 Re: [請益] AI伺服器成本分析——記憶體是最大的輸家
時間 Mon May 29 23:49:51 2023

※ 引述《neone (neone)》之銘言：
: 剛看到半導體產業分析機構semianalysis的這篇新文章:
: https://www.semianalysis.com/p/ai-server-cost-analysis-memory-is
: 雖然沒付費只能看到部分
: bing摘要:
: 這篇文章的核心內容是分析人工智能伺服器的成本。文章指出，隨著數據中心建設的瘋狂
: ，市場也隨之瘋狂。但是，有許多公司並不應該因此而受益。文章還提到，IT預算有限，
: 因此Nvidia銷售額的增長主要來自於購買較少的非GPU伺服器。文章中還提供了一個標準
: CPU伺服器的成本分解，顯示內存佔伺服器成本的近40%。文章最後指出，在人工智能時代
: ，普通伺服器的百分比將會下降，並且在數據中心轉向加速計算時，各組件的成本分配也
: 會發生重大變化。

老黃今天展示的那櫃 Grace Hooper
就用了144TB GPU Memory 透過NVLink共享
(NVLink是他們自研的SERDES
 簡單來說就是PCIe更快的介面)
所以重點只是高速 共享
記憶體還是存在的

還有也不用擔心大家嫌貴不買啦
老黃今天不就列了1600家要做AI的公司
挖不挖得到金礦又不關他的事
只要鏟子賣得出去就好了

這種時候大家都爭搶先當第一個啦
有機會變成AI界的m$, adobe誰不幹
在那邊省小錢 到時候就看別人鼠錢
反正新創花的也不是自己錢
燒光當然是再繼續吹

話說老黃真的值得領那個錢
美國人訓練不是蓋的
相比之下今天下午發哥找他來蹭
那些高層講話的台風  投影片的格局 真的差好多喔

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 218.161.53.112 (臺灣)
※ 作者: mooto 2023-05-29 23:49:51
※ 文章代碼(AID): #1aTCcX9v (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1685375393.A.279.html
※ 同主題文章:
[請益] AI伺服器成本分析——記憶體是最大的輸家
05-29 22:13 neone
Re: [請益] AI伺服器成本分析——記憶體是最大的輸家
05-29 23:49 mooto
Re: [請益] AI伺服器成本分析——記憶體是最大的輸家
05-30 01:06 deepdish
推 stlinman: 老黃是創業家，以前可是要自己找風投搞錢的。1F 05/29 23:52
推 Liberl: 應該是說 台灣的高管把自己定位在管理者 而不是業務2F 05/29 23:55
→ WYchuang: Nvidia的Chiplet是不是拿MTK練經驗？3F 05/29 23:55
→ Liberl: 但整間公司最大最應該做業務的是高管
我在某間大型上市公司(0050前半的)當CEO幕僚
CEO幾乎都在辦公室裡批公文 開會 很少出去拜訪
CEO不在公司裡 VP沒一個人敢做決定4F 05/29 23:56
推 freeclouds: 因為有業務副總阿 嘻嘻
CEO都是等別人來公司拜訪的啦8F 05/29 23:58
→ Liberl: 這是台灣企業的陋習 越到高管越不接觸公司業務10F 05/29 23:59
→ freeclouds: 有的公司的CEO 是熱愛批簽呈跟支出單
你以為5萬小錢頂多批到副總 結果竟然要到CEO11F 05/30 00:00
推 goodjop: 大部分第一代CEO 都是業務起家13F 05/30 00:00
推 Liberl: 張忠謀就說過CEO要是個生意人
魏哲家很明顯被他訓練得還算不錯14F 05/30 00:01
→ freeclouds: 家族企業第二代以後的CEO幾乎都是財會出身 真奇怪16F 05/30 00:01
→ goodjop: 白手起家 不會業務 早就倒閉了
因為都送歐美學財經管理
我爸就是業務起家 但我沒接他的事業 我自己創業
從技術專業 再轉業務 然後創業17F 05/30 00:01
推 Shepherd1987: 庫克蘇媽發表會都很尬, 體制內的乖寶寶21F 05/30 00:03
→ bobjohns: 台積電金融海嘯時，張忠謀還不是自己飛美國拉業務，根本是台灣CEO實力太差，表達有問題才一直在管理。22F 05/30 00:06
→ TaiwanUp: 我覺得跟Chairman互補就好 如果Founder都會 就隨便學馬斯克 曾經考慮找BTS當推特CEO24F 05/30 00:07
推 ck326: 現在新創想搞錢沒有之前0利率時代容易ㄅ，呵呵26F 05/30 00:11
→ TaiwanUp: 而且台積電的成功我不覺得是靠業務 純粹是算力需求就如同張忠謀曾經驚嘆 礦卡怎麼會下那麼多單
這難道是他自己找來的客戶嗎27F 05/30 00:13
推 ppuuppu: 老黃領袖特質明顯，台廠高管有幾個能這樣講話吸引人聽30F 05/30 00:15
→ TaiwanUp: 蘇媽的背景和人格特質有自帶業務buff 還有obov力場32F 05/30 00:15
噓 a000000000: 蘇媽就很不會吹   就這點明顯輸給老黃
其他地方夠強惹33F 05/30 00:17
推 ALAHAKBAR: 西方ceo光身材就屌打了...35F 05/30 00:21
推 Argos: 業務型CEO是賈柏斯帶出來的風氣吧36F 05/30 00:22
推 easyman: 平平都是講省電, 蘇嬤只會講比業界快20%
老黃就很會吹, 買越多賺越多37F 05/30 00:22
推 dagehoya5566: 發弟高官格局根本笑話39F 05/30 00:24
推 goodjop: K董的人格特質 就比其他哥哥好
白手起家 又有技術 自然言之有物 業務不是問題40F 05/30 00:24
推 b0117: 蘇媽打工打的很不錯，感覺老黃是真的從自己的vision出發，drive整個公司的走向
蘇媽是管理者，老黃是創業家，格局還是差蠻多的42F 05/30 00:32
→ mooto: 雖然老黃是受邀來computex 但一場演講 只花一部分捧自家產品 剩下的是用(潛在)客戶的產品展示 這我45F 05/30 00:34
推 loveponpon: Morris不就說過 執行長要拉業務要會說47F 05/30 00:35
→ mooto: 真的覺得很厲害 兩小時的show不會太無聊48F 05/30 00:35
推 b0117: 老黃還有一個最強的點，就是他用了很多台灣人49F 05/30 00:36
→ loveponpon: 庫克的發表會 更尷尬哈哈哈50F 05/30 00:36
→ b0117: 這光研發成本就不知道省多少了
不像牙膏一堆印度人佔據，靠嘴巴做事應該不少51F 05/30 00:36
→ mooto: 台灣人好用R  NV比起碼農還是比較血汗的53F 05/30 00:38
噓 a000000000: 老黃講那些東西gtc一值都這樣惹54F 05/30 00:40
推 b0117: 務實做研發，節省研發成本，根本神之正迴授55F 05/30 00:41
推 neone: 老黃的人格魅力和演講技巧 真的CEO少有56F 05/30 00:42
推 mamorui: 今天keynote還不錯57F 05/30 00:47
推 Amulet1: 亞洲都一樣 靠關係就能上去58F 05/30 00:56
→ mooto: 沒有啦 豬屎屋還是很硬核的 台灣比較少在走雙軌制多數主管還是技術職升上去的 這就會碰到彼得原理
說的問題 因為懂技術的人不見得擅長管理或業務59F 05/30 01:00
推 linbryan: 台灣只有function manager. 沒有純manager.你知刺針飛彈.不是由工程師或戰鬥人員開發/想出來的.是由project manger開發/想出來的62F 05/30 01:02
→ SILee: 蘇媽豈止不會吹而已，之前還曾經AMD內部all hand被問問題問到自己惱羞失言搞到犯眾怒，幾個月後一堆工程師跟著主管整組一起走人跳槽 ㄎㄎ65F 05/30 01:03
噓 a000000000: 蘇媽跟老黃出包史尼要去找都是一大串68F 05/30 01:04
推 mynumber55: 賈伯斯也弄出很多包啊，沒什麼69F 05/30 01:07
推 wei9898: 發哥的行銷能力跟高通比如何？70F 05/30 01:10
→ mooto: 發哥顯然不行阿 你看光是去年 對手都出包了 還是有71F 05/30 01:11
推 kkkkk9: ai+vr宏達電要飛了72F 05/30 01:12
→ mooto: 一堆陸廠把它當小的 像發哥這樣的公司 或者說是台灣公司 狼性都不夠 只能穩扎穩打直到對方覺得沒賺頭自己退出 才拿的下市場 就勞碌命73F 05/30 01:12
※ 編輯: mooto (218.161.53.112 臺灣), 05/30/2023 01:14:37
→ TaiwanUp: 其實改成英語系國家就會好很多 可惜這
同時要捨棄更多我們原本熟悉的事物 可能剩下麻花捲76F 05/30 01:20
推 snd: 業務型CEO就是創業過來的人阿78F 05/30 01:41
推 yoshilin: chatBot根本文創業79F 05/30 01:48
推 Heedictator: 中文就是一坨大便80F 05/30 01:57
推 kumabartho: 因為二代都是學商管啊81F 05/30 05:19
→ Armag: 講的好像業務出身的就懂技術？我不是歧視文組，高階主管的價值本來就必須跨足多領域，理工生跨業務、財務比較簡單還是管理跨理工比較容易不用多說大家自有一把尺衡量82F 05/30 07:04
→ tctv2002: 先有技術才有資格談業務好嗎 你什麼都不懂問題在哪 憑什麼讓客戶相信你86F 05/30 07:50
推 s800525: INTEL G叔也是技術出身，還不是很嘴XD
科技業技術就是底，就連庫克也是工業工程出身的88F 05/30 08:20
→ faniour: 庫克（冷笑90F 05/30 08:22
→ CORYCHAN: 老黃是創辦人91F 05/30 08:44
推 zhi5566: i社也很會吹啊 吹到把股東套死死 嘻嘻92F 05/30 09:21
推 Mtcat: 1193F 05/30 09:26
→ Severine: Pat:Intel 4要出啦!要上車的趕快上阿94F 05/30 09:51
推 aegis43210: Q4再上車，現在能買的公司漲完才會輪到i皇95F 05/30 10:11

--
作者 mooto 的最新發文:
點此顯示更多發文記錄