顯示廣告
隱藏 ✕
回列表(←)
Disp BBS guest 註冊 登入(i) 線上人數: 545
首頁(home) 上頁(↑) 下頁(↓) 末頁(end)
※ 本文轉寄自 ptt.cc 更新時間: 2024-10-21 21:03:53
看板 Stock
作者 LDPC (Channel Coding)
標題 Re: [請益] 這波AI產業是牛市最久的一次嗎
時間 Mon Oct 21 01:58:00 2024

https://reurl.cc/WNmR8D 問阿祖啊 這是網路上在傳的
底下有個衛星空照圖 https://ibb.co/y4Ww9s6
[圖]
2022阿祖在蓋傳統數據中心 結果AI起來後 為因應AI數據中心 2023五月 阿祖直接把
蓋到一半的數據中心拆掉 重新蓋一次 只為了能更安裝GB200 重新設計散熱和電力
現在就是裁員裁員裁員 瘋狂蓋AI基礎建設

除了硬體外還有 軟體backend升級 你去看現在一堆開缺都是AI Infra Backend缺
裡面要求就是會寫Triton這種 https://triton-lang.org/main/index.html
https://reurl.cc/7d87WD

這玩意就是之前比爾蓋茲說要在軟體上re-engineer 透過這些軟體backend infra
重新設計 整個AI在Infra的速度會更有效率 更節省電力 這也是為啥大家都說
誒 為啥AI還不能落地賣錢 就是AI大基建需要兩年 之後才會有軟體服務
https://triton.csdn.net/66e29f86e2ce0119e0a1ba3b.html
triton具体是个什么框架，triton kernel有什么特殊的地方吗_人工智能_AI生成曾小健-Triton中文社区 总的来说,Triton推理服务器提供了一个强大的平台来部署和优化AI模型的推理,而Triton编程语言则为GPU编程提供了一个更易用和高效的工具。Triton是一个开源的推理服务框架,主要用于部署和优化AI模型的推理过程。Triton-IR(中间表示)将多维数据。一等公民,这使得编译器能更有效地进行 ...

 
http://www.mfbz.cn/a/342750.html

AI基建就是新的AI數據中心 電力優化 以及軟體Backend Kernel重新設計
一堆人已經開始在學軟體上後端開發的技能包 以延續職業生涯
比方說這是蘇媽的triton
https://rocm.blogs.amd.com/artificial-intelligence/triton/README.html
老黃triton
https://aijishu.com/a/1060000000362271
NVIDIA Triton系列文章（1）：应用概论 - 极术社区 - 连接开发者与智能计算生态 推理识别是人工智能最重要的落地应用，其他与深度学习相关的数据收集、标注、模型训练等工作，都是为了得到更好的最终推理性能与效果。 ...

 
摘錄裡面案例
---------------------------------------------------------------
案例1：微软 Teams 会议系统使用 Triton 提升生成实时字幕和转录性能
微软 Teams 是全球沟通和协作的重要工具，每月有近 2.5 亿活跃用户，

其 Azure 认知服务提供 28 种语言的字幕和转录，实时字幕功能帮助与会者实时跟踪对话

转录功能方便与会者在日后回顾当时的创意或回看未能参与的会议，实时字幕对聋哑人、
听力障碍者，或者异国与会者特别有用

底层语音识别技术作为认知服务中的一个 API，开发人员可以使用它定制和运行自己的
应用程序，例如客服电话转录、智能家居控制或为急救人员提供 AI 助手。
认知服务会生成 Teams 的转录和字幕，将语音转换为文本，并识别说话人。
同时也能够识别专业术语 、姓名和其他会议背景，提高字幕的准确性。


微软 Teams 首席项目经理 Shalendra Chhabra 表示：“这样的 AI 模型非常复杂，
需要数千万个神经网络参数才能识别几十种不同的语言。但模型越大，
就越难以经济高效地实时运行。”

为了提高服务质量，微软使用 NVIDIA Triton 开源推理服务软件，来帮助 Teams
使用认知服务优化语音识别模型，以及认知服务所支持的高度先进语言模型，
在极低的延迟状态下提供高度准确、个性化的语音转文本结果，
同时可以保证运行这些语音转文本模型的 NVIDIA GPU 充分发挥计算资源，
在消耗更少计算资源的同时为客户提供更高的吞吐量，进而降低成本。
-----------------------------------------------------------------------


這是史上最大一次的基礎建設升級 軟體硬體都是 以往就業技能樹沒辦法升級成以後
未來技能架構 就...QnQ 準備去當電池了 10年前的人就業技能包寫Java/PHP/
現在都在摸這些GPU Kernel 優化...不摸的話就是去當人肉電池 \@n@/

所以怎會拿這波跟啥元宇宙比 元宇宙連基礎建設邊都沒摸到 這真的是...QQ

※ 引述《torrest (torrest)》之銘言：
: 如題
: 差不多從前年底就開始發酵
: 到現在也差不多兩年了
: 目前看起來還是要再繼續創新高
: 記得從2016開始紅過的
: 光學 被動 pcb 航海王 元宇宙 有的沒的
: 持續時間了不起就是半年一年結束
: 目前為止ai好像還看不到盡頭
: 這波是最長的一次嗎

--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 24.4.211.194 (美國)
※ 作者: LDPC 2024-10-21 01:58:00
※ 文章代碼(AID): #1d5KIoim (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1729447090.A.B30.html
※ 同主題文章:
　 10-20 17:49 torrest. ■ [請益] 這波AI產業是牛市最久的一次嗎
● 10-21 01:58 LDPC. ■ Re: [請益] 這波AI產業是牛市最久的一次嗎
※ 編輯: LDPC (24.4.211.194 美國), 10/21/2024 02:01:57
推 waitrop     : 我每天摸GPU Kernel,也是很難找工作,準備當人肉電池1F 10/21 02:00
→ waitrop     : 現在只有做AI算法跟模型的人,才有身價
推 Chilloutt   : 肥宅的價值要浮現惹3F 10/21 02:02
推 a0808996    : LDPC大  又要數錢了\@n@/  準備偷渡去加州找你要飯4F 10/21 02:03
→ LDPC        : =_= a08我要去龍山寺找你了 被套牢了..\@n@/5F 10/21 02:04
推 sdbb        : 99nvdl GOOG meta mu avgo6F 10/21 02:08
推 cookie1216  : 只能抱緊鏟子股了XD7F 10/21 02:08
→ sdbb        : 難找工作(X)太多挖角(O)8F 10/21 02:10
推 karta018    : 希望阿祖蓋快一點，這樣他快蓋好的時候新技術又問世9F 10/21 02:12
→ karta018    : ，他又要重蓋了
→ sdbb        : 看捷安特轉型成能源股11F 10/21 02:12
推 crossworld  : 笑死 看起來跟哏圖迷因一樣12F 10/21 02:18
→ budaixi     : https://i.imgur.com/HAE6dWN.jpeg13F 10/21 02:23
[圖]
推 meRscliche  : wow14F 10/21 02:24
推 qweaaazzz   : 推15F 10/21 02:30
推 qwe78971    : 大基建兩年太樂觀16F 10/21 03:02
推 bd535853    : 請問一般的網頁後端現在學什麼活得下去QAQ17F 10/21 03:03
→ galoopboy   : 樓上：AI18F 10/21 04:12
推 four5       : 兩年後的老黃：大基建現在才剛剛開始19F 10/21 04:13
推 beagle2001: 再睡兩年就要準備賣了20F 10/21 04:33
推 ejnfu: ML infra / distributed storage  or processing 應該活的21F 10/21 05:21
→ ejnfu: 下去
※ 編輯: LDPC (24.4.211.194 美國), 10/21/2024 06:07:47
推 lyh0305     : 推23F 10/21 06:29
推 brovet      : 每天寫前端加api的感到難受24F 10/21 06:32
推 donkilu     : 推L大25F 10/21 07:17
推 ppuuppu     : 沒有參與到蘋果時代的我，這次絕對要參與輝達時代G26F 10/21 07:48
→ ppuuppu     : OGO老黃
推 metallolly  : 完了 現在要學什麼 ？我怕連電池都沒辦法當28F 10/21 07:53
→ hugh509     : 放棄掙扎吧，學股票就贏過9成了，人類終究是當柴燒29F 10/21 07:55
推 ggsuperda   : 只會C語言484沒救惹QQ30F 10/21 07:58
推 joe2        : 外送員的地位將會超越各位31F 10/21 08:05
推 truelove356 : NV B康 微軟 還要買哪支32F 10/21 08:17
推 chobit618   : 學如何當個好電池33F 10/21 08:23
推 james56733  : 無腦跟單教主黃BG穩穩賺 重點是抱不抱得住34F 10/21 08:31
推 TIPPK       : 99535F 10/21 09:00
推 karcher     : GPU Kernel才開始摸有點晚36F 10/21 09:09
推 ups         : 漲知識推37F 10/21 09:15
推 pponywong   : 大基建兩年是指MAG7 之後是國家級的AI基建38F 10/21 09:15
推 Samurai     : 肉眼可見的未來就是AI39F 10/21 09:25
→ mit2502     : 蓋好GB200架好 rubon又出來了40F 10/21 09:48
→ mit2502     : rubin
推 strlen      : 不用擔心魯賓 老黃的架構都可以延用 至少不會大改42F 10/21 09:57
推 zaqimon     : 好險股票的技能永遠只有一個 永遠不需要更新43F 10/21 10:03
→ zaqimon     : 只要學會買低賣高就行了
推 cosmite     : 推分享45F 10/21 10:10
推 junior020486: 阿祖真的猛46F 10/21 10:30
推 tujeni      : 推分享47F 10/21 10:41
推 zxwxz       : 三大雲端供應商都簽約買核電了，這絕對是人類歷史48F 10/21 12:55
→ zxwxz       : 少有的機遇，AI才剛開始
推 newyorker54 : 人類社會翻天覆地的變化，這篇有料50F 10/21 15:21

--
※ 看板: Stock　文章推薦值: 0 目前人氣: 0 累積人氣: 402　
分享網址: 複製 已複製
→
guest
x)推文 r)回覆 e)編輯 d)刪除 M)收藏 ^x)轉錄 同主題: =)首篇 [)上篇 ])下篇