作者 sxy67230 (charlesgg)標題 Re: [問卦] 聽說中研院AI花300萬？時間 Mon Oct 9 22:03:01 2023
※ 引述《Fortran (Fortran)》之銘言：
: 如題
: 本肥好奇，若這樣簡轉繁中，直接套用中國模型，應該不用花到300萬吧
: 頂多就換個皮，簡轉繁中，連一個工作天都不用，1~5萬就夠了
: 剩下的經費都....？
: 有卦？
阿肥外商碼農阿肥啦！
推廣一下微軟Azure服務，這邊試算開一張A100機器折合台幣差不多8萬台幣/月，平均一
天3000不到，中研院應該夠划算了，也算是現在市場公道價，反正都用開源簡中數據了，
放Azure訓練也沒什麼資安問題，而且要撈90GB的模型檔案不到十五分鐘就載完了，Azure
又快又好用。
Llama現在一堆微軟、Nvidia都有釋出開源訓練框架，無腦載套件下來照教學拉下訓練con
fig就可以開始跑，推論也直接用Nvidia的inference框生成2048個字不到0.7秒不到，最
多給你開發Gradio的介面框三天好了，這樣一天給研究人員一人五萬/天，十五萬加上Azu
re 8萬就二十萬不到耶！
三百萬真羨慕，我們政府很有錢吶！
嘻嘻
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.10.46.126 (臺灣)
※ 作者: sxy67230 2023-10-09 22:03:01
※ 文章代碼(AID): #1b90WNwr (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1696860183.A.EB5.html
推 Ilat: 才300萬難怪那麼差 300萬也只夠拍支30秒廣告1F 114.36.224.100 台灣 10/09 22:03
推 joumay: 沒門路就標不到啊 我也是2F 36.224.147.4 台灣 10/09 22:04
推 chigo520: 阿你薪水多少？3F 49.216.203.122 台灣 10/09 22:04
阿肥算一算自己的工時在外商一天連一萬都不到，好羨慕
※ 編輯: sxy67230 (101.10.46.126 臺灣), 10/09/2023 22:05:41
推 renna038766: 阿你怎麼不去跟唐鳳說4F 1.161.153.103 台灣 10/09 22:08
推 bitcch: 哪有可能只用一張A100下去跑5F 49.216.162.187 台灣 10/09 22:08
7B的連一張A100都吃不滿
※ 編輯: sxy67230 (101.10.46.126 臺灣), 10/09/2023 22:09:38
推 bitcch: 除非他們只訓練7b模型 這樣4090一張就夠了6F 49.216.162.187 台灣 10/09 22:11
推 cld123: 其實30秒廣告也不用100萬7F 111.184.178.49 台灣 10/09 22:25
--