---

看到版上在討論vGPU
身為vGPU相關的工程師應該是有資格來討論(?

先來談談虛擬化這件事情
虛擬化就是透過hypervisor(如VMware,kvm)之類的平台
在單一主機的環境上面，虛擬出多個作業系統
單機版就如vmware workstation，或是各類模擬器也算是(bluestack)

了解玩虛擬化之後就可以往下討論
如何讓虛擬化之後的作業系統(guest os)拿到GPU
市面上有各種千奇百怪的方式，所以以下只探討N家有認證的方式

1.Passthrought/直通道/Diretch Path I/O
這三種名稱的意思都差不多
將整張GPU卡片直接分配給guest OS，這種方式嚴格說不是虛擬化
畢竟沒有虛擬化GPU的成分，將整張卡片丟給虛擬機，何來虛擬化GPU之稱
透過這種方式驅動程式是使用一般家用的驅動程式，所以可以直接使用

2.vGPU
看到前一種方式，有一個很大的限制，就是單一虛擬機單一卡片
這種方式以企業等級的方式來看是非常浪費資源的
Datacenter系列卡片通常都16GB up，並且效能也非常強大
單一虛擬機很難用光其效能
所以vGPU就是將GPU利用虛擬的方式，分給多台虛擬機
讓每一台虛擬機都可以有固定份額的GPU
切分方式就是透過GB的方式切分(xGB)
當然這種功能是面相企業的，所以當然會有收費的問題
所以N家就簡單粗暴地綁定驅動程式
要購買才能下載特定的驅動，並且驅動程式也會需要輸入授權

提完以上可以額外來講一下vGPU各種授權種類
其中有分成4+1種
vWs拿來做圖像運算(這種功能可以讓vGPU開啟圖像渲染、directx 相關功能)
vApp 利用做RDSH
vPC 跟vWs類似，但是關掉圖像進階功能，純顯示
vCs 純計算，拿來做計算相關
當然，費用不相同XDD


順便來討論一下看到文章內提到的有趣問題
1.NVIDIA早期有datacenter系列的卡片(k1/k2/m10)
這種卡片的驅動程式只能使用vGPU的驅動程式
簡單說，就算改成直通道模式，依然只能只用vGPU的驅動
沒辦法使用一般的驅動
印象中在V系列(對照20系列)之後再見過這種模式
P4印象中也是?

2.T4,A2,L4
印象中這幾張的效能差不多(明明不同世代，效能也可做得差不多
就我收到的消息時A2的產線大暴死，所以才T4繼續頂
應該不是市場接受度的問題，A2定價便宜很多呢XD

3.A100,MIG
MIG這項技術是否可以完全脫離vGPU呢
是，但也不是
MIG是驅動程式自帶的操作指令，可以切分成多張GPU
在監控介面下就是看到多張卡片
然後可以進行分配使用
但是前面提到，要在驅動程式的介面下操作
所以必須還是得使用前面提到的方式(直通道orvGPU)
1.直通道給虛擬機之後，再從虛擬機端操作
2.或是直接在hypervisor層進行MIG操作之後，再將切分出來的GPU打出來分配給虛擬機
第二種方式依然還是要購買授權呢

所以是但也不是


4.
這邊可以提到N家一個非常複雜的新授權NVIDIA AI Enterprise
嚴格來說它就是vcs+軟體服務的授權
他有著完全不同的驅動以及授權
但是使用方式還是跟vcs一樣
這刀法是真的強

以上，想到甚麼再補充

※ 引述《wei115 (社畜)》之銘言：
: 是這樣的
: 最近看對岸有批好便宜的tesla p4
: 一張大概只要NT 2000
: 性能大概有1070-10%等級 功耗不到75w 長期在資料中心吹冷氣
: 而且還支援vGPU
: 想說買來裝在我的proxmox主機上 玩我心心念念的顯卡虛擬化
: 可是查了一些資料發現
: 虛擬化確實很簡單，但裝進去後 每個虛擬機還要授權
: 如果沒有授權 20分鐘就限制性能 只能跑15fps
: 阿我都買硬體惹 現在連裝個驅動都要收錢喔= =
: https://i.imgur.com/HIy4YHd.jpeg
: --
: ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 220.134.21.189 (臺灣)
: ※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1680955923.A.E6F.html
: 推 skyrain1234: 那授權費要5000嗎                                   04/08 20:14
: 每年收
: 而且只收企業，個人用戶還會掛你電話
: 比5000還值錢= =
: ※ 編輯: wei115 (220.134.21.189 臺灣), 04/08/2023 20:16:08
: 推 Fezico: 老黃驅動值5000買越多賺越多                              04/08 20:16
: → Fezico: 這東西本來就不是放出來給零售市場的，你怎會期望他屌你    04/08 20:17
: 推 cowboyas0413: 我是覺得對岸論壇翻一翻 找到能用的驅動的機率不小   04/08 20:18
: 驅動要網路認證 但我有看到幾個解決方案 有一個github專案可以使用24小時 然後重啟驅
: 動再用24小時
: 推 sheng76314: 有這種事 難怪便宜沒好貨                             04/08 20:18
: 推 DsLove710: 不然你要買AMD嗎                                      04/08 20:19
: amd顯卡= =
: 推 fenix220: 貪小便宜的代價                                        04/08 20:24
: 推 gameboy0618: 不然你要買AMD嗎                                    04/08 20:24
: 推 Cubelia: 雖然I的內顯被酸亮機用，但在GVT-g和SR-IOV的vGPU支援     04/08 20:25
: → Cubelia: 給得很大方                                             04/08 20:26
: 本來也打算組intel方案的 只是那時候pve不怎麼支援大小核+amd礦渣主板很便宜就改裝580
: 0x惹
: → Cubelia: 不過性能就有總比沒有好                                 04/08 20:26
: → AreLies: 我之前買V520結果發現 我沒有驅動                        04/08 20:26
: → Severine: 所以相較之下4090真的太便宜了                          04/08 20:28
: → scarbywind: 工商用硬體一堆這樣搞的.                             04/08 20:33
: ※ 編輯: wei115 (42.79.242.21 臺灣), 04/08/2023 20:41:12
: → newsnew: 商用很多都這樣 不是買斷制了                            04/08 20:45
: 推 keyman2: 賣家沒有先說喔?                                        04/08 21:07
: → smallreader: 商用本來就要買授權了                               04/08 21:24
: → gyannor: 不如買1066                                             04/08 21:31
: 推 harry886901: 沒辦法虛擬化 那就顯卡直通吧                        04/08 21:31
: 我現在主力機就是跑在虛擬機內的R
: 分配全部CPU核心、64GB RAM、直通一張大哥3060 12G
: → harry886901: 我買海鮮的p104 才1000也是1070同一個核心也不差      04/08 21:32
: 推 harry886901: proxmox base on debian                             04/08 21:36
: → harry886901: 我記得某版debian就對大小核有支援了                 04/08 21:36
: 我看好像6.0kernel才支援
: 現在pve更新到最新kernel才5.15
: 噓 pcfox: 自己選的                                                 04/08 21:41
: 推 tennyleaz: 不知道可不可以刷vbios破解                            04/08 22:25
: 有看用unlock改成quadro來跑 這就不需要授權
: 可是cuda會沒辦法使用
: 推 Transposon: 不知道何時換丟T4                                    04/08 22:25
: → MACROSS2K: T4大概還要好一段時間，A2前陣子缺貨大概都用T4         04/08 22:40
: → MACROSS2K: L4又剛發，不知道市場接受度如何                       04/08 22:40
: 推 ArSaBuLu: 跟百變金剛一樣 雖然預算低 蛋便宜有便宜的辦法          04/08 22:41
: 推 johnson0319: google一下就有各種unlock教學不是                   04/08 22:50
: unlock是改id
: 主要是主機支援，可是虛擬機還是要另外裝驅動
: ※ 編輯: wei115 (220.134.21.189 臺灣), 04/08/2023 23:16:51
: → lc85301: 不然你要買 AMD 嗎                                      04/08 23:21
: 推 marunaru: vGPU要買阿 老黃的商法                                 04/08 23:31
: → marunaru: 如果你是A100那種等級的就不用了 自帶授權               04/08 23:31
: → marunaru: 不想花vGPU的授權你就只能改成Passthrough的方法         04/08 23:32
: → MACROSS2K: 其實AMD我也覺得蠻可惜的，MxGPU其實有出過一波         04/08 23:32
: → MACROSS2K: 但不知道是不是軟體沒跟上，感覺沒有打開市場           04/08 23:32
: → MACROSS2K: 然後MI200其實有出ESXi驅動，但測過好像沒有作用        04/08 23:34
: → MACROSS2K: 也無法開出VF，有點不太理解想要設計成什麼樣子         04/08 23:35
: 推 laeva75: 企業級的常見情況，買一個好像功能很多很強硬體只含最最   04/09 07:33
: → laeva75: 最少最簡單的功能，其他功能的都要另外買授權             04/09 07:33
: 推 corum68972: 恭喜你現在知道企業用戶是怎麼被老黃強姦的了          04/09 07:55
: → winiel559: 還好有這些企業級盤子，不然4090還不一張20萬           04/09 10:01
: 推 kamir: 一個願打，一個願挨                                       04/09 10:50
: → kamir: 都說是垃圾了，還花錢                                     04/09 10:50
: 推 Windcws9Z: 難怪賣這麼便宜                                       04/09 13:11
: → game0502: RTX8000+NLS乖乖付錢的的人路過…                       04/09 16:16
: → nOhiTmE: pve 現在有optin 6.2 kernel.                            04/09 22:39

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 61.219.70.171 (臺灣)
※ 作者: aa210682 2023-04-10 12:07:26
※ 文章代碼(AID): #1aCuk0KI (PC_Shopping)
※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1681099648.A.512.html

作者 aa210682 的最新發文:

• +16 Re: [情報] VMWare開放VMWare Workstation Pro免費 - PC_Shopping 板

  作者: aa210682 27.247.124.245 (台灣) 2024-05-15 14:30:20

  56F 17推 1噓
• +11 [菜單] 90k 白化信仰遊戲機 - PC_Shopping 板

  作者: aa210682 123.51.217.40 (台灣) 2023-08-22 15:35:14

  38F 11推
• +17 Re: [閒聊] 欸不是，買個顯卡還要買驅動= = - PC_Shopping 板

  作者: aa210682 61.219.70.171 (台灣) 2023-04-10 12:07:26

  26F 17推