因為我在計算機博士做研究的需要，AI模型訓練就一直離不開我的工作內容，同時AI產品精力的工作上也離不開GPU硬件的組裝與AI模型部署，所以如何去構建高性能GPU算力計算底座，也是一直關注的領域。

相比有錢的大廠，一般的科研團隊或者中小企業(yè)，是沒有那么多費用去購買A100\H100的，國產的GPU就更買不起了。

綜上，對于AI產品研發(fā)不超過10個人的團隊如何構建AI模型所需要的運行算力，主流的做法是通過4090 或者3090TI系列進行組裝矩陣，將機箱承載的8張卡放在一個機箱里，通過PCIE或者自帶的nvlink，是現在主流的GPU服務器搭建方式，當然 現在還有魔改的4090顯卡，顯存改為48GB，但是穩(wěn)定性與售后難以有保證，除非真的緊急需求，一般不會有人這么干。

如下圖是分別2個類型的組合，可以看到機箱、電源擴展的非?？鋸?/strong>

1.4090 8卡組合

2.3090 8卡組合

大廠的AI產品經理，不會接觸GPU硬件

當然我知道這類知識，是很多軟件功能或系統(tǒng)的產品經理不會去涉及的，因為首先在公司里面這個就屬于硬件組或者運維部門來負責，而產品經理只管提需求。但如果懂這方面的產品經理，在需求的設計就會更合理，比如有的產品經理就希望公司可以部署多個模型，并且可以做到模型切換但是這種方式就需要顯存的急劇擴張，在產品還沒有賺錢，就消耗了過高的成本。

英偉達的DGX背后的GB10芯片：聯(lián)想、技嘉、Dell都有

在2025年開年，英偉達黃仁勛發(fā)布了DGX station，這個機器背后承載著GPU、CPU、內存組合的一套解決方案，其默認顯存與內容有128GB，和內存統(tǒng)一調度使用，讓每個人都可以成為AI模型的使用者。

其和蘋果類似的技術方案與外觀，允許將顯存極大化使用，還內置了CUDA環(huán)境生態(tài)，可以直接部署模型，在發(fā)布會當天稱之為AI模型的PC。

而機器的售價只有3萬左右人民幣，并且支持兩臺project digital，也就是組成了256GB的顯存與內存使用.

相比Mac miniM4，擴展到64GB就需要接近3萬的價格，而這臺DGX就在AI模型應用上就非常香了。幾乎每個AI產品經理個人都可以購買，不僅是一個主機，還是一個非常合適的私有化模型訓練工具。

比直接購買顯卡更便宜幾倍

相比直接購買4090系列顯卡，或者5090，DGX除了自帶的一體機，不需要再單獨買硬盤等、擴展接口，電源，而5090的價格光顯卡就要2萬多了，還不說機箱的其他配置。

這款個人主機要是再有筆記本，那么基本現在市面上的游戲規(guī)則就全變了，當然現在英偉達還沒有對應的操作系統(tǒng)，所以擴展到筆記本的可能性為0。

主機上，用這個一體機，除了運行模型，再加上運行其他虛擬機是否可以運行游戲，這也有點期待了，但目前官方給的默認操作系統(tǒng)是ubantu。

現在在ubantu上也有微信和QQ了，但是要想日常辦公還需要裝上office幾件套，有線上文檔等工具，幾乎也可以完成辦公，不過就是需要費時間去研究這些軟件的安裝了。

可是一張5090的顯卡的費用就可以買一臺遠超游戲性能主機，很多玩家應該也愿意。

對比Mac M3 ultra，也更性價比

在DGX出現之前，很多產品經理和開發(fā)者會購買Mac studio Ultra M3 512GB 統(tǒng)一內存，蘋果這款機器幾乎是唯一滿血運行DEEPSEEK 量化版本的R1或V3。

但高昂的價格，就讓很多小企業(yè)或者個人研究者勸退了。整體購買要接近花費10萬塊錢左右，現在DGX兩臺的價格就是在6萬多，可以達到256的顯存，如果再來兩臺就可以達到512，和蘋果差不多的價格，但是可以得到AI模型訓練環(huán)境最好的GPU模型算力。

畢竟其天生的CUDA環(huán)境，更加適合模型微調與二次開發(fā)。

最后總結下其和Macmini M4 pro的對比區(qū)別

囤二手 ，價格一定會漲價

最后我做個預測，這個價格會和英偉達的顯卡一樣漲價，隨著GB10支持聯(lián)想、Dell代工，相信就可以有很多事業(yè)單位、體制內也會采購該一體機了，成為國內算力的香餑餑，價格會漲價。

英偉達提供的是OEM方案，讓國內代工廠也可以完成組裝并售賣，現在聯(lián)想與技嘉、Dell等品牌已經在預售了，預計11月份就可以發(fā)貨。

這種一體機，幾乎可以解決非常多的AI模型開發(fā)者的需求。

價格在3萬到3萬5左右，并且隨著AI模型的需求，算力永遠是不夠的，尤其是那些預算有限的開發(fā)者、高校研究者，我相信這個價格一定會被炒作起來的。

除了開發(fā)之外，還有非常多的算力租賃需求，這個價格都會比國產的其他芯片價格更便宜，同時性能更好。本來現在A100等芯片已經被封鎖了，所以選擇DGX，也是一個明智之舉，畢竟馬斯克都在用。

今天的分享就在這里。

“關注我，一個產品經理的創(chuàng)業(yè)故事”

最近我的原創(chuàng)

每日案例拆解庫，AI等產品打卡群

我創(chuàng)建的產品設計打卡社群，加入后365天，每天體驗一款APP。提升產品設計能力，同時有1300份體驗報告幫助你找到競品。

在這里你可以隨時查詢到你想找的各類競品行業(yè)APP，無須自己親自下載就可以馬上得到APP的一手產品優(yōu)化、交互設計、功能描述信息。

從優(yōu)化&建議、商業(yè)模式、運營、功能描述、交互設計、產品定位至少6個維度，體驗一款應用。

平均1天1塊錢，掃碼購買即可加入

連續(xù)體驗48款應用，通過后原路退回

報名后添加星球助理

PMTalk123