大家好，我是 Ai 學(xué)習(xí)的老章

快手編程大模型 KAT-Dev-72B-Exp 開源了，在 SWE-Bench Verified 基準(zhǔn)測試中的得分74.6，開源模型首位。

其他幾個開源模型得分是：Qwen3-Coder（約 70%）、GLM-4.6（約 70%）、DeepSeek V3.1（約 67%）、Kimi K2（約 67%），能在阿里通義、智譜 AI、DeepSeek 和 Moonshot 的"圍剿"下占領(lǐng)榜首，厲害！

本文就簡單介紹 KAT-Dev-72B-Exp 并本地部署后簡單測試性能及水平

這個分?jǐn)?shù)比它的閉源旗艦?zāi)Ｐ?KAT-Coder模型還要高

KAT-Dev

KAT-Dev-72B專為軟件工程任務(wù)設(shè)計，多階段訓(xùn)練優(yōu)化而成，包括中期訓(xùn)練階段、監(jiān)督微調(diào) (SFT) 與強(qiáng)化微調(diào) (RFT) 階段，以及大規(guī)模智能體強(qiáng)化學(xué)習(xí) (RL) 階段。

官方放出了三個實例，不確定是 32B 還是 Coder 實現(xiàn)的

星空

水果忍者

代碼重構(gòu)

它支持與 Claude Code 配合使用 本地部署

模型文件一共 145GB（之前 32B 是 65GB）

下載模型就不說了，之前多次提到，用國內(nèi)鏡像源 modelscope 下載的

模型部署，推理引擎使用的是 vLLM，版本 0.10.2

腳本如下，硬件條件是 H200，2 張卡開跑，2x141 GB 顯存

權(quán)重占用 67GB，KV-Cache 55GB，峰值激活 1.34GB，非 torch 內(nèi)存 1.38GB

引擎初始化耗時 51 秒，基于 40K 的 max-model-len，引擎支持 8.8 左右的并發(fā)

顯存利用--gpu-memory-utilization 默認(rèn) 0.9 的樣子？實際顯存占用每卡 126GB

測了一下性能，總的平均 token 生產(chǎn)速度 1408 t/s

并發(fā) 50 情況下平均 TPS35，很不錯了

它是沒有思考的，實際使用速度飛起

老規(guī)矩，測了一下用它生成 svg 代碼，做人體器官分布圖

效果非常好，比智譜的 GLM-4.5-Air 還要好

這個體量可以做到這種程度，屬實牛逼

如果后面再出 FP8 或更低 bit 的量化版，把預(yù)算壓到單卡以內(nèi)，那可就太香了