新智元報(bào)道

編輯：peter東

【新智元導(dǎo)讀】Claude Code這樣私有的編程智能體雖然能力強(qiáng)大，但有著封閉、昂貴、難以定制的局限。艾倫研究院推出的Open Coding Agents，讓你只需要400美元就能訓(xùn)練一個(gè)32B的專屬編程智能體。

一個(gè)行業(yè)的價(jià)格體系，往往不是被更強(qiáng)的技術(shù)」擊穿，而是被「更便宜的復(fù)制」改寫。

今天，AI2直接把編程智能體的入場(chǎng)費(fèi)從「實(shí)驗(yàn)室級(jí)預(yù)算」砍到「團(tuán)隊(duì)報(bào)銷級(jí)」：公開開源Open Coding Agents，用最低數(shù)百美元的算力成本，就能訓(xùn)練出能跑SWE-Bench Verified、還能貼合私有代碼庫(kù)的專屬編程智能體。

封閉、昂貴、難定制的「巨頭護(hù)城河」，第一次被開源用成本刀鋒切開一道口子。

開源編程智能體適配私人風(fēng)格

過去一年，AI編碼智能體徹底改寫了軟件開發(fā)的游戲規(guī)則——

從代碼生成、調(diào)試到重構(gòu)甚至提交拉取請(qǐng)求，AI正以前所未有的深度介入開發(fā)流程。

然而繁榮背后，一個(gè)殘酷的現(xiàn)實(shí)是：最強(qiáng)大的編碼智能體幾乎都被科技巨頭封閉，訓(xùn)練成本動(dòng)輒百萬美元，更無法適配企業(yè)的私有代碼庫(kù)。

現(xiàn)在有了Allen AI發(fā)布的Open Coding Agents，為任何代碼庫(kù)構(gòu)建自己的編程智能體變得異常容易，你可以使用個(gè)人代碼庫(kù)或所在組織的內(nèi)部代碼庫(kù)，輕松訓(xùn)練一個(gè)能夠用于包括代碼生成、代碼審查、調(diào)試、維護(hù)和代碼解釋等任務(wù)的智能體。

用上這套方法，達(dá)到先前最佳開源模型只需約400 美元的計(jì)算成本，而要微調(diào)出一個(gè)與32B最佳行業(yè)模型相當(dāng)性能的編程大模型，成本最高也不過12,000美元，僅需40個(gè)GPU日訓(xùn)練（2塊NVIDIA Hopper或Blackwell GPU）。

這個(gè)價(jià)格比許多傳統(tǒng)方法便宜25倍以上，對(duì)實(shí)驗(yàn)室和小型團(tuán)隊(duì)來說都觸手可及。

圖1：SERA-32B在編程任務(wù)上的表現(xiàn)

在標(biāo)準(zhǔn)編碼基準(zhǔn)測(cè)試SWE-Bench中，SERA-32B交出了一份令人驚艷的成績(jī)單：在64K上下文長(zhǎng)度下，解決率達(dá)到54.2%，超越了所有同規(guī)模開源模型。

推理速度更是驚人，在4×H100上達(dá)到每秒3,700個(gè)token，在Blackwell 4×B200上更是達(dá)到每秒8,600個(gè)token。

但更顛覆認(rèn)知的是在特定代碼庫(kù)上的表現(xiàn)。當(dāng)針對(duì)Django和SymPy等大型開源項(xiàng)目進(jìn)行專業(yè)化訓(xùn)練后，僅用8,000個(gè)樣本、1,300美元成本微調(diào)的SERA-32B，竟然在多項(xiàng)任務(wù)上超越了其老師，擁有1100億參數(shù)的GLM-4.5-Air。

這說明模型規(guī)模并非決定性能的唯一因素，高質(zhì)量、針對(duì)性的訓(xùn)練數(shù)據(jù)可以讓小模型在特定領(lǐng)域表現(xiàn)出色。這為資源有限的研究團(tuán)隊(duì)和企業(yè)提供了新的可能性。他們不再需要追逐千億參數(shù)規(guī)模的模型，而是可以通過有針對(duì)性的訓(xùn)練，讓較小的模型在特定任務(wù)上達(dá)到頂尖水平。

軟驗(yàn)證生成與工作流高保真模擬

SERA的核心突破源于其在合成數(shù)據(jù)生成方法上的根本性創(chuàng)新。傳統(tǒng)方法需要精確驗(yàn)證生成的代碼補(bǔ)丁是否正確，這一過程計(jì)算成本高昂，成為大規(guī)模應(yīng)用的瓶頸。

而SERA引入的軟驗(yàn)證生成（SVG Soft-verified generation）技術(shù)，徹底改變了這一范式。

之前的編程智能體訓(xùn)練之所以成本高，是因?yàn)橛?xùn)練數(shù)據(jù)需要包含錯(cuò)誤和修正代碼的代碼示例對(duì)，這就意味著需要花費(fèi)很多人力成本來生成并驗(yàn)證訓(xùn)練數(shù)據(jù)集。

AllenAI的研究者發(fā)現(xiàn)，訓(xùn)練數(shù)據(jù)不需要完美無缺才能有效。

就像不同的代碼可以實(shí)現(xiàn)相同功能一樣，部分正確的代碼補(bǔ)丁同樣可以訓(xùn)練出強(qiáng)大的編碼智能體。這一發(fā)現(xiàn)解放了數(shù)據(jù)生成過程，使其從昂貴的全驗(yàn)證循環(huán)中解脫出來。

AllenAI團(tuán)隊(duì)通過系統(tǒng)實(shí)驗(yàn)證明，軟驗(yàn)證數(shù)據(jù)與完全驗(yàn)證數(shù)據(jù)在訓(xùn)練效果上具有相似的縮放規(guī)律，但生成成本卻大幅降低。

這意味著研究者可以將資源集中在數(shù)據(jù)量和多樣性上，而非追求每個(gè)樣本的完美正確性。

為了讓訓(xùn)練數(shù)據(jù)多樣化，AllenAI團(tuán)隊(duì)從51種常見錯(cuò)誤模式中系統(tǒng)化生成多樣化的訓(xùn)練數(shù)據(jù)，避免數(shù)據(jù)單調(diào)性。對(duì)于代碼庫(kù)中的每個(gè)函數(shù)，分別生成多個(gè)不同的 bug 風(fēng)格的提示詞，這樣一個(gè)包含數(shù)千個(gè)函數(shù)的代碼庫(kù)可以以低成本產(chǎn)生數(shù)萬個(gè)多樣化的用于編程智能體的訓(xùn)練數(shù)據(jù)。

圖2：SERA訓(xùn)練過程

在訓(xùn)練時(shí)，SERA通過「教師模型」結(jié)合「錯(cuò)誤指令集」，在目標(biāo)代碼庫(kù)上自動(dòng)化生成兩輪數(shù)據(jù)：第一輪模擬開發(fā)者引入錯(cuò)誤（Rollout 1），第二輪模擬審查與修復(fù)（Rollout 2）。最關(guān)鍵的是，系統(tǒng)并不驗(yàn)證第二輪生成的補(bǔ)?。≒2）是否絕對(duì)正確，而是通過r = |P2 ∩ P1| / |P1|來衡量新舊補(bǔ)丁的重疊度。只要重疊度超過50%（r ≥ 0.5），修復(fù)補(bǔ)丁即被視為有效。

上述SERA的訓(xùn)練數(shù)據(jù)的生成方式，模擬的是開發(fā)者的工作過程，而不僅僅是代碼結(jié)果。這意味著AI學(xué)習(xí)的是如何發(fā)現(xiàn)問題、分析問題、解決問題的完整思維鏈，而不僅僅是記憶正確的代碼片段。

SERA項(xiàng)目負(fù)責(zé)人表示，「軟驗(yàn)證捕捉的是開發(fā)者的思維過程，而非簡(jiǎn)單的代碼正確性」。這一設(shè)計(jì)實(shí)現(xiàn)了根本性的成本革命。它放棄了追求「完美正確」的樣本，轉(zhuǎn)而捕捉「部分正確但邏輯合理」的開發(fā)者工作流。

這使得從任何私有代碼庫(kù)大規(guī)模、低成本生成高質(zhì)量訓(xùn)練數(shù)據(jù)成為可能，最終產(chǎn)出的軌跡與補(bǔ)丁數(shù)據(jù)可用于高效的監(jiān)督微調(diào)，讓中小團(tuán)隊(duì)也能訓(xùn)練出理解自身代碼的專屬編程智能體。

高性能、易部署、兼容Claude Code

此次開源的代碼，包括了從8B到32B的所有規(guī)模模型，以及在SERA上進(jìn)行據(jù)生成、訓(xùn)練參數(shù)、優(yōu)化策略以微調(diào)、測(cè)試和構(gòu)建私有AI編程智能體的全過程，僅需兩行代碼即可啟動(dòng)推理服務(wù)器。

Allen AI還開發(fā)了一個(gè)設(shè)置腳本和推理優(yōu)化，使SERA直接兼容Claude Code。

優(yōu)化后的SERA在消費(fèi)級(jí)硬件就可以運(yùn)行，這對(duì)于想使用AI編程智能體的公司，意味著不必?fù)?dān)心自身數(shù)據(jù)外泄，就可以用一個(gè)和更大參數(shù)模型性能相近，還適配自身編程規(guī)范的本地智能體。這對(duì)于金融，醫(yī)療等關(guān)注數(shù)據(jù)安全的行業(yè)尤為適用。

一個(gè)充分理解特定代碼庫(kù)的小模型，完全可以戰(zhàn)勝通用的巨無霸模型。這對(duì)于企業(yè)來說，意味著定制化的編碼智能體不再是科技巨頭的特權(quán)，只需要用1/3的參數(shù)規(guī)模、更少的內(nèi)存、更快的推理速度，就能獲得更好的編程效果。

SERA展示出的小模型+高質(zhì)量數(shù)據(jù)的技術(shù)路徑，減少了對(duì)極端算力資源的依賴，使得在更接近數(shù)據(jù)源的地方進(jìn)行訓(xùn)練和推理成為可能。這將改變AI智能體的發(fā)展方向。

SERA的出現(xiàn)，將會(huì)有利于垂直類的編程智能體。企業(yè)現(xiàn)在可以構(gòu)建理解自身代碼基的智能體，而非試圖讓通用模型適應(yīng)自己的特定需求。醫(yī)療、金融、制造等特定行業(yè)的編碼規(guī)范將被快速學(xué)習(xí)，催生領(lǐng)域?qū)俚腁I編碼助手。

就像Linux開啟了操作系統(tǒng)的開源時(shí)代，SERA可能開啟編碼智能體的開源時(shí)代。當(dāng)每個(gè)開發(fā)者都能擁有理解自己代碼庫(kù)的AI伙伴時(shí)，編碼智能體的平民化時(shí)代將會(huì)到來。最強(qiáng)大的AI工具不應(yīng)被鎖在科技巨頭的服務(wù)器里，而應(yīng)該掌握在每個(gè)創(chuàng)造者手中。

參考資料：

https://allenai.org/blog/open-coding-agents