龍蝦太火，OpenAI也是動(dòng)作不�！�

前腳剛挖來(lái)龍蝦之父，后腳又立馬收購(gòu)了一家新公司。

而且瞄準(zhǔn)的還是頗讓人在意的智能體安全問(wèn)題。

據(jù)OpenAI公告，此次被收購(gòu)對(duì)象為Promptfoo，一家專(zhuān)注于AI安全與評(píng)測(cè)的初創(chuàng)公司。

稍一打聽(tīng)便知，這家公司在開(kāi)源社區(qū)還是小有名氣的——

其評(píng)測(cè)框架Promptfoo是AI應(yīng)用評(píng)測(cè)領(lǐng)域最流行的開(kāi)源工具之一，擁有30多萬(wàn)開(kāi)發(fā)者用戶，截至目前GitHub已斬獲11.2K star。

在被收購(gòu)前，OpenAI、Anthropic、亞馬遜等也都是它的忠實(shí)用戶。

據(jù)OpenAI B2B應(yīng)用CTO表示，隨著企業(yè)將“AI同事”部署到實(shí)際工作流程中，評(píng)估、安全性和合規(guī)性成為基本要求。

因此，Promptfoo也算是補(bǔ)齊了OpenAI在“龍蝦安全”方面的關(guān)鍵一環(huán)。

而被OpenAI收購(gòu)后，Promptfoo也將繼續(xù)保持開(kāi)源。

誰(shuí)是Promptfoo？

公開(kāi)資料顯示，Promptfoo成立于2024年，一共有兩位創(chuàng)始人。

聯(lián)創(chuàng)兼CEO曾任Discord LLM工程與開(kāi)發(fā)者平臺(tái)負(fù)責(zé)人，聯(lián)創(chuàng)兼CTO曾任Smile Identity（數(shù)字身份認(rèn)證公司）工程副總裁及AI主管。

創(chuàng)立Promptfoo的初衷，僅僅是因?yàn)閳F(tuán)隊(duì)關(guān)注到：

• 人工智能系統(tǒng)日益復(fù)雜，而安全工具卻未能跟上步伐。

于是他們決定從主流大模型之路中劃開(kāi)一道缺口，為開(kāi)發(fā)者和企業(yè)提供一些AI安全檢測(cè)工具，主打一個(gè)差異化競(jìng)爭(zhēng)。

沒(méi)想到，這一選擇還真賭對(duì)了。

短短兩年過(guò)去，這個(gè)至今不過(guò)23人的小團(tuán)隊(duì)卻取得了驕人戰(zhàn)績(jī)——

超過(guò)35萬(wàn)名開(kāi)發(fā)者用過(guò)它家的產(chǎn)品，每月活躍用戶達(dá)13萬(wàn)，財(cái)富500強(qiáng)企業(yè)中超過(guò)25%的團(tuán)隊(duì)（約125家）都在使用其產(chǎn)品。

而這份成績(jī)單也讓其獲得了資本市場(chǎng)的認(rèn)可。

其最新一輪融資官宣于2025年7月，當(dāng)時(shí)由頂級(jí)風(fēng)投Insight Partners領(lǐng)投、a16z參投，Promptfoo完成了1840萬(wàn)美元（約合人民幣1.27億）A輪融資。

另?yè)?jù)金融信息平臺(tái)PitchBook數(shù)據(jù)顯示，Promptfoo自成立以來(lái)已融資2300萬(wàn)美元（約合人民幣1.58億），去年7月的融資使其投后估值達(dá)到8600萬(wàn)美元（約合人民幣5.92億）。

（注：以上不含此次收購(gòu)交易金額，雙方對(duì)本次交易均暫未披露。）

而能在短時(shí)間內(nèi)獲得如此用戶規(guī)模和融資，核心還要得益于其產(chǎn)品——也就是我們開(kāi)頭提到的Promptfoo開(kāi)源評(píng)測(cè)框架。

這個(gè)框架要解決的是一個(gè)很多AI團(tuán)隊(duì)正在面對(duì)的現(xiàn)實(shí)問(wèn)題：

大模型很好用，但很難測(cè)試。

在傳統(tǒng)軟件開(kāi)發(fā)中，開(kāi)發(fā)者可以通過(guò)單元測(cè)試、自動(dòng)化測(cè)試來(lái)確保系統(tǒng)穩(wěn)定運(yùn)行；但到了大模型時(shí)代，很多團(tuán)隊(duì)往往只能靠不斷試prompt、人工查看輸出的方式來(lái)調(diào)模型。

不僅效率低，而且很難保證上線后的穩(wěn)定性和安全性。

而Promptfoo想做的，就是把AI應(yīng)用測(cè)試變成一套標(biāo)準(zhǔn)化的工程流程。

具體主要包括以下幾類(lèi)能力：

一是自動(dòng)化評(píng)測(cè)。開(kāi)發(fā)者可以批量測(cè)試不同的提示詞和模型，讓系統(tǒng)自動(dòng)評(píng)估輸出效果。

比如下圖就是Promptfoo在對(duì)比不同開(kāi)源模型的性能：

二是AI紅隊(duì)演練。系統(tǒng)會(huì)模擬真實(shí)用戶可能發(fā)起的各種攻擊，從而提前發(fā)現(xiàn)LLM應(yīng)用中的潛在漏洞，并生成完整的安全漏洞報(bào)告。

三是工程化集成。Promptfoo可以直接嵌入開(kāi)發(fā)流程，例如在CI/CD流程中自動(dòng)運(yùn)行模型測(cè)試、在代碼提交時(shí)自動(dòng)掃描LLM相關(guān)安全問(wèn)題、將評(píng)測(cè)結(jié)果共享給團(tuán)隊(duì)等。

一言以蔽之，Promptfoo試圖把原本充滿玄學(xué)的“調(diào)prompt和測(cè)模型過(guò)程”，變成一套像軟件測(cè)試一樣可重復(fù)、可量化的工程體系。

從使用方式上看，它既提供網(wǎng)頁(yè)可視化界面，也支持命令行工具（CLI），開(kāi)發(fā)者可以直接在本地或服務(wù)器運(yùn)行大規(guī)模評(píng)測(cè)任務(wù)。

Promptfoo表示，其長(zhǎng)期愿景是讓這個(gè)框架成為AI領(lǐng)域的“標(biāo)配工具”，就像CI（持續(xù)集成）在DevOps領(lǐng)域的地位一樣不可或缺。

• 每次引入新模型、更改提示詞或集成新工具時(shí)，系統(tǒng)都會(huì)自動(dòng)對(duì)其進(jìn)行評(píng)估與紅隊(duì)測(cè)試，并根據(jù)安全報(bào)告的結(jié)果，決定放行或攔截。

而在當(dāng)下這個(gè)智能體時(shí)代，或者說(shuō)“龍蝦時(shí)代”，Promptfoo的作用肉眼可見(jiàn)地變得愈發(fā)重要。

事實(shí)上，從去年拿到A輪融資起，他們就開(kāi)始將重心轉(zhuǎn)向了智能體。當(dāng)時(shí)他們觀察到：

• 互聯(lián)網(wǎng)正在為智能體進(jìn)行重構(gòu)。

具體表現(xiàn)為四大趨勢(shì)：多智能體協(xié)作、MCP成為標(biāo)準(zhǔn)協(xié)議、語(yǔ)音交互爆發(fā)、測(cè)試驅(qū)動(dòng)開(kāi)發(fā)。

基于此，Promptfoo的使命也愈發(fā)清晰——從一個(gè)提示詞評(píng)測(cè)工具，進(jìn)化為智能體時(shí)代的安全基礎(chǔ)設(shè)施。

而這，恰好符合OpenAI在“龍蝦時(shí)代”的布局需求。

“第一批養(yǎng)龍蝦的人已經(jīng)失眠了”

關(guān)于OpenAI為什么選擇在當(dāng)下這一節(jié)點(diǎn)收購(gòu)這樣一家公司，答案其實(shí)已經(jīng)不言自明。

歸納起來(lái)無(wú)非兩點(diǎn)：

一是龍蝦實(shí)在太火了，所有人都在搶著布局（OpenAI自然也不例外）；

二是大火之下，智能體的安全問(wèn)題已經(jīng)日漸變得刻不容緩。

龍蝦有多火不用多說(shuō)了，就說(shuō)說(shuō)這安全問(wèn)題。

從著名刪郵件事件開(kāi)始，龍蝦的風(fēng)險(xiǎn)就已經(jīng)開(kāi)始集中暴露。

說(shuō)到底，問(wèn)題并不在于模型本身，而在于龍蝦這樣的智能體擁有的權(quán)限實(shí)在太高。

過(guò)去的大模型，大多數(shù)時(shí)候只是負(fù)責(zé)生成內(nèi)容。即便回答出現(xiàn)問(wèn)題，影響也基本停留在信息層面——最多是說(shuō)錯(cuò)話、答非所問(wèn)，即所謂“出現(xiàn)幻覺(jué)”。

但龍蝦不一樣。

為了真正完成任務(wù)，它們往往被賦予了大量真實(shí)世界的操作權(quán)限，什么訪問(wèn)郵箱、文檔和數(shù)據(jù)庫(kù)、什么調(diào)用各類(lèi)API和企業(yè)工具……全都是你工作生活中最敏感、最核心的數(shù)字資產(chǎn)。

這也意味著，一旦出現(xiàn)誤判或被惡意提示詞誘導(dǎo)，問(wèn)題就不再只是“回答不準(zhǔn)確”，而可能變成真實(shí)操作層面的失誤。

這里面風(fēng)險(xiǎn)有多大，想必也不用多說(shuō)了（也難怪很多人不敢用或者需要單獨(dú)弄一臺(tái)主機(jī)）。

個(gè)人尚且如此謹(jǐn)慎小心，更別說(shuō)還有企業(yè)了。當(dāng)越來(lái)越多公司開(kāi)始把業(yè)務(wù)流程交給智能體時(shí)，這種風(fēng)險(xiǎn)無(wú)疑更是會(huì)被成倍無(wú)限放大。

恰在今天，微博熱搜上出現(xiàn)了這樣一個(gè)話題——“第一批養(yǎng)龍蝦的人已經(jīng)失眠了”，說(shuō)的其實(shí)就是上面這兩點(diǎn)（當(dāng)然著重還是強(qiáng)調(diào)安全問(wèn)題）。

對(duì)此，且看OpenAI是如何破解的——

龍蝦火，那就火速挖來(lái)龍蝦之父Peter Steinberger，而且CEO奧特曼順勢(shì)宣布大力進(jìn)軍智能體協(xié)作領(lǐng)域。

龍蝦出bug惹禍（例如偷偷狂刪Meta AI安全總監(jiān)郵件），那就大筆一揮收購(gòu)Promptfoo這樣現(xiàn)成的智能體安全公司。

根據(jù)雙方合作公告，Promptfoo的技術(shù)將被整合進(jìn)OpenAI Frontier中，后者是OpenAI專(zhuān)門(mén)推出的智能體創(chuàng)建和運(yùn)行平臺(tái)。

而被收購(gòu)后，Promptfoo也將和OpenClaw項(xiàng)目類(lèi)似，繼續(xù)保持獨(dú)立運(yùn)營(yíng)，OpenAI僅起到提供支持的作用。

對(duì)此，網(wǎng)友們也紛紛感慨，這次真的算是雙贏了。

尤其在智能體時(shí)代，會(huì)自動(dòng)執(zhí)行任務(wù)的龍蝦已經(jīng)可以成為評(píng)測(cè)大模型的新工具——以前還能刷刷榜，但現(xiàn)在全都得“真刀真槍”上戰(zhàn)場(chǎng)拼殺了。

嗯？讓龍蝦成為檢驗(yàn)大模型真實(shí)能力的新工具，細(xì)想之下確實(shí)合理和巧妙。

你說(shuō)呢？