大模型的黑箱問題有解了？2 月 23 日，三名 MIT 博士在美國舊金山創(chuàng)辦的 Guide Labs 初創(chuàng)公司開源了一個(gè) 80 億參數(shù)的語言模型 Steerling-8B。它最特別的地方在于，所生成的每一個(gè)詞都可以追溯到三個(gè)源頭：輸入了哪些提示詞、動(dòng)用了哪些概念、參考了哪些訓(xùn)練數(shù)據(jù)。之所以能做到這些，是因?yàn)?Guide Labs 在設(shè)計(jì)之初就給模型 Steerling-8B 事先埋了功能。

（來源：Guide Labs）

創(chuàng)始團(tuán)隊(duì)的三個(gè)人在 AI 領(lǐng)域已經(jīng)泡了十幾年。

Guide Labs 的 CEO 朱利葉斯·阿德巴約（Julius Adebayo）是尼日利亞裔，本科在楊百翰大學(xué)學(xué)習(xí)機(jī)械工程，后來在麻省理工學(xué)院拿了三個(gè)學(xué)位。2017 年他在谷歌做 AI 研究院，隨后進(jìn)入基因泰克子公司 Prescient Design 做數(shù)據(jù)科學(xué)。他的博士論文研究方向就是調(diào)試機(jī)器學(xué)習(xí)模型的工具，2018 年他那篇被廣泛引用的論文證明了一個(gè)結(jié)論：現(xiàn)有的深度學(xué)習(xí)模型解釋方法根本不可靠。

圖 | Guide Labs 的 CEO 朱利葉斯·阿德巴約（來源：領(lǐng)英）

Guide Labs 的首席科學(xué)家阿雅·阿卜杜勒薩拉姆·伊斯梅爾（Aya Abdelsalam Ismail）在馬里蘭大學(xué)帕克分校拿的計(jì)算機(jī)科學(xué)博士，在 NeurIPS、ICLR 這些頂級(jí)會(huì)議上發(fā)了十幾篇論文。她在 2021 年那篇論文里提出使用顯著性指導(dǎo)訓(xùn)練來提升深度學(xué)習(xí)解釋性，同時(shí)還建立了一套時(shí)間序列數(shù)據(jù)的解釋性評(píng)估框架。加入 Guide Labs 之前，她也在 Prescient Design 做解釋性 AI 研究。

圖 | 阿雅·阿卜杜勒薩拉姆·伊斯梅爾（來源：領(lǐng)英）

第三位聯(lián)合創(chuàng)始人富爾頓·王（Fulton Wang）是麻省理工學(xué)院計(jì)算機(jī)科學(xué)博士，2015 年拿過美國統(tǒng)計(jì)協(xié)會(huì)統(tǒng)計(jì)學(xué)習(xí)與數(shù)據(jù)挖掘分會(huì)的最佳學(xué)生論文獎(jiǎng)。

圖 | 富爾頓·王（Fulton Wang）（來源：領(lǐng)英）

這三個(gè)人湊在一起就是希望解決同一個(gè)問題：如何讓 AI 的解釋變得可信。

當(dāng)前市面上流行的方法，就像給一個(gè)陌生人做腦部掃描，試圖通過觀察這個(gè)人的神經(jīng)活動(dòng)來推斷他在想什么。Guide Labs 的 CEO 阿德巴約把這叫做對模型做神經(jīng)科學(xué)。但 Guide Labs 換了個(gè)思路，他們放棄從外部解讀的方法，轉(zhuǎn)而從內(nèi)部設(shè)計(jì)。也就是從一開始就把模型架構(gòu)做成可解釋的，讓每一層計(jì)算都留下痕跡。

他們在模型里嵌入了一個(gè)概念層，相當(dāng)于給數(shù)據(jù)分了類，貼上了可追溯的標(biāo)簽。這個(gè)層里有大約 3.3 萬個(gè)已知概念，是人工預(yù)先標(biāo)注好的，比如基因編輯、量子計(jì)算這些話題。還有大約 10 萬個(gè)發(fā)現(xiàn)概念，是模型自己在訓(xùn)練過程中學(xué)會(huì)的。

（來源：Guide Labs）

當(dāng)你讓 Steerling-8B 生成一段文字，它輸出的每一個(gè)詞塊，都可以點(diǎn)開并查看以下三張清單。第一張清單是輸入特征歸因，會(huì)告訴你這個(gè)詞主要受到了提示詞里哪些詞的影響。第二張清單是概念歸因，會(huì)列出它動(dòng)用了哪些概念，包括形容詞類的比如“臨床感”，也包括名詞類的比如“基因改造”方法。第三張清單是訓(xùn)練數(shù)據(jù)歸因，會(huì)告訴你這個(gè)詞涉及的概念主要來自哪些訓(xùn)練數(shù)據(jù)源，比如是來自 arXiv、維基百科還是 FLAN 數(shù)據(jù)集。

這意味著如果模型輸出了一段涉及版權(quán)的內(nèi)容，你可以直接追溯到是哪篇訓(xùn)練文章影響了它。如果模型在回答醫(yī)療問題時(shí)表現(xiàn)得有偏見，你可以查看到底是哪些概念在起作用，然后就能精準(zhǔn)關(guān)掉那個(gè)概念的開關(guān)。

說到開關(guān)，這個(gè)模型還有一個(gè)能力叫做概念控制。你在推理的時(shí)候，可以手動(dòng)放大或者壓制某個(gè)概念的影響，不需要重新訓(xùn)練模型。比如說你想讓回答更專業(yè)一點(diǎn)，就把“專業(yè)”這個(gè)概念對應(yīng)的向量調(diào)大。再比如你想避免模型談?wù)摫┝?，就把“暴力”概念的?quán)重調(diào)低。Guide Labs 稱，這相當(dāng)于使用幾十個(gè)概念的調(diào)節(jié)，取代了以往需要成千上萬條安全訓(xùn)練數(shù)據(jù)才能做到的護(hù)欄效果。

在性能上，Steerling-8B 訓(xùn)練使用了 1.35 萬億個(gè) tokens，在各種基準(zhǔn)測試上的表現(xiàn)和使用了 2 到 7 倍數(shù)據(jù)量的模型差不多。Guide Labs 表示，80% 以上的 tokens 貢獻(xiàn)來自概念層，而不是其他通道。這意味著模型的預(yù)測確實(shí)是沿著概念走的，而不是表面上給個(gè)解釋、暗地里使用其他方式干活。

（來源：Guide Labs）

要想驗(yàn)證這一點(diǎn)其實(shí)很簡單：把其他通道關(guān)掉，看看模型還能不能正常工作。Guide Labs 的測試結(jié)果顯示，在各種任務(wù)上性能變化很小，這反過來證明了模型主要依靠概念在運(yùn)轉(zhuǎn)。

阿德巴約告訴媒體，把可解釋性做進(jìn)模型的基因里，對于人類來說是一件長期的好事。據(jù)了解，Guide Labs 于 2024 年浮出水面，當(dāng)時(shí)從 Initialized Capital 拿了 900 萬美元種子輪融資，阿德巴約也是 Y Combinator 的畢業(yè)生。這次開源的 Steerling-8B 是他們目前為止最大的概念驗(yàn)證。下一步，他們打算做更大的模型，并將開放 API 接口讓更多人用上這套可追溯的 AI 系統(tǒng)。

（來源：Guide Labs）

Guide Labs 也在公司官網(wǎng)的博客里介紹了一些接下來要深挖的方向：概念控制、概念發(fā)現(xiàn)、無需微調(diào)的對齊、訓(xùn)練數(shù)據(jù)溯源，這些目標(biāo)的每一條背后都用論文支撐，有的是幾年前發(fā)的，有的是剛發(fā)的，總共二十多篇，分布在 NeurIPS、ICML、ICLR 這些地方。

七年前，阿德巴約在麻省理工學(xué)院寫博士論文的時(shí)候，開頭第一句話大意是隨著機(jī)器學(xué)習(xí)系統(tǒng)部署到越來越多的高風(fēng)險(xiǎn)領(lǐng)域，確保它們可靠、公平、安全變得至關(guān)重要。但是，如果沒有有效工具來理解這些系統(tǒng)為何做出某個(gè)決定，這些目標(biāo)就很難實(shí)現(xiàn)。

現(xiàn)在，Guide Lab 走出了第一步。Steerling-8B 還不能回答所有問題，每個(gè)解釋也不是完美無缺的，但它證明了這樣一條走得通的新路，那就是對著 AI 黑箱瞎猜是不行的，要在一開始就給黑箱安個(gè)燈。

參考資料：

Huggingface：https://huggingface.co/guidelabs/steerling-8b

GitHub：https://github.com/guidelabs/steerling

軟件包：https://pypi.org/project/steerling/

https://techcrunch.com/2026/02/23/guide-labs-debuts-a-new-kind-of-interpretable-llm/

https://www.guidelabs.ai/post/steerling-8b-base-model-release/

https://www.linkedin.com/in/juliusadebayo/

https://www.linkedin.com/in/ayaabdelsalamismail/

https://www.linkedin.com/in/fulton-wang-aa904a75/

運(yùn)營/排版：何晨龍