電子前沿基金會(huì)（EFF）周四更改了其關(guān)于AI生成代碼的政策，明確要求貢獻(xiàn)者理解他們提交的代碼，并且注釋和文檔必須由人類編寫(xiě)。

政策細(xì)節(jié)與實(shí)施方式

EFF政策聲明在如何確定合規(guī)性方面較為模糊，但分析師和其他觀察人士推測(cè)抽查是最可能的途徑。該聲明特別提到，組織并不禁止貢獻(xiàn)者使用AI編程，但似乎對(duì)此有所保留，表示這樣的禁令"違背了我們的一般理念"，而且AI當(dāng)前的流行使得這種禁令存在問(wèn)題。EFF表示："AI工具的使用變得如此普遍，全面禁令實(shí)際上無(wú)法執(zhí)行。"該組織補(bǔ)充說(shuō)，創(chuàng)建這些AI工具的公司"為了利潤(rùn)而忽視人們的利益。我們?cè)俅蜗萑?只管相信我們'的大科技公司對(duì)其掌握的權(quán)力含糊不清的境地。"

抽查模式類似于稅務(wù)部門的策略，對(duì)被審計(jì)的恐懼讓更多人遵守規(guī)定。

專家觀點(diǎn)與建議

網(wǎng)絡(luò)安全顧問(wèn)、FormerGov執(zhí)行董事Brian Levine表示，新方法可能是EFF的最佳選擇。"EFF試圖要求AI無(wú)法提供的一件事：?jiǎn)栘?zé)制。這可能是首次真正嘗試讓模糊編程在規(guī)模上可用的努力。如果開(kāi)發(fā)人員知道他們要為粘貼的代碼負(fù)責(zé)，質(zhì)量標(biāo)準(zhǔn)應(yīng)該會(huì)快速提高。護(hù)欄不會(huì)扼殺創(chuàng)新，它們防止整個(gè)生態(tài)系統(tǒng)淹沒(méi)在AI生成的垃圾中。"

他補(bǔ)充說(shuō)："執(zhí)行是困難的部分。沒(méi)有魔法掃描器能夠可靠地檢測(cè)AI生成的代碼，可能永遠(yuǎn)不會(huì)有這樣的掃描器。唯一可行的模式是文化性的：要求貢獻(xiàn)者解釋他們的代碼，證明他們的選擇，并證明他們理解他們提交的內(nèi)容。你不能總是檢測(cè)到AI，但你絕對(duì)能檢測(cè)到某人不知道他們發(fā)布了什么。"

EFF發(fā)言人、高級(jí)技術(shù)專家Jacob Hoffman-Andrews表示，他的團(tuán)隊(duì)并不專注于驗(yàn)證合規(guī)性的方法，也不專注于懲罰不合規(guī)者的方法。"貢獻(xiàn)者數(shù)量很少，我們只是依靠信任。"如果團(tuán)隊(duì)發(fā)現(xiàn)有人違反規(guī)則，會(huì)向此人解釋規(guī)則并要求他們努力遵守。"這是一個(gè)有文化和共同期望的志愿者社區(qū)。我們告訴他們，'這是我們對(duì)你行為的期望。'"

Info-Tech Research Group首席研究總監(jiān)Brian Jackson表示，企業(yè)可能會(huì)享受到像EFF這樣的政策帶來(lái)的次要好處，這將改善許多開(kāi)源提交的質(zhì)量。許多企業(yè)不必?fù)?dān)心開(kāi)發(fā)人員是否理解他們的代碼，只要它通過(guò)詳盡的測(cè)試列表，包括功能性、網(wǎng)絡(luò)安全和合規(guī)性測(cè)試。"在企業(yè)層面，存在真正的問(wèn)責(zé)制和真正的生產(chǎn)力提升。這段代碼是否向不需要的第三方泄露數(shù)據(jù)？安全測(cè)試是否失敗？他們關(guān)心沒(méi)有達(dá)到的質(zhì)量要求。"

低質(zhì)量代碼問(wèn)題被企業(yè)和其他商業(yè)機(jī)構(gòu)使用，通常被稱為"AI垃圾"，這是一個(gè)日益嚴(yán)重的問(wèn)題。

技術(shù)實(shí)施與效果分析

Landing Point首席工程師Faizel Khan表示，EFF決定專注于文檔和代碼解釋，而不是代碼本身，是正確的做法。"代碼可以通過(guò)測(cè)試和工具驗(yàn)證，但如果解釋錯(cuò)誤或誤導(dǎo)，會(huì)創(chuàng)造持久的維護(hù)債務(wù)，因?yàn)槲磥?lái)的開(kāi)發(fā)人員會(huì)信任文檔。這是大語(yǔ)言模型最容易聽(tīng)起來(lái)自信但仍然不正確的地方之一。"

Khan建議了一些提交者需要被迫回答的簡(jiǎn)單問(wèn)題："提供有針對(duì)性的審查問(wèn)題。為什么使用這種方法？你考慮了哪些邊緣情況？為什么這些測(cè)試？如果貢獻(xiàn)者無(wú)法回答，就不要合并。要求PR摘要：什么改變了，為什么改變，關(guān)鍵風(fēng)險(xiǎn)，以及哪些測(cè)試證明它有效。"

前沃爾瑪網(wǎng)絡(luò)安全、風(fēng)險(xiǎn)和合規(guī)總監(jiān)Steven Eric Fisher表示，EFF巧妙地做的是不那么關(guān)注代碼本身，而是關(guān)注整體編程完整性。"EFF的政策是將完整性工作推回給提交者，而不是讓開(kāi)源軟件維護(hù)者承擔(dān)全部負(fù)擔(dān)和驗(yàn)證。"他指出，當(dāng)前的AI模型在詳細(xì)文檔、注釋和清晰解釋方面表現(xiàn)不佳。"所以這種缺陷起到了限速器的作用，在某種程度上也是工作閾值的驗(yàn)證。"他補(bǔ)充說(shuō)，這可能在現(xiàn)在是有效的，但只是在技術(shù)發(fā)展到能夠產(chǎn)生詳細(xì)文檔、注釋和推理解釋的程度之前。

Garnett Digital Strategies創(chuàng)始人Ken Garnett同意Fisher的觀點(diǎn)，認(rèn)為EFF采用了可能被認(rèn)為是柔道式的策略。EFF"在很大程度上完全回避了檢測(cè)問(wèn)題，這正是它的優(yōu)勢(shì)所在。他們沒(méi)有試圖事后識(shí)別AI生成的代碼，這是不可靠和越來(lái)越不切實(shí)際的，而是做了更根本的事情：他們重新設(shè)計(jì)了工作流程本身。問(wèn)責(zé)檢查點(diǎn)已被移到上游，在審查者接觸工作之前。"

審查對(duì)話本身充當(dāng)執(zhí)行機(jī)制。如果開(kāi)發(fā)人員提交他們不理解的代碼，當(dāng)維護(hù)者要求他們解釋設(shè)計(jì)決策時(shí)，他們會(huì)暴露出來(lái)。

這種方法提供"披露加信任，選擇性審查"，Garnett說(shuō)，注意到政策通過(guò)披露要求將激勵(lì)結(jié)構(gòu)轉(zhuǎn)移到上游，通過(guò)人工編寫(xiě)文檔規(guī)則獨(dú)立驗(yàn)證人類問(wèn)責(zé)制，并依靠抽查處理其余部分。

思科首席工程師、安全AI聯(lián)盟（CoSAI）成員和ACM AI安全（AISec）項(xiàng)目委員會(huì)成員Nik Kale表示，他喜歡EFF的新政策，正是因?yàn)樗鼪](méi)有做顯而易見(jiàn)的舉動(dòng)試圖禁止AI。"如果你提交代碼但在被問(wèn)及時(shí)無(wú)法解釋，那就是政策違反，無(wú)論是否涉及AI。這實(shí)際上比基于檢測(cè)的方法更容易執(zhí)行，因?yàn)樗灰蕾囉谧R(shí)別工具。它依賴于識(shí)別貢獻(xiàn)者是否能為他們的工作承擔(dān)責(zé)任。對(duì)于關(guān)注這一點(diǎn)的企業(yè)來(lái)說(shuō)，啟示很簡(jiǎn)單。如果你在使用開(kāi)源軟件，每個(gè)企業(yè)都在使用，你應(yīng)該深切關(guān)心你依賴的項(xiàng)目是否有貢獻(xiàn)治理政策。如果你在內(nèi)部生產(chǎn)開(kāi)源軟件，你需要一個(gè)自己的政策。EFF的方法，披露加問(wèn)責(zé)制，是一個(gè)可靠的模板。"

Q&A

Q1：EFF的新AI代碼政策主要要求什么？

A：EFF新政策明確要求貢獻(xiàn)者必須理解他們提交的代碼，并且所有注釋和文檔必須由人類編寫(xiě)。該政策不是完全禁止AI編程，而是要求開(kāi)發(fā)者對(duì)代碼承擔(dān)責(zé)任。

Q2：如何確保開(kāi)發(fā)者遵守這個(gè)新政策？

A：EFF主要依靠信任和抽查機(jī)制，類似于稅務(wù)審計(jì)策略。如果發(fā)現(xiàn)違規(guī)，會(huì)解釋規(guī)則并要求遵守。關(guān)鍵是要求開(kāi)發(fā)者能夠解釋代碼設(shè)計(jì)決策和功能實(shí)現(xiàn)。

Q3：為什么專注于文檔和解釋而不是檢測(cè)AI生成的代碼？

A：因?yàn)槟壳皼](méi)有可靠的方法檢測(cè)AI生成的代碼，而且AI模型在詳細(xì)文檔和解釋方面表現(xiàn)較差。專注于要求人類理解和解釋代碼更實(shí)際有效。