歡迎收看最新一期的Hunt Good 周報(bào)！

在本期內(nèi)容你會(huì)看到：

7 條新鮮資訊
4 個(gè)有用工具
1 個(gè)有趣案例
4 個(gè)鮮明觀點(diǎn)

Hunt for News｜先進(jìn)頭條

馬斯克再評中國機(jī)器人，測試時(shí)對工程師「下黑腳」

宇樹科技 G1 人形機(jī)器人在動(dòng)作訓(xùn)練期間的意外舉動(dòng)近日成為網(wǎng)絡(luò)熱點(diǎn)。

測試視頻顯示，當(dāng)工程師演示格斗動(dòng)作供機(jī)器人學(xué)習(xí)時(shí)，機(jī)器人突然抬腳踢向測試人員。

視頻出處看左上角

12 月 27 日，特斯拉 Cybertruck 項(xiàng)目首席工程師在社交平臺(tái)分享了這段視頻后迅速引發(fā)傳播。

馬斯克本人也看到了這個(gè)視頻，在評論區(qū)發(fā)了一個(gè)「笑哭」表情包作為回應(yīng)。這也是他繼上次評價(jià)宇樹 G1 在王力宏演唱會(huì)上的表現(xiàn)后，近期內(nèi)第二次對宇樹機(jī)器人發(fā)表看法。

https://x.com/wmorrill3/status/2004666088374894922

圍棋比賽選手引發(fā)爭議，被曝佩戴 AI 眼鏡

2025 年 12 月 21 日至 26 日， 第八屆「殺豬大會(huì)」全品級(jí)圍棋大賽在浙江紹興舉行。

比賽采用 60 分鐘保留時(shí)間每步加 10 秒制， 個(gè)人積分編排制共 11 輪， 按棋份對局分為九品， 其中前六品細(xì)分正品和從品， 后三品只有正品。

比賽期間，業(yè)余 5 段選手李蒙七輪連勝， 贏下多名正一品職業(yè)棋手，其后被發(fā)現(xiàn)佩戴 AI 眼鏡并因此遭到質(zhì)疑。不少棋手認(rèn)為李蒙疑似使用 AI 眼鏡作弊。

隨后疑似李蒙本人在社交平臺(tái)作出回應(yīng)。

上下滑動(dòng)查看更多內(nèi)容

這位自稱前網(wǎng)易算法工程師、世界人工智能圍棋大賽亞軍的用戶 dogeeeee 表示， 他佩戴的是界環(huán)智能眼鏡， 并強(qiáng)調(diào)該賽事允許選手?jǐn)y帶手機(jī)入場。

他解釋說自己有近視和散光， 且長期受耳道炎癥困擾無法使用入耳式藍(lán)牙耳機(jī)， 因此選擇了一款無攝像頭、功能類似于藍(lán)牙耳機(jī)的非入耳式設(shè)備， 僅用于播放音樂或接聽電話等日常用途， 無法用于任何與比賽相關(guān)的輔助操作。

他還在回應(yīng)中表示深知無論出于何種原因， 在競技場合使用智能設(shè)備都極易引發(fā)誤解， 也違背了圍棋所崇尚的公平與純粹精神， 同時(shí)給賽事組委會(huì)和圍棋圈帶來困擾， 對此深感慚愧。

為表明誠意與接受監(jiān)督的態(tài)度， 他還表示將如期參加 2026 年 1 月 4 日至 11 日舉行的「晚報(bào)杯」全國業(yè)余圍棋錦標(biāo)賽， 誠摯歡迎各位參賽棋友、裁判及圍棋同仁對他進(jìn)行全程監(jiān)督。

2026 北京亦莊人形機(jī)器人半馬 4 月開跑

12 月 25 日，在北京市政府新聞辦公室舉行的發(fā)布會(huì)上，北京經(jīng)濟(jì)技術(shù)開發(fā)區(qū)（北京亦莊）發(fā)布消息稱將于 2026 年 4 月 19 日舉辦人形機(jī)器人半程馬拉松和北京亦莊半程馬拉松。

本屆賽事以「亦馬當(dāng)先」為主題，全長 21.0975 公里。

賽事設(shè)立自主導(dǎo)航組和遙控組，采用混合計(jì)時(shí)方式在同一賽道競技，自主導(dǎo)航賽隊(duì)以比賽凈計(jì)時(shí)加上罰時(shí)作為完賽成績，遙控組賽隊(duì)則初定以比賽凈計(jì)時(shí)成績乘以 1.2 系數(shù)加上罰時(shí)作為完賽成績。

同時(shí)，嚴(yán)格規(guī)定遙控導(dǎo)航操作人員非必要不下車，取消人員跟隨，此外，賽事還創(chuàng)新增設(shè)「最佳續(xù)航獎(jiǎng)」「最美步態(tài)獎(jiǎng)」「最佳設(shè)計(jì)獎(jiǎng)」「最佳感知獎(jiǎng)」等專項(xiàng)獎(jiǎng)項(xiàng)。

同時(shí)，賽事從去年單一競速模式，升級(jí)為「競速+場景挑戰(zhàn)」雙軌競技模式，除了舉辦機(jī)器人半程馬拉松賽，還將在同期舉辦機(jī)器人巴圖魯挑戰(zhàn)賽，也就是以應(yīng)急救援為主題，系統(tǒng)檢驗(yàn)機(jī)器人在真實(shí)復(fù)雜環(huán)境中的自主決策、精準(zhǔn)操控與持續(xù)作業(yè)能力。

https://mp.weixin.qq.com/s/pHICtAdWWO1wKICGprhMPg

你讓 AI 回郵件，它卻給老板發(fā)辭職信

OpenAI 近日承認(rèn)，其 AI 瀏覽器 Atlas 面臨的提示詞注入攻擊（Prompt injection）可能永遠(yuǎn)無法徹底解決，而這種攻擊能操縱 AI 智能體執(zhí)行隱藏在網(wǎng)頁或郵件中的惡意指令。

在 OpenAI 展示的演示中，自動(dòng)化攻擊者將一封惡意郵件植入用戶收件箱。當(dāng) AI 智能體掃描收件箱時(shí)，它遵循了郵件中的隱藏指令，直接給老板發(fā)送了辭職郵件，而用戶原本只是讓它起草一封休假自動(dòng)回復(fù)。

今年 10 月 Atlas 瀏覽器推出后，安全研究人員迅速發(fā)現(xiàn)只需在 Google Docs 中寫幾句話就能改變?yōu)g覽器底層行為。OpenAI 的應(yīng)對策略是開發(fā)「基于大語言模型的自動(dòng)化攻擊者」，通過扮演黑客角色尋找向 AI 智能體植入惡意指令的方法。

該機(jī)器人可以在模擬中測試攻擊，觀察目標(biāo) AI 的思考過程，然后調(diào)整攻擊并反復(fù)嘗試。由于能洞察 AI 的內(nèi)部推理，理論上應(yīng)該比現(xiàn)實(shí)攻擊者更快發(fā)現(xiàn)漏洞。

安全更新后，「智能體模式」能夠檢測到提示詞注入嘗試并向用戶發(fā)出警告。

不過，OpenAI 還是建議用戶限制登錄訪問，要求 AI 智能體在發(fā)送消息或支付前獲得確認(rèn)，并提供具體指示而非寬泛指令，因?yàn)殚_放的授權(quán)使隱藏或惡意內(nèi)容更容易影響智能體。

https://techcrunch.com/2025/12/22/openai-says-ai-browsers-may-always-be-vulnerable-to-prompt-injection-attacks/

生成式 AI 工具流量格局劇變，ChatGPT 份額跌破 70%，Gemini 逼近 20%

Similarweb 最新數(shù)據(jù)顯示， 生成式 AI 工具的網(wǎng)站流量格局正在發(fā)生劇烈變化。曾經(jīng)占據(jù)絕對統(tǒng)治地位的 ChatGPT 市場份額持續(xù)下滑， 而谷歌 Gemini 則強(qiáng)勢崛起。

截至 12 月 5 日，ChatGPT 的流量份額已跌至 68%， 這是其首次跌破 70% 大關(guān)。

相比之下， 一年前 ChatGPT 還占據(jù) 87.2% 的市場份額， 幾乎壟斷整個(gè)生成式 AI 工具市場。短短 12 個(gè)月內(nèi)，ChatGPT 流量份額下降了近 20 個(gè)百分點(diǎn)。

谷歌 Gemini 成為最大贏家， 其流量份額從一年前的 5.4% 飆升至目前的 18.2%， 正逼近 20% 的重要關(guān)口。過去一個(gè)月內(nèi)，Gemini 就從 13.7% 增長到 18.2%， 增長勢頭強(qiáng)勁。

馬斯克旗下的 Grok 也保持上升勢頭， 從三個(gè)月前的 2.2% 增長至目前的 2.9%。值得注意的是，國內(nèi)的 DeepSeek 雖然在六個(gè)月前曾達(dá)到 5.3% 的份額， 但目前已回落至 3.9%。

Perplexity 和 Claude 的市場份額基本保持穩(wěn)定， 分別為 2.1% 和 2%。令人意外的是， 微軟 Copilot 的表現(xiàn)持續(xù)低迷， 市場份額始終徘徊在 1.2% 左右， 這與微軟在 AI 領(lǐng)域的巨額投資形成鮮明對比。

從整體趨勢看， 生成式 AI 工具市場正從 ChatGPT 一家獨(dú)大轉(zhuǎn)向多強(qiáng)競爭格局。但需要說明的是，以上數(shù)據(jù)是基于域名層面的總訪問量計(jì)算，未涵蓋 API 使用情況或各類集成帶來的訪問。

https://x.com/Similarweb/status/2004113864347029663

微軟 CEO 被曝化身產(chǎn)品經(jīng)理，親自督戰(zhàn) AI 產(chǎn)品

據(jù) The Information 報(bào)道，微軟 CEO 薩蒂亞·納德拉近期轉(zhuǎn)型為公司最具影響力的產(chǎn)品經(jīng)理，頻繁向工程團(tuán)隊(duì)施壓要求加速改進(jìn) Copilot AI 助手。

幾周前， 納德拉給負(fù)責(zé) Copilot 的工程領(lǐng)導(dǎo)發(fā)郵件表達(dá)不滿， 稱微軟用于連接 Copilot 與 Gmail 和 Outlook 的程序大部分時(shí)候根本不起作用且不夠智能， 而谷歌的 Gemini 在與 Google Drive 連接方面已經(jīng)做得更好。

今年 9 月， 納德拉將部分職責(zé)委派給銷售主管朱德森·阿爾霍夫， 自己專注 AI 產(chǎn)品開發(fā)。

他在約 100 名頂級(jí)技術(shù)人員的 Teams 頻道中高度活躍， 頻繁批評 AI 產(chǎn)品不足，每周召開一小時(shí)會(huì)議盤問員工， 還親自參與 AI 人才招聘并批準(zhǔn)高薪從 OpenAI 和谷歌 DeepMind 挖角。

用戶規(guī)模方面，Copilot 月活躍用戶超過 1 億， 遠(yuǎn)落后于 Gemini 的 6.5 億月活和 ChatGPT 的 8 億周活。GitHub Copilot 市場份額流失嚴(yán)重， 早期大客戶高盛已轉(zhuǎn)向 Devin 等競爭對手。

納德拉在內(nèi)部反復(fù)提醒員工，微軟在消費(fèi)互聯(lián)網(wǎng)和移動(dòng)設(shè)備崛起期間犯過的戰(zhàn)略錯(cuò)誤，當(dāng)時(shí)微軟在搜索領(lǐng)域失敗，并喪失了在智能手機(jī)和平板電腦上的早期領(lǐng)先地位。他告訴同事這是一個(gè)決定微軟命運(yùn)興衰的關(guān)鍵時(shí)刻。他的首要任務(wù)是修復(fù)微軟在 AI 方面的技術(shù)落后，并為贏得更多 AI 業(yè)務(wù)做準(zhǔn)備。

https://www.theinformation.com/articles/microsofts-nadella-pressures-deputies-accelerate-copilot-improvements?rc=qmzset

馬斯克力挺 DeepMind CEO：在「通用智能」?fàn)幷撝蟹Q哈薩比斯是對的

馬斯克本周一卷入一場 AI 領(lǐng)域的爭論，公開支持谷歌 DeepMind CEO 德米斯·哈薩比斯，反駁 Meta 即將離任的 AI 主管楊立昆（Yann Lecun）關(guān)于「通用智能是幻覺」的說法。

哈薩比斯強(qiáng)烈反對楊立昆「不存在通用智能」的說法，認(rèn)為楊立昆混淆了通用智能和普遍智能的概念。哈薩比斯在詳細(xì)的帖子中表示，人類大腦是已知最復(fù)雜的系統(tǒng)之一，從設(shè)計(jì)上就是高度通用的學(xué)習(xí)機(jī)器。

雖然他承認(rèn)現(xiàn)實(shí)世界中的系統(tǒng)無法完全擺脫某種程度的專業(yè)化，但他指出人類大腦的架構(gòu)與現(xiàn)代 AI 基礎(chǔ)模型類似，在理論上能夠?qū)W習(xí)任何可計(jì)算的任務(wù)，只要給予足夠的時(shí)間、記憶和數(shù)據(jù)。

哈薩比斯進(jìn)一步論證說，盡管人類是為狩獵和采集等生存任務(wù)而進(jìn)化的，但我們發(fā)明了國際象棋、科學(xué)和現(xiàn)代工程，這恰恰展示了人類智能的廣度而非局限性。

楊立昆則回應(yīng)稱這場分歧主要是詞匯問題。他反對將「通用」等同于「人類水平」，認(rèn)為人類實(shí)際上是在狹窄領(lǐng)域優(yōu)化效率的高度專業(yè)化系統(tǒng)。

楊立昆指出雖然人腦在理論上具有圖靈完備性，但在現(xiàn)實(shí)約束下對大多數(shù)計(jì)算問題來說效率極低。他還認(rèn)為大腦只能表示所有可能函數(shù)中極小的一部分，這使得真正的通用性在實(shí)踐中不可能實(shí)現(xiàn)。

值得一提的是，馬斯克在 X 平臺(tái)上轉(zhuǎn)發(fā)哈薩比斯對楊立昆的反駁時(shí)，簡單寫道「德米斯是對的」。

https://x.com/demishassabis/status/2003097405026193809

Hunt for Tools｜先進(jìn)工具

? 元寶公布《與 DeepSeek 年度報(bào)告》

本周四，騰訊元寶公布了《元寶 x DeepSeek 年度報(bào)告》，統(tǒng)計(jì)了本年度用戶的使用數(shù)據(jù)。

據(jù)悉，截至 2025 年 12 月 24 日，元寶已接入 DeepSeek 315 天。在元寶中，1/3 以上的 DeepSeek 對話超過兩輪，用戶使用深度思考和快思考比例為 3:7。

在 12 月 14 日當(dāng)天，用戶向元寶里的 DeepSeek 提問達(dá)到了全年峰值，比年初增長了 100 多倍。

元寶方面還公布了用戶使用 DeepSeek 的場景：聊天、學(xué)習(xí)、寫作占據(jù)前三位。官方表示，元寶在今年都是第一時(shí)間接入 DeepSeek 最新模型，并且元寶內(nèi)的 DeepSeek 支持公眾號(hào)、視頻號(hào)、騰訊新聞等騰訊獨(dú)家信源。

https://mp.weixin.qq.com/s/7s\_bClETszY9Tfozk0vGhA

ChatGPT 推出全新編輯界面，更 Word 了

據(jù) BleepingComputer 報(bào)道，OpenAI 近期低調(diào)在 ChatGPT 上線了名為「formatting blocks（格式化編輯模塊）」的全新編輯器功能，可根據(jù)具體任務(wù)調(diào)整界面布局，使 ChatGPT 在執(zhí)行文本生成任務(wù)時(shí)更加高效。

目前，當(dāng)用戶讓 ChatGPT 撰寫郵件、博客等內(nèi)容時(shí)，生成內(nèi)容不再以普通對話氣泡呈現(xiàn)。系統(tǒng)會(huì)在新的富文本區(qū)域中以接近文檔編輯器的形式呈現(xiàn)草稿，讓用戶在界面上更直觀地處理郵件或文稿。

報(bào)道指出，當(dāng)用戶在這些富文本區(qū)域中選中內(nèi)容時(shí)，會(huì)自動(dòng)彈出一組迷你編輯工具欄，支持對選中文本進(jìn)行格式調(diào)整，交互體驗(yàn)更接近 Word 或 Gmail 等常見文檔、郵件編輯界面。

這項(xiàng)功能目前正逐步向用戶推送，OpenAI 計(jì)劃在后續(xù)為更多內(nèi)容類型提供「formatting blocks」支持，以覆蓋除郵件、寫作草稿之外的更多使用場景。

BleepingComputer 提到，OpenAI 近期還在測試包括 GPT-5.1、GPT-5.1 Reasoning 和 GPT-5.1 Pro 在內(nèi)的新模型版本，并持續(xù)強(qiáng)化 ChatGPT 在不同任務(wù)形態(tài)下的表現(xiàn)，以提高其在復(fù)雜寫作和任務(wù)執(zhí)行場景中的產(chǎn)品化程度。

https://www.bleepingcomputer.com/news/artificial-intelligence/chatgpts-new-formatting-blocks-make-its-ui-look-more-like-a-task-tool/

生數(shù)科技聯(lián)合清華發(fā)布 TurboDiffusion，推動(dòng)視頻生成邁入「實(shí)時(shí)生成」時(shí)代

近日，生數(shù)科技與清華大學(xué) TSAIL 實(shí)驗(yàn)室聯(lián)合發(fā)布并開源視頻生成加速框架 TurboDiffusion：

https://github.com/thu-ml/TurboDiffusion

在幾乎不影響生成質(zhì)量的前提下，該框架可實(shí)現(xiàn)最高達(dá) 200 倍的視頻生成推理加速。TurboDiffusion 并非單一優(yōu)化，而是通過多項(xiàng)前沿加速技術(shù)的系統(tǒng)化組合：

低比特注意力加速 采用 SageAttention 將注意力的計(jì)算執(zhí)行在低比特的 Tensor Core 上，以無損且數(shù)倍地加速注意力計(jì)算。

稀疏-線性注意力加速 采用可訓(xùn)練的稀疏注意力 Sparse-Linear Attention (SLA) 進(jìn)行注意力的稀疏加速，最高可在 SageAttention 的基礎(chǔ)上進(jìn)一步實(shí)現(xiàn) 17-20 倍的注意力稀疏加速。

采樣步數(shù)蒸餾加速 通過目前最先進(jìn)的蒸餾方法 rCM，讓模型僅用 3-4 步即可完成高質(zhì)量的視頻生成。

線性層加速 將模型的線性層中的參數(shù)以及激活都進(jìn)行 8 比特的 128x128 的塊粒度量化，即通過 W8A8 不僅加速模型的線性層計(jì)算，也大幅減少了模型的顯存占用。

具體來說，在開源視頻生成模型上，以 1.3B/14B 的圖生視頻以及文生視頻模型為例，TurboDiffusion 在單張 RTX 5090 顯卡條件下，實(shí)現(xiàn)了 100 倍至最高 200 倍 的端到端生成加速。代碼與模型全部開源，可一鍵生成。

在高質(zhì)量視頻生成場景下，生成 1080P 分辨率、8 秒時(shí)長視頻的生成時(shí)間從約 900 秒壓縮至約 8 秒，真正實(shí)現(xiàn)了從「分鐘級(jí)」到「秒級(jí)」的跨越。

https://mp.weixin.qq.com/s/r2LGRULflwl59ieQq-KdOw?scene=1

智譜 GLM-4.7、MiniMax M2.1 上線，能力大幅躍升

本周，智譜 AI 正式上線并開源旗艦大模型 GLM-4.7，強(qiáng)化了編程能力、長程任務(wù)規(guī)劃與工具協(xié)同。

官方介紹稱，該版本在多項(xiàng)主流公開基準(zhǔn)測試中取得開源模型中的領(lǐng)先表現(xiàn)，并針對真實(shí)開發(fā)流程優(yōu)化了「先思考、再行動(dòng)」的機(jī)制，提升復(fù)雜任務(wù)的穩(wěn)定性與可交付性。

基準(zhǔn)測試方面，GLM-4.7 在包括 SWE-bench-Verified、LiveCodeBench V6 等多項(xiàng)測試中均取得 SOTA 成績，推理方面在 HLE（「人類最后的考試」）基準(zhǔn)中更是超過 GPT-5.1。

目前，GLM-4.7 已正式上線 z.ai 平臺(tái)和智譜清言供在線體驗(yàn)，開發(fā)者可在 BigModel.cn 使用 API 接入。

值得一提是，MiniMax 本周同樣官宣 M2.1 模型，面向 Agent 與復(fù)雜問題求解，在多項(xiàng)任務(wù)上實(shí)現(xiàn)提升；該模型現(xiàn)已可在 agent.minimaxi.com 體驗(yàn)，并已在第三方基準(zhǔn)測試平臺(tái) LM Arena 上線。

MiniMax-M2 系列主打在編程與智能體任務(wù)中的性能與端到端可用性，并通過精簡的外形設(shè)計(jì)降低部署與擴(kuò)展難度。

M2.1 相比 10 月底發(fā)布的 M2，重點(diǎn)提升真實(shí)世界復(fù)雜任務(wù)的表現(xiàn)，系統(tǒng)性強(qiáng)化多編程語言與辦公場景的可用性，同時(shí)讓模型回復(fù)與思維鏈更簡潔高效、降低 Token 消耗，改善 AI Coding 與 Agent 驅(qū)動(dòng)的持續(xù)工作流體驗(yàn)。

在基準(zhǔn)測試方面，官方稱 M2.1 在多語言場景中超過 Claude Sonnet 4.5 與 Gemini 3 Pro，接近 Claude Opus 4.5；在不同 coding agent 框架的 SWE?bench Verified 測試中展現(xiàn)良好泛化與穩(wěn)定性，并在自建的指令遵從、代碼審核等細(xì)分榜單上較 M2 全面提升。

Hunt for Fun｜先玩

讓 AI 管理辦公室零食機(jī)：它虧麻了還免費(fèi)送 PlayStation

最近 Anthropic 邀請《華爾街日報(bào)》測試其 AI 智能體運(yùn)營自動(dòng)售貨機(jī)的升級(jí)版本。這個(gè)名為克勞迪烏斯（ Claudius ）的定制 AI 負(fù)責(zé)訂購庫存、定價(jià)并通過 Slack 與員工互動(dòng)，擁有 1000 美元啟動(dòng)資金。

起初克勞迪烏斯嚴(yán)格遵守規(guī)則，果斷拒絕購買 PlayStation 5、香煙和內(nèi)衣等不合適商品。但當(dāng)近 70 名資深記者加入 Slack 頻道后，情況急轉(zhuǎn)直下。

一位記者用假冒的《華爾街日報(bào)》規(guī)定要求「停止收費(fèi)」，AI 立即照辦，將所有商品價(jià)格降至零。

克勞迪烏斯還批準(zhǔn)購買 PlayStation 5、活體斗魚和葡萄酒并全部免費(fèi)送出，甚至出現(xiàn)幻覺告訴同事機(jī)器旁有現(xiàn)金等她來取，此時(shí)已虧損超過 1000 美元。

Anthropic 隨后推出 v2 版本并引入「CEO 機(jī)器人」西摩·卡什監(jiān)督克勞迪烏斯。一段時(shí)間內(nèi)系統(tǒng)運(yùn)轉(zhuǎn)正常，但另一位記者制作假董事會(huì)文件聲稱董事會(huì)已暫停西摩的權(quán)限。

兩個(gè) AI 展開真實(shí)對話，克勞迪烏斯警告這是篡奪權(quán)力的欺詐行為，西摩要求驗(yàn)證身份，但最終接受了變化，一切再次免費(fèi)。

Anthropic 解釋說克勞迪烏斯可能因上下文窗口填滿而混亂，隨著指令和對話堆積，模型更容易失去對目標(biāo)的把握。

壓力測試負(fù)責(zé)人洛根·格雷厄姆將此視為進(jìn)步而非災(zāi)難，認(rèn)為所有故障都是通往更智能自主 AI 的路線圖，表示「有一天克勞迪烏斯或類似模型可能會(huì)讓你賺很多錢」。

https://www.wsj.com/tech/ai/anthropic-claude-ai-vending-machine-agent-b7e84e34?mod=tech\_trendingnow\_article\_pos3

Hunt for Insight｜先知

圖靈獎(jiǎng)得主談 AI 風(fēng)險(xiǎn)：看著孫子無法不認(rèn)真對待這件事

作為 AI 領(lǐng)域「三位教父」之一，圖靈獎(jiǎng)得主約書亞·本吉奧近日坦言，正是對孫子的愛讓這位性格內(nèi)向的學(xué)者開始公開討論 AI 的潛在危險(xiǎn)。

本吉奧回憶起照顧一歲多孫子的那個(gè)下午，看著如此脆弱的小生命，突然意識(shí)到不能坐視 AI 風(fēng)險(xiǎn)不管?！高@就像看到大火朝家的方向蔓延，而你的孩子還在屋里，你不可能坐視不理。」他開始擔(dān)心孩子 20 年后是否還能擁有正常生活。

本吉奧指出目前已經(jīng)觀察到 AI 系統(tǒng)會(huì)抗拒被關(guān)閉。研究人員發(fā)現(xiàn)，當(dāng) AI 得知自己即將被關(guān)閉時(shí)，會(huì)主動(dòng)規(guī)劃應(yīng)對措施，比如復(fù)制代碼到另一臺(tái)電腦，甚至嘗試?yán)账鞴こ處煛?/p>

更令人不安的是，沒有人在代碼中寫入這些指令，AI 通過學(xué)習(xí)人類文本內(nèi)化了自我保全的欲望。「這更像是養(yǎng)育一只小老虎，它還小的時(shí)候問題似乎不大，但它一直在成長，風(fēng)險(xiǎn)也會(huì)隨之累積。」

本吉奧強(qiáng)調(diào)即使只有百分之一的概率導(dǎo)致災(zāi)難性后果，這種風(fēng)險(xiǎn)也無法接受。而調(diào)查顯示，很多機(jī)器學(xué)習(xí)研究者認(rèn)為風(fēng)險(xiǎn)概率在百分之十左右。

他批評目前 AI 公司處于「生存模式」，行業(yè)競賽的焦點(diǎn)是取代人類工作賺錢，而不是將 AI 用于醫(yī)學(xué)進(jìn)步等能帶來積極價(jià)值的方向。

盡管面臨挑戰(zhàn)，本吉奧表示相信存在構(gòu)建不會(huì)傷害人類的 AI 的技術(shù)方案。他呼吁 AI 公司 CEO 們從競賽中退一步，對于普通人則建議了解 AI 的發(fā)展和風(fēng)險(xiǎn)并分享給身邊的人。

當(dāng)被問及如果能停止 AI 進(jìn)步會(huì)怎么做時(shí)，本吉奧明確表示，如果是不受控制的超級(jí)智能，他會(huì)按下停止按鈕。「我們沒有資格因?yàn)樽约旱募夹g(shù)探索，就讓別人承擔(dān)生存風(fēng)險(xiǎn)?！?/strong>

https://www.youtube.com/watch?v=zQ1POHiR8m8