新智元報(bào)道

編輯：元宇

【新智元導(dǎo)讀】最近，微軟AI CEO蘇萊曼稱AI已經(jīng)超越人類。蘇萊曼在組建微軟超級(jí)智能團(tuán)隊(duì)的同時(shí)也提出了「人文主義超級(jí)智能」概念，他并不認(rèn)同業(yè)內(nèi)關(guān)于AGI競(jìng)賽的做法，他認(rèn)為所有行業(yè)參與者都應(yīng)當(dāng)意識(shí)到超級(jí)智能在發(fā)展中伴隨著巨大的風(fēng)險(xiǎn)，必須確保讓AI站在人類一邊。

「AI已經(jīng)超越人類了」。

近日，微軟AI（Microsoft AI）CEO穆斯塔法·蘇萊曼（Mustafa Suleyman）在接受Bloomberg采訪時(shí)說道。

蘇萊曼談到了超級(jí)智能發(fā)展的安全紅線，認(rèn)為其可能在醫(yī)學(xué)領(lǐng)域率先落地。

他還談到了自己如何使用AI，比如用Copilot幫自己挑選電影。

微軟AI CEO 蘇萊曼（Mustafa Suleyman）

2024年3月，蘇萊曼被任命為微軟AI CEO，負(fù)責(zé)微軟整體AI戰(zhàn)略與產(chǎn)品方向。

在此之前，他曾與里德·霍夫曼共同創(chuàng)立了Inflection AI，還曾因共同創(chuàng)立DeepMind聲名鵲起。

DeepMind在2014年被谷歌收購(gòu)，后來開發(fā)出了擊敗圍棋世界冠軍的AlphaGo。

如今的DeepMind已成為谷歌旗下全球頂尖的AI研究機(jī)構(gòu)，并通過AlphaFold、Gemini等一系列突破性創(chuàng)新，占據(jù)了AI領(lǐng)域的領(lǐng)導(dǎo)地位。

AI已經(jīng)「超越人類了」

今年年初，OpenAI CEO奧特曼曾雄心勃勃地表示：AGI最早將于2025年實(shí)現(xiàn)。

這一預(yù)測(cè)在當(dāng)時(shí)挑戰(zhàn)了業(yè)內(nèi)普遍共識(shí)，因此備受爭(zhēng)議。

最近，谷歌DeepMind CEO哈薩比斯（Demis Hassabis）又多次表態(tài)，AGI可能在5到10年內(nèi)實(shí)現(xiàn)。

目前，通觀科技大佬的主流觀點(diǎn)，認(rèn)為未來5-10年可能會(huì)迎來AGI/ASI，但這個(gè)過程中仍需要更多的研究突破。

關(guān)于AGI/ASI到來時(shí)間表的預(yù)測(cè)，產(chǎn)業(yè)界、學(xué)術(shù)界各方差異較大，很大原因是由于大家對(duì)AGI/ASI的定義不同，也難有定論。

不過從使用者角度來看，目前AI在應(yīng)用過程中還存在幻覺問題，對(duì)常識(shí)與現(xiàn)實(shí)世界理解不穩(wěn)定，以及對(duì)提示詞高度敏感等一系列問題。

而且AI在具體使用過程中，也經(jīng)常會(huì)出現(xiàn)錯(cuò)誤。

比如，用它來幫助購(gòu)物，它就很可能會(huì)買錯(cuò)。

蘇萊曼認(rèn)為在這種情況下，可以選擇讓人類介入，「AI在采取下一步行動(dòng)之前，會(huì)征人類的許可，因此總體來說是相當(dāng)安全的?！?/p>

在蘇萊曼看來，在購(gòu)買物品這樣的場(chǎng)景中，AI距離真正成為日常工具，可能還需要一段時(shí)間。

但這并沒有影響到他對(duì)AI的信心和樂觀預(yù)期。

我知道它會(huì)在接下來的六個(gè)月、12個(gè)月，或者最壞情況下18個(gè)月內(nèi)實(shí)現(xiàn)。它已經(jīng)是超越人類了。

明年這個(gè)時(shí)候，能不能用一個(gè)自主的AI智能體來買圣誕禮物？

對(duì)于這個(gè)問題，蘇萊曼的答案十分肯定：我相當(dāng)確定可以，可能性非常高。

蘇萊曼還分享了他在日常生活中使用AI的例子。

他會(huì)在Copilot上更新自己所喜歡電影的表格，AI可以為他推薦他喜歡的電影海報(bào)鏈接。

蘇萊曼表示可以讓AI去做任何知識(shí)型工作的任務(wù)，就好像你讓一位助理來幫你打理生活一樣：

「讓AI去做的事情越小眾、越有創(chuàng)意、越有挑戰(zhàn)性，它的表現(xiàn)反而越好?！?/p>

蘇萊曼提到目前Copilot Actions正在實(shí)驗(yàn)的一個(gè)功能，該功能可以通過AI來執(zhí)行自主任務(wù)，比如訂票或者買禮物。

他表示雖然AI不總是完全正確，但當(dāng)它真正運(yùn)作順暢時(shí)，那種感覺將是你見過的最神奇的事情：

「它會(huì)在你的瀏覽器里輸入內(nèi)容、點(diǎn)擊按鈕、打開新的標(biāo)簽頁；它可以查看你的歷史記錄，并根據(jù)你的情況來個(gè)性化購(gòu)買或回復(fù)?！?/p>

人文主義超級(jí)智能

今年10月以來，ASI（超級(jí)人工智能）取代AGI（通用人工智能），成為硅谷熱議的話題。

微軟也乘勢(shì)在10月成立了由蘇萊曼領(lǐng)軍的MAI超級(jí)智能團(tuán)隊(duì)。

早在今年6月，扎克伯格也將Meta的AI部門重組為「Meta超級(jí)智能實(shí)驗(yàn)室」。

前不久，OpenAI也傳出了正在組建超級(jí)智能團(tuán)隊(duì)的消息。

奧特曼認(rèn)為，ASI是AGI的下一個(gè)階段，AGI是能力與人類相當(dāng)?shù)腁I，當(dāng)OpenAI掌握了構(gòu)建AGI的方法之后，就應(yīng)當(dāng)追求「真正意義上的超級(jí)智能」。

關(guān)于超級(jí)智能，蘇萊曼認(rèn)為它是一種「可以學(xué)習(xí)任何新的任務(wù)，并且在所有任務(wù)上都比所有人類加起來更強(qiáng)」的AI系統(tǒng)。

在蘇萊曼看來，超級(jí)智能是一個(gè)極高的門檻，而且在目前階段，它伴隨著巨大的風(fēng)險(xiǎn)。

「我們并不確定該如何約束和對(duì)齊一個(gè)遠(yuǎn)比我們更強(qiáng)大的系統(tǒng)。」

基于這一考慮，蘇萊曼為超級(jí)智能加了一個(gè)前置的定義——

「人文主義超級(jí)智能」（Towards Humanist Superintelligence）。

這是一種「始終站在人類一邊，并與人類利益保持一致的智能?！?/p>

蘇萊曼表示，在能夠證明AI始終安全之前，微軟不會(huì)繼續(xù)開發(fā)一種有可能失控的系統(tǒng)。他認(rèn)為行業(yè)所有人都應(yīng)該對(duì)此達(dá)成共識(shí)。

前不久，哈薩比斯還斷言，要實(shí)現(xiàn)AGI，當(dāng)下主流大模型必須把「擴(kuò)規(guī)?！惯@件事推到極致（更多數(shù)據(jù)、更多算力、更大的模型）。

沿著這種思路下去，就將是一輪又一輪的AI軍備競(jìng)賽。

但蘇萊曼并不熱衷于超級(jí)智能競(jìng)賽這樣的論調(diào)。

他提出「人文主義超級(jí)智能」，正是為了摒棄AGI競(jìng)賽的敘事，將AI視為一種實(shí)現(xiàn)人類生活改善與未來發(fā)展的深度人文探索。

這也意味著微軟會(huì)采用一種人文主義視角來開發(fā)和使用AI。

蘇萊曼表示這與微軟的歷史有關(guān)。微軟是一家已經(jīng)存在50年的公司，因?yàn)橐恢狈浅Ｖ?jǐn)慎，因此它也高度值得信任：

「標(biāo)普500指數(shù)中有90%的公司使用微軟的電子郵件、操作系統(tǒng)和日常生產(chǎn)力工具。我們之所以擁有這樣的聲譽(yù)，正是因?yàn)楣臼冀K保持謹(jǐn)慎?！?/p>

「人文主義超級(jí)智能」的提出，同樣是基于微軟「謹(jǐn)慎」整體戰(zhàn)略的延續(xù)。

關(guān)于「什么樣的AI才是正確的」這樣的分歧由來已久。

奧特曼與馬斯克最初成立OpenAI，就是擔(dān)心谷歌DeepMind主導(dǎo)AI可能不安全。

后來，馬斯克離開OpenAI創(chuàng)辦xAI，安全也是一個(gè)重要因素。

2021年，包括Dario Amodei、Daniela Amodei在內(nèi)的7位前OpenAI員工離職創(chuàng)辦了Anthropic，也與對(duì)安全問題的分歧有關(guān)。

如今，蘇萊曼提出「人文主義超級(jí)智能」，同樣還是考慮到安全。

當(dāng)然，這并不意味著微軟就站在了AI發(fā)展的道德制高點(diǎn)上。

蘇萊曼表示，他無意去評(píng)判其他公司的做法，目前沒有看到AI帶來的任何大規(guī)模群體性傷害的證據(jù)，也沒有看到AI系統(tǒng)可以自我改進(jìn)或者真正實(shí)現(xiàn)自主運(yùn)行。

但在未來5-10年，他認(rèn)為這些能力可能會(huì)出現(xiàn)，系統(tǒng)可能會(huì)自行設(shè)定目標(biāo)，改進(jìn)自己的代碼，并自主行動(dòng)。

這些能力顯然會(huì)顯著提升風(fēng)險(xiǎn)水平。

因此，他認(rèn)為必須更加謹(jǐn)慎地對(duì)待它們，提高透明度和審計(jì)力度，加強(qiáng)與政府的互動(dòng)，并主動(dòng)說明我們距離這些能力還有多近。

蘇萊曼表示，約束和對(duì)齊是必要的前提，是AI發(fā)展不可逾越的紅，整個(gè)行業(yè)都必須接受這一點(diǎn)。

這也意味著在確信超級(jí)智能可以被控制之前，他們不會(huì)發(fā)布相關(guān)工具。

蘇萊曼稱微軟目前正在推動(dòng)這樣一場(chǎng)討論：

要求每一個(gè)行業(yè)參與者審視自己：是否正在構(gòu)建一種人文主義的超級(jí)智能？

蘇萊曼表示，微軟目前已經(jīng)移除了為一些客戶所提供的AI服務(wù)，避免這些服務(wù)被濫用的風(fēng)險(xiǎn)。

超級(jí)智能

最早可能應(yīng)用在醫(yī)療領(lǐng)域

蘇萊曼的母親是一位護(hù)士，因此醫(yī)療領(lǐng)域?qū)λ麃碚f是一個(gè)非常重要的領(lǐng)域，也讓他樹立了技術(shù)服務(wù)人類的信念。

「它應(yīng)該讓我們的生活變得更好、更舒適。有一天它會(huì)延長(zhǎng)人類的壽命，會(huì)讓我們?cè)谠敢獾那闆r下選擇少工作一些；它會(huì)創(chuàng)造出『豐?！弧！?/p>

但前提是我們必須有意識(shí)地優(yōu)先將AI用于這些方向。

早年在DeepMind時(shí)，蘇萊曼就創(chuàng)立了DeepMind Health，為臨床醫(yī)生和護(hù)士開發(fā)和部署人工智能技術(shù)，以改善一線醫(yī)療服務(wù)。

領(lǐng)導(dǎo)微軟AI后，醫(yī)療也是蘇萊曼重點(diǎn)布局的一個(gè)領(lǐng)域。

他曾提到在微軟的Co-pilot使用場(chǎng)景中，排名第一的就是醫(yī)療健康相關(guān)的搜索，這也是微軟重點(diǎn)押注的地方。

蘇萊曼表示，醫(yī)療領(lǐng)域可能會(huì)出現(xiàn)最令人振奮的應(yīng)用。

他稱目前微軟打造的AI系統(tǒng)，能夠診斷文獻(xiàn)中記載的任何罕見疾病，其表現(xiàn)顯著優(yōu)于人類醫(yī)生，而且成本更低、所需檢測(cè)更少、準(zhǔn)確率更高。

「我們目前正在進(jìn)行獨(dú)立的同行評(píng)審，很快也會(huì)進(jìn)入臨床試驗(yàn)階段，這非常令人興奮。」

參考資料：

https://www.bloomberg.com/features/2025-mustafa-suleyman-weekend-interview/

秒追ASI

?點(diǎn)贊、轉(zhuǎn)發(fā)、在看一鍵三連?

點(diǎn)亮星標(biāo)，鎖定新智元極速推送！