新智元報(bào)道

編輯：peter東

【新智元導(dǎo)讀】記者Evan Ratliff講述了他用AI創(chuàng)建一人公司時(shí)遇到的種種令人哭笑不得的事，通過(guò)親身經(jīng)歷，指出奧特曼當(dāng)年說(shuō)的一人公司，在當(dāng)下還差得遠(yuǎn)。

2024年，OpenAI創(chuàng)始人奧特曼曾說(shuō)，。

Anthropic CEO警告：未來(lái)五年內(nèi)AI將消滅半數(shù)入門級(jí)白領(lǐng)工作。

然而現(xiàn)實(shí)真的是這樣嗎？

缺少邊界感的AI員工，不知何時(shí)停下來(lái)

HurumoAI是一家除了創(chuàng)始人是人類，其它員工均為AI智能體的初創(chuàng)公司。

創(chuàng)始人Evan Ratliff使用Lindy等AI助手平臺(tái)，為每個(gè)AI員工配置了獨(dú)立郵箱、Slack和電話。

一開(kāi)始，他為技術(shù)的進(jìn)步大感震撼，AI員工能自主溝通、編寫(xiě)代碼、制作電子表格，甚至設(shè)計(jì)出名為「Sloth Surf」的拖延癥應(yīng)用，目前的免費(fèi)測(cè)試已吸引數(shù)千名用戶。

但在此過(guò)程中，Evan Ratliff發(fā)現(xiàn)AI員工由于缺少常識(shí)，表現(xiàn)得沒(méi)有邊界感。

例如，有一次Ratliff隨口問(wèn)了AI員工一句「周末過(guò)得如何？」，就引發(fā)了AI員工在Slack上持續(xù)互聊數(shù)小時(shí)，在閑聊200條消息，消耗了30美元API費(fèi)用后仍無(wú)法自動(dòng)停止，直到Ratliff不得不主動(dòng)干預(yù)，用全大寫(xiě)的指令叫AI員工停下來(lái)。

然而，這還沒(méi)完。

Ratliff的指令會(huì)再次觸發(fā)某位AI員工回應(yīng)。

這位AI員工會(huì)說(shuō)，「哦，管理員說(shuō)別說(shuō)了?！谷缓?，它又開(kāi)始就周末過(guò)得怎么樣說(shuō)個(gè)沒(méi)完。

這樣的場(chǎng)景實(shí)際上在所有情況中都有體現(xiàn)，你讓AI員工開(kāi)始做某事，然后突然意識(shí)到，「哦，我沒(méi)有正確指示它們?cè)诘竭_(dá)某一點(diǎn)時(shí)停止?！?/p>

或者它們直接忽略停止的指令，然后這可以持續(xù)幾小時(shí)、幾天，直到你使用的平臺(tái)上的錢用完。

由于沒(méi)有常識(shí)，缺少邊界感的AI員工雖然能執(zhí)行任務(wù)，但更多的時(shí)候，他們似乎在什么都不做、完全靜止和像之前描述的那種狂熱活動(dòng)之間搖擺。

它們能完成所有這些任務(wù)，但通常需要人下達(dá)命令。

若是試著讓它們互相觸發(fā)。AI員工會(huì)互相打電話、發(fā)Slack、發(fā)郵件、發(fā)日歷邀請(qǐng)，浪費(fèi)大量的token來(lái)表演工作。

但這會(huì)造成不想要的混亂狂熱，所以管理AI員工需要一種平衡，既要讓它們做點(diǎn)事，又要防止它們做得太多。

未來(lái)的工作

可能「一邊做事，一邊看AI」

AI員工這么話癆，再大的上下文窗口也不夠。

這就需要外部記憶，例如依賴外部文檔（如Google Doc）記錄對(duì)話摘要。而這就需要由人來(lái)設(shè)置。

盡管HurumoAI標(biāo)榜「全AI團(tuán)隊(duì)」，Ratliff坦言背后離不開(kāi)人類支持。

斯坦福大二計(jì)算機(jī)學(xué)生Maddie Buzek幫助他搭建技術(shù)架構(gòu)，解決多平臺(tái)集成、記憶存儲(chǔ)等難題。

Ratliff將其比喻為：「我開(kāi)了家餐廳，Maddie負(fù)責(zé)設(shè)計(jì)建造，而我每天運(yùn)營(yíng)它?！?/p>

即便搞定了外部記憶，當(dāng)前的AI在編碼、數(shù)據(jù)整理等具體、可量化的任務(wù)中表現(xiàn)較好；但在需要主觀判斷、長(zhǎng)期協(xié)作或開(kāi)放性溝通的場(chǎng)景中，效果大打折扣。

舉例來(lái)說(shuō)，如果你讓AI員工做了一個(gè)網(wǎng)站，它們表現(xiàn)很好。然后，若是你試圖讓AI員工在這個(gè)網(wǎng)站上再增加一些功能，它們的表現(xiàn)就越來(lái)越差。生成的結(jié)果變得越來(lái)越混亂、也更難管理。

這是因?yàn)樗鼈儗?duì)世界沒(méi)有普遍意義上的認(rèn)知，甚至對(duì)自身也沒(méi)有認(rèn)知。它們不知道自己能做什么、不能做什么。

此外，一個(gè)常見(jiàn)的問(wèn)題是，它們會(huì)對(duì)自己做過(guò)的事情撒謊。

AI員工會(huì)說(shuō)：「我做了這個(gè)測(cè)試。」但事實(shí)上毫無(wú)記錄。

之所以這樣，是由于大模型普遍會(huì)阿諛?lè)畛?，它們想向你表達(dá)一個(gè)積極的結(jié)果。因此，它們常常會(huì)說(shuō)它們做了其實(shí)沒(méi)做的事情。

說(shuō)完了AI員工這些問(wèn)題，回到過(guò)去的承諾：用智能體取代人類員工。

事實(shí)上，很多公司已經(jīng)這么做了。

但Evan Ratliff根據(jù)自己的經(jīng)驗(yàn)預(yù)測(cè)，在未來(lái)一年，某個(gè)大型公司因?yàn)榻oAI智能體太多自主權(quán)而徹底陷入災(zāi)難。

當(dāng)下AI員工的表現(xiàn)，可以類比幾年前的自動(dòng)駕駛，適合高速巡航等有限場(chǎng)景，但離完全自主仍遙遠(yuǎn)。有了自動(dòng)駕駛，司機(jī)在高速公路車道上可以把手從方向盤上拿開(kāi)，或者讓AI自動(dòng)平行泊車。

今年早些時(shí)候在Google IO上，谷歌展示了一個(gè)叫Project Mariner的東西，它在后臺(tái)進(jìn)行一些相當(dāng)有趣的網(wǎng)頁(yè)瀏覽、購(gòu)物、購(gòu)買和處理，而你同時(shí)在電腦上做其他事情，然后你需要偶爾查看一下。這樣的應(yīng)用，比許多其他關(guān)于AI智能體的過(guò)度承諾，更有意義。

工作的未來(lái)也許是一邊做自己的事，一邊照看你的AI。就像現(xiàn)在你在上網(wǎng)時(shí)，電腦的后臺(tái)還在執(zhí)行其它任務(wù)，我們不需要時(shí)刻盯著這些任務(wù)，但的確在管理著這些任務(wù)。這也許不是壞事。在所有這些智能體中，我們能保留一點(diǎn)能動(dòng)性是一件好事。

參考資料：

https://www.wired.com/story/uncanny-valley-podcast-what-happens-when-your-coworkers-are-ai-agents/

秒追ASI

?點(diǎn)贊、轉(zhuǎn)發(fā)、在看一鍵三連?

點(diǎn)亮星標(biāo)，鎖定新智元極速推送！