人工智能的發(fā)展速度之快，熱度之高使得其監(jiān)管也越來越重要。美國聯(lián)邦貿(mào)易委員會（FTC）剛剛作出迄今為止最激進(jìn)的舉措之一，該機構(gòu)對包括谷歌、Meta和OpenAI在內(nèi)的七家主要科技公司展開了正式調(diào)查，要求詳細(xì)記錄他們的人工智能工具是如何開發(fā)、營銷和部署的。

FTC希望深入了解這些系統(tǒng)是如何工作的，用戶被告知了什么，以及哪些風(fēng)險被忽視了——尤其是在涉及未成年人的情況下。模仿對話和情感的聊天機器人現(xiàn)在正處于顯微鏡下。他們背后的主張也是如此。一些公司將他們的人工智能推廣為法律助理、商業(yè)教練，甚至是朋友——同時悄悄收集用戶數(shù)據(jù)，經(jīng)常跳過關(guān)鍵的安全措施。

根據(jù)FTC的命令，該機構(gòu)正在尋求內(nèi)部文件，以顯示人工智能角色是如何創(chuàng)建的，如何審查輸出，以及當(dāng)交互進(jìn)入敏感或有害領(lǐng)域時是否會警告用戶。

調(diào)查人員還想了解這些平臺是如何將參與交互溝通的，尤其是關(guān)于情感，而不僅僅是效用，還有依賴問題。這些公司不僅要解釋他們的聊天機器人是如何反應(yīng)的，還要解釋他們采取了哪些措施來衡量心理影響或防止過度反應(yīng)。

這不是FTC第一次打擊可疑的人工智能。早在2024年，該機構(gòu)就推出了“人工智能合規(guī)行動”，這是一項針對依賴人工智能炒作來銷售虛假服務(wù)公司的協(xié)調(diào)執(zhí)法行動。

像DoNotPay這樣的公司因營銷“機器人律師”而受到懲罰，該律師承諾在沒有任何經(jīng)過驗證的專業(yè)知識的情況下提供法律支持。其他人，包括Rytr和一組電子商務(wù)初創(chuàng)公司，被指控使用人工智能工具生成虛假評論或誘使消費者參與很少實現(xiàn)的收入計劃。

這項工作主要集中在欺詐、虛假承諾和旨在誤導(dǎo)的工具上?，F(xiàn)在的不同之處在于規(guī)模和利害關(guān)系。最新的打擊行動將注意力轉(zhuǎn)移到了主流參與者身上，他們塑造了數(shù)百萬人每天與人工智能互動的方式。這不再僅僅是欺詐產(chǎn)品。該機構(gòu)現(xiàn)在正在詢問，科技界最知名的公司是否正在建立情感反應(yīng)系統(tǒng)，以吸引用戶、收集個人數(shù)據(jù)和模擬信任——所有這些都沒有足夠的監(jiān)督或保障，尤其是當(dāng)這些用戶是兒童或青少年時。

對于處于調(diào)查中心的公司來說，其影響可能是嚴(yán)重的。如果FTC推進(jìn)更嚴(yán)格的規(guī)則或執(zhí)法行動，它可能會迫使人工智能產(chǎn)品的構(gòu)建和營銷方式發(fā)生大規(guī)模變化。這意味著新的審查流程、修訂的訓(xùn)練協(xié)議，以及對如何從用戶（尤其是年輕用戶）收集數(shù)據(jù)的潛在限制。

科技巨頭以前也面臨過這種監(jiān)管逆風(fēng)。歐洲《通用數(shù)據(jù)保護(hù)條例》生效后，Meta的年度合規(guī)成本超過了10億美元。

不僅僅是FTC感到不安。全國各地的立法者和倡導(dǎo)團(tuán)體也開始敲響警鐘。在加利福尼亞州，立法者正在推動新的提案，以限制人工智能聊天機器人與兒童互動的方式，并要求全面加強護(hù)欄。

就在本周二，OpenAI剛剛宣布將推出專為18歲以下用戶定制的ChatGPT體驗功能，并配備家長控制功能。

在華盛頓，參議院正準(zhǔn)備研究這些系統(tǒng)如何影響人們的心理和情感健康。像Common Sense Media這樣的組織呼吁基于年齡的限制，并警告說，為反映同理心而構(gòu)建的機器人正在進(jìn)入市場，而沒有太多真正的監(jiān)督。FTC可能已經(jīng)邁出了第一步，但勢頭遠(yuǎn)遠(yuǎn)不止于此。

這不會是FTC的最后一次調(diào)查，也不會是最后一次警告。我們知道人工智能不會消失，事實上，它正在更深入地融入我們的日常生活和政府流程。現(xiàn)在真正的考驗是，在監(jiān)管機構(gòu)決定限制之前，該行業(yè)是否能夠負(fù)責(zé)任地構(gòu)建和實施人工智能。

與 Ai 時代前沿合作，將大門向更多普通用戶敞開！無論你是對新技術(shù)充滿好奇心的愛好者，還是希望提升自己技能的職場人士，這里都有適合你的課程和資源。