人工智能工具是否足夠可靠，能夠勝任商業(yè)環(huán)境中的重任？

更重要的是，我們是否應(yīng)該賦予它們決策的“自主權(quán)”？根據(jù)《金融時報》的最新報道，亞馬遜云計算部門近期發(fā)生的至少兩起互聯(lián)網(wǎng)停機(jī)事件，據(jù)稱正是由笨拙的人工智能代理程序引發(fā)的。這些事件正將上述疑問推向風(fēng)口浪尖。

去年12月發(fā)生了一起嚴(yán)重的事故。據(jù)四名知情人士透露，亞馬遜網(wǎng)絡(luò)服務(wù)的工程師當(dāng)時允許其內(nèi)部研發(fā)的名為基羅的“代理型”編程工具進(jìn)行系統(tǒng)更改，結(jié)果引發(fā)了長達(dá)13個小時的服務(wù)中斷。這臺人工智能在命運(yùn)的捉弄下，竟然作出了“刪除并重建環(huán)境”的極端決策。

亞馬遜的員工聲稱，這并非人工智能工具首次引發(fā)服務(wù)中斷?！斑^去幾個月里，我們已經(jīng)目睹了至少兩起生產(chǎn)環(huán)境停機(jī)事故，”亞馬遜網(wǎng)絡(luò)服務(wù)的一名高級員工在接受《金融時報》采訪時表示，“工程師們讓助手程序在無人干預(yù)的情況下解決問題，雖然停機(jī)規(guī)模不大，但完全是可以預(yù)見的?！?/p>

亞馬遜網(wǎng)絡(luò)服務(wù)于去年7月推出了內(nèi)部編程助手基羅。公司將其描述為一個“自主型”代理，能夠協(xié)助項(xiàng)目“從構(gòu)思到投產(chǎn)”的全過程。而在此前的一起停機(jī)事件中，亞馬遜開發(fā)的另一款被定義為人工智能助手的編程工具也牽涉其中。

據(jù)內(nèi)部員工透露，這些人工智能工具被視為操作員權(quán)力的延伸，并被賦予了操作員級別的權(quán)限。在兩起停機(jī)事故中，相關(guān)工程師在最終落實(shí)更改前均未按慣例要求第二人進(jìn)行審核，這種做法違背了典型的操作規(guī)程。

在給《金融時報》的一份聲明中，亞馬遜聲稱停機(jī)只是“極其有限的事件”，僅影響了部分地區(qū)的單一服務(wù)。公司辯稱，人工智能工具的介入純屬“巧合”，并表示“任何開發(fā)工具或手動操作都可能發(fā)生同樣的問題”。

亞馬遜還強(qiáng)調(diào)，其基羅工具在采取任何行動前都會“請求授權(quán)”，但去年12月事故中的工程師擁有比平時更高的權(quán)限。公司認(rèn)為這是一個“用戶訪問控制問題，而非人工智能自主權(quán)問題”。亞馬遜堅(jiān)稱：“在這兩起案例中，錯在用戶，而非人工智能?！?/strong>

亞馬遜同時聲稱，沒有證據(jù)表明人工智能工具更容易出錯。對此，我們不禁要反問：亞馬遜是生活在真空里嗎？雖然人工智能及其在商業(yè)領(lǐng)域的探索尚處于萌芽階段，但已有大量證據(jù)表明這些工具極易發(fā)生故障。它們產(chǎn)生“幻覺”——即憑空捏造事實(shí)的傾向已是眾所周知，其安全護(hù)欄的脆弱性也備受詬病。甚至一些亞馬遜自己的員工也告訴《金融時報》，由于擔(dān)心出錯風(fēng)險，他們并不樂意使用這些人工智能工具。

資深程序員發(fā)現(xiàn)，人工智能編程助手經(jīng)常吐出漏洞百出的代碼。多項(xiàng)研究表明，由于需要對這些存疑的輸出進(jìn)行頻繁的雙重甚至三重檢查，軟件工程師的工作效率實(shí)際上被拉低了，盡管從表面上看，人工智能產(chǎn)出代碼的速度確實(shí)更快。隨著所謂“情緒編程”概念的興起，由于人工智能代理作出了所有者意料之外的決策，類似的低級錯誤層出不窮。

誠然，如果科技巨頭自己都不在業(yè)務(wù)中使用這些號稱能極大提升生產(chǎn)力的工具，那顯然缺乏說服力。目前，這些公司似乎都在“近水樓臺先得月”。微軟和谷歌均吹噓其超過四分之一的代碼現(xiàn)在由人工智能編寫。安特羅皮克和人工智能開放世界的工程師甚至暗示，他們近乎100%的代碼都出自人工智能之手。

亞馬遜將停機(jī)事故輕描淡寫地歸結(jié)為簡單的“用戶錯誤”而非“人工智能錯誤”，這顯得十分滑稽。畢竟，代碼是由人工智能生成的。而且，亞馬遜及其競爭對手一直在持續(xù)告知員工和客戶，他們應(yīng)該更深地依賴這些工具。

員工告訴《金融時報》，公司設(shè)定了一個目標(biāo)，要求80%的開發(fā)者每周至少使用一次人工智能進(jìn)行編程任務(wù)。這無異于一項(xiàng)硬性的強(qiáng)制命令。然而一旦人工智能出了偏差，責(zé)任永遠(yuǎn)在員工身上，而不在工具本身，更不在那些推波助瀾的高層手中。

就目前所知，新披露的人工智能失誤與去年10月導(dǎo)致“半個互聯(lián)網(wǎng)”癱瘓的亞馬遜網(wǎng)絡(luò)服務(wù)大規(guī)模停機(jī)事故并無關(guān)聯(lián)。但鑒于這些新披露的細(xì)節(jié)，以及該公司對人工智能工具日益沉重的依賴，人們不由得懷疑：在那場災(zāi)難中，人工智能是否也曾在某個環(huán)節(jié)扮演了不光彩的角色。