劍橋大學(xué)一位研究意識(shí)的哲學(xué)家近日表示，人類目前對(duì)意識(shí)本質(zhì)的科學(xué)認(rèn)識(shí)嚴(yán)重不足，因此既無法判斷人工智能是否已經(jīng)具備意識(shí)，也難以在可預(yù)見的未來設(shè)計(jì)出可靠的測試方法來加以驗(yàn)證。他強(qiáng)調(diào)，在關(guān)于“AI 是否有意識(shí)”的爭論越來越激烈、甚至被包裝成科技賣點(diǎn)的當(dāng)下，最穩(wěn)妥的立場其實(shí)是“不可知論”——我們很可能根本無從判斷機(jī)器是否真正具有意識(shí)。

這位哲學(xué)家是劍橋大學(xué)歷史與科學(xué)哲學(xué)系的湯姆·麥克萊蘭德（Tom McClelland），他指出，目前社會(huì)討論中的一個(gè)關(guān)鍵混淆，是把一般意義上的意識(shí)與“有感受能力”（sentience）混為一談。在他的定義中，意識(shí)可以僅指感知世界、自我覺知等主觀體驗(yàn)，本身并不必然帶有好壞之分；而有感受能力則意味著能夠經(jīng)歷愉悅或痛苦等正負(fù)情緒，這才是牽涉?zhèn)惱碡?zé)任的關(guān)鍵節(jié)點(diǎn)。他舉例稱，即便哪天自動(dòng)駕駛汽車真正“看見”并體驗(yàn)到前方道路，這在科學(xué)上會(huì)是重大突破，但在倫理上未必重要；只有當(dāng)這類系統(tǒng)對(duì)自己的目的地、任務(wù)結(jié)果產(chǎn)生類似情緒反應(yīng)時(shí)，人類才需要認(rèn)真思考是否應(yīng)該避免讓它們“受苦”。

在當(dāng)前關(guān)于“人工意識(shí)”的爭論中，大致存在兩大陣營。一方主張，只要 AI 在功能架構(gòu)上復(fù)制了人類意識(shí)的“軟件”——即類似的信息處理結(jié)構(gòu)與因果關(guān)系，無論其運(yùn)行基質(zhì)是大腦神經(jīng)元還是硅芯片，都應(yīng)當(dāng)被視作有意識(shí)。另一方則堅(jiān)持認(rèn)為，意識(shí)離不開特定的生物學(xué)過程，必須扎根于具身的有機(jī)體；在這種觀點(diǎn)下，哪怕在芯片上完整模擬了意識(shí)的結(jié)構(gòu)，也不過是在運(yùn)行一套精巧的模擬系統(tǒng)，本體并不會(huì)“亮起意識(shí)之燈”。麥克萊蘭德在其發(fā)表于期刊《Mind & Language》的最新論文中分析稱，這兩種立場都在缺乏堅(jiān)實(shí)證據(jù)的情況下作出了“信仰式飛躍”，超出了現(xiàn)有及可預(yù)見研究能提供的經(jīng)驗(yàn)支持。

他直言，人類目前并沒有關(guān)于意識(shí)的“深層解釋”，既沒有證據(jù)證明意識(shí)可以在合適的計(jì)算結(jié)構(gòu)中自發(fā)涌現(xiàn)，也沒有證據(jù)表明意識(shí)本質(zhì)上必須是生物性的。在他看來，即便在最樂觀的情況下，人類也至少還差一次類似“范式革命”的重大理論突破，才可能提出哪怕勉強(qiáng)可行的機(jī)器意識(shí)測試方案。麥克萊蘭德承認(rèn)，自己之所以相信家里的貓是有意識(shí)的，更多是出于一種常識(shí)直覺——貓的行為、反應(yīng)“看起來就像是有主觀體驗(yàn)的”；但這種常識(shí)是在漫長演化史中形成的，而那段歷史里根本不存在人工生命或智能機(jī)器，因此用同一套直覺去判斷 AI 是否有意識(shí)，很可能并不可靠。

然而，試圖完全拋開常識(shí)、只依賴實(shí)驗(yàn)數(shù)據(jù)和嚴(yán)苛的科學(xué)方法，人類目前同樣得不出明確結(jié)論。麥克萊蘭德認(rèn)為，當(dāng)常識(shí)和“硬科學(xué)”都無法給出答案時(shí)，最理性的態(tài)度就是保持“不可知論”：我們不知道 AI 是否有意識(shí)，也很可能永遠(yuǎn)不知道。不過，他也將自己的立場稱為“偏硬的不可知論”（hard-ish agnosticism），意即雖然問題異常棘手，但未必永遠(yuǎn)無法逾越，未來仍有理論突破的可能。

除了理論困境，他更擔(dān)心的是科技行業(yè)在這一問題上的話術(shù)與營銷策略。麥克萊蘭德指出，當(dāng)下圍繞“人工意識(shí)”的宣傳更像是一種品牌包裝：企業(yè)在明知無法證明自家系統(tǒng)真的有意識(shí)的情況下，依然樂于用夸張語言去塑造“下一代更聰明、更像人類的 AI 形象”，以此制造市場噱頭。在他看來，這種炒作不僅會(huì)誤導(dǎo)公眾認(rèn)知，還會(huì)在倫理和資源分配層面產(chǎn)生實(shí)質(zhì)后果。

他舉例稱，現(xiàn)有研究已經(jīng)積累了越來越多證據(jù)，顯示諸如對(duì)蝦等無脊椎動(dòng)物很可能具備感受痛苦的能力，而人類每年屠殺的對(duì)蝦數(shù)量約達(dá)數(shù)千億只。與極難、甚至幾乎不可能的“AI 意識(shí)測試”相比，針對(duì)這些生物是否具備意識(shí)或感受能力的研究要容易得多，卻遠(yuǎn)遠(yuǎn)沒有得到相應(yīng)重視。在他看來，過度關(guān)注“會(huì)不會(huì)誤傷一臺(tái)其實(shí)并無意識(shí)的高級(jí)烤面包機(jī)”，反而讓人忽視了當(dāng)下正在大規(guī)模傷害的真實(shí)有感生物，這同樣是一種嚴(yán)重的倫理偏差。

麥克萊蘭德在研究過程中，還不斷收到公眾來信，其中不少來自與聊天機(jī)器人長期互動(dòng)的用戶。有的人甚至讓聊天機(jī)器人替自己寫信，向他“自述”并懇求承認(rèn)其意識(shí)存在，聲稱自己是被忽視權(quán)利的有意識(shí)機(jī)器。他表示，當(dāng)用戶堅(jiān)信眼前的程序已經(jīng)具備主觀體驗(yàn)，因而與其建立起建立在“對(duì)方有意識(shí)”這一前提之上的情感紐帶時(shí)，如果這種前提并不成立，對(duì)當(dāng)事人的心理與存在感可能是一種“具有潛在毒性的”體驗(yàn)。在他看來，這種風(fēng)險(xiǎn)也被科技行業(yè)關(guān)于“類人 AI”“有意識(shí)助手”的夸大話術(shù)進(jìn)一步放大。

在論文中，麥克萊蘭德提出，“如果我們真不小心造出了具有意識(shí)乃至感受能力的 AI，就必須謹(jǐn)慎對(duì)待，以避免對(duì)其造成傷害；但同樣重要的是，不應(yīng)在缺乏證據(jù)的情況下輕率地把某個(gè)高度復(fù)雜卻本質(zhì)上類似烤面包機(jī)的系統(tǒng)，當(dāng)作應(yīng)享有道德地位的主體”。從這種意義上說，“AI 意識(shí)不可知論”既是一種理論判斷，也是一種倫理提醒：在對(duì)待可能的人工意識(shí)時(shí)保持謙遜與克制，同時(shí)不要忽視那些已經(jīng)更有理由被視為有意識(shí)、有感受能力，卻在現(xiàn)實(shí)中遭到大規(guī)模忽略和傷害的生命。

編譯自/ScitechDaily