人工智能的偏見不僅根植于數(shù)據(jù)之中，它還由我們塑造，并嵌入到更廣泛的人機(jī)交互生態(tài)系統(tǒng)中。通過有意識(shí)的努力和建立合適的系統(tǒng)，個(gè)人、團(tuán)隊(duì)和組織不僅可以更負(fù)責(zé)任地使用人工智能，還可以更有效地使用它，釋放其作為真正伙伴的潛力，以產(chǎn)生更好的決策和更強(qiáng)大的成果。

關(guān)于生成式人工智能，一個(gè)被廣泛討論的擔(dān)憂是：基于有偏見的數(shù)據(jù)訓(xùn)練出來的系統(tǒng)會(huì)延續(xù)甚至放大這些偏見，導(dǎo)致不準(zhǔn)確的輸出或不公平的決策。但這只是冰山一角。隨著企業(yè)越來越多地將人工智能整合到其系統(tǒng)和決策流程中，一個(gè)關(guān)鍵因素常常被忽視：認(rèn)知偏見的作用。

人工智能的偏見不僅根植于數(shù)據(jù)之中，它還由我們塑造，并嵌入到更廣泛的人機(jī)交互生態(tài)系統(tǒng)中。偏見不僅源于數(shù)據(jù)本身，還源于人類行為與機(jī)器學(xué)習(xí)系統(tǒng)之間的動(dòng)態(tài)相互作用。人們與人工智能互動(dòng)的方式——通過他們的思維、提問、解讀、決策和回應(yīng)——會(huì)顯著影響這些系統(tǒng)的行為及其產(chǎn)生的結(jié)果。

通過有意識(shí)的努力和建立合適的系統(tǒng)，個(gè)人、團(tuán)隊(duì)和組織不僅可以更負(fù)責(zé)任地使用人工智能，還可以更有效地使用它，釋放其作為真正伙伴的潛力，以產(chǎn)生更好的決策和更強(qiáng)大的成果。

人類認(rèn)知偏見

如何在人工智能使用中顯現(xiàn)

認(rèn)知偏見是人類思維中的系統(tǒng)性扭曲，可能源于心理捷徑、情感影響或社會(huì)壓力。雖然這些偏見幫助我們?cè)趶?fù)雜世界中快速?zèng)Q策，但它們也可能導(dǎo)致有缺陷的判斷。例如，它們可能使我們過度強(qiáng)調(diào)某些數(shù)據(jù)，同時(shí)忽略其他相關(guān)信息。這些偏見大多在我們無意識(shí)的情況下發(fā)揮作用，潛移默化地影響我們解讀信息和做決策的方式，且往往會(huì)破壞最終的結(jié)果。

由于認(rèn)知偏見是我們大腦簡化信息本能的自然副產(chǎn)品，理解它們?nèi)绾斡绊懳覀兪褂萌斯ぶ悄苤陵P(guān)重要。當(dāng)領(lǐng)導(dǎo)者對(duì)偏見有更深刻的認(rèn)識(shí)時(shí)，就能主動(dòng)采取措施來管理其影響——在恰當(dāng)情境下善用直覺思維的優(yōu)勢(shì)，同時(shí)最大程度降低偏見扭曲關(guān)鍵人工智能輔助決策的風(fēng)險(xiǎn)。

這種相互作用不是單向的。人工智能系統(tǒng)反過來也會(huì)影響人類思維，隨著時(shí)間的推移強(qiáng)化現(xiàn)有偏見，而用戶往往沒有意識(shí)到。認(rèn)識(shí)到這個(gè)更廣泛、相互關(guān)聯(lián)的人機(jī)生態(tài)系統(tǒng)對(duì)于改善我們與這些工具的互動(dòng)以及做出更明智、高質(zhì)量的決策至關(guān)重要。

考慮到所有這些復(fù)雜性，領(lǐng)導(dǎo)者應(yīng)該關(guān)注哪里？

首先關(guān)注幾個(gè)最可能引入偏見的關(guān)鍵點(diǎn)：在向人工智能尋求幫助之前，在提問階段（此時(shí)人們向人工智能提問并評(píng)估其輸出，必要時(shí)重新提問以獲得有用的輸出），以及提問之后（此時(shí)人們會(huì)基于人工智能給出的輸出采取行動(dòng)）。

提問前：甚至在開始與人工智能互動(dòng)之前，提問者的思維過程就起著關(guān)鍵作用。是否使用人工智能以及如何使用，可能受到諸如光環(huán)效應(yīng)和尖角效應(yīng)等偏見的影響。如果提問者過去對(duì)人工智能有積極的體驗(yàn)，他們可能會(huì)帶著光環(huán)看待它，并假設(shè)它在廣泛情況下都是可靠的，即使對(duì)于它可能不太適合的任務(wù)也是如此。相反，負(fù)面的體驗(yàn)可能引發(fā)尖角效應(yīng)，導(dǎo)致不必要的懷疑或回避，即使在人工智能可能有所幫助的情況下也是如此。

例如，一些引人注目的新聞報(bào)道——比如麻省理工學(xué)院的一項(xiàng)研究發(fā)現(xiàn)，依賴人工智能工具寫論文的人表現(xiàn)出大腦活動(dòng)減少和學(xué)習(xí)成果變差，或者律師因提交包含人工智能生成、虛構(gòu)引用的法律簡報(bào)而受到制裁的廣為人知的案例——可能通過引入或強(qiáng)化對(duì)人工智能的懷疑而加劇尖角效應(yīng)。

意識(shí)到這些偏見不僅對(duì)個(gè)人用戶重要，對(duì)團(tuán)隊(duì)領(lǐng)導(dǎo)者也很重要。如果你的團(tuán)隊(duì)成員對(duì)采用人工智能猶豫不決，尖角效應(yīng)可能是他們產(chǎn)生抵觸情緒的原因之一。

偏見也影響著用戶如何定義他們?cè)噲D解決的問題。例如，確認(rèn)偏誤會(huì)導(dǎo)致某人專注于支持其現(xiàn)有信念的信息，而忽略其他解釋。這可能導(dǎo)致使用人工智能來解決錯(cuò)誤的問題。如果你已經(jīng)相信自己知道問題的原因，你更有可能以強(qiáng)化這種信念的方式來構(gòu)建人工智能提示，從而限制了輸出的有用性。

提問中：提問者向人工智能構(gòu)建問題的方式，極大地影響著輸出結(jié)果的質(zhì)量。引導(dǎo)性問題偏見會(huì)在提示詞暗示特定答案時(shí)出現(xiàn)，從而使回應(yīng)產(chǎn)生偏差。例如，問 “為什么產(chǎn)品 X 是最好的？” 會(huì)促使人工智能突出產(chǎn)品的優(yōu)點(diǎn)，而忽略其缺點(diǎn)。輸出結(jié)果可能聽起來令人信服，但最終會(huì)歪曲全貌，有可能導(dǎo)致錯(cuò)誤的決策。

作為人工智能用戶，我們都遇到過第一次提問沒有完全滿足我們需要的情況。然而，盡管輸出質(zhì)量很重要，我們往往未能嚴(yán)格評(píng)估人工智能生成的響應(yīng)。便利性偏見，即我們傾向于選擇快速、方便的解決方案，可能導(dǎo)致我們?cè)跊]有充分評(píng)估其準(zhǔn)確性或相關(guān)性的情況下就接受輸出。在時(shí)間壓力下，尤其容易看一眼響應(yīng)就認(rèn)為“足夠好了”，然后繼續(xù)下一步。但這種捷徑會(huì)損害我們的思維質(zhì)量，并導(dǎo)致無法解決實(shí)際問題或產(chǎn)生有意義影響的決策。

提問后：最后，提問者必須決定如何處理人工智能的輸出。認(rèn)知偏見也會(huì)影響這個(gè)階段。例如，一個(gè)花費(fèi)大量精力與人工智能合作完成演示文稿的提問者可能會(huì)經(jīng)歷稟賦效應(yīng)。這種偏見會(huì)使我們僅僅因?yàn)橥度肓藭r(shí)間或精力而產(chǎn)生對(duì)某事物的擁有感，從而高估它的價(jià)值。結(jié)果，提問者對(duì)自己的成果評(píng)價(jià)過高，并且由于對(duì)自己的想法或方法的執(zhí)著，他們不太可能去探索或考慮可能更好的替代方案。

偏見也影響我們?nèi)绾畏窒硐敕ā约八巳绾胃兄鼈?。由于框架效?yīng)，信息的呈現(xiàn)方式會(huì)顯著影響其被接受的程度。例如，說有20%的幾率患上某種疾病，比說有80%的幾率保持健康聽起來更令人擔(dān)憂。盡管兩種陳述傳達(dá)了相同的信息，但框架會(huì)強(qiáng)烈影響人們?nèi)绾谓庾x信息、他們的感受以及他們最終做出的決定。

這些只是認(rèn)知偏見如何影響我們與人工智能互動(dòng)的幾個(gè)例子。雖然“提問前/中/后”的框架有些過于簡化（因?yàn)槲覀兛梢蕴崾救斯ぶ悄軄碇С治覀兯季S的幾乎每個(gè)階段，包括問題定義和最終輸出），但它仍然是一個(gè)有用的方法，來突出偏見可能潛入的關(guān)鍵時(shí)刻。

我們能對(duì)認(rèn)知偏見做些什么

認(rèn)知偏見使我們能夠在無需對(duì)每種情況都進(jìn)行刻意、費(fèi)力推理的情況下快速做出決策，從而幫助我們應(yīng)對(duì)復(fù)雜性。但當(dāng)它們縮小我們的視野時(shí)——尤其是在高風(fēng)險(xiǎn)情境下——就會(huì)產(chǎn)生問題。那么，我們能做什么？

幸運(yùn)的是，個(gè)人、團(tuán)隊(duì)和組織都有重要的機(jī)會(huì)來減少偏見的負(fù)面影響。進(jìn)行我們自己的批判性思維并尋求他人的意見對(duì)于最小化偏見至關(guān)重要。人工智能也可以成為支持這些努力的有價(jià)值工具，幫助我們識(shí)別盲點(diǎn)和挑戰(zhàn)我們的假設(shè)。然而，重要的是將人工智能作為個(gè)人反思和多元視角的補(bǔ)充，而不是替代品。本節(jié)包含了一些人工智能提示示例，以說明人工智能如何支持這些實(shí)踐。

1、了解認(rèn)知偏見如何影響你與人工智能互動(dòng)

人工智能用戶無法控制嵌入人工智能系統(tǒng)中的偏見，但他們可以改變自己與人工智能互動(dòng)的方式。建立對(duì)我們上一節(jié)描述的那些時(shí)刻的意識(shí)是關(guān)鍵的第一步。理解偏見如何及在何處產(chǎn)生，有助于用戶保持警惕，主動(dòng)提出更好的問題，并做出更明智的決策。

2、打斷自動(dòng)思維，應(yīng)用批判性思維

在憑直覺行動(dòng)之前暫停是至關(guān)重要的，尤其是在高風(fēng)險(xiǎn)情況下。暫停本身并不能解決問題，但暫停期間發(fā)生的事情可以。它為我們創(chuàng)造了空間，讓我們從快速、自動(dòng)的反應(yīng)轉(zhuǎn)向更深思熟慮、反思性的推理。用神經(jīng)科學(xué)的術(shù)語來說，這意味著從本能驅(qū)動(dòng)的大腦系統(tǒng)轉(zhuǎn)向激活前額葉皮層——大腦中負(fù)責(zé)計(jì)劃、批判性分析和自我調(diào)節(jié)的部分。

那么，個(gè)人如何實(shí)際實(shí)現(xiàn)這種轉(zhuǎn)變呢？雖然認(rèn)知偏見千差萬別，但有幾個(gè)一致的策略適用于各種偏見——這些實(shí)踐有助于最小化其影響，并支持更深思熟慮、更有效地與人工智能互動(dòng)：

· 揭示假設(shè)并評(píng)估推理：通過審視結(jié)論背后的邏輯，進(jìn)行有意識(shí)的批判性思考。示例提示：審查我做出這個(gè)決定的推理過程，指出我可能忽略的任何假設(shè)或邏輯漏洞。

· 創(chuàng)造心理距離：像評(píng)價(jià)別人的想法一樣批評(píng)你自己的想法。使用客觀標(biāo)準(zhǔn)，并考慮一個(gè)中立的第三方會(huì)如何評(píng)價(jià)你的思維。示例提示：作為一個(gè)公正的局外人來評(píng)估我的提案。你會(huì)注意到哪些優(yōu)點(diǎn)和缺點(diǎn)？

· 尋求多元視角：有意探索挑戰(zhàn)你假設(shè)和信念的觀點(diǎn)和證據(jù)。邀請(qǐng)他人——甚至人工智能——來幫助識(shí)別你推理中的盲點(diǎn)或弱點(diǎn)。示例提示：從不同利益相關(guān)者的角度提出可能挑戰(zhàn)我當(dāng)前方法或思維的觀點(diǎn)。

3、建立支持批判性思維的系統(tǒng)

鑒于認(rèn)知偏見是自動(dòng)的且通常是無意識(shí)的，僅靠個(gè)人努力很難打斷它們。這就是為什么團(tuán)隊(duì)和組織必須建立能夠促進(jìn)反思、挑戰(zhàn)假設(shè)和鼓勵(lì)深思熟慮思維的流程和系統(tǒng)。

這首先要認(rèn)識(shí)到，將人工智能集成到工作流程中不僅僅是為了節(jié)省時(shí)間；更是為了提高思維和結(jié)果的質(zhì)量。在許多情況下，放慢速度對(duì)于做出更好的決策是必要的。實(shí)施結(jié)構(gòu)化的技術(shù)有助于揭示偏見并加強(qiáng)推理。這些技術(shù)可能包括：

· 事前剖析：團(tuán)隊(duì)想象未來的失敗，然后倒推找出可能出錯(cuò)的地方，在決策最終確定前發(fā)現(xiàn)盲點(diǎn)。示例提示：幫助我們進(jìn)行一次事前剖析。我們當(dāng)前的計(jì)劃可能會(huì)出什么問題？我們現(xiàn)在可以采取什么步驟來預(yù)防這些問題？

· 唱反調(diào)：指定某人挑戰(zhàn)主流觀點(diǎn)，測(cè)試團(tuán)隊(duì)思維的穩(wěn)健性。示例提示：假設(shè)你不同意我們的計(jì)劃，請(qǐng)對(duì)其進(jìn)行批判。我們應(yīng)該注意哪些弱點(diǎn)或風(fēng)險(xiǎn)？其他人可能會(huì)如何看待這個(gè)問題？

· 決策清單或結(jié)構(gòu)化模板：提示團(tuán)隊(duì)考慮替代解釋、評(píng)估權(quán)衡并記錄假設(shè)。示例提示：提供一份我們?cè)谧罱K確定此決定前應(yīng)考慮的關(guān)鍵因素清單。包括關(guān)于風(fēng)險(xiǎn)、替代方案、利益相關(guān)者影響和潛在偏見的問題。

無論這些實(shí)踐是正式的還是非正式的，培養(yǎng)一種鼓勵(lì)人們測(cè)試自己思維、進(jìn)行開放對(duì)話和尋求反饋的文化至關(guān)重要。而為了使反饋有意義，團(tuán)隊(duì)必須包含具有不同視角的成員，以避免群體思維。換句話說，必須在整個(gè)團(tuán)隊(duì)和組織中重視并積極培養(yǎng)思維多樣性。

認(rèn)知偏見不僅影響我們?nèi)绾嗡伎肌€塑造我們?nèi)绾问褂萌斯ぶ悄堋亩x問題到解讀人工智能生成的輸出并據(jù)此采取行動(dòng)，我們的偏見對(duì)我們的影響比我們意識(shí)到的要大。但我們并非無能為力。通過建立意識(shí)、暫停反思和進(jìn)行批判性思維，我們可以減少偏見的影響，更清晰地思考。

養(yǎng)成新的習(xí)慣，如質(zhì)疑假設(shè)、尋求多元視角以及在最重要的事情上放慢速度，起初可能會(huì)感到陌生。但隨著練習(xí)，這些行為會(huì)變得更容易、更自然。而這一切努力都是值得的。

關(guān)鍵詞：

Grace Chang、Heidi Grant | 文

Grace Chang是安永會(huì)計(jì)師事務(wù)所行為科學(xué)與洞察副總監(jiān)，是一位認(rèn)知神經(jīng)科學(xué)家，致力于架起科學(xué)與實(shí)踐的橋梁以設(shè)計(jì)有效的學(xué)習(xí)項(xiàng)目。Heidi Grant是一位社會(huì)心理學(xué)家，研究、撰寫并講述關(guān)于動(dòng)機(jī)科學(xué)的文章。她的著作包括《強(qiáng)化：如何讓別人幫助你》《成功人士與眾不同的九件事》以及《沒人懂你怎么辦》。她是安永美洲區(qū)行為科學(xué)與洞察總監(jiān)。

周強(qiáng) | 編校

聯(lián)系方式

投稿、廣告、內(nèi)容和商務(wù)合作

newmedia@hbrchina.org