人工智能（AI）正以前所未有的速度重塑世界，然而，在推動進步的同時，這份強大的科技力量卻可能成為固化甚至加劇社會性別偏見的“隱形推手”。如果人工智能的數(shù)據(jù)來源帶有刻板印象和性別偏見，而開發(fā)者對此視而不見，那么算法將進一步擴大數(shù)字領(lǐng)域的不公平鴻溝。

2021年，加州大學(xué)伯克利分校性別與領(lǐng)導(dǎo)力平等中心（Berkeley Haas Center for Equity, Gender and Leadership）對不同行業(yè)的 133 個人工智能系統(tǒng)進行了分析，發(fā)現(xiàn)約 44% 存在性別偏見，25% 同時存在性別與種族偏見。

那么，我們該如何在人工智能產(chǎn)品開發(fā)和應(yīng)用過程中，最大程度地減少性別偏見呢？

什么是人工智能帶來的性別偏見？

我們?yōu)槭裁葱枰匾曀?/strong>

人工智能模型通過算法處理海量數(shù)據(jù)，使計算機能夠比人類更高效地完成復(fù)雜任務(wù)。人工智能性別偏見可以理解為：人工智能學(xué)習(xí)了帶有偏見、不全面的數(shù)據(jù)，按照性別給人“貼標(biāo)簽”，做出缺乏客觀性的決策。

想象一下，人們用過去的招聘案例訓(xùn)練人工智能系統(tǒng)。如果這些案例帶有有意或無意的偏見，比如總是呈現(xiàn)男性科學(xué)家或女性護士，那么系統(tǒng)很可能會推斷出男性和女性“更適合”某些特定角色，并在篩選簡歷時帶有傾向性。

當(dāng)應(yīng)用于醫(yī)療領(lǐng)域的人工智能系統(tǒng)只由男性開發(fā)，并且使用的訓(xùn)練數(shù)據(jù)主要來自男性時，如果女性使用這類系統(tǒng)診斷疾病，就有概率會得到不準(zhǔn)確的結(jié)果，因為人工智能并不了解女性可能呈現(xiàn)的不同癥狀。

2018年，亞馬遜下架了一款A(yù)I招聘工具，因為它偏好男性的簡歷，對包含“女性”一詞的簡歷進行降分。多家企業(yè)的圖像識別系統(tǒng)也被發(fā)現(xiàn)難以準(zhǔn)確識別女性，尤其是有色人種女性，這種誤識別不僅會限制機會和多樣性，還可能在執(zhí)法和公共安全領(lǐng)域引發(fā)嚴(yán)重后果。

難以準(zhǔn)確識別女性的人工智能系統(tǒng) ?UN Women

當(dāng)訓(xùn)練數(shù)據(jù)和模型設(shè)計固化性別刻板印象時，“生成式AI”更易輸出歧視性內(nèi)容。如果偏見驅(qū)動的技術(shù)被濫用于深度偽造、換臉、網(wǎng)絡(luò)跟蹤或操縱輿論，不僅侵犯女性的隱私與安全，也削弱她們在公共空間的參與權(quán)。

那么，我們?nèi)绾螠p少人工智能系統(tǒng)中的性別偏見，確保其倫理性和包容性？

盡管全球女性的互聯(lián)網(wǎng)接入率逐年提升，但直到2024年，低收入國家僅20%的女性能夠使用網(wǎng)絡(luò)。這種數(shù)字鴻溝不僅造成數(shù)據(jù)缺口，更在人工智能系統(tǒng)中形成了明顯的性別偏見烙印。

根據(jù)2024年全球性別差距報告，全球 STEM（科學(xué)、技術(shù)、工程和數(shù)學(xué)）領(lǐng)域僅有28.2%的女性工作人員，女性高管的比例更是不足13%。

缺乏女性數(shù)據(jù)和女性視角，是導(dǎo)致人工智能系統(tǒng)存在性別偏見的關(guān)鍵原因。創(chuàng)造更加包容的人工智能系統(tǒng)，我們或許可以采取以下措施：

1?

訓(xùn)練人工智能的數(shù)據(jù)具有多樣性

用于訓(xùn)練人工智能的數(shù)據(jù)必須能夠代表所有性別、種族和群體，這意味著要有意識地選擇能夠反映不同社會背景、文化和社會身份的數(shù)據(jù)，同時剔除那些將特定職業(yè)或特質(zhì)與某一性別掛鉤的歷史偏見。

人工智能系統(tǒng)的開發(fā)應(yīng)由多元化的團隊完成，團隊成員應(yīng)來自不同的性別、種族和文化背景。這樣可以在開發(fā)過程中引入不同視角，減少偏見產(chǎn)生的盲區(qū)。

2?

使女性公平充分地參與人工智能行業(yè)

人工智能領(lǐng)域需要更多女性視角，這要求為女性在 STEM及信息通信技術(shù)教育與職業(yè)中提供更多機會，并鼓勵她們爭取擔(dān)任領(lǐng)導(dǎo)角色。

在阿爾巴尼亞舉辦的“性別數(shù)據(jù)馬拉松”（Gender Datathon)中，一支名為“賦權(quán)”的團隊獲得第一名，他們的項目助力消除該國對女司機的性別刻板印象 ?UN Women

3?

提升人工智能系統(tǒng)算法透明度

科技公司等開發(fā)主體應(yīng)通過技術(shù)手段和制度設(shè)計，讓算法的決策邏輯、數(shù)據(jù)來源和運行過程變得可追溯、可解釋、可審查，識別潛在偏見并建立問責(zé)機制。

4?

提高公眾認(rèn)知和開展教育

提高公眾認(rèn)知和開展教育，幫助人們了解人工智能的工作原理及其偏見風(fēng)險，能夠使他們更有能力識別并防范偏見系統(tǒng)，并確保關(guān)鍵決策始終由人類進行監(jiān)督與把關(guān)。

5?

在人工智能開發(fā)中融入性別響應(yīng)型政策

目前，沒有任何機制能夠阻止開發(fā)者在人工智能系統(tǒng)尚未準(zhǔn)備就緒、未能確保安全性的情況下就將其發(fā)布。我們需要在人工智能系統(tǒng)開發(fā)中融入性別響應(yīng)型政策，還應(yīng)制定強有力的倫理框架。

6?

建立全球多方參與的治理框架

國際社會在數(shù)字技術(shù)領(lǐng)域的合作長期側(cè)重于技術(shù)和基礎(chǔ)設(shè)施問題以及數(shù)字經(jīng)濟，針對人工智能帶來的挑戰(zhàn)與風(fēng)險，亟需建立一個全球多方參與的治理框架，在系統(tǒng)出現(xiàn)性別或種族偏見、強化有害刻板印象或未能達(dá)到隱私與安全標(biāo)準(zhǔn)時，能夠及時采取預(yù)防和補救措施。

推動面向所有婦女和女童的數(shù)字改革，是聯(lián)合國婦女署“北京+30行動議程”的重要工作之一，我們必須確保平等獲得技術(shù)，使婦女和女童能夠在人工智能和數(shù)字創(chuàng)新方面發(fā)揮領(lǐng)導(dǎo)作用，并保證她們的網(wǎng)絡(luò)安全和隱私。

當(dāng)下，人工智能技術(shù)迅猛發(fā)展，既帶來了社會進步的機遇，也潛藏著加劇性別不平等的風(fēng)險。警惕并消除人工智能中的性別偏見，我們才能實現(xiàn)真正公平、包容的數(shù)字未來。