人工智能（AI）正以前所未有的速度重塑世界，然而，在推動(dòng)進(jìn)步的同時(shí)，這份強(qiáng)大的科技力量卻可能成為固化甚至加劇社會(huì)性別偏見的“隱形推手”。如果人工智能的數(shù)據(jù)來源帶有刻板印象和性別偏見，而開發(fā)者對(duì)此視而不見，那么算法將進(jìn)一步擴(kuò)大數(shù)字領(lǐng)域的不公平鴻溝。

2021年，加州大學(xué)伯克利分校性別與領(lǐng)導(dǎo)力平等中心（Berkeley Haas Center for Equity, Gender and Leadership）對(duì)不同行業(yè)的 133 個(gè)人工智能系統(tǒng)進(jìn)行了分析，發(fā)現(xiàn)約 44% 存在性別偏見，25% 同時(shí)存在性別與種族偏見。

那么，我們?cè)撊绾卧谌斯ぶ悄墚a(chǎn)品開發(fā)和應(yīng)用過程中，最大程度地減少性別偏見呢？

什么是人工智能帶來的性別偏見？

我們?yōu)槭裁葱枰匾曀?/strong>

人工智能模型通過算法處理海量數(shù)據(jù)，使計(jì)算機(jī)能夠比人類更高效地完成復(fù)雜任務(wù)。人工智能性別偏見可以理解為：人工智能學(xué)習(xí)了帶有偏見、不全面的數(shù)據(jù)，按照性別給人“貼標(biāo)簽”，做出缺乏客觀性的決策。

想象一下，人們用過去的招聘案例訓(xùn)練人工智能系統(tǒng)。如果這些案例帶有有意或無意的偏見，比如總是呈現(xiàn)男性科學(xué)家或女性護(hù)士，那么系統(tǒng)很可能會(huì)推斷出男性和女性“更適合”某些特定角色，并在篩選簡(jiǎn)歷時(shí)帶有傾向性。

當(dāng)應(yīng)用于醫(yī)療領(lǐng)域的人工智能系統(tǒng)只由男性開發(fā)，并且使用的訓(xùn)練數(shù)據(jù)主要來自男性時(shí)，如果女性使用這類系統(tǒng)診斷疾病，就有概率會(huì)得到不準(zhǔn)確的結(jié)果，因?yàn)槿斯ぶ悄?strong>并不了解女性可能呈現(xiàn)的不同癥狀。

2018年，亞馬遜下架了一款A(yù)I招聘工具，因?yàn)樗媚行缘暮?jiǎn)歷，對(duì)包含“女性”一詞的簡(jiǎn)歷進(jìn)行降分。多家企業(yè)的圖像識(shí)別系統(tǒng)也被發(fā)現(xiàn)難以準(zhǔn)確識(shí)別女性，尤其是有色人種女性，這種誤識(shí)別不僅會(huì)限制機(jī)會(huì)和多樣性，還可能在執(zhí)法和公共安全領(lǐng)域引發(fā)嚴(yán)重后果。

難以準(zhǔn)確識(shí)別女性的人工智能系統(tǒng) ?UN Women

當(dāng)訓(xùn)練數(shù)據(jù)和模型設(shè)計(jì)固化性別刻板印象時(shí)，“生成式AI”更易輸出歧視性內(nèi)容。如果偏見驅(qū)動(dòng)的技術(shù)被濫用于深度偽造、換臉、網(wǎng)絡(luò)跟蹤或操縱輿論，不僅侵犯女性的隱私與安全，也削弱她們?cè)诠部臻g的參與權(quán)。

那么，我們?nèi)绾螠p少人工智能系統(tǒng)中的性別偏見，確保其倫理性和包容性？

盡管全球女性的互聯(lián)網(wǎng)接入率逐年提升，但直到2024年，低收入國(guó)家僅20%的女性能夠使用網(wǎng)絡(luò)。這種數(shù)字鴻溝不僅造成數(shù)據(jù)缺口，更在人工智能系統(tǒng)中形成了明顯的性別偏見烙印。

根據(jù)2024年全球性別差距報(bào)告，全球 STEM（科學(xué)、技術(shù)、工程和數(shù)學(xué)）領(lǐng)域僅有28.2%的女性工作人員，女性高管的比例更是不足13%。

缺乏女性數(shù)據(jù)和女性視角，是導(dǎo)致人工智能系統(tǒng)存在性別偏見的關(guān)鍵原因。創(chuàng)造更加包容的人工智能系統(tǒng)，我們或許可以采取以下措施：

1?

訓(xùn)練人工智能的數(shù)據(jù)具有多樣性

用于訓(xùn)練人工智能的數(shù)據(jù)必須能夠代表所有性別、種族和群體，這意味著要有意識(shí)地選擇能夠反映不同社會(huì)背景、文化和社會(huì)身份的數(shù)據(jù)，同時(shí)剔除那些將特定職業(yè)或特質(zhì)與某一性別掛鉤的歷史偏見。

人工智能系統(tǒng)的開發(fā)應(yīng)由多元化的團(tuán)隊(duì)完成，團(tuán)隊(duì)成員應(yīng)來自不同的性別、種族和文化背景。這樣可以在開發(fā)過程中引入不同視角，減少偏見產(chǎn)生的盲區(qū)。

2?

使女性公平充分地參與人工智能行業(yè)

人工智能領(lǐng)域需要更多女性視角，這要求為女性在 STEM及信息通信技術(shù)教育與職業(yè)中提供更多機(jī)會(huì)，并鼓勵(lì)她們爭(zhēng)取擔(dān)任領(lǐng)導(dǎo)角色。

在阿爾巴尼亞舉辦的“性別數(shù)據(jù)馬拉松”（Gender Datathon)中，一支名為“賦權(quán)”的團(tuán)隊(duì)獲得第一名，他們的項(xiàng)目助力消除該國(guó)對(duì)女司機(jī)的性別刻板印象 ?UN Women

3?

提升人工智能系統(tǒng)算法透明度

科技公司等開發(fā)主體應(yīng)通過技術(shù)手段和制度設(shè)計(jì)，讓算法的決策邏輯、數(shù)據(jù)來源和運(yùn)行過程變得可追溯、可解釋、可審查，識(shí)別潛在偏見并建立問責(zé)機(jī)制。

4?

提高公眾認(rèn)知和開展教育

提高公眾認(rèn)知和開展教育，幫助人們了解人工智能的工作原理及其偏見風(fēng)險(xiǎn)，能夠使他們更有能力識(shí)別并防范偏見系統(tǒng)，并確保關(guān)鍵決策始終由人類進(jìn)行監(jiān)督與把關(guān)。

5?

在人工智能開發(fā)中融入性別響應(yīng)型政策

目前，沒有任何機(jī)制能夠阻止開發(fā)者在人工智能系統(tǒng)尚未準(zhǔn)備就緒、未能確保安全性的情況下就將其發(fā)布。我們需要在人工智能系統(tǒng)開發(fā)中融入性別響應(yīng)型政策，還應(yīng)制定強(qiáng)有力的倫理框架。

6?

建立全球多方參與的治理框架

國(guó)際社會(huì)在數(shù)字技術(shù)領(lǐng)域的合作長(zhǎng)期側(cè)重于技術(shù)和基礎(chǔ)設(shè)施問題以及數(shù)字經(jīng)濟(jì)，針對(duì)人工智能帶來的挑戰(zhàn)與風(fēng)險(xiǎn)，亟需建立一個(gè)全球多方參與的治理框架，在系統(tǒng)出現(xiàn)性別或種族偏見、強(qiáng)化有害刻板印象或未能達(dá)到隱私與安全標(biāo)準(zhǔn)時(shí)，能夠及時(shí)采取預(yù)防和補(bǔ)救措施。

推動(dòng)面向所有婦女和女童的數(shù)字改革，是聯(lián)合國(guó)婦女署“北京+30行動(dòng)議程”的重要工作之一，我們必須確保平等獲得技術(shù)，使婦女和女童能夠在人工智能和數(shù)字創(chuàng)新方面發(fā)揮領(lǐng)導(dǎo)作用，并保證她們的網(wǎng)絡(luò)安全和隱私。

當(dāng)下，人工智能技術(shù)迅猛發(fā)展，既帶來了社會(huì)進(jìn)步的機(jī)遇，也潛藏著加劇性別不平等的風(fēng)險(xiǎn)。警惕并消除人工智能中的性別偏見，我們才能實(shí)現(xiàn)真正公平、包容的數(shù)字未來。