概念和理論淵源

算法陷阱，簡(jiǎn)而言之，是指算法在廣泛應(yīng)用過(guò)程中，表面上看似促進(jìn)了社會(huì)進(jìn)步和提升了生活品質(zhì)，實(shí)則形成了一種隱形力量，主導(dǎo)社會(huì)經(jīng)濟(jì)發(fā)展和人們生產(chǎn)生活，從而破壞市場(chǎng)經(jīng)濟(jì)運(yùn)行機(jī)制、傷害消費(fèi)者權(quán)益并削弱政府社會(huì)治理能力的現(xiàn)象。這一概念由朱巧玲和楊劍剛在《算法陷阱與規(guī)制跨越》一文中明確提出，并詳細(xì)闡述了其形成機(jī)制、本質(zhì)特征及主要危害。

算法陷阱的研究歷史可追溯至數(shù)字經(jīng)濟(jì)興起之初，隨著算法技術(shù)在社會(huì)經(jīng)濟(jì)生活中的廣泛應(yīng)用，其潛在的問(wèn)題和負(fù)面影響逐漸顯現(xiàn)，引發(fā)了學(xué)術(shù)界和實(shí)務(wù)界的廣泛關(guān)注。早期的研究主要集中在算法對(duì)市場(chǎng)競(jìng)爭(zhēng)的影響上，例如Ezrachi和Stucke在2015年首次提出了“算法共謀”的概念，指出算法可以在沒(méi)有人為干預(yù)的情況下，通過(guò)協(xié)議或協(xié)調(diào)價(jià)格行為來(lái)限制市場(chǎng)競(jìng)爭(zhēng)，形成共謀行為。這一研究為理解算法陷阱提供了重要的理論基礎(chǔ)。

隨后，學(xué)者們開(kāi)始深入探討算法陷阱的形成機(jī)制、本質(zhì)特征及其危害。算法黑箱、理性僭越、監(jiān)管失效和資本擴(kuò)張等概念相繼被提出，用以解釋算法陷阱為何會(huì)形成并難以根除。

算法陷阱的特征

算法陷阱具有以下幾個(gè)顯著特征：

①隱蔽性

算法陷阱的最大特點(diǎn)在于其隱蔽性。算法猶如一個(gè)不透明的“黑箱”，其內(nèi)部的運(yùn)算過(guò)程、決策機(jī)制以及目標(biāo)意圖都無(wú)從知曉。用戶(hù)只能通過(guò)輸入數(shù)據(jù)和得出結(jié)論來(lái)觀察結(jié)果，無(wú)法對(duì)算法進(jìn)行評(píng)判和監(jiān)督。這種隱蔽性使得算法陷阱問(wèn)題往往被忽視，直到造成嚴(yán)重后果時(shí)才被發(fā)現(xiàn)。

②技術(shù)門(mén)檻高

算法陷阱的形成還與其較高的技術(shù)門(mén)檻密切相關(guān)。算法的設(shè)計(jì)和運(yùn)行涉及復(fù)雜的數(shù)學(xué)模型和編程技術(shù)，普通用戶(hù)難以理解和掌握。這種技術(shù)門(mén)檻導(dǎo)致算法的使用方式、使用范圍、使用目的容易存在模糊地帶，增加了算法濫用和誤用的風(fēng)險(xiǎn)。

③監(jiān)管失效

算法陷阱的另一個(gè)顯著特征是監(jiān)管失效。目前，大部分國(guó)家或區(qū)域組織對(duì)于算法監(jiān)管尚未達(dá)成一致性意見(jiàn)，監(jiān)管措施尚待完善。同時(shí)，由于互聯(lián)網(wǎng)巨頭業(yè)務(wù)遍及全球，客觀上增加了算法監(jiān)管的難度。監(jiān)管失效使得算法陷阱問(wèn)題得不到及時(shí)有效的解決，進(jìn)一步加劇了其危害。

④資本沖動(dòng)

算法陷阱的形成還與平臺(tái)擴(kuò)張的資本沖動(dòng)密切相關(guān)。在利益最大化的驅(qū)動(dòng)下，平臺(tái)通過(guò)算法競(jìng)爭(zhēng)來(lái)擴(kuò)大市場(chǎng)份額和鞏固地位。然而，這種無(wú)序擴(kuò)張往往導(dǎo)致算法的失控和濫用，進(jìn)而形成算法陷阱。資本沖動(dòng)使得平臺(tái)在追求利益的過(guò)程中忽視了算法的社會(huì)影響和潛在風(fēng)險(xiǎn)。

算法陷阱形成的機(jī)制

算法陷阱的形成機(jī)制是一個(gè)復(fù)雜而多維的過(guò)程，涉及技術(shù)、經(jīng)濟(jì)、法律和社會(huì)等多個(gè)層面。朱巧玲和楊劍剛認(rèn)為其形成主要是算法黑箱、理性僭越、監(jiān)管失效和資本擴(kuò)張四個(gè)方面。

首先，算法黑箱是算法陷阱形成的重要技術(shù)基礎(chǔ)。

算法的設(shè)計(jì)和運(yùn)行過(guò)程往往不透明，用戶(hù)只能看到輸入和輸出結(jié)果，而無(wú)法了解算法內(nèi)部的運(yùn)算邏輯和決策機(jī)制。這種不透明性使得算法的責(zé)任歸屬、目標(biāo)意圖等信息難以被外界知曉和評(píng)判，為算法濫用和誤用提供了空間。算法黑箱的存在，使得算法的設(shè)計(jì)者和使用者能夠利用其隱蔽性進(jìn)行不正當(dāng)操作，而用戶(hù)和監(jiān)管機(jī)構(gòu)則難以進(jìn)行有效監(jiān)督和制約。

其次，理性僭越是算法陷阱形成的認(rèn)知基礎(chǔ)。

隨著算法技術(shù)的不斷發(fā)展，算法逐漸具備了自主學(xué)習(xí)和決策的能力，甚至在某些領(lǐng)域超越了人類(lèi)理性。這種“算法理性”的崛起，使得人類(lèi)在經(jīng)濟(jì)決策中的主導(dǎo)地位逐漸被算法所取代。算法理性僭越人類(lèi)理性的過(guò)程，實(shí)質(zhì)上是數(shù)據(jù)驅(qū)動(dòng)社會(huì)經(jīng)濟(jì)發(fā)展的必然結(jié)果，但同時(shí)也帶來(lái)了人從經(jīng)濟(jì)決策主導(dǎo)者蛻變?yōu)樗惴ǜ接拐叩娘L(fēng)險(xiǎn)。

再次，監(jiān)管失效是算法陷阱形成的制度基礎(chǔ)。

目前，全球范圍內(nèi)對(duì)算法的監(jiān)管尚未形成統(tǒng)一的標(biāo)準(zhǔn)和有效的機(jī)制。一方面，監(jiān)管機(jī)構(gòu)擔(dān)心嚴(yán)格的監(jiān)管會(huì)阻礙科技創(chuàng)新和經(jīng)濟(jì)發(fā)展；另一方面，算法監(jiān)管屬于新興領(lǐng)域，相關(guān)措施尚待完善。此外，互聯(lián)網(wǎng)巨頭的跨國(guó)經(jīng)營(yíng)也增加了算法監(jiān)管的難度。監(jiān)管失效使得算法陷阱問(wèn)題得不到及時(shí)有效的解決，進(jìn)一步加劇了其危害。

最后，資本擴(kuò)張是算法陷阱形成的經(jīng)濟(jì)基礎(chǔ)。

在數(shù)字經(jīng)濟(jì)時(shí)代，互聯(lián)網(wǎng)平臺(tái)之間的競(jìng)爭(zhēng)日益激烈，算法成為平臺(tái)競(jìng)爭(zhēng)的核心要素。平臺(tái)資本出于擴(kuò)張的本性，不斷推動(dòng)算法的迭代和演進(jìn)，以獲取更大的市場(chǎng)份額和競(jìng)爭(zhēng)優(yōu)勢(shì)。然而，這種無(wú)序擴(kuò)張往往導(dǎo)致算法的失控和濫用，進(jìn)而形成算法陷阱。資本擴(kuò)張不僅加劇了市場(chǎng)競(jìng)爭(zhēng)的激烈程度，還為算法陷阱的形成提供了經(jīng)濟(jì)動(dòng)力。

新聞與傳播

微信號(hào) : media-power

網(wǎng)站：media-learning.com

▇ 新傳考研智庫(kù) 洞察社會(huì)脈動(dòng)