概念和理論淵源

算法陷阱，簡而言之，是指算法在廣泛應(yīng)用過程中，表面上看似促進(jìn)了社會進(jìn)步和提升了生活品質(zhì)，實則形成了一種隱形力量，主導(dǎo)社會經(jīng)濟(jì)發(fā)展和人們生產(chǎn)生活，從而破壞市場經(jīng)濟(jì)運行機(jī)制、傷害消費者權(quán)益并削弱政府社會治理能力的現(xiàn)象。這一概念由朱巧玲和楊劍剛在《算法陷阱與規(guī)制跨越》一文中明確提出，并詳細(xì)闡述了其形成機(jī)制、本質(zhì)特征及主要危害。

算法陷阱的研究歷史可追溯至數(shù)字經(jīng)濟(jì)興起之初，隨著算法技術(shù)在社會經(jīng)濟(jì)生活中的廣泛應(yīng)用，其潛在的問題和負(fù)面影響逐漸顯現(xiàn)，引發(fā)了學(xué)術(shù)界和實務(wù)界的廣泛關(guān)注。早期的研究主要集中在算法對市場競爭的影響上，例如Ezrachi和Stucke在2015年首次提出了“算法共謀”的概念，指出算法可以在沒有人為干預(yù)的情況下，通過協(xié)議或協(xié)調(diào)價格行為來限制市場競爭，形成共謀行為。這一研究為理解算法陷阱提供了重要的理論基礎(chǔ)。

隨后，學(xué)者們開始深入探討算法陷阱的形成機(jī)制、本質(zhì)特征及其危害。算法黑箱、理性僭越、監(jiān)管失效和資本擴(kuò)張等概念相繼被提出，用以解釋算法陷阱為何會形成并難以根除。

算法陷阱的特征

算法陷阱具有以下幾個顯著特征：

①隱蔽性

算法陷阱的最大特點在于其隱蔽性。算法猶如一個不透明的“黑箱”，其內(nèi)部的運算過程、決策機(jī)制以及目標(biāo)意圖都無從知曉。用戶只能通過輸入數(shù)據(jù)和得出結(jié)論來觀察結(jié)果，無法對算法進(jìn)行評判和監(jiān)督。這種隱蔽性使得算法陷阱問題往往被忽視，直到造成嚴(yán)重后果時才被發(fā)現(xiàn)。

②技術(shù)門檻高

算法陷阱的形成還與其較高的技術(shù)門檻密切相關(guān)。算法的設(shè)計和運行涉及復(fù)雜的數(shù)學(xué)模型和編程技術(shù)，普通用戶難以理解和掌握。這種技術(shù)門檻導(dǎo)致算法的使用方式、使用范圍、使用目的容易存在模糊地帶，增加了算法濫用和誤用的風(fēng)險。

③監(jiān)管失效

算法陷阱的另一個顯著特征是監(jiān)管失效。目前，大部分國家或區(qū)域組織對于算法監(jiān)管尚未達(dá)成一致性意見，監(jiān)管措施尚待完善。同時，由于互聯(lián)網(wǎng)巨頭業(yè)務(wù)遍及全球，客觀上增加了算法監(jiān)管的難度。監(jiān)管失效使得算法陷阱問題得不到及時有效的解決，進(jìn)一步加劇了其危害。

④資本沖動

算法陷阱的形成還與平臺擴(kuò)張的資本沖動密切相關(guān)。在利益最大化的驅(qū)動下，平臺通過算法競爭來擴(kuò)大市場份額和鞏固地位。然而，這種無序擴(kuò)張往往導(dǎo)致算法的失控和濫用，進(jìn)而形成算法陷阱。資本沖動使得平臺在追求利益的過程中忽視了算法的社會影響和潛在風(fēng)險。

算法陷阱形成的機(jī)制

算法陷阱的形成機(jī)制是一個復(fù)雜而多維的過程，涉及技術(shù)、經(jīng)濟(jì)、法律和社會等多個層面。朱巧玲和楊劍剛認(rèn)為其形成主要是算法黑箱、理性僭越、監(jiān)管失效和資本擴(kuò)張四個方面。

首先，算法黑箱是算法陷阱形成的重要技術(shù)基礎(chǔ)。

算法的設(shè)計和運行過程往往不透明，用戶只能看到輸入和輸出結(jié)果，而無法了解算法內(nèi)部的運算邏輯和決策機(jī)制。這種不透明性使得算法的責(zé)任歸屬、目標(biāo)意圖等信息難以被外界知曉和評判，為算法濫用和誤用提供了空間。算法黑箱的存在，使得算法的設(shè)計者和使用者能夠利用其隱蔽性進(jìn)行不正當(dāng)操作，而用戶和監(jiān)管機(jī)構(gòu)則難以進(jìn)行有效監(jiān)督和制約。

其次，理性僭越是算法陷阱形成的認(rèn)知基礎(chǔ)。

隨著算法技術(shù)的不斷發(fā)展，算法逐漸具備了自主學(xué)習(xí)和決策的能力，甚至在某些領(lǐng)域超越了人類理性。這種“算法理性”的崛起，使得人類在經(jīng)濟(jì)決策中的主導(dǎo)地位逐漸被算法所取代。算法理性僭越人類理性的過程，實質(zhì)上是數(shù)據(jù)驅(qū)動社會經(jīng)濟(jì)發(fā)展的必然結(jié)果，但同時也帶來了人從經(jīng)濟(jì)決策主導(dǎo)者蛻變?yōu)樗惴ǜ接拐叩娘L(fēng)險。

再次，監(jiān)管失效是算法陷阱形成的制度基礎(chǔ)。

目前，全球范圍內(nèi)對算法的監(jiān)管尚未形成統(tǒng)一的標(biāo)準(zhǔn)和有效的機(jī)制。一方面，監(jiān)管機(jī)構(gòu)擔(dān)心嚴(yán)格的監(jiān)管會阻礙科技創(chuàng)新和經(jīng)濟(jì)發(fā)展；另一方面，算法監(jiān)管屬于新興領(lǐng)域，相關(guān)措施尚待完善。此外，互聯(lián)網(wǎng)巨頭的跨國經(jīng)營也增加了算法監(jiān)管的難度。監(jiān)管失效使得算法陷阱問題得不到及時有效的解決，進(jìn)一步加劇了其危害。

最后，資本擴(kuò)張是算法陷阱形成的經(jīng)濟(jì)基礎(chǔ)。

在數(shù)字經(jīng)濟(jì)時代，互聯(lián)網(wǎng)平臺之間的競爭日益激烈，算法成為平臺競爭的核心要素。平臺資本出于擴(kuò)張的本性，不斷推動算法的迭代和演進(jìn)，以獲取更大的市場份額和競爭優(yōu)勢。然而，這種無序擴(kuò)張往往導(dǎo)致算法的失控和濫用，進(jìn)而形成算法陷阱。資本擴(kuò)張不僅加劇了市場競爭的激烈程度，還為算法陷阱的形成提供了經(jīng)濟(jì)動力。

新聞與傳播

微信號 : media-power

網(wǎng)站：media-learning.com

▇ 新傳考研智庫 洞察社會脈動