国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網易首頁 > 網易號 > 正文 申請入駐

佳文回溯|算法科層制的興起及其形態(tài)

0
分享至



吳進進

深圳大學

政府管理學院

副教授


何包鋼

澳洲迪肯大學

人文與社會科學學院

講座教授

算法科層制的興起及其形態(tài)

來源 | 《社會學研究》2023年第6期

作者 | 吳進進、何包鋼

責任編輯 | 向靜林

在數字時代,隨著大數據和人工智能技術在公共決策和公共服務中的廣泛應用,算法科層制這一政府管理體制變革正在中國悄然發(fā)生。本文在已有研究基礎上構建了一個算法科層制的理論分析框架,基于算法功能和算法應用體制兩個關鍵因素,發(fā)展了四種算法科層制形態(tài):部門自動化算法科層、部門預測型算法科層、跨部門自動化算法科層和跨部門預測型算法科層。本文通過四個人工智能算法應用案例,實證探究人工智能算法對科層組織權力關系與激勵方式、知識信息處理、組織形態(tài)以及服務供給模式的影響及其路徑,揭示了四種算法科層制形態(tài)的差異性及形成機制。

一、引言

中國自秦代就率先建立了一個嶄新的科層體制以及文官選拔制度,確立了“德能勤績”的官員選拔標準,這是人類政治組織發(fā)展史上的一場革命??茖咏M織運作有賴于有紀律、有技術的專業(yè)人才的投入,需要他們具有自主性,服務于公共事務。在當今數字化社會的背景下,人工智能等科技力量已經成為科層組織變革的又一重要動力。強調專業(yè)分工、規(guī)則導向、層級節(jié)制的韋伯式科層制難以應對日益復雜多變環(huán)境的挑戰(zhàn),而互聯網與現代信息技術賦能的數字政府強化了科層組織的適應能力(Margetts,2012;Fountain,2004),街頭官僚轉變?yōu)槿藱C互動的屏幕官僚,并進而演變?yōu)橛伤惴ê托畔⑾到y主導的系統官僚(Bovens & Zouridis,2002;Busch & Henriksen,2018)。基于算法的技術賦能,組織對算法的信任和依賴程度不斷加深,算法也內嵌到科層制之中,甚至在某些場景下擁有自主性,有意無意地塑造著傳統科層制(Meijer et al.,2021)。隨著人工智能在公共部門中的應用日益廣泛,算法對公共決策與政府科層體制的影響也越來越深遠,算法科層制(Algorithmic Bureaucracy)這一科層制的新變革正悄然發(fā)生。沃格等(Vogl et al.,2020)率先提出了算法科層制概念,梅杰等(Meijer et al.,2021)也基于對德國、荷蘭預測性警務的案例比較,提出了科層組織算法化這一議題。

算法科層制必然引發(fā)一場新的公共管理革命,這場革命對韋伯的科層制理論構成了重大的挑戰(zhàn)和修正。越多越多的學者關注人工智能算法對科層組織結構與過程的影響,部分學者基于西方國家政府算法應用實踐做出了開創(chuàng)性研究。然而,現有研究并沒有深入探討算法與科層組織的互動性,也沒有分析算法對科層體制的塑造受到哪些關鍵因素的影響?;诓煌瑖冶尘?,對于算法應用對科層體制的作用與反作用、算法科層制的形態(tài)與模式的研究也尚不充分。特別是對擁有二千多年科層制傳統而又積極擁抱算法技術的中國情境的研究更為欠缺(張會平,2021;段妍婷等,2021)。

中國政府部門對現代信息技術的應用源于20世紀90年代初的政府信息化戰(zhàn)略,至今經歷了政府信息化、電子政務、數字政府三個發(fā)展階段。在全球范圍內的電子政府變革運動中,中國實現了從落后者到復制者再到全球領先者的角色蛻變,人工智能技術在中國數字政府建設中的應用也不斷拓展。本文討論的是剛剛發(fā)生、還在深刻變化的中國算法科層制變革。我們發(fā)展了算法科層制的基本分析框架,并基于地方政府不同領域的四個典型算法案例,探究算法對中國科層組織的影響,分析算法應用的功能場景與應用體制如何塑造了算法科層制形態(tài)的差異性。

由于算法對科層組織變革的影響是一個新興現象,探索式案例分析是常用方法之一。算法驅動的組織變革具有明顯的情境化特征,因此需要深入具體情境中進行分析(Yin,2011)。本文的案例選擇遵循理論框架構建的要求,聚焦于自動化算法和預測分析算法這兩個功能(Wirtz et al.,2019)。本文的四個案例涵蓋了算法在公共部門應用的多個領域,具有廣泛的代表性。我們自2020年5月至2022年6月持續(xù)關注這四個案例,開展田野調查,采用半結構化訪談形式,盡可能確保訪談資料客觀真實有效,并對訪談記錄嚴格保密。訪談累計超過20人次,訪談總時長約50小時,整理訪談記錄8萬余字。

本研究第一次在中國的背景下提出了算法科層制的理論框架與實踐形態(tài),探討了算法功能和算法應用的組織體制對公共部門算法應用模式的影響,突破了西方學界提出的官僚組織算法化的概念框架,并對經典的“街頭官僚—屏幕官僚—系統官僚”三類型的劃分做了進一步拓展(Busch & Henriksen,2018)。本研究擴展了既有研究對于數字化和算法影響官僚組織的過程、方式的討論,從權力控制與激勵方式、知識信息、組織結構、服務供給等維度全面分析了算法功能和應用體制重塑科層制的作用機制。本文是目前較早實證分析算法對科層組織內部結構與運作過程影響的研究。只有充分探討算法介入科層組織后對組織結構及其要素的影響與塑造,才能真正地理解人工智能如何提高科層組織績效與決策效率。

本文結構安排如下:第二部分在文獻回顧的基礎上發(fā)展出算法科層制的理論模型,提出本文的分析框架;第三部分集中討論四個案例,具體分析算法功能與應用體制如何重塑科層組織形態(tài);第四部分總結本文的要點,并簡述中國算法科層制變革的潛在風險及其改革方向。

二、算法科層制及其形成:一個理論框架

作為人工智能的大腦與核心運作機制,算法是通過編程實現自主行動的計算工具。算法憑借快速學習,對外界的各種不同要求、變化的環(huán)境和過去事件做出智慧化回應。隨著政府活動數字化水平的提升,算法也從經濟與商業(yè)領域拓展到政府活動中。當前,只有少數研究關注算法技術對科層組織結構、要素以及運作過程的影響。梅杰等(Meijer et al.,2021)提出了算法影響科層組織結構的三種機制,即信息、機構與制度。沃格等(Vogl et al.,2020)則提出了一個初步的算法科層制分析框架,認為算法推動了組織知識和信息的共享互通、提高了公共服務供給模式的精準化、推動了科層組織形態(tài)的合作化。關于技術與組織變革關系的一個普遍觀點是:人類在不同的制度環(huán)境中與技術互動。制度建構視角認為,組織變革是人類的技術選擇與組織內外制度、環(huán)境之間不斷相互作用的結果,應當從實踐的視角去考察技術。技術是一種實踐中的技術(technological-in-practice),技術本身并不能決定組織變革(Orlikowski,2000)。以控制為導向的技術強化了傳統的組織管理控制與等級制度,但是一些信息技術也可能推動權力分散化,促進組織扁平化(Dewett & Jones,2001;Wamba et al.,2015)。算法作為社會技術系統的一部分,總是嵌入于特定的社會環(huán)境中,算法必須由某些參與者部署,應用于具體領域,并實現特定目的(Wenzelburger et al.,2022)。芳?。‵ountain,2004)的技術執(zhí)行理論更進一步指出,當技術應用于政府部門后,政府不可避免地在機構和流程上發(fā)生變革,但是由于技術內嵌于組織結構和制度環(huán)境中,技術與組織一系列結構、認知、文化和政治因素相互作用。組織和技術在實踐中是一種不斷相互建構的過程(邱澤奇,2005)。在算法和組織的諸多因素中,本文選擇了兩個關鍵因素:一是算法功能與應用場景;二是算法應用的行政體制,即部門化與跨部門的應用體制。同時,結合沃格等人(Vogl et al.,2020)以及既有研究的觀點,本文分析算法如何推動科層制在權力關系、激勵方式、知識信息傳遞、組織架構、服務供給模式等維度的轉型。本文從算法兩個基本功能、兩種應用體制的維度,提出了四種有代表性的算法科層制形態(tài),以此作為案例分析的理論框架(見圖1和表1)。


(一)算法功能與科層制

算法本質上是一種解決問題的工具和程序,我們需要什么樣的算法取決于所要解決的目標問題與任務性質,算法的類型應根據任務目標來劃分。布洛克等(Bullock et al.,2020)根據行政任務自由裁量權的高低劃分算法的功能與應用場景,認為當行政任務簡單且官僚裁量權較小時,算法的自動化應用可以在很大程度上取代人類決策。自動化主要是由可明確說明和解釋的規(guī)則指令和基于專家知識的編程程序驅動,在特定領域可實現對人類工作的取代,其過程和結果都是被人類設計的規(guī)則計算好的(Hurley & Wallace,1986)。因此,復雜度較低的常規(guī)性、重復性任務更可能被算法的自動化功能取代。相反,隨著行政任務復雜度和自由裁量權的提高,人類決策占據主導地位,算法的自動化應用無法勝任。此時,比較適用這種場景的人工智能算法是以預測分析為主要形式的決策支持工具(Bullock,2019)。當前,算法的預測分析大量用于決策輔助領域,幫助決策者從大數據中預測問題產生及其觸發(fā)因素,進而幫助決策者提出預警或采用針對性的政策措施,如犯罪預警、交通安全預警、環(huán)境質量預測,等等(Wirtz et al.,2019)。

基于行政任務自由裁量權的高低,本文認為自動化和預測分析是公共部門兩種最主要的算法功能,代表了兩類典型的算法規(guī)則,塑造了組織內部的控制與激勵機制,改變了知識信息流動、組織形態(tài)以及服務供給模式,進而塑造了不同形態(tài)的算法科層制。

首先,兩種不同功能的算法強化或弱化了既有的權力與控制關系。就本質而言,組織是權力控制體系和控制導向下的行動系統(克羅齊耶、費埃德伯格,2007),權力關系是控制組織信息流通、塑造激勵方式、改變組織架構形態(tài)以及設計服務模式的主導力量。一方面,自動化基于規(guī)則導向,使決策過程處于嚴格控制之下,可能進一步約束組織人員的自由裁量權、執(zhí)行彈性與便利度。在更加強調控制和整齊劃一的自動化算法應用場景下,科層制與公眾面對面式的互動逐漸減少,工作人員逐漸轉向數字官僚(Busch & Henriksen,2018),組織激勵機制也日漸轉向效率和結果導向。執(zhí)行者過度重視自動化處理的速度和數量,可能弱化回應公眾的道德承諾與服務組織的組織使命感(Hansen et al.,2018)。另一方面,預測算法則更多地起輔助作用,人類仍然主導著決策過程。預測算法結構復雜,解釋性弱,信息來源和處理方式也更為靈活多樣,難以要求上下級組織算法運作的統一性和標準化。預測型算法使組織更為尊重算法部門及其執(zhí)行者行動的情境性、自主性和適應性,并且鼓勵部門間資源共享、公民參與和合作生產(Androutsopoulou et al.,2019),為組織及其工作人員提供更明顯的正向激勵。

其次,不同的算法功能對組織知識信息的處理方式也不同。一方面,遵循科層組織傳統規(guī)則的自動化算法對跨部門數據共享以及數據自下而上反饋的要求相對較低。一些程序化的決策任務規(guī)則較為簡單,對數據來源的多樣性和廣泛性的需求并不高。另一方面,預測分析算法可能通過自下而上的數據反饋改造著組織的知識與信息處理方式,預測分析的數據處理方式要求科層組織建立共享型和反饋型信息傳遞方式。預測分析模型的構建是一個動態(tài)的信息處理過程,需要從多源訓練集數據中做出模式識別和預測判斷,用以指導基層工作人員的執(zhí)法行為,而基層人員在實踐中不斷獲取新的信息與數據并反饋給決策者,進而補充預測分析模型,推動模型優(yōu)化。

最后,不同的算法功能對科層組織公共服務供給模式的影響也存在顯著差異。自動化強化了公共服務供給的程序和規(guī)則導向。這類算法并沒有替代科層決策規(guī)則,而是使規(guī)則執(zhí)行更加迅速、高效與透明。相反地,以預測分析為主要形式的算法應用使傳統科層的程序化、標準化的服務供給模式轉變?yōu)闇蚀_識別特定任務和服務需求的定制化、精準化服務供給模式。

(二)算法應用體制與科層制

算法作為社會技術系統的一部分,總是嵌入在特定的社會環(huán)境中。算法對科層制度的影響不能脫離使用它們的具體社會背景,算法的這種社會嵌入性可能比算法技術特征重要得多(Wenzelburger et al.,2022)。算法對科層制的影響受到科層組織體制與文化的反向塑造??茖咏M織可能存在兩種不同的算法應用體制:一種是分散式的部門化應用,其目的是優(yōu)化部門行政效率與服務供給;另一種是集中化的跨部門應用,功能大多定位于借助算法搭建新的科層架構,解決政府責任與權力結構碎片化產生的公共服務低效和協調不暢問題。形成上述區(qū)分的原因在于,在傳統科層制仍然占據主導地位的組織環(huán)境下,部門分割、信息壁壘的科層制窠臼為部門化的算法應用體制創(chuàng)造了條件;但算法系統天然地要求信息共享和數據合作,必定試圖擴展其系統邊界,發(fā)展出集中化的跨部門應用。

部門和跨部門化的算法應用體制對科層制最突出的影響是重塑了組織內外的權力關系與激勵方式。部門化算法應用激勵部門為提高算法性能而建立數據共享與組織合作機制,可能推動組織資源下沉和結構扁平化。然而,跨部門的算法應用體制具有明顯的集權性質,表現為自上而下的數據匯聚和集中、數字系統與智慧平臺的對接和集成,以及部門間行動的協調聯動或統一指揮??绮块T算法應用對數字治理權的控制和集中深刻影響了組織行為的激勵效果。部門間關系從松散、臨時性、非正式的配合與反復協調逐漸走向程序性、制度化的一致行動,實現牽頭責任部門和輔助協辦部門的有效協作,通過問題處置與組織行動流程再造提高組織的整體工作效率。但是,跨部門算法應用也引發(fā)了潛在的數字所屬權沖突,增加了權責協調成本(Mikhaylov et al.,2018),導致“激勵扭曲”或“弱激勵”等挑戰(zhàn)。

算法應用體制對科層制最明顯的影響是科層制組織架構的重塑。部門為了設計和優(yōu)化算法,建立內部反饋系統或與其他組織開展跨部門合作。其中,部門化的算法增強了組織間合作,可以稱為“合作強化型”組織變革。部門化的算法體制也推動了部門間建立合作激勵機制,盡管組織仍然是層級制垂直結構,但組織為了滿足算法對數據合作和信息共享的要求而做出改變,更多地與其他職能部門建立正式或非正式的合作機制(Fusi,2021)(見圖2)。


跨部門算法應用則由較高層級政府或多部門合作建立跨部門算法應用機構或平臺,集成各個應用場景,為治理公共事務提供算法方案與服務??绮块T算法應用改變了傳統的組織間關系,推動了“組織再造型”變革,建立統一集中的跨部門算法治理機構與平臺,通過派單式的職能整合與組織聯動改變科層組織間關系。這種模式沒有改變各個組織原有職能,但是對于一些跨部門任務、公民熱線訴求、應急事件和復雜社會治理事務,跨部門算法治理機構有協調聯動權限,可利用實時的數據反饋、強大的數據處理和數據分析應用能力,向其他職能部門進行任務派單,提供解決方案,從而實現指揮聯動的效果(參見圖3)。


部門化和跨部門的算法應用模式對傳統科層制的知識信息處理方式也產生了差異化的影響。在部門化算法應用中,部門自建算法系統,需要與其他職能部門實現數據分享合作,合作方式取決于部門之間的關系或協議,部門之間可能建立制度化的數據共享協議,但是在缺少頂層設計和規(guī)劃的情況下,制度化的協議往往很難達成(Weitzman et al.,2006)。部門之間更有可能建立非常態(tài)化的一事一議的數據合作方式,就具體事務進行頻繁的協調合作,其結果具有很大的不確定性和不可持續(xù)性。相反地,在跨部門的算法應用中,信息處理的主要方式是數據匯聚,即各部門數據歸集于獨立統一的算法應用機構或平臺,進行實時采集匯總、分類處理和分析。

(三)算法科層制的四種形態(tài)

在人工智能算法的介入下,科層制的組織權力控制與激勵、組織形態(tài)、信息處理和服務供給模式等要素都發(fā)生顯著的變化。如表1所示,我們根據算法的“自動化—預測分析”兩項基本功能與“部門化—跨部門”兩類應用體制劃分了四種算法科層制形態(tài)。這四種形態(tài)是對剛發(fā)生的算法科層制變革的歸類整理和描述,屬于韋伯所說的“理想類型”。算法科層制變革還在深刻演進中,未來肯定需要更深入更細化的描述。

第一種形態(tài)是“部門自動化算法科層制”。在權力關系和激勵方式上,自動化可以減少行政負擔,但是容易引發(fā)組織注意力從自動化任務轉移到其他非核心任務上,影響組織績效和穩(wěn)定性。同時,自動化算法強化了流程規(guī)范化和控制性,減少了裁量空間。算法由單個部門自主開發(fā)并在部門內部自上而下地應用,部門在信息處理上呈現以數據對接與數據比對核驗等為主要形式的共享特征,部門之間數據共享程度較低或中等。服務供給模式也呈現出服務供給自動化、規(guī)則遵守強化的特點。在這一模式下,科層組織形態(tài)仍然保持著傳統科層制的層級關系和自上而下的控制模式,但是部門的組織邊界從嚴格的條塊分割變得更為開放靈活,組織間的協調和互動流程更加順暢。我們將通過D市“秒批系統”的案例闡述這一算法科層制的具體形態(tài)。

第二種形態(tài)是“部門預測型算法科層制”。首先,在權力關系和激勵方式上,算法不僅是一項新技術,更是新的權力形態(tài)(Bucher,2018),部門預測型算法推動了組織權力調整。算法作為重要的決策系統與信息控制工具,改變并強化了算法應用部門對決策的影響方式,提高了算法應用部門在權力格局中的角色和地位。在組織內部,部門預測型算法推動了上下級部門之間算法運行的協同性,有助于提高基層人員的自主性,同時鼓勵資源分享,增加了組織靈活性。其次,在信息處理層面,數據共享更加明顯。預測分析使得組織不得不尋求更加完整系統的數據共享機制。再次,在服務供給模式上,預測分析推動了更為精準和更具前瞻性的服務提供,滿足特定人群和特定環(huán)境下的個性化需求。最后,在組織形態(tài)上,盡管算法沒有徹底改變科層組織基本形態(tài),但是由于數據共享的需求,組織結構變得更加注重跨部門合作和自下而上的信息溝通反饋。盡管我國較少有完全代表此類形態(tài)的案例,但J市的智慧信訪系統一定程度上具有部門預測型算法科層制特征。


第三種形態(tài)是“跨部門自動化算法科層制”??绮块T自動化算法科層制在減輕行政負擔的同時,強化了對組織的權力控制和數字化考核??茖咏M織加強控制的主要方式是建立了一個跨部門的算法機構或平臺,同時組織的信息處理方式是以共享為前提的數據匯聚,而服務供給模式則受自動化功能的影響而呈現自動執(zhí)行的特點。H省“互聯網+監(jiān)督”平臺較好地呈現了跨部門自動化算法科層制的主要特征和運作機制。

第四種形態(tài)是“跨部門預測型算法科層制”。跨部門預測型算法科層制綜合了跨部門的集權屬性和預測算法的功能屬性,主要以組織間協同聯動來塑造權力關系,同時強調部門自主性并通過數字化考核強化組織間協同。這一形態(tài)集成了包括自動化算法在內的多種算法系統,但是以預測算法為主,服務供給模式呈現精準化和個性化的特征。T市組建的城市治理指揮中心及其系統平臺以預測分析應用為主體,集成各種算法技術,是中國跨部門算法科層制的生動體現。

三、算法科層制的四種形態(tài):四個案例的分析

(一)部門自動化算法科層:D市企業(yè)開辦“秒批系統”

為了落實黨中央、國務院關于進一步優(yōu)化營商環(huán)境,壓縮開辦企業(yè)流程,D市市場監(jiān)督管理局于2019年3月20日在全國率先推出個體工商戶設立、注銷登記無人工干預的自動化審批系統,即秒批系統。

首先,秒批系統給科層組織帶來的第一項變革是強化了組織對人員自由裁量權的約束。秒批系統屬于算法自動化審批服務,自動化審批基于機器學習比對算法,通過學習大量的樣本數據,對審批材料內容和要素之間的邏輯關系進行訓練,建立審批要素規(guī)則與數據比對模型。傳統的審批方式需要公眾跑各個職能部門獲取審批證明材料,然后再提供給審批機構,產生了很大的時間和經濟成本。秒批系統按照審批規(guī)則對公眾上傳的電子材料進行審核,與其他相關部門數據進行比對,確保材料的合規(guī)性。對于公眾在秒批系統中上傳的審批申請材料,系統基于已在規(guī)則庫中保存的邏輯關系,利用建立的規(guī)則比對模型來對審批材料進行分析,以確定其是否符合相關標準或要求。秒批系統減少了人工審核的不確定性和自由裁量權,不僅減輕了大量重復性、程序性審批工作強度,同時強化了對審批人員行為的約束與控制,有助于審批程序的公開性、公正性。

其次,秒批系統改變了組織信息流通模式。秒批系統算法的核心是用戶自主填報的信息在系統中進行自動審核,通過各個部門的數據聯通,進行自動比對。秒批系統能夠實現秒批的關鍵就是部門間知識分享和數據聯通,打破信息孤島。秒批系統中部門信息互通的基礎是“一網四庫”建設?!耙痪W”是指全流程網上商事登記系統,而“四庫”實質上就是自動化審核的規(guī)則庫。公民一旦在系統上申請企業(yè)登記,其提供的信息和相關材料就經過四個規(guī)則庫的審核和查驗。系統調用市場監(jiān)督管理局的企業(yè)名稱庫進行智能校驗,攔截禁限用語,符合條件的及時通過;調用市政法委的統一地址庫自動導出標準地址,與市場監(jiān)管局的地址負面清單庫進行比對,排除虛假地址;調用公安部門的“實名核身數據庫”進行身份核實。申請人通過手機獲取驗證碼后,上傳身份證圖片,系統通過動態(tài)人臉識別技術與公安部門的公民身份數據庫聯網等方式進行多重驗證,識別經辦人和法定代表人身份,防止冒用他人身份注冊;調用多個部門的失信人員名單庫,將存在失信行為的受限制人員轉為人工審批。

再次,秒批系統對審批部門的科層組織架構和流程也產生了顯著影響,任務處理流程從串聯走向并聯,組織邊界從分割轉向整合,部門之間的邊界也因而變得模糊,部門間關系更加開放靈活。秒批系統通過顛覆原有的審批流程,推動了市場監(jiān)督管理局和其他審批部門的內部機構設置不斷優(yōu)化。第一,秒批系統整合了內部辦理流程。本來多個科室負責審批的事項被簡化為由一個核心部門集中審批,取消了不必要的審批事項與環(huán)節(jié)。第二,組織結構中不同審批環(huán)節(jié)和部門的角色和地位得到重塑。集中表現為前端審批處室精簡弱化,而中后端的監(jiān)管環(huán)節(jié)和處室職能不斷強化。D市市場監(jiān)督管理局一位負責人表示:“前端簡化了之后,一定是加重后端的一個監(jiān)管問題。為了管控秒批系統中可能存在的數據不準和數據篡改問題,市監(jiān)局加強了信息監(jiān)管機構和職能建設,對審批結果定時檢查,將違規(guī)信息計入政務誠信檔案”(訪談資料,DC20216503)。

最后,自動化對審批權限的控制以及對審批環(huán)節(jié)和部門角色的重塑也一定程度上改變了部門激勵方式。審批過程呈現“求簡求快”傾向,在減輕審批人員工作負擔的同時,弱化了審批過程人為把關的責任感。由于秒批將原本十幾個工作日內完成的審批工作壓縮到幾小時甚至幾分鐘,一些重要環(huán)節(jié)和關鍵信息被迅速審核,也就意味著一些安全漏洞沒有像人工審核那樣被審慎思考和判斷。審批人員傾向于把企業(yè)資質和合規(guī)性審查完全交給自動化系統,只對自動化系統刷下來的申請人進行審核,但是實際工作中會把這類審批當作麻煩和額外的負擔,工作積極性不高。盡管D市市場監(jiān)督管理局通過設立和強化信用監(jiān)管處、企業(yè)注冊局、市場稽查局等內設和直屬機構來加強后端監(jiān)管環(huán)節(jié)和職能,但是這些機構由于資源和人員配置的欠缺而難以充分發(fā)揮后端監(jiān)督職能。由于秒批放松了企業(yè)登記的前臺大門,稅務、銀行、公安等部門的中后端監(jiān)管壓力更加沉重。秒批系統推動了中小微企業(yè)數量呈井噴式增長,轄區(qū)納稅戶連續(xù)多年增長幅度接近40%,但是虛假注冊、虛開發(fā)票等情況頗為嚴重。據該市稅務局的統計,截至2021年,D市納稅主體達400.28萬戶,其中異常戶達到143萬戶,占比達到35.60%。

D市的數字政府建設在全國范圍內起步較早,由于早期缺乏頂層統一規(guī)劃設計,和多數城市一樣,數字政府的應用項目呈現分散化建設模式。秒批系統作為一個部門化的應用平臺,市場監(jiān)督管理局需要一個一個地與其他職能部門進行合作連接,因此并未形成全市統一的平臺。盡管這個系統一直持續(xù)升級,不斷打通企業(yè)登記的各項事務,如稅務、銀行、社保公積金系統,但是目前系統的數據與其他職能部門數據進行核對比驗的結果仍然不能第一時間反饋到秒批系統上去,無法實現秒批系統的閉環(huán)管理。秒批系統的一位負責人坦言:“因為我們現在的平臺是市場監(jiān)管部門臨時搭建的一個平臺,應該是說充分發(fā)揮我們的主觀能動性,我們先做了。但是你的數據推送給各個部門,如果不是在一個市一級的部門平臺上面去建設的話,后面的審批的情況和結果沒辦法反饋到我們前端的平臺,沒有形成一個閉環(huán)管理的過程”(訪談資料,DC202172501)。

(二)部門預測型算法科層:J市信訪預測系統

J市的智慧信訪預測系統是一個典型的部門自主創(chuàng)建的預測型算法應用。該系統出現之前,J市信訪部門就已經對當地信訪形勢進行預測,預測的主要依據是對前期信訪數據的簡單描述分析,并未有效利用信訪數據進行決策。隨著互聯網的普及,傳統信訪模式開始逐漸轉移到線上,網絡信訪成為信訪的主要渠道,迫使信訪部門更加重視對網絡數據的分析,也為利用信訪數據優(yōu)化決策創(chuàng)造了條件。2018年信訪局開發(fā)的“智慧信訪”預測大數據分析平臺正式上線運行。

首先,智慧信訪改變了信訪部門在科層制體系中的權力和地位。在傳統的部門權力格局中,信訪部門通常處于弱勢和邊緣地位。在J市市政府召開的相關會議中,信訪部門的位置一般靠后,也往往較少被安排發(fā)言。智慧信訪系統為信訪部門提高影響力提供了十分有利的機會。由于上級政府對決策科學化、智慧化越來越重視,J市信訪局憑借智慧信訪系統實現了從傳統的來信來訪“轉接—傳遞”部門到重要的數據分析、決策支持和矛盾化解部門的跨越,信訪部門的地位和影響力實現顯著提升。J市信訪局的主要領導認為智慧信訪系統率先在全國開啟了智慧信訪時代,把該系統作為部門的重要政績工程。J市信訪局通過人工智能和大數據技術對信訪形勢進行實時監(jiān)測與預測,定期為市委市政府提供信訪決策咨詢報告,這是傳統信訪功能難以發(fā)揮的。憑借智慧信訪,J市信訪局得到了上級部門和領導的廣泛關注和重視,在部門資源分配中也得到了更多的傾斜支持。智慧信訪還使得信訪部門內部組織權力關系和激勵機制發(fā)生了明顯的調整。J市信訪局內設的信訪矛盾分析研究中心等技術部門的地位不斷上升,這個機構是智慧信訪系統的實施者,也是各類信訪風險指數、信訪決策研判報告的主要分析者和撰寫者,更容易受到媒體、部門領導以及上級決策者的關注,因此在人員晉升中相比常規(guī)的直接處理信訪事務的業(yè)務科室占據優(yōu)勢地位。

其次,J市信訪預測算法對組織層級之間的溝通和組織內外的數據合作與共享產生了積極影響。數據的完備性決定著信訪預測算法的效果,J市區(qū)縣級基層信訪部門對模型預測指標的選擇以及指標權重的確定給予了很大的支持。例如,特殊重點信訪人員行為預測具有很大的難度,盡管智慧信訪基于自然語言算法對信件中信訪語句和用詞表達的情緒進行分析,但是信件內容并不能完全體現信訪人員的真實情緒和行為傾向。然而,基層信訪部門在獲取信訪人群真實信息方面具有獨特優(yōu)勢。他們定期向信訪預測算法的設計者提供信訪動向和重點信訪人員信息。預測模型在運用過程中的預測效果也需要和基層反饋的實際信訪行為進行比較驗證,如果發(fā)現模型預測和實際信息不符合,就需要根據實際情況對模型的參數以及指標權重進行調整或修正。J市信訪局信訪矛盾分析研究中心的工作人員指出:“特別是對極端信訪行為和特殊重點人群的跟蹤,基層不斷對預測模型結果進行驗證。我們每個月都有月度報告和周報告,如果預測分析和基層實際情況不符,比如判斷一個信訪人員這次沒有來,為什么?如果預測不會來,但是他來了,也會和基層進行溝通,對模型進行校正”(訪談資料,ZHXFW22522)。

再次,智慧信訪顯著提高了信訪機構服務供給的效率和精準性。J市信訪局通過機器學習算法、大數據分析技術對信訪形勢進行實時監(jiān)測與預測,掌握信訪形勢發(fā)展動態(tài),預測極端事件出現的風險。信訪預測算法的建立改變了傳統的信訪監(jiān)測和預警決策模式,把傳統的決策規(guī)則從隨機、無序和事后處理的模式轉變?yōu)榫珳暑A測、及時監(jiān)測、主動識別的前瞻性應對模式。智慧信訪的預測算法模型主要有兩類算法:第一類是基于月度信訪量的時間序列預測算法,第二類是信訪人行為模式的預測模型。這類預測分析的訓練集數據包括海量的網上來信、線下紙質信訪文本、網絡輿情等數據。同時,也通過自然語言處理等文本挖掘技術對上訪文本信息進行深度挖掘,對上訪人員的觀點表達進行情感分析,對上訪人的行為進行軌跡分析,并對類似上訪案例進行關聯分析,獲取信訪人身份特征數據,在此基礎上建立機器學習預測模型,預測上訪人員的行為傾向。智慧信訪系統的一位研發(fā)人員表示:“我們對信訪人行為模型的預測數據包括文本分析、情感分析,以及行為軌跡分析。比如上訪人十年來到過什么地方,去過哪些單位,什么時段來的比較多。結合這些信息,通過一個計算模型建立了信訪行為的‘極端指數’,形成人物畫像”(訪談資料,ZHXFW22519)。

然而,部門化的算法應用難以突破跨部門數據合作障礙,這類算法模式對科層體制的變革依賴部門對算法的支持以及算法應用部門在科層體制內的權威性。部門化算法的數據共享在很大程度上依賴頂層的制度安排、算法項目的政治合法性以及部門在科層體制中的權威性等因素。J市信訪局的相對弱勢地位使之在獲取其他職能部門數據方面處于不利地位。J市的智慧信訪算法模型的數據多數來自線上信訪文本和線下信訪材料等,同時也來自購買的其他數據,如網絡輿論信息、社會調查數據、行業(yè)調查數據,等等。其他職能部門不太支持數據共享,J市信訪局難以和公安、消防、醫(yī)保等關鍵部門的信訪業(yè)務開展數據共享,更遑論要求這些部門開通數據接口。

(三)跨部門自動化算法科層:H省“互聯網+監(jiān)督”平臺

H省“互聯網+監(jiān)督”平臺代表了一種典型的跨部門自動化算法科層形態(tài)。這一算法應用源于紀檢部門加強農村民生、扶貧資金和村級財務虛報冒領、侵占挪用、吃拿卡要、優(yōu)親厚友等腐敗問題治理的需要。H省從2017年11月正式上線省市縣三級運作的“互聯網+監(jiān)督”平臺,這個平臺一開始并不是由省級政府自上而下發(fā)起的,而是由部分市縣政府自發(fā)創(chuàng)新并得到省級政府關注,進而上升到全省層面。

首先,H省的“互聯網+監(jiān)督”平臺根據“統一平臺、統一標準、統一實施、三級運維”思路運作,建立了跨部門的組織系統,充分體現了跨部門算法的集權和控制導向??绮块T平臺的建立主要源于省級政府的高位政治推動。為了打造省級統一平臺,2017年4月,H省省委省政府成立“互聯網+監(jiān)督”工作協調領導小組及辦公室,省委常委、常務副省長任組長,省委常委、省紀委書記任副組長,省紀委、省政府辦公廳、省委網信辦、省發(fā)改委、省經信委、省財政廳、省政府發(fā)展研究中心等單位的領導任成員。領導小組辦公室設在省紀委,承擔領導小組的日常工作。省紀委協同領導小組的其他部門負責平臺的軟件開發(fā)、數據采集、制度建設等工作。H省還出臺了《關于加快推進“互聯網+監(jiān)督”工作實施方案》,在全省范圍內將平臺系統推進到市縣部門,實現橫向到邊、縱向到底。

高位的政治安排和自上而下的組織體制保障了平臺在建立過程中較順利地打通部門和不同層級政府之間的數據壁壘,推動全省多部門的數據整合匯聚。這個系統運作的前提是建立人員和財政資金信息庫,在建立系統過程中最大的阻力也是部門間的數據共享難題。相比專門的數據管理部門和統籌協調部門,紀委部門有難以比擬的權威性,具有較強的數據整合能力,對打破數據采集障礙和部門間數據壁壘發(fā)揮著決定性作用。為了解決公職人員抵制個人數據填報問題,紀委部門通過做工作要求數據采集部門簽署保密協議等方式解決。在部門數據共享方面,紀委則通過先禮后兵的方式推動:一方面通過召開部門會議統一思想,說服各部門把數據共享給紀委;另一方面,對于不配合的部門則使用人事更換的手段強力執(zhí)行,對于那些多次督促仍不愿開放數據的部門,紀委甚至提出“不換思想就換人”予以威懾。在紀委的推動下,H省區(qū)縣數據導入市一級“互聯網+監(jiān)督”云計算中心,市級數據導入省級的“互聯網+監(jiān)督”平臺。

其次,跨部門的算法自動化應用的最大優(yōu)勢在于對大量數據庫與規(guī)則庫的匯集和控制,這是實現大數據自動碰撞比對功能的核心機制,對發(fā)現和整治涉農資金腐敗行為發(fā)揮了決定性作用。“互聯網+監(jiān)督”平臺匯集了全省各地方多個部門的政務業(yè)務數據庫,將分散在民政、財政、教育、公安、國土、殘聯、市場監(jiān)督等十余個部門與民生相關的數據匯聚,在后臺建立人員信息庫、民生資金信息庫這兩類基礎比對數據庫。自動化比對的基本規(guī)則主要是兩類數據庫互斥規(guī)則。民生資金政策有著清晰而嚴格的申請人資格和限制條件,如果算法對數據庫智能分析比對發(fā)現根據規(guī)則兩項信息應相互排斥,則意味著違背規(guī)則,通過系統主動發(fā)現問題線索并進行預警,將發(fā)現的問題線索自動推送到紀委部門?!皟蓚€數據庫碰撞對比,就能發(fā)現許多疑點。有的人既拿國家工資,又領取貧困人員才能享受的危房改造補助。就像開寶馬車的人不能領城市低保,購車和城市低保是互斥關系,兩個名單的交集應為空,非空集合就是涉嫌違規(guī)領取低保的疑似問題線索。發(fā)現這些疑點后,平臺會自動報警,成為紀委追查的線索”(訪談資料HNP20210325)。

最后,“互聯網+監(jiān)督”深刻改變了H省紀檢監(jiān)督的組織流程和結構形態(tài)。平臺改變了傳統的紀律檢查流程,建立了公眾監(jiān)督舉報、平臺指派受理、政府部門協同辦理的監(jiān)督流程,通過算法技術整合了紀檢監(jiān)察部門、政府業(yè)務主管部門和公眾三股監(jiān)督力量,形成了集流程自動化和公眾監(jiān)督于一體的監(jiān)督體系,提高了紀檢檢查監(jiān)督的效率。在監(jiān)督流程的前端,平臺通過公眾舉報途徑拓寬了監(jiān)督體制的輸入端口;在監(jiān)督體制的中端,自動化算法技術通過大數據碰撞分析比對主動發(fā)現問題,提高了監(jiān)督體制的敏捷性、智慧性和主動性。在監(jiān)督體系的后端,平臺直接指派業(yè)務部門處理投訴和問題線索,提高了監(jiān)督執(zhí)行流程的效率。通過引入案件受理、辦理、答復時限流程和紀委督辦程序,提高了公眾監(jiān)督的約束性,強化了監(jiān)督體制的閉環(huán)管理。

(四)跨部門預測型算法科層:T市城市治理指揮系統

跨部門事務需要部門間的數據共享與協作,但卻面臨著職責分割和碎片化困境,阻礙了部門在更大范圍內應用算法。一個解決思路就是建立跨部門算法應用機構與平臺??绮块T算法應用的基本目標就是由一個平臺、一個系統負責各類問題的溝通協調,明確解決問題的職能部門或聯辦部門,利用算法進行分析決策,然后由平臺給部門派單,督促并考核部門解決問題。T市的城市治理指揮系統就是跨部門算法治理平臺的典型形態(tài),主要承擔以預測分析為基礎的決策任務。為了實現市域治理的智慧化,T市在數字政府管理組織體系上進行了重大的變革,成立了一個獨立的跨部門綜合性治理機構,即“城市治理指揮中心”,集中統管T市城市治理各場景的算法應用。城市治理指揮中心有“數據共享、智能搜索、統一監(jiān)管、監(jiān)測預警、分析研判、聯動指揮、行政問效”七項基本功能,這些功能的基礎就是算法分析與決策輔助,在實際運用中主要依托監(jiān)測預警系統。該系統基于各類大數據搭建的人工智能預警分析模型,主動預測和察覺各類社會治理風險。系統建立了若干專題分析算法,算法庫涵蓋了豐富的機器學習與深度學習模型,支持各種時空數據計算與分析、數據治理和挖掘,適配了不同的應用場景,為決策提供算法支撐。這些技術和算法的運用通過深挖數據為T市城市治理實現了知識賦能,建立了10多個城市算法應用場景。

首先,T市城市治理指揮中心的案例為我們揭示了人工智能算法對科層權力關系的重構效應,有效推動了科層體制的協作聯動。T市指揮中心的算法系統一定程度上實現了不同部門的職能整合、業(yè)務范圍調整甚至權力關系變革,形成了一種橫縱交錯的指揮協調架構。通過頂層設計,建立了一個獨立于各個部門的算法治理機構,機構負責人一般由市政府領導成員擔任。機構主要通過與其他職能部門的協調聯動機制輔助職能部門應用算法提高治理能力,提高了其他部門工作的積極性。在T市社會治理的行政體系中,指揮中心承擔著橫向溝通協調到邊、統籌全局的角色。指揮中心與T市大數據管理局實行一體化運行,組織架構上實現多部門融合,身兼市大數據管理局、市網格化服務管理中心和市12345政府公共服務中心三部門職能,“一個中心管全域、一個號碼管受理(12345熱線)、一個APP管服務、一個平臺管監(jiān)管”。這樣的組織架構一方面保證了指揮中心可以匯聚其他職能部門數據,從而掌握部門業(yè)務數據和社區(qū)街道實時信息,另一方面可以保證指揮中心指揮社區(qū)部門與基層網格員處理現場事務。T市政府在指揮中心建立了部門進駐制,便于指揮中心對跨部門事務統籌協調和聯動,進行任務派單。進駐部門對指揮中心交辦的事件或預警信息建立了簽收、辦理、跟蹤、反饋的閉環(huán)管理機制,推動問題的解決。借助指揮中心的協調聯動體系,其他缺乏獨立的算法治理能力的職能部門也實現了治理的自我賦能效應。為了強化各職能部門的配合與協作,指揮中心也通過數字化監(jiān)督考核方式,對各部門的數據接入、數據更新、數據質量等情況進行可視化呈現,促使各部門按照要求主動歸集和更新數據。

在橫向部門協調統籌到邊的基礎上,指揮中心同時建立了縱向到底的指揮體系。指揮中心具有四級聯動機制,即1個市級指揮中心、10個縣(市)區(qū)指揮中心、96個鄉(xiāng)鎮(zhèn)街道指揮中心和7萬余名專兼職網格員。市級指揮中心負責統攬全局,縣級指揮中心開展實戰(zhàn)指揮,鎮(zhèn)級指揮中心進行一線處置,基層鄉(xiāng)鎮(zhèn)街道指揮中心依托網格管理配置。憑借網格員“鐵腳板”的人力優(yōu)勢,可以直接發(fā)現和處理基層社會治理事務。市級指揮平臺把事件交辦給縣(市)區(qū)指揮平臺,后者把處理結果反饋給市級指揮平臺??h市區(qū)指揮平臺同樣對鄉(xiāng)鎮(zhèn)街道平臺進行事件交辦和結果反饋。

其次,在知識和數據的共享方面,該機構最大的特征是對職能部門數據的匯集與管理,這也是機構開展算法治理的前提。機構匯聚了轄區(qū)內各部門數據和其他感知數據,建立各類標準化的專題數據庫,形成數據池。以精神病患的預警和處置為例:指揮中心針對精神病患者底數難摸清、動態(tài)管理難、出事預警難的問題,匯聚了衛(wèi)健委、殘聯、民政、醫(yī)保等17個部門22項3000萬條數據,建立醫(yī)學診斷、患者行為、患者社會屬性、監(jiān)護人屬性、走訪服務和家庭屬性等6大類22個子類57個標簽,實現對患者的人物畫像和積分計算,形成一人一檔的全量檔案。系統已向預警中心平臺發(fā)送1382條預警信息,及時推送給基層社區(qū)民警和網格員(訪談資料:TCC2021619)。

指揮中心和大數據管理局一體辦公的建制保證了指揮中心可以與其他行政部門較為便利地共享數據。T市在大數據管理局(指揮中心)建立了政務數據共享交換平臺,根據T市2020年頒布的政府信息資源共享實施細則,市大數據管理局負責政務數據共享交換平臺政務信息資源更新的指導、協調和監(jiān)督。為了保證各部門遵守數據歸集要求,T市政府賦予了指揮中心數據共享與匯聚的審批權和控制權,并且與各部門的核心利益掛鉤。實施細則規(guī)定,市大數據局、財政局負責對市級智慧城市項目和財政投入的信息化項目進行審核,對不符合政府信息資源共享要求的,不予審批、不予安排運維經費。作為項目驗收要求,各部門的信息化項目建成后將信息資源接入市政府數據共享交換平臺。為了保證信息化建設項目能得到審批和經費支持,部門就必須遵守信息共享的要求,把信息資源接入指揮中心的信息共享交換平臺。該項規(guī)定對部門數據共享是一個有力的約束。

最后,T市城市治理指揮中心的算法系統顯著提高了城市治理的精準性,其秘訣就是建立了若干主題的算法應用場景,根據不同數據庫類型建立專題算法系統。指揮中心對城市社會治理各方面大數據進行歸集、融合和專題整合,建立了包括公共安全、經濟運行、國土資源、公共服務等數據專題庫。在數據專題庫的基礎上,運用人工智能技術建立了十幾個城市應用場景,如危險化學品全流程監(jiān)管、群租房治理,等等。這些應用場景有助于提高社會治理的精準性。以?;繁O(jiān)管的精準化為例,T市有2000余家危化品相關企業(yè),危化品監(jiān)管涉及問題處置的環(huán)節(jié)和參與監(jiān)管的部門多,部門職責不清晰。指揮中心建立了?;啡鞒瘫O(jiān)督算法,通過實時歸集政府相關部門和企業(yè)生產經營等數據,進行算法預測,提前發(fā)現問題并發(fā)出預警。具體而言,指揮中心掌握著?;菲髽I(yè)名單,同時監(jiān)控?;愤\輸車輛不斷產生的軌跡數據,通過城市操作系統中的時空AI引擎構建模型計算出可能的駐留點,將其與危化品企業(yè)名單進行高效匹配,以發(fā)現問題。

四、總結與討論

以大數據、人工智能為代表的第四次技術革命,開啟了人類全新的智能時代,正在對傳統科層制產生潛移默化的影響,引發(fā)一場政府管理模式的大變革。算法科層制革命正悄然發(fā)生。中國作為最早產生科層體制的國家,也最先見證了人工智能算法革命對傳統科層體制的變革效應,產生了算法科層制的豐富實踐案例和形態(tài)。本文基于中國地方政府人工智能算法應用的實踐形態(tài),發(fā)展了一個算法科層制的中觀理論分析框架。基于算法功能和算法應用體制這兩個關鍵因素,我們探究了算法對科層制的權力控制與激勵機制、組織結構、知識信息處理、服務供給模式的影響及其路徑,進而區(qū)分了四種算法科層制形態(tài):部門自動化算法科層、部門預測型算法科層、跨部門自動化算法科層和跨部門預測型算法科層。通過國內四個人工智能算法應用案例,本文揭示了算法應用對科層組織形態(tài)產生的差異化影響。在這場新的算法科層制革命中,算法科層有助于緩解傳統科層制效率低、部門分割、信息孤島等痼疾,增強科層體制的能力與開放性,優(yōu)化公共物品供給模式,提高公共服務績效;但也可能帶來決策失誤、合法性危機和數據安全挑戰(zhàn)等一系列新問題。

第一,算法科層可能對政府決策的合法性產生沖擊。由于算法技術的黑箱特質,一般民眾不知道算法是如何運作的,算法輔助下的決策支持系統也可能受到廣泛質疑。算法科層的要害在于自動化編程和自動化計算,其背后是人的設計、干預與調整,這一過程也必然繼承了科層機構自身選擇的偏見和控制,因此算法科層可能會擴大不同群體間政治與社會權利的不平等,算法加劇不平等問題在廣泛使用算法決策的英美等發(fā)達國家已經屢見不鮮(尤班克斯,2021)。

第二,算法科層中的自動化系統做出某個判斷和決定,一方面可以克服傳統審批中的腐敗問題,但另一方面也引發(fā)了一些新問題,即這個系統的決策結果向誰負責?算法一旦確立,就有自身的自主邏輯,這種決策“專斷”可能與設計者的意圖相反,帶來不可預知的結果,這就需要為公民和各類利益相關群體提供一個算法機制審議的參與機會或正式機構。

第三,數據安全問題,如數據泄露、數據竊取、數據不當使用在公共部門算法應用過程中不斷涌現且日益嚴峻。除了常規(guī)的統計數據外,海量的用戶個人數據也被算法所使用,因而存在數據泄露、被濫用的風險,甚至可能因政務數據被敵對勢力攻擊或者木馬介入而引發(fā)公共服務平臺癱瘓、公共服務中斷等重大數據安全事故。特別是在政府數據公開和部門間數據共享和匯聚過程中,數據安全風險可能被進一步放大。數據安全風險的挑戰(zhàn)一方面要求各級政府更加注重在數據采集、存儲、數據庫建設、數據分析以及數據共享過程中強化安全管理和隱私保護的技術保障,另一方面也要求設計一套政府數據隱私保護的監(jiān)督、問責和公民救濟機制。本文建議在各級政府的大數據管理局設立算法治理倫理委員會,委員會成員應涵蓋各領域專家、科技企業(yè)和公眾代表,負責對部門算法系統進行數據安全與倫理審查,接受公民投訴,并定期發(fā)布算法治理數據安全與倫理風險報告,督促政府各部門鞏固數據安全防線和守住公民隱私保護紅線。

第四,在當前數字政府建設和政府治理的人工智能應用中,強調服務公眾而忽略公民參與的傾向較為明顯??绮块T算法的控制和集權導向也可能進一步壓縮了公民參與社會治理的空間。在算法強大的預測分析和自動化處理能力的支持下,科層體制組織持續(xù)擴張,在提供公共服務和管理社會事務方面對公眾與社會力量的依賴度不斷降低,反而可能憑借算法替代公眾做出“最好”的決策,排斥必要的公民參與和公共協商的空間,產生算法科層擠壓社會自治的問題。公民不應是算法科層服務的被動接收者,而應當是算法治理的主動參與者,為算法項目的設計與服務供給表達意見并提供方案。算法科層制革命中公民角色的匱乏是一個必須解決的重大問題,有待未來進一步深入研究。

特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

社會學研究雜志 incentive-icons
社會學研究雜志
《社會學研究》官方帳號
1014文章數 945關注度
往期回顧 全部

專題推薦

洞天福地 花海畢節(jié) 山水饋贈里的“詩與遠方

無障礙瀏覽 進入關懷版