【摘要】人工智能時(shí)代算法的領(lǐng)域歸屬、形態(tài)屬性與功能價(jià)值發(fā)生重大變化，其影響力失控蔓延的苗頭愈加明顯，催生“算法焦慮”。本文以“算法焦慮”現(xiàn)象為研究對(duì)象，從算法自身以及規(guī)制理念、治理模式等多個(gè)角度系統(tǒng)挖掘“算法焦慮”誘發(fā)因素，進(jìn)而從多元互動(dòng)、相互聯(lián)結(jié)的維度構(gòu)建邁向算法信任的本土化治理方案。

【關(guān)鍵詞】“算法焦慮” 生成機(jī)理 算法信任 治理方案

【中圖分類(lèi)號(hào)】F49    【文獻(xiàn)標(biāo)識(shí)碼】A

“算法焦慮”：人工智能時(shí)代典型現(xiàn)象

第一，算法侵蝕個(gè)人主體性。算法可以根據(jù)個(gè)人的興趣愛(ài)好，打造具有沉浸感、互動(dòng)感和愉悅感的個(gè)性化定制智能場(chǎng)景，信息、資訊傳播路徑由過(guò)去的“千人一面”轉(zhuǎn)變?yōu)?ldquo;千人千面”，不斷滿足用戶(hù)的信息興趣和需求偏好。這種顛覆性變化依靠數(shù)據(jù)收集與處理來(lái)支撐。算法通過(guò)多種渠道收集用戶(hù)的行為習(xí)慣、信息興趣、信息需求，將其集合到數(shù)據(jù)庫(kù)之中，并通過(guò)一定的運(yùn)算規(guī)則進(jìn)行“用戶(hù)畫(huà)像”，把零散的數(shù)據(jù)信息整合成可視化的“完整個(gè)體”，將虛擬世界的個(gè)體與現(xiàn)實(shí)世界的個(gè)體相聯(lián)結(jié)。在聯(lián)結(jié)過(guò)程中，用戶(hù)信息收集環(huán)節(jié)極易出現(xiàn)“失控”現(xiàn)象。因?yàn)樵谒惴媲?，用?hù)評(píng)論、轉(zhuǎn)發(fā)、點(diǎn)贊、收藏等行為所產(chǎn)生的信息均會(huì)不由自主地成為算法的“囊中之物”。這就使公眾的個(gè)人主體性遭受侵犯，對(duì)算法難以產(chǎn)生有效信任，在與其互動(dòng)時(shí)出現(xiàn)玻璃箱中“小白鼠”式焦慮。

第二，算法帶來(lái)“內(nèi)卷化”現(xiàn)象。“內(nèi)卷化”這一被廣泛應(yīng)用到各個(gè)學(xué)科與領(lǐng)域之中的學(xué)術(shù)概念，深刻地揭示出組織或者社會(huì)中既無(wú)突變式變化，亦無(wú)漸進(jìn)式增長(zhǎng)，總是在較低水平徘徊的現(xiàn)象。算法領(lǐng)域的“內(nèi)卷化”現(xiàn)象較為突出。受到經(jīng)驗(yàn)閱歷、知識(shí)水平、思想追求、價(jià)值傾向等綜合因素影響，個(gè)體用戶(hù)的信息需求與興趣偏好會(huì)保持較為穩(wěn)定的狀態(tài)，這決定了個(gè)體用戶(hù)的“用戶(hù)畫(huà)像”呈現(xiàn)出整體輪廓不易改變、具體細(xì)節(jié)動(dòng)態(tài)調(diào)整的典型特征。算法為了實(shí)現(xiàn)對(duì)用戶(hù)需求的“精準(zhǔn)打擊”，必然會(huì)根據(jù)用戶(hù)主體進(jìn)行“精準(zhǔn)推送”。在雙向性、回旋型、交流式的互動(dòng)模型中，用戶(hù)接收的是極大滿足自身信息需求的“海量推送”，出現(xiàn)越看越“精準(zhǔn)”、越看越“貼心”、越看越“沉浸”的局面。但是算法強(qiáng)調(diào)“精度”與“敏度”，忽視“溫度”與“增度”，不會(huì)考慮用戶(hù)信息需求的價(jià)值性、規(guī)范性與增值性。受眾接收的不再是多元全面、葷素搭配的信息，而是“同質(zhì)異象”的、與用戶(hù)信息偏好高度吻合的信息。由此，用戶(hù)在海量信息里面的營(yíng)養(yǎng)收益呈現(xiàn)出邊際遞減的趨勢(shì)，“內(nèi)卷化”現(xiàn)象凸顯，出現(xiàn)人工智能時(shí)代“逆水行舟，不進(jìn)則退”式焦慮。

第三，算法影響公眾輿論導(dǎo)向把控。信息與資訊能夠影響公眾的認(rèn)知與判斷，對(duì)公眾的輿論行為具有調(diào)控乃至再造的功能。算法針對(duì)用戶(hù)偏好進(jìn)行海量信息的智能推送，“同類(lèi)信息”“一種聲音”持續(xù)轟炸用戶(hù)的眼球與大腦，“異類(lèi)信息”“不同聲音”則受到限制與屏蔽，風(fēng)聲雨聲讀書(shū)聲難以聲聲入耳。同類(lèi)的、滿足用戶(hù)偏好的海量信息極大壓縮用戶(hù)仔細(xì)篩選、獨(dú)立思考以及理性判斷的空間，使其成為任由算法擺布的“繭房蠶蟲(chóng)”，陷入越是喜歡越是“投喂”、越是“投喂”越是“自縛”的桎梏。長(zhǎng)此以往，以自我封閉、固執(zhí)僵化和拒絕交流為核心特征的偏執(zhí)型用戶(hù)會(huì)大量出現(xiàn)，逐漸在網(wǎng)絡(luò)空間中集結(jié)成或緊密或松散的輿論聯(lián)合體，在虛擬與現(xiàn)實(shí)的聯(lián)結(jié)中影響公眾輿論導(dǎo)向。與傳統(tǒng)媒體的輿論導(dǎo)向功能相比，算法影響公眾輿論導(dǎo)向的力度更大、范圍更廣、時(shí)間更久。算法對(duì)公眾輿論的導(dǎo)向與把控是技術(shù)理性作用的結(jié)果，由于缺乏價(jià)值理性的正向引導(dǎo)，算法對(duì)公眾輿論導(dǎo)向的負(fù)面效應(yīng)亦難以避免，出現(xiàn)以“知識(shí)鴻溝”“沉默的螺旋”等為典型代表的群體式焦慮。

生成機(jī)理：誘發(fā)因素系統(tǒng)化剖析

“算法焦慮”在個(gè)人、群體乃至社會(huì)層面均有所體現(xiàn)，誘發(fā)“算法焦慮”的因素也是多種多樣、相互交織的，既有算法自身層面的問(wèn)題，也有規(guī)制理念、治理模式等層面的問(wèn)題。

第一，一段時(shí)間內(nèi)盛行的“技術(shù)中立論”的錯(cuò)誤引導(dǎo)。在算法早期發(fā)展階段，它主要用來(lái)解決一些較為簡(jiǎn)單、涉及范圍較小的問(wèn)題。對(duì)算法的審視主要以技術(shù)本身的內(nèi)部視域?yàn)橹鳎嚓P(guān)注商業(yè)領(lǐng)域內(nèi)算法技術(shù)的革新與增長(zhǎng)，認(rèn)為算法在倫理層面的判斷具有中立性。由此，算法“技術(shù)中立論”大行其道。歷史地看，算法“技術(shù)中立論”能夠在一定程度上保證算法的相對(duì)獨(dú)立性，幫助其在早期發(fā)展階段獲得革新與增長(zhǎng)的空間。但是從本質(zhì)來(lái)講，算法作為一種技術(shù)始終擺脫不了人的因素，算法始終會(huì)有人的情緒與偏好烙印，根本不能做到中立而無(wú)偏斜。“技術(shù)中立論”本身就是個(gè)偽命題。尤其是隨著人工智能蓬勃發(fā)展，算法逐漸嵌入到經(jīng)濟(jì)社會(huì)發(fā)展的方方面面，政府與社會(huì)的監(jiān)督管理與引導(dǎo)更加成為算法發(fā)展的應(yīng)然要求。然而受到思維慣性、體制惰性以及商業(yè)利潤(rùn)等因素的影響，很長(zhǎng)一段時(shí)間內(nèi)算法“技術(shù)中立論”仍舊占據(jù)主導(dǎo)地位，致使算法既缺乏政府有效監(jiān)管，又缺乏系統(tǒng)化、科學(xué)化的頂層設(shè)計(jì)，呈現(xiàn)出“野蠻生長(zhǎng)”態(tài)勢(shì)，“算法霸權(quán)”“算法歧視”“算法繭房”等亂象層出不窮。

第二，“算法黑箱”等技術(shù)特性增加外部有效監(jiān)督的困難性。算法可能比用戶(hù)更加了解自身的需求和偏好，然而用戶(hù)對(duì)算法卻是知之甚少，可能都不會(huì)察覺(jué)到隱藏在人工智能、大數(shù)據(jù)、區(qū)塊鏈等標(biāo)志性技術(shù)背后的算法的存在。這是因?yàn)樗惴ê陀行挝锲凡煌?，具有很?qiáng)的載體依附性與隱蔽性，用戶(hù)無(wú)法清晰地了解其內(nèi)部運(yùn)行機(jī)理。由算法的技術(shù)特性帶來(lái)的不透明現(xiàn)象被生動(dòng)地描述為“算法黑箱”。“算法黑箱”成為橫亙?cè)谒惴ㄅc公眾、社會(huì)與政府之間的一道鴻溝，帶來(lái)外部有效監(jiān)督的困難性。法國(guó)總統(tǒng)馬克龍?jiān)?018年接受連線雜志采訪時(shí)稱(chēng)，應(yīng)用在公共事業(yè)領(lǐng)域的算法，會(huì)逐步公布其代碼和模型，以降低因算法不透明而帶來(lái)的種種風(fēng)險(xiǎn)與公眾恐慌。然而這種做法收效甚微。原因在于，向社會(huì)和公眾公布的代碼和模型仍舊具有高度專(zhuān)業(yè)性與程序性特征，只有少部分具有專(zhuān)業(yè)知識(shí)的公眾以及專(zhuān)業(yè)領(lǐng)域的行政人員才能理解其內(nèi)在運(yùn)行機(jī)理，才能對(duì)算法應(yīng)用后的風(fēng)險(xiǎn)進(jìn)行預(yù)測(cè)與評(píng)估。在算法仍舊是“黑暗的秘密”情況下，“算法焦慮”自然難以紓解。

第三，“互聯(lián)網(wǎng)+”治理與“互聯(lián)網(wǎng)+”增長(zhǎng)間的悖論。人工智能時(shí)代，政府智能治理以“互聯(lián)網(wǎng)+”式的回應(yīng)型治理模式為主，呈現(xiàn)的是“問(wèn)題—對(duì)策”的邏輯范式?；貞?yīng)型治理模式基本能夠適應(yīng)公共治理、社會(huì)治理領(lǐng)域中的諸多問(wèn)題，是有效提高治理效能的科學(xué)模式。然而在智能治理領(lǐng)域，算法呈現(xiàn)出“互聯(lián)網(wǎng)+”式的指數(shù)增長(zhǎng)規(guī)律，區(qū)別于呈現(xiàn)線性增長(zhǎng)規(guī)律的其他問(wèn)題。“互聯(lián)網(wǎng)+”式的回應(yīng)型治理與“互聯(lián)網(wǎng)+”指數(shù)增長(zhǎng)間的悖論油然而生。二者之間的悖論意味著政府在“算法焦慮”治理情景中經(jīng)常扮演事后處罰者的角色，問(wèn)題處置的滯后性極易影響“算法焦慮”治理效能。因此，我們經(jīng)常發(fā)現(xiàn)治理“算法焦慮”過(guò)程中傳統(tǒng)的政府治理框架頻繁失效，對(duì)現(xiàn)有治理框架進(jìn)行稍許改良的路徑亦難以持續(xù)回應(yīng)層出不窮的新焦慮。

多元互動(dòng)：邁向算法信任的治理方案

人工智能時(shí)代算法治理已經(jīng)成為推進(jìn)國(guó)家治理體系和治理能力現(xiàn)代化的題中應(yīng)有之義。綜合考慮我國(guó)智能治理現(xiàn)狀以及“算法焦慮”的主要表現(xiàn)和誘因，紓解“算法焦慮”，邁向算法信任，必須進(jìn)一步堅(jiān)持科學(xué)謀劃、多管齊下、重點(diǎn)突出、持續(xù)優(yōu)化的復(fù)合型治理思路。

第一，進(jìn)一步完善用戶(hù)數(shù)據(jù)區(qū)分與隱私保護(hù)機(jī)制。把握好數(shù)據(jù)區(qū)分與隱私保護(hù)之間的辯證關(guān)系，就是抓住了算法的“阿喀琉斯之踵”，是紓解“算法焦慮”，邁向算法信任的重要內(nèi)容。數(shù)據(jù)是算法賴(lài)以生存和增長(zhǎng)的前提，一定規(guī)模與質(zhì)量的數(shù)據(jù)是算法發(fā)揮功效的重要保證。因此，探討數(shù)據(jù)區(qū)分與隱私保護(hù)的辯證關(guān)系，要著重思考數(shù)據(jù)的權(quán)屬及其使用邊界問(wèn)題。數(shù)據(jù)的權(quán)屬可以分為三種情形。一是敏感型數(shù)據(jù)的權(quán)屬。涉及用戶(hù)個(gè)人信息、底層使用痕跡的數(shù)據(jù)被稱(chēng)為“敏感型數(shù)據(jù)”，用戶(hù)擁有敏感型數(shù)據(jù)的所有權(quán)。二是公共型數(shù)據(jù)的權(quán)屬。應(yīng)用于行政、司法等領(lǐng)域的、經(jīng)過(guò)匿名化處理的數(shù)據(jù)被稱(chēng)為“公共型數(shù)據(jù)”，數(shù)據(jù)控制者擁有受限制的所有權(quán)。三是脫敏型數(shù)據(jù)的權(quán)屬。經(jīng)過(guò)數(shù)據(jù)清理加工的衍生數(shù)據(jù)被稱(chēng)為“脫敏型數(shù)據(jù)”，數(shù)據(jù)控制者擁有所有權(quán)。對(duì)敏感型數(shù)據(jù)而言，算法企業(yè)或平臺(tái)不能私自使用，更不能泄露甚至買(mǎi)賣(mài)，否則后果將不堪設(shè)想。對(duì)公共型數(shù)據(jù)而言，行政機(jī)關(guān)、司法部門(mén)必須按照嚴(yán)格的規(guī)定與程序，有限度使用與處理數(shù)據(jù)。對(duì)脫敏型數(shù)據(jù)而言，可以集中應(yīng)用于新聞推薦場(chǎng)景、搜索引擎排序以及電子商務(wù)領(lǐng)域，但仍要注意數(shù)據(jù)使用的限度，防止數(shù)據(jù)過(guò)度使用帶來(lái)的次生問(wèn)題。

第二，進(jìn)一步構(gòu)建適應(yīng)算法發(fā)展實(shí)際的法律體系。法律因其治理效能的權(quán)威性、規(guī)范性與持續(xù)性，被認(rèn)為是治理“算法焦慮”的“重器”。我國(guó)一向重視人工智能領(lǐng)域立法工作，已形成一定的法律框架體系，為治理“算法焦慮”提供重要指導(dǎo)和遵循。同時(shí)也應(yīng)該看到，與治理“算法焦慮”相關(guān)的法律法規(guī)呈現(xiàn)出零散化以及低位階的顯著特點(diǎn)。下一步，應(yīng)該重點(diǎn)關(guān)注相關(guān)法律體系的完整化、精細(xì)化以及層次化問(wèn)題。

第三，進(jìn)一步凸顯算法使用平臺(tái)自我治理的優(yōu)勢(shì)。人工智能時(shí)代，算法使用平臺(tái)與行政、司法等領(lǐng)域相結(jié)合，算法“公共性”色彩日益增強(qiáng)。強(qiáng)化算法使用平臺(tái)自我把關(guān)、自我控制的責(zé)任與義務(wù)，既是符合算法技術(shù)特點(diǎn)的基本要求，也是算法使用平臺(tái)主動(dòng)維護(hù)用戶(hù)利益與權(quán)利、承擔(dān)社會(huì)責(zé)任的必然要求。一方面，算法使用平臺(tái)應(yīng)該加強(qiáng)價(jià)值引領(lǐng)與導(dǎo)向把控。應(yīng)該摒棄“流量為王”“利潤(rùn)至上”“娛樂(lè)至死”等不良導(dǎo)向，堅(jiān)持以人民為中心的價(jià)值導(dǎo)向，傳播主流價(jià)值觀，主動(dòng)落實(shí)用主流價(jià)值導(dǎo)向駕馭算法，全面提高輿論引導(dǎo)能力的部署要求。另一方面，算法使用平臺(tái)應(yīng)該在一定程度上“去算法化”。人工智能時(shí)代算法在不同場(chǎng)景下深度學(xué)習(xí)和優(yōu)化升級(jí)的能力與日俱增，但是再先進(jìn)的技術(shù)也有自身的盲區(qū)與缺陷，機(jī)器始終無(wú)法全面代替人類(lèi)。算法使用平臺(tái)依賴(lài)算法而生存，但是要想取得持續(xù)優(yōu)化與改進(jìn)，必然要在一定程度上“去算法化”，逐步打造一支本領(lǐng)高強(qiáng)、站位較高的“把關(guān)人”“總編輯”隊(duì)伍，強(qiáng)化人工審核與問(wèn)題糾偏的重要功能。

第四，進(jìn)一步保持對(duì)算法使用平臺(tái)監(jiān)督問(wèn)責(zé)的良好態(tài)勢(shì)。黨的十八大以來(lái)，一大批導(dǎo)向不正、格調(diào)低俗的自媒體、公眾號(hào)被拉入“黑名單”，諸多烏煙瘴氣、逾越道德和法律底線的APP被永久關(guān)停。這既能有效打擊算法使用平臺(tái)違法犯罪行為，同時(shí)也拉起一條網(wǎng)絡(luò)“高壓線”，為治理“算法焦慮”、重塑算法信任保駕護(hù)航。下一步，要把完善算法登記備案制度以及強(qiáng)化算法技術(shù)審查機(jī)制作為行進(jìn)重點(diǎn)。依據(jù)《國(guó)家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》等重要文件，對(duì)算法進(jìn)行分類(lèi)別、分領(lǐng)域、分層次的登記備案，可以在算法投入應(yīng)用前確立責(zé)任主體，強(qiáng)化對(duì)算法應(yīng)用平臺(tái)的事前審核監(jiān)督。同時(shí)，也應(yīng)該強(qiáng)化算法技術(shù)審查機(jī)制，對(duì)算法使用后果持續(xù)追蹤、及時(shí)反饋、系統(tǒng)剖析，從而發(fā)現(xiàn)問(wèn)題、解決問(wèn)題，實(shí)現(xiàn)事前監(jiān)督與事中監(jiān)督、問(wèn)責(zé)相結(jié)合，充分體現(xiàn)對(duì)算法技術(shù)、算法使用平臺(tái)激勵(lì)與約束并重、嚴(yán)管與厚愛(ài)結(jié)合的正確導(dǎo)向。

（作者為中共中央黨校（國(guó)家行政學(xué)院）黨的領(lǐng)導(dǎo)與領(lǐng)導(dǎo)科學(xué)教研室主任、教授、博導(dǎo)；中共中央黨校（國(guó)家行政學(xué)院）黨的建設(shè)教研部博士研究生候術(shù)山對(duì)本文亦有貢獻(xiàn)）

【注：本文系國(guó)家社會(huì)科學(xué)基金重點(diǎn)項(xiàng)目“完善中國(guó)縣處級(jí)黨政領(lǐng)導(dǎo)干部考核評(píng)價(jià)體系和獎(jiǎng)懲機(jī)制研究”（項(xiàng)目編號(hào)：16ADJ007）和教育部人文社科規(guī)劃基金項(xiàng)目“新形勢(shì)下領(lǐng)導(dǎo)干部敢于擔(dān)當(dāng)?shù)膭?dòng)力與激勵(lì)機(jī)制研究”（項(xiàng)目編號(hào)：18YJA810005）研究成果】

責(zé)編/潘麗莉 美編/王夢(mèng)雅

聲明：本文為人民論壇雜志社原創(chuàng)內(nèi)容，任何單位或個(gè)人轉(zhuǎn)載請(qǐng)回復(fù)本微信號(hào)獲得授權(quán)，轉(zhuǎn)載時(shí)務(wù)必標(biāo)明來(lái)源及作者，否則追究法律責(zé)任。