摘 要:隨著數(shù)據(jù)規(guī)模的急劇擴(kuò)大和運(yùn)算能力的飛躍提升，算法算力作為個(gè)人、企業(yè)及政府定位新坐標(biāo)、把握新動向、選擇新進(jìn)路的關(guān)鍵依托和基礎(chǔ)工具，日益滲進(jìn)社會各領(lǐng)域。然而，算法的廣泛應(yīng)用在推動新時(shí)代經(jīng)濟(jì)高質(zhì)量發(fā)展的同時(shí)，也對現(xiàn)行的經(jīng)濟(jì)社會法治化治理模式和方法提出了挑戰(zhàn)。對此，應(yīng)以算法算力從開發(fā)到應(yīng)用全過程為基礎(chǔ)，從國家、企業(yè)、個(gè)人三大主體出發(fā)，構(gòu)建規(guī)制體系，夯實(shí)法治根基。

關(guān)鍵詞:算法算力 算法治理 法治體系

【中圖分類號】TP18 【文獻(xiàn)標(biāo)識碼】A

算法是實(shí)現(xiàn)設(shè)計(jì)程序或完成任務(wù)的路徑方法，具有可行性、有窮性、確定性和情報(bào)充分性的特點(diǎn)，是計(jì)算機(jī)科學(xué)技術(shù)的基礎(chǔ)。算法是數(shù)字時(shí)代的核心范疇和基本方法，大數(shù)據(jù)、人工智能、區(qū)塊鏈等先進(jìn)技術(shù)均需依賴各種算法設(shè)計(jì)或以算法為底層原理。沒有算法的支撐以及強(qiáng)有力的算力供給，今天的許多技術(shù)愿景都只是空中樓閣。要想把握數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展的脈搏，就必須充分認(rèn)識算法的必要性與重要性。

數(shù)字經(jīng)濟(jì)步入算法時(shí)代

算法本身并非一開始就運(yùn)用于計(jì)算機(jī)科學(xué)，它早先是作為人工思考和處理的一種方法而存在的。隨著計(jì)算機(jī)的誕生和發(fā)展，算法由于具有可抽象化和程式化的特點(diǎn)，逐漸成為計(jì)算機(jī)運(yùn)行的基本方式和思想來源。互聯(lián)網(wǎng)時(shí)代許多標(biāo)志性技術(shù)，如人工智能、大數(shù)據(jù)技術(shù)、區(qū)塊鏈等，都依賴各種高階算法和強(qiáng)大算力以實(shí)現(xiàn)其作用。

人工智能以算法作為運(yùn)行規(guī)則。人工智能是對人腦智能的模擬，它必須依照一定規(guī)則來實(shí)現(xiàn)智能化，而算法恰恰提供了這種運(yùn)行規(guī)則。被用于人工智能的算法為智能算法。該算法讓計(jì)算機(jī)系統(tǒng)擁有了自己的“思想”，可以在算法規(guī)則確立的流程下運(yùn)用算力求解問題?，F(xiàn)如今，算法逐步內(nèi)化為人工智能的核心和基石，推動人工智能的不斷進(jìn)步。

大數(shù)據(jù)技術(shù)以算法為支撐。大數(shù)據(jù)技術(shù)的本質(zhì)是在收集、存儲數(shù)據(jù)的基礎(chǔ)上，處理、分析數(shù)據(jù)，并從中提煉出有用信息。數(shù)據(jù)本身并無意義，其背后所蘊(yùn)含的信息才是大數(shù)據(jù)技術(shù)追求的終極目的和價(jià)值所在。而數(shù)據(jù)不會自動轉(zhuǎn)化為人們所需要的信息，而是要經(jīng)過提取、處理、分析，這就需要借助算法明確數(shù)據(jù)應(yīng)用目的，組成數(shù)據(jù)含義體系，建立數(shù)據(jù)提取標(biāo)準(zhǔn)，提供數(shù)據(jù)處理和分析方法，之后借助于算力，為獲取信息奠定基礎(chǔ)。

區(qū)塊鏈以算法構(gòu)建基礎(chǔ)體系。區(qū)塊鏈?zhǔn)且环N分散式數(shù)據(jù)庫，其最大特點(diǎn)就是去中心化，它無需借助第三方機(jī)構(gòu)作為交易保障，通過全網(wǎng)共享交易數(shù)據(jù)庫，僅憑一己之力便可建立信用體系。這一特點(diǎn)是以非對稱加密算法和哈希算法為基礎(chǔ)的。非對稱加密算法通過公鑰和私鑰保障交易真實(shí)性和個(gè)人信息安全，哈希算法則通過散列值使區(qū)塊連接成鏈。倘若沒有密碼學(xué)算法為根基，區(qū)塊鏈技術(shù)就不可能存在。

算法是當(dāng)下數(shù)字經(jīng)濟(jì)迭代發(fā)展的創(chuàng)新基礎(chǔ)和核心動能。我國在新基建發(fā)展規(guī)劃中多次提及在算法及算力支撐下推動數(shù)字基礎(chǔ)和數(shù)據(jù)新基建的發(fā)展。算法時(shí)代已然到來，算法算力已成為數(shù)據(jù)主體，包括個(gè)人、企業(yè)及政府定位新坐標(biāo)、把握新動向、選擇新進(jìn)路的關(guān)鍵依托和基礎(chǔ)工具。

算法運(yùn)行對現(xiàn)行治理模式提出新挑戰(zhàn)

算法在推動信息通信技術(shù)與計(jì)算科學(xué)技術(shù)融合創(chuàng)新和廣泛應(yīng)用、積極促進(jìn)經(jīng)濟(jì)社會發(fā)展的同時(shí)，也對現(xiàn)行的經(jīng)濟(jì)社會治理模式和方法提出了新的挑戰(zhàn)。

算法精準(zhǔn)推送加劇“信息繭房”效應(yīng)

“信息繭房”效應(yīng)指在信息傳播中，公眾由于對信息沒有全方位需求，只關(guān)注自己關(guān)心的訊息，將自己束縛于如蠶絲織就的“繭房”中的現(xiàn)象。

算法發(fā)展加劇了這種效應(yīng)。網(wǎng)絡(luò)平臺和互聯(lián)網(wǎng)公司通過自動化決策算法，抓取用戶的網(wǎng)絡(luò)瀏覽記錄和訪問信息，掌握用戶的需要，之后針對每個(gè)用戶推出“私人訂制”，實(shí)現(xiàn)信息的“精準(zhǔn)推送”，從而招徠更多用戶資源，取得競爭優(yōu)勢。對于用戶來說，這種方式滿足了他們的特定需求，有可取之處，但也有明顯缺點(diǎn)。具體來說，它使用戶長期被同質(zhì)化信息包圍，被“禁錮”在固定信息籠罩的空間之中，剝奪、損害了用戶全面了解和獲取其他各類信息的權(quán)利和機(jī)會。但由于這種損害往往是“隱性”的，且外觀中立，很難運(yùn)用現(xiàn)有法律進(jìn)行規(guī)范。

算法數(shù)據(jù)抓取易泄露個(gè)人信息

用戶訪問和使用網(wǎng)站或平臺產(chǎn)生的數(shù)據(jù)大多屬于個(gè)人信息的范疇，但現(xiàn)在互聯(lián)網(wǎng)企業(yè)往往未經(jīng)用戶同意就收集和提取用戶私人信息，對公民個(gè)人信息權(quán)利構(gòu)成了侵犯。而除了直接非法收集、使用公民個(gè)人信息的侵權(quán)行為外，還有一種間接、隱蔽的侵權(quán)行為，即算法預(yù)測。當(dāng)前，通過算法分析合法獲取用戶數(shù)據(jù)，并預(yù)測公民個(gè)人信息，成為侵犯個(gè)人隱私的新方式。值得注意的是，與大數(shù)據(jù)結(jié)合后，預(yù)測的準(zhǔn)確率越來越高。例如，F(xiàn)acebook的算法根據(jù)用戶提供的種族、職業(yè)等少量個(gè)人信息就能推斷出用戶的性取向，且準(zhǔn)確率高達(dá)80%左右。全美第二大零售企業(yè) Target公司曾根據(jù)算法分析，向一位已孕未成年少女郵寄嬰兒用品手冊，其法定監(jiān)護(hù)人卻根本不知其已懷孕。如今，日益智能化的算法，同大數(shù)據(jù)等技術(shù)相融合，不斷沖擊著現(xiàn)有的公民個(gè)人信息和隱私保護(hù)體系。

算法自動化決策擴(kuò)散權(quán)益損害風(fēng)險(xiǎn)

隨著各種新型高端算法的涌現(xiàn)，人工智能逐步被開發(fā)出來。依據(jù)算法進(jìn)行自動化決策的人工智能便利了人類生活，也產(chǎn)生了更為復(fù)雜的權(quán)益損害責(zé)任問題，如智能投顧對金融消費(fèi)者權(quán)益的損害責(zé)任問題和智能合約的損失責(zé)任問題。

根據(jù)美國證券交易委員會的定義，智能投顧是基于在線算法為客戶提供的資產(chǎn)管理服務(wù)。智能投顧依據(jù)算法自動為金融消費(fèi)者提供資產(chǎn)管理方案，當(dāng)智能投顧因算法不合理、系統(tǒng)故障等因素造成金融消費(fèi)者資產(chǎn)損失時(shí)，責(zé)任由誰承擔(dān)、以何種方式承擔(dān)、損失具體金額如何計(jì)算，都是非常棘手的問題。

智能合約的損失責(zé)任問題主要來自于區(qū)塊鏈。交易雙方達(dá)成合約后，根據(jù)算法，系統(tǒng)會將交易記錄記入?yún)^(qū)塊，無需當(dāng)事人操作而自動履行合約。與傳統(tǒng)合同不同的是，智能合約一經(jīng)達(dá)成，便不能變更或解除。當(dāng)事人因情勢變化要變更、解除合同時(shí)，如何處理系統(tǒng)按照算法繼續(xù)執(zhí)行而造成的損失，也是一大難題。

概言之，算法自動化決策在提高人們的生活質(zhì)量和工作效率的同時(shí)，也引發(fā)了更加復(fù)雜的風(fēng)險(xiǎn)問題，這些問題都是當(dāng)下難以解決的。

算法合謀引發(fā)競爭規(guī)制難題

算法合謀大致可分為算法輔助型合謀和算法自動型合謀，而后者已構(gòu)成當(dāng)前全球各個(gè)國家和地區(qū)反壟斷法規(guī)制的一大難題。壟斷協(xié)議以經(jīng)營者之間存在合謀為構(gòu)成要件。隨著“互聯(lián)網(wǎng)+”經(jīng)濟(jì)的深度發(fā)展，算法被引入市場，成為經(jīng)營者合謀新形式。算法合謀中，經(jīng)營者以邏輯相同或相似的算法，借助大數(shù)據(jù)技術(shù)，收集并分析自身經(jīng)營狀況、其他經(jīng)營者經(jīng)營狀況和市場行情等數(shù)據(jù)，得出各經(jīng)營者利益最大化的合謀條件并傳遞給其他經(jīng)營者，并根據(jù)市場動態(tài)變化調(diào)整經(jīng)營行為，同時(shí)通過算法識別、察覺偏離合謀的經(jīng)營者行為并加以打擊報(bào)復(fù)以維持合謀穩(wěn)定。

算法合謀突破了協(xié)議、決定和協(xié)同行為等傳統(tǒng)合謀形式，經(jīng)營者間無需做出任何表示行為即可達(dá)成合謀。這樣一來，反壟斷法執(zhí)法機(jī)關(guān)就難以識別和處理不良競爭行為。同時(shí)，合謀內(nèi)容是通過算法形成的，與人的意志無直接關(guān)聯(lián)，也為經(jīng)營者逃避反壟斷法的規(guī)制提供了借口。總的來說，算法的運(yùn)用為壟斷協(xié)議提供一個(gè)極為隱蔽、動態(tài)調(diào)整和精準(zhǔn)迅速的合謀工具，使傳統(tǒng)反壟斷法面臨巨大考驗(yàn)。

算法歧視導(dǎo)致用戶陷入保護(hù)困境

算法不可能在任何情況下都準(zhǔn)確無誤，某些情況下算法運(yùn)行會產(chǎn)生與人類常識和倫理相違背的結(jié)果，其中一個(gè)問題就是因算法導(dǎo)致對不同人群的歧視。這種歧視問題的產(chǎn)生主要包括內(nèi)部和外部兩種因素。

內(nèi)部因素是指算法自身不可避免的缺陷。現(xiàn)有技術(shù)本身存在局限性，所以算法在現(xiàn)有技術(shù)下運(yùn)行會出現(xiàn)錯(cuò)誤。例如，早期的一些人像識別算法由于圖像獲取技術(shù)的局限而出現(xiàn)過將黑人誤識為黑猩猩的情況。同時(shí)，算法獲取、使用的數(shù)據(jù)中還會包括問題數(shù)據(jù)，這便會造成誤差，當(dāng)誤差積累到一定程度，就會發(fā)生質(zhì)變，導(dǎo)致歧視。這種內(nèi)部因素所導(dǎo)致的問題往往是不可控制、無法避免的。

外部因素是指算法之外人為導(dǎo)致的問題?；诩夹g(shù)中立性原則，算法本身沒有傾向。但算法并非完全客觀的產(chǎn)物，其代碼是開發(fā)者編寫的，開發(fā)者是有主觀意識的人，所以算法自然帶有人的主觀意識，當(dāng)主觀意識中有偏私并被寫入代碼中，就會產(chǎn)生歧視的可能性。譬如“算法殺熟”造成的價(jià)格歧視，是指算法通過收集、分析消費(fèi)者消費(fèi)信息，了解其喜好，當(dāng)消費(fèi)者頻繁購買某種商品和服務(wù)時(shí)，算法發(fā)出高于正常價(jià)格的要約，形成歧視。

完善治理算法的法治體系

如果說數(shù)據(jù)是新時(shí)代經(jīng)濟(jì)發(fā)展的“石油”，那么算法就是數(shù)據(jù)“石油”的“煉油廠”，算力就是“煉油廠”的生產(chǎn)、萃取和傳輸能力，即實(shí)質(zhì)影響數(shù)據(jù)處理效能與效益的能力。要想充分挖掘數(shù)據(jù)價(jià)值，推動數(shù)字經(jīng)濟(jì)發(fā)展，實(shí)現(xiàn)互聯(lián)網(wǎng)經(jīng)濟(jì)的提質(zhì)增效，就必須加快完善法律規(guī)制，使算法算力對經(jīng)濟(jì)發(fā)展產(chǎn)生正向的引領(lǐng)和驅(qū)動效用。為此，應(yīng)以算法算力從開發(fā)到應(yīng)用全過程為基礎(chǔ)，從國家、企業(yè)、個(gè)人三大主體出發(fā)，構(gòu)建規(guī)制體系。

加快相關(guān)法律規(guī)范的科學(xué)有效供給

我國算法的法規(guī)制定處于起步階段，相關(guān)規(guī)范散見于《民法總則》《刑法》《網(wǎng)絡(luò)安全法》《電子商務(wù)法》等法律以及《數(shù)據(jù)安全管理辦法》《信息安全技術(shù)個(gè)人信息安全規(guī)范》等行政法規(guī)和部門規(guī)章中?？傮w來講，算法法規(guī)數(shù)量少、內(nèi)容粗略，規(guī)范間缺乏統(tǒng)一銜接，可操作性不強(qiáng)，未形成科學(xué)有效、層級合理的規(guī)范體系。因此，建議整合現(xiàn)有規(guī)范，修改、刪除不合理的規(guī)范，保留、完善仍有價(jià)值的規(guī)范，同時(shí)補(bǔ)充制定反應(yīng)算法特征的新規(guī)范，形成以一部專門法律為主、其他各級各類規(guī)范性文件為補(bǔ)充的穩(wěn)定性和靈活性相結(jié)合的關(guān)于算法治理的規(guī)制體系。同時(shí)，明確算法規(guī)制基本原則，建立算法規(guī)制具體規(guī)范，特別是對算法濫用、算法合謀、算法歧視、算法霸凌等新型侵權(quán)甚至是違法行為做出制度規(guī)范。針對算法從開發(fā)到應(yīng)用的全過程，構(gòu)建體系完整、標(biāo)準(zhǔn)統(tǒng)一、權(quán)責(zé)明確、有機(jī)聯(lián)系的法律規(guī)范體系，為算法行業(yè)及其產(chǎn)業(yè)化的持續(xù)健康發(fā)展提供法治基礎(chǔ)。

堅(jiān)持政府監(jiān)管和行業(yè)自律相結(jié)合

監(jiān)管算法不僅需要公權(quán)力介入，同時(shí)也需要民間自律。當(dāng)前算法行業(yè)專業(yè)化程度越來越高，對監(jiān)管部門的專業(yè)化要求也越來越高。而許多行政執(zhí)法機(jī)構(gòu)和人員缺乏相關(guān)專業(yè)知識，監(jiān)管時(shí)力不從心，且如果完全由政府來監(jiān)管，不僅會增加行政成本，還會浪費(fèi)行政力量資源，因此，應(yīng)堅(jiān)持政府監(jiān)管和行業(yè)自律相結(jié)合。

在體系構(gòu)建上，應(yīng)建立以中央和國家網(wǎng)信部門為統(tǒng)籌、國務(wù)院和地方各級各主管部門分工協(xié)作的行政監(jiān)管體系，以及涵蓋全國各級互聯(lián)網(wǎng)、數(shù)據(jù)信息行業(yè)協(xié)會和第三方專業(yè)機(jī)構(gòu)的行業(yè)監(jiān)管體系。將監(jiān)管部門的審查工作部分讓渡給協(xié)會或經(jīng)過認(rèn)證的第三方專業(yè)機(jī)構(gòu)，明確政府和協(xié)會、機(jī)構(gòu)的權(quán)責(zé)邊界；在監(jiān)管方式上，建立算法使用前的第三方專業(yè)機(jī)構(gòu)審查機(jī)制、算法使用過程中監(jiān)管部門隨機(jī)抽查機(jī)制以及出現(xiàn)問題后監(jiān)管部門和第三方機(jī)構(gòu)共同調(diào)查追責(zé)機(jī)制。由此，形成政府與民間合作、內(nèi)部和外部合力、動態(tài)同靜態(tài)結(jié)合的全方位算法監(jiān)管體系。

劃定用戶、企業(yè)權(quán)益及政府權(quán)力運(yùn)行邊界

算法不僅涉及到開發(fā)和使用算法的互聯(lián)網(wǎng)企業(yè)的權(quán)益，同時(shí)也與使用網(wǎng)絡(luò)產(chǎn)品和服務(wù)的用戶權(quán)益緊密相關(guān)。因此應(yīng)明晰劃分用戶和企業(yè)的權(quán)益邊界。具體來說，就是要明確規(guī)定用戶在使用網(wǎng)絡(luò)產(chǎn)品和服務(wù)過程中有哪些權(quán)利和義務(wù)、企業(yè)在開發(fā)和使用算法中有哪些權(quán)利和義務(wù)、用戶和企業(yè)違反法律規(guī)定應(yīng)承擔(dān)何種責(zé)任以及責(zé)任的承擔(dān)方式和分配原則等。

除用戶和企業(yè)外，政府也是算法使用者，政府在社會治理中也需要算法算力輔助。因此，算法規(guī)制應(yīng)在國家和個(gè)體之間尋求平衡點(diǎn)；應(yīng)立法規(guī)定政府開發(fā)和使用算法的事前審查機(jī)制、算法所涉對象的異議提出和處理機(jī)制以及權(quán)益受損救濟(jì)和追責(zé)機(jī)制，從而厘定個(gè)體權(quán)益邊界和公權(quán)力行使邊界，使算法不僅助力經(jīng)濟(jì)社會發(fā)展，也為國家治理體系和治理能力現(xiàn)代化建設(shè)做出貢獻(xiàn)。

為算法算力發(fā)展筑牢法治根基

縱觀人類歷史上的技術(shù)變革，無一不推動生產(chǎn)力水平整體躍升，進(jìn)而重塑社會上層建筑。金屬制造技術(shù)和灌溉技術(shù)的發(fā)明和演進(jìn)推動了奴隸制的瓦解和封建制度的孕育；蒸汽機(jī)的問世引領(lǐng)工業(yè)革命，催生資本主義大工業(yè)，為打破封建壁壘和確立自由資本主義制度提供了條件；發(fā)電機(jī)和電動機(jī)在使人類步入電氣時(shí)代的同時(shí)，也催生了壟斷資本主義制度；半導(dǎo)體、計(jì)算機(jī)、人工智能等第四次科技革命標(biāo)志性技術(shù)的出現(xiàn)，拉開了信息時(shí)代技術(shù)高速發(fā)展的大幕，促進(jìn)了社會治理體系向信息化深度發(fā)展。今天，高端算法和強(qiáng)大算力的發(fā)展加快了科技與法律的深度融合，對法治社會建設(shè)提出了更高標(biāo)準(zhǔn)和更嚴(yán)要求，相關(guān)法律制度必須與時(shí)俱進(jìn)、革故鼎新，從算法全過程出發(fā)，加強(qiáng)對各類主體行為的規(guī)范化管理，實(shí)現(xiàn)多元利益的統(tǒng)籌兼顧，為算法算力的發(fā)展筑牢法治根基。

【本文作者為南開大學(xué)法學(xué)院教授、競爭法律與政策研究中心執(zhí)行主任；本文系教育部人文社會科學(xué)重點(diǎn)基地重大項(xiàng)目“全球數(shù)據(jù)競爭中人權(quán)基準(zhǔn)的考量與促進(jìn)研究”（項(xiàng)目編號：19JJD820009）和天津市教委社會科學(xué)重大項(xiàng)目“天津市人工智能產(chǎn)業(yè)發(fā)展的經(jīng)濟(jì)法治保障”（項(xiàng)目編號：2019JWZD20）階段性成果；南開大學(xué)法學(xué)院經(jīng)濟(jì)法學(xué)碩士研究生趙秉元對本文亦有貢獻(xiàn)】

責(zé)編：賀勝蘭 / 羅 婷

聲明：本文為《國家治理》周刊原創(chuàng)內(nèi)容，任何單位或個(gè)人轉(zhuǎn)載請回復(fù)國家治理周刊微信號獲得授權(quán)，轉(zhuǎn)載時(shí)務(wù)必標(biāo)明來源及作者，否則追究法律責(zé)任。