【摘要】人工智能以大數(shù)據(jù)為基礎(chǔ)，依托海量個人信息、圖像數(shù)據(jù)、文本數(shù)據(jù)和傳感器數(shù)據(jù)，借助強大的數(shù)據(jù)分析能力，是推動經(jīng)濟社會高質(zhì)量發(fā)展的重要抓手。人工智能在顯著增強信息的獲取能力、挖掘能力、共享能力的同時，也增加了數(shù)據(jù)濫用和個人隱私泄露的風險。為此，要建立健全數(shù)據(jù)保護法律體系，提升個人對信息的控制，引導公眾樹立牢固的總體國家安全觀，增強數(shù)據(jù)安全意識，構(gòu)筑數(shù)據(jù)安全防線，推動形成全社會共同維護數(shù)據(jù)安全的良好氛圍。

【關(guān)鍵詞】人工智能 個人信息保護 數(shù)據(jù)安全 【中圖分類號】G122 【文獻標識碼】A

習近平總書記指出：“沒有網(wǎng)絡(luò)安全就沒有國家安全，就沒有經(jīng)濟社會穩(wěn)定運行，廣大人民群眾利益也難以得到保障。”人工智能技術(shù)推動經(jīng)濟社會各領(lǐng)域從數(shù)字化、網(wǎng)絡(luò)化向智能化加速躍遷的同時，也加劇了個人信息被侵害的風險。如何兼顧技術(shù)革新與個人信息安全，已經(jīng)成為人工智能時代的重要議題。

人工智能呈現(xiàn)出的新特征

人工智能是引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，呈現(xiàn)出深度學習、跨界融合、人機協(xié)同、群智開放和自主操控的新特征。深度學習是人工智能的核心方法，通過多層神經(jīng)網(wǎng)絡(luò)實現(xiàn)復雜數(shù)據(jù)模式的識別。這種算法能從大量的非結(jié)構(gòu)化數(shù)據(jù)中學習模式和特征，是現(xiàn)代人工智能的基石。它拓寬了智能技術(shù)的應(yīng)用場景，實現(xiàn)自我優(yōu)化和智能化決策，顯著提升了人工智能的實用性。跨界融合則是通過人工智能技術(shù)與物聯(lián)網(wǎng)、大數(shù)據(jù)和云計算的深度融合，助力產(chǎn)業(yè)結(jié)構(gòu)升級和智能化轉(zhuǎn)型。它不僅改善傳統(tǒng)行業(yè)的工作效率和服務(wù)質(zhì)量，還催生出新產(chǎn)業(yè)、新模式、新動能。以智慧城市為例，人工智能技術(shù)通過實時分析交通數(shù)據(jù)，優(yōu)化交通信號控制，減少擁堵發(fā)生。智能監(jiān)控攝像頭能實時識別和預警異常行為，提高公共安全管理水平。同時，人工智能還可以賦能醫(yī)療健康、金融服務(wù)、智能制造、電子商務(wù)、環(huán)境保護等多個領(lǐng)域，通過海量數(shù)據(jù)的供給分析持續(xù)優(yōu)化并改善各類應(yīng)用場景。

人工智能不僅是技術(shù)工具，還將成為發(fā)展新質(zhì)生產(chǎn)力的重要引擎。人機協(xié)同是將人類的認知力、創(chuàng)造力與機器的智能化相結(jié)合，通過智能算法與人腦智慧的協(xié)同交互，實現(xiàn)生產(chǎn)力整體躍升。在制造業(yè)中，機器人可以幫助工人完成高重復性的裝配和檢測任務(wù)。在醫(yī)療領(lǐng)域，智能技術(shù)不僅能分析患者的基因數(shù)據(jù)、病歷和生活習慣，還可以輔助醫(yī)生提供個性化診療方案。同時，開放的人工智能生態(tài)系統(tǒng)還通過共享數(shù)據(jù)和算法穩(wěn)步推動技術(shù)革新。以阿里巴巴達摩院和騰訊優(yōu)圖實驗室為代表的人工智能研究機構(gòu)，積極通過開源平臺發(fā)布研究成果和數(shù)據(jù)集。群智開放不僅推動了全球人工智能協(xié)同共治，還成為科技跨越發(fā)展的助推器。

人工智能的自主學習和決策能力能夠在復雜環(huán)境中實現(xiàn)自我調(diào)整和優(yōu)化。2023年11月，工業(yè)和信息化部等四部委聯(lián)合發(fā)布了《關(guān)于開展智能網(wǎng)聯(lián)汽車準入和上路通行試點工作的通知》，要求智能網(wǎng)聯(lián)汽車生產(chǎn)企業(yè)和使用主體加強能力建設(shè)，促進產(chǎn)品功能、性能提升和產(chǎn)業(yè)生態(tài)的迭代優(yōu)化。2024年7月，無人駕駛計程車“蘿卜快跑”在武漢和廣州相繼運營。這種自主駕駛技術(shù)通過傳感器和深度學習算法，在實時變化的交通環(huán)境中確保“人、車、路、云”多要素的融合交互。

總體上看，這些新特征都是以大數(shù)據(jù)為基礎(chǔ)，依托海量個人信息、圖像數(shù)據(jù)、文本數(shù)據(jù)和傳感器數(shù)據(jù)的持續(xù)供給，賦能經(jīng)濟社會高質(zhì)量發(fā)展。隨著應(yīng)用場景的進一步拓展，個人信息保護的重要性也愈發(fā)凸顯。如何增強數(shù)字技術(shù)的透明度和可解釋性，確保智能系統(tǒng)可信可控，確保個人信息在人工智能時代的合法、正當和必要使用，顯得尤為重要。

人工智能給個人信息保護帶來新挑戰(zhàn)

人工智能是一把“雙刃劍”，它在引領(lǐng)產(chǎn)業(yè)變革，發(fā)揮“頭雁”效應(yīng)的同時，也不可避免地帶來科技倫理風險。2021年，全國信息安全標準化技術(shù)委員會發(fā)布的《人工智能倫理安全風險防范指引》明確指出，人工智能技術(shù)會對個人的人身權(quán)、隱私權(quán)引發(fā)侵權(quán)風險。這是因為人工智能技術(shù)不僅加劇個人信息暴露的風險，還拓展了個人信息的傳播途徑和生命周期。

一方面，新技術(shù)極大地增強了數(shù)據(jù)分析和挖掘能力，威脅著個人信息安全。機器學習、深度學習和自然語言處理等人工智能技術(shù)突破了非自動化數(shù)據(jù)處理系統(tǒng)的碎片化局限，能在海量零散數(shù)據(jù)中精準描繪用戶畫像，甚至挖掘出數(shù)據(jù)主體自己都未曾意識到的行為偏好和潛在需求?；谶@些技術(shù)，廣告服務(wù)商可以分析用戶的瀏覽記錄和購買歷史，預測消費偏好，精準投放廣告。搜索引擎和社交平臺通過用戶的搜索記錄、點贊和分享行為，推斷用戶偏好和生活習慣，并提供個性化服務(wù)。在這個迭代反饋的循環(huán)中，人工智能技術(shù)會根據(jù)用戶的行為信息自主優(yōu)化算法，進而持續(xù)預測、挖掘更多的個人信息。更嚴峻的是，由于透明度和可解釋性亟待提升，以深度學習為代表的部分智能算法形成了“黑箱模型”，普通用戶甚至是開發(fā)者都難以理解并預見其工作原理和決策過程。這些新技術(shù)破壞了數(shù)據(jù)主體對個人信息的控制，增加數(shù)據(jù)濫用和隱私泄露的擔憂。

另一方面，人工智能技術(shù)顯著增強信息的共享能力，拓展了個人信息的傳播半徑和生命周期。用戶在社交平臺上的每一次互動分享都會被系統(tǒng)自動識別分類；智能手機、智能家居設(shè)備、可穿戴設(shè)備時刻處理著用戶數(shù)據(jù)，個人的身份信息、健康信息、行程軌跡、行為偏好整合在一起，用戶畫像一覽無余。依托群智開放特征，這些智能終端之間互通互聯(lián)，個人信息在不同平臺和設(shè)備之間得以共享。再經(jīng)過人工智能算法的處理、訓練、生成，最終成為網(wǎng)絡(luò)社會個人難以磨滅的“數(shù)字標簽”。這其中不僅記錄著數(shù)據(jù)主體的行為偏好，還可能囊括個人信用、健康、生物識別、宗教信仰、政治觀點等敏感數(shù)據(jù)。一旦被泄露或濫用，不僅會對個人隱私造成嚴重侵害，還會引發(fā)身份盜竊、財務(wù)欺詐、網(wǎng)絡(luò)騷擾等問題，直接威脅數(shù)據(jù)主體的人格利益和生活安全。如果“數(shù)字標簽”包含了個人的不良記錄，這種關(guān)聯(lián)性還會被在線存儲，導致數(shù)據(jù)主體的人格利益長期遭受貶損，甚至引發(fā)歧視性風險?！吨袊ヂ?lián)網(wǎng)絡(luò)發(fā)展狀況統(tǒng)計報告》顯示，截至2023年12月，我國網(wǎng)民規(guī)模高達10.92億人，互聯(lián)網(wǎng)普及率77.5%。如此龐大的主體數(shù)量無疑凸顯出網(wǎng)絡(luò)社會保障個人人格利益的重要性和緊迫性。因此，我們在享受智能化服務(wù)的同時，必須高度重視數(shù)據(jù)保護和隱私安全問題。

人工智能時代個人信息保護的路徑研究

一是完善國家數(shù)據(jù)法治建設(shè)。為應(yīng)對新興數(shù)字技術(shù)引發(fā)的時代浪潮，我國秉持積極的立法態(tài)度，致力于建立健全數(shù)據(jù)保護法律體系。2016年11月，第十二屆全國人大常委會審議通過《中華人民共和國網(wǎng)絡(luò)安全法》，這是我國第一部網(wǎng)絡(luò)安全領(lǐng)域的專門立法，建構(gòu)了個人信息保護的主要原則和基本規(guī)則。2017年，《中華人民共和國民法總則》第111條新增“個人信息受法律保護”的規(guī)定，明確了個人信息權(quán)的法律屬性問題。2019年，全國人大常委會將《中華人民共和國個人信息保護法》納入立法規(guī)劃，開啟統(tǒng)一數(shù)據(jù)立法模式的新征程。2021年1月1日《中華人民共和國民法典》施行，人格權(quán)編專章規(guī)定個人信息保護的一般規(guī)則，要求個人信息處理遵循合法、正當、必要的原則，并規(guī)定自然人享有查閱復制、異議更正、刪除的數(shù)據(jù)權(quán)利。2021年11月1日，《中華人民共和國個人信息保護法》生效，作為網(wǎng)絡(luò)時代的標志性立法成果，它既注重保障個人信息權(quán)益，規(guī)范個人信息處理活動，也充分體現(xiàn)數(shù)據(jù)發(fā)展理念，集中展示了數(shù)據(jù)法治的中國方案。同年，《中華人民共和國數(shù)據(jù)安全法》實施，該法從國家安全高度出發(fā)，對數(shù)據(jù)安全管理提出系統(tǒng)要求，明確了各類數(shù)據(jù)處理活動的安全管理責任，為我國數(shù)據(jù)安全法律體系的建立和完善搭建基礎(chǔ)框架。2023年，國家網(wǎng)信辦等七部門聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，這是全球首個全面監(jiān)管生成式人工智能的規(guī)范文件，以“知情同意”為核心強化了個人信息的安全保障。2024年5月，國務(wù)院印發(fā)《國務(wù)院2024年度立法工作計劃》，再次將《人工智能法草案》列入預備審議項目。這些立法工作不僅體現(xiàn)了我國對個人信息保護問題的高度重視，也為數(shù)據(jù)經(jīng)濟發(fā)展提供規(guī)范和指引，為應(yīng)對人工智能時代的新挑戰(zhàn)提供強有力的法律保障。

二是強化個人數(shù)據(jù)控制。人工智能技術(shù)的普及加劇了個人信息被侵害的風險，提升個人對信息的控制已經(jīng)成為數(shù)據(jù)治理的重要途徑。“知情同意”是數(shù)據(jù)控制的核心理念，要求個人信息處理必須獲得數(shù)據(jù)主體同意授權(quán)或符合法律規(guī)定。當前，傳統(tǒng)的“一次性同意”模式已經(jīng)不能滿足人工智能的發(fā)展趨勢，應(yīng)當向持續(xù)的信息披露和動態(tài)同意機制轉(zhuǎn)變。為此，《個人信息保護法》更新了“知情同意”規(guī)則，數(shù)據(jù)主體可以撤回同意授權(quán)，并要求個人信息處理者刪除已公開的個人信息。強化數(shù)據(jù)控制的另一個途徑是增強個人信息權(quán)利。《個人信息保護法》第四章規(guī)定個人針對信息處理活動享有知情權(quán)、決定權(quán)等基礎(chǔ)性權(quán)能，以及查閱權(quán)、復制權(quán)、可攜帶權(quán)、補充權(quán)、更正權(quán)、刪除權(quán)和解釋說明權(quán)等工具性權(quán)能。在這個方面，歐盟數(shù)據(jù)改革還提出建構(gòu)網(wǎng)絡(luò)社會被遺忘權(quán)的設(shè)想，這項權(quán)利與《個人信息保護法》第47條規(guī)定的刪除權(quán)頗為相似，都承載著強化個人信息控制的權(quán)能。

三是提升公眾數(shù)據(jù)安全意識。增強公眾數(shù)據(jù)安全意識是個人信息保護的關(guān)鍵一環(huán)，公眾對數(shù)據(jù)安全和隱私保護的認知和素養(yǎng)直接影響著個人信息保護的整體水平。數(shù)據(jù)安全人人有責，需要全民共同參與。

首先，政府應(yīng)當加強數(shù)據(jù)安全教育。《數(shù)據(jù)安全法》和《個人信息保護法》的實施有效提升了全社會的網(wǎng)絡(luò)法治意識和素養(yǎng)。然而，數(shù)據(jù)安全問題正以更加隱蔽和復雜的方式影響著大眾生活，極易被忽視。在人工智能時代，需引導公眾樹立牢固的總體國家安全觀，增強數(shù)據(jù)安全意識，構(gòu)筑數(shù)據(jù)安全防線。為此，政府可以通過多種形式加強數(shù)據(jù)安全教育。例如，在義務(wù)教育階段設(shè)置數(shù)據(jù)安全課程，從小樹立數(shù)據(jù)安全意識；在農(nóng)村地區(qū)和基層社區(qū)開展義務(wù)講座或宣傳活動，幫助居民掌握基本網(wǎng)絡(luò)安全防護技能；利用媒體宣傳數(shù)據(jù)安全知識，樹立安全典型，推廣優(yōu)秀案例。多措并舉，全面提升公眾的數(shù)據(jù)安全意識。

其次，企業(yè)應(yīng)當落實數(shù)據(jù)安全管理責任。企業(yè)應(yīng)明確數(shù)據(jù)安全責任人，建立健全管理體系和工作機制，制定數(shù)據(jù)泄露應(yīng)急預案，定期進行數(shù)據(jù)安全審查和風險評估。企業(yè)需將數(shù)據(jù)安全管理要求融入發(fā)展戰(zhàn)略和考核機制，同步推進業(yè)務(wù)發(fā)展和數(shù)據(jù)安全工作。將數(shù)據(jù)安全視為核心任務(wù)，確保規(guī)范化、制度化，真正落實到日常運營和管理之中。

最后，提升數(shù)據(jù)安全意識還需要全社會共同努力。不同群體對隱私和信息安全的關(guān)注度和承受能力各異，弱勢群體往往更容易受到信息泄露和濫用的侵害。要倡導全民參與數(shù)據(jù)安全保護，鼓勵公眾積極舉報數(shù)據(jù)泄露和濫用行為，形成全社會共同維護數(shù)據(jù)安全的良好氛圍。發(fā)揮人民群眾的群防群治功能，打造人人參與的數(shù)據(jù)安全防線，進而構(gòu)建安全、可信賴的數(shù)字社會。

通過加強數(shù)據(jù)法治建設(shè)，提高公眾信息保護意識，采取行之有效的技術(shù)保障措施，可以更好地平衡信息自由和隱私保護的關(guān)系。確保個人信息安全不僅是法律和倫理的要求，更是技術(shù)發(fā)展的基石。只有在個人信息得到有效保護的前提下，人工智能才能在各個領(lǐng)域穩(wěn)步推進，真正為社會進步和人類福祉作出貢獻。

（作者為天津大學法學院講師）

【注：本文系國家社科基金青年項目“網(wǎng)絡(luò)社會被遺忘權(quán)建構(gòu)研究”（項目編號：19CFX007）階段性成果】

【參考文獻】

①王利明：《數(shù)據(jù)保護的價值演變——從意思自治到人格尊嚴的發(fā)展》，《北京日報》，2024年3月4日。

②程嘯：《論個人信息權(quán)益》，《華東政法大學學報》，2023年第1期。

責編/孫垚 美編/陳媛媛

聲明：本文為人民論壇雜志社原創(chuàng)內(nèi)容，任何單位或個人轉(zhuǎn)載請回復本微信號獲得授權(quán)，轉(zhuǎn)載時務(wù)必標明來源及作者，否則追究法律責任。