AI變臉源于深度偽造技術，利用“對抗生成網(wǎng)絡”模型，以生成模型和判別模型之間的持續(xù)對抗博弈，不斷自我演進優(yōu)化，實現(xiàn)快速迭代的“無監(jiān)督學習”。AI變臉具有高度真實性、泛在普適性和快速演化性等特征。

AI變臉技術產(chǎn)生的風險

AI變臉技術其風險呈現(xiàn)出多樣性發(fā)展態(tài)勢。非法AI變臉生產(chǎn)出的虛假新聞、虛假廣告等內(nèi)容，經(jīng)由不同平臺的傳播，以場景再現(xiàn)的技術優(yōu)勢，顛覆受眾的已有認知，對倫理與道德提出挑戰(zhàn)。AI變臉技術將原本極具真實性和現(xiàn)場感的多模態(tài)視頻呈現(xiàn)變成了“鏡花水月”，模糊真相與假象的界限，創(chuàng)造出虛擬世界，沖擊民眾對真實信息的信任，甚至會引發(fā)社會信任危機。AI變臉以“數(shù)字嫁接”創(chuàng)造加工出包括“數(shù)字虛擬人”的高仿真虛擬場景，民眾生活在虛擬與現(xiàn)實交織的世界，導致真實自我在現(xiàn)實社會中的認知迷失。此外，AI變臉通過深度偽造，以“混淆視聽”的虛假敘事，沖擊民眾心理，侵蝕社會信任，擾亂政治輿論生態(tài)，AI變臉既可突破對方基于生物特征的身份認證體系，竊取情報信息，又可偽造突發(fā)事件，發(fā)布虛假信息，制造輿論恐慌。

如何規(guī)避AI變臉技術所引起的風險

AI變臉技術風險的規(guī)制涉及范圍廣、領域?qū)挕?nèi)容多，蘊含活力與秩序、自由與安全、責任與信任等諸多方面，是一項復雜的系統(tǒng)工程。要強化高位統(tǒng)籌、頂層設計、系統(tǒng)謀劃、整體推進，以數(shù)據(jù)算法、合作共治、信息保護、法律法規(guī)等維度的同向發(fā)力、良性互動，聚力推進AI變臉技術異化治理體系的構(gòu)建創(chuàng)新，有效管控風險，提升整體治理效能。

以數(shù)據(jù)算法為基石，深化從源頭治理。算法既是AI變臉的技術核心，又是其生成路徑。智能算法具有的數(shù)據(jù)共享、自主學習、封裝移植等特質(zhì)，將普通民眾徹底隔絕在信息內(nèi)容的生產(chǎn)、過濾、推薦鏈條外，引致產(chǎn)生與AI變臉天然契合的“算法黑箱”。規(guī)制AI變臉技術的風險，要強化算法治理。強化主流價值引領算法，將其嵌入到AI變臉技術發(fā)展的全生命周期，引導算法設計者、信息分發(fā)者堅持正確價值取向，引導算法應用向上向善。構(gòu)建算法數(shù)據(jù)庫，收錄AI變臉技術的生成算法、識別算法和檢測算法等模型，以溯源防偽、反向破解輔助識別判定AI變臉作品，并將其同步收錄數(shù)據(jù)庫，通過樣本的累積迭代，提升比對判定能力。優(yōu)化傳播媒介平臺內(nèi)部算法，構(gòu)建事實核查、分級檢測和分級推薦機制，強化外部算法治理，協(xié)同優(yōu)化算法的準入、監(jiān)督、投訴和評估等配套制度體系。

以合作共治為架構(gòu)，推進協(xié)同治理。AI變臉技術異化的規(guī)制蘊含組織與制度等多元要素，應秉持審慎、理性、權(quán)衡和預防的原則，在網(wǎng)絡化、包容性、無縫隙的協(xié)作框架下聚智共謀，推進協(xié)同治理。要秉持合作精神，培育共治價值，優(yōu)化完善合作治理、共同治理機制，在規(guī)章制度框架內(nèi)，通過資源整合、功能互補，尋求最大“公約數(shù)”，驅(qū)動AI變臉技術風險治理由點狀分散向融合交互躍遷。要以主體跨域協(xié)同、路徑集成協(xié)同、信息交互協(xié)同為路徑，優(yōu)化協(xié)同治理界面，貫通政府部門、傳播平臺、技術開發(fā)、產(chǎn)品制作、網(wǎng)絡用戶的責任傳導鏈條，創(chuàng)新協(xié)同治理，提振治理質(zhì)效。強化政府部門、社交平臺、科研院所的良性互動，厘清權(quán)責關系，破除壁壘、疏解堵點、理順機制、暢通渠道，共同開發(fā)檢測審查AI變臉的技術算法，畫好協(xié)同治理“同心圓”，共同應對AI變臉技術風險。

以信息保護為支撐，構(gòu)筑立體屏障。生物識別信息具有人身表征性、不可替代性特點，既是AI變臉的原始材料，也是基礎根基。AI變臉技術異化的風險規(guī)制，應以“隱私控制”為原則，構(gòu)建從收集到存儲再到應用的多維立體保護體系。AI變臉技術使用者采集面部識別信息時，應秉持知情同意、目的限制、正當誠信、必要安全的基本原則，嚴格遵守個人信息保護法中基于“特定的目的和充分的必要性”“取得個人的單獨同意”的條款規(guī)定。細化采集入庫規(guī)則，建立媒介平臺動態(tài)征詢和信息披露機制，基于適度透明、隱私侵犯最小化原則收集信息。完善保管存儲規(guī)則，媒介平臺應采取加密技術，隱名化、匿名化儲存用戶生物識別信息，嚴格限定儲存期限和敏感應用場景。豐富加工利用規(guī)則，制作者、上傳者對原始視頻采用語音標識、數(shù)字水印等方式進行信源標注，優(yōu)化信息公開、轉(zhuǎn)讓，確保檢測核查有據(jù)可循。

以法律框定為紅線，厘清技術邊界。秉持“技術—經(jīng)濟—社會”的模式，兼顧必要的社會面向，平衡調(diào)和公共利益和個人權(quán)益之間的張力。持續(xù)完善行政與民事相結(jié)合的法律規(guī)制體系構(gòu)造，健全法律規(guī)制體系的層次性和梯度性，回應AI變臉技術異化導致法益侵害復合化，為技術發(fā)展提供方向指引。在2023年1月10日施行的《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》的基礎之上，進一步厘清AI變臉源頭制作者的法律責任，細化AI變臉可能帶來的侵權(quán)行為，做好追蹤溯源。構(gòu)建要素上貫通生產(chǎn)、使用、維護、監(jiān)管等節(jié)點，內(nèi)容上統(tǒng)合審查、商議、監(jiān)督、互動機制的法律規(guī)范框架體系。加大平臺處罰力度，增設傳播媒介平臺的技術檢測義務和過濾刪除的“守門人”責任，以疏堵結(jié)合的策略，細化不同場景應用的法律規(guī)制，以法律為AI變臉框定紅線。