摘 要:ChatGPT雖然尚未對(duì)人們的生產(chǎn)方式帶來根本性變革，但有可能改變?nèi)藗兣c計(jì)算機(jī)的互動(dòng)方式，推動(dòng)從用戶創(chuàng)作到人工智能創(chuàng)作的轉(zhuǎn)型，發(fā)展?jié)摿εc應(yīng)用空間巨大。與此同時(shí)，ChatGPT帶來技術(shù)層面、市場(chǎng)層面、規(guī)范層面、國際競爭層面的多重風(fēng)險(xiǎn)挑戰(zhàn)。人工智能技術(shù)的發(fā)展和應(yīng)用，將對(duì)人類經(jīng)濟(jì)社會(huì)發(fā)展帶來深刻影響，我國人工智能技術(shù)發(fā)展也面臨新的機(jī)遇和挑戰(zhàn)。促進(jìn)我國人工智能高效安全發(fā)展，應(yīng)積極引導(dǎo)，促進(jìn)價(jià)值觀念再成型；積極研發(fā)新興應(yīng)用場(chǎng)景，占據(jù)市場(chǎng)優(yōu)勢(shì)地位；確保算法優(yōu)勢(shì)；統(tǒng)籌發(fā)展和安全；明確戰(zhàn)略定位，提供宏觀指導(dǎo)；做好風(fēng)險(xiǎn)評(píng)估，確保企業(yè)合規(guī)。

關(guān)鍵詞:ChatGPT 人工智能 語言模型 機(jī)器學(xué)習(xí) 趨勢(shì)研判 規(guī)范引導(dǎo)

【中圖分類號(hào)】G32 【文獻(xiàn)標(biāo)識(shí)碼】A

ChatGPT代表生成式人工智能技術(shù)及其商業(yè)應(yīng)用的爆發(fā)，引發(fā)產(chǎn)業(yè)和行業(yè)大變革

2022年11月30日，美國人工智能公司OpenAI推出基于深度學(xué)習(xí)的大語言模型ChatGPT，可實(shí)現(xiàn)交互式問答、創(chuàng)作、編程等復(fù)雜功能，備受市場(chǎng)關(guān)注。據(jù)報(bào)道，ChatGPT上線兩個(gè)月，全球日活用戶就已突破1億，成為歷史上用戶增長最快的應(yīng)用程序。2023年2月1日，OpenAI在其官網(wǎng)主頁宣布，將試點(diǎn)ChatGPT付費(fèi)訂閱版ChatGPT Plus，每月收費(fèi)20美元。由此可見，隨著企業(yè)內(nèi)部成本壓力加大，技術(shù)可用度日趨成熟，人工智能產(chǎn)業(yè)正加速從前沿技術(shù)探索向商業(yè)化落地轉(zhuǎn)型。ChatGPT的應(yīng)用前景包括對(duì)話式機(jī)器人、智能創(chuàng)作、編程機(jī)器人等；此外，其在教育、學(xué)術(shù)、客服等領(lǐng)域的應(yīng)用也在逐漸落地。

ChatGPT的基本模式是人工智能生成內(nèi)容（AIGC），專注于生成語言文本，并一定程度上替代現(xiàn)有搜索引擎功能。與以往的對(duì)話式人工智能（如微軟小冰）相比，ChatGPT核心能力包括：對(duì)問題的理解能力大幅提升，可以實(shí)現(xiàn)連續(xù)多輪對(duì)話；結(jié)果的準(zhǔn)確性大幅提升，同時(shí)可以主動(dòng)承認(rèn)錯(cuò)誤、發(fā)現(xiàn)無法回答的問題；具備識(shí)別非法與偏見的機(jī)制，針對(duì)不合理提問進(jìn)行提示，并拒絕回答；理解用戶需求并創(chuàng)造內(nèi)容，甚至可以協(xié)助進(jìn)行代碼編寫。雖然目前ChatGPT無法給人們的生產(chǎn)方式帶來根本性變革，但有可能改變?nèi)藗兣c計(jì)算機(jī)的互動(dòng)方式，推動(dòng)從專家生成內(nèi)容（PGC）、用戶生成內(nèi)容（UGC）到人工智能生成內(nèi)容（AIGC）的轉(zhuǎn)型。

全球著名信息技術(shù)研究與顧問咨詢公司高德納（Gartner）將人工智能生成內(nèi)容（后文統(tǒng)一用AIGC）列為最有商業(yè)前景的人工智能技術(shù)，預(yù)計(jì)AIGC行業(yè)將在2—5年內(nèi)將進(jìn)入成熟期，發(fā)展?jié)摿εc應(yīng)用空間巨大。ChatGPT的商業(yè)化服務(wù)探索、AIGC賽道的投資成為當(dāng)前關(guān)注焦點(diǎn)。

AIGC領(lǐng)域的總體態(tài)勢(shì)表現(xiàn)為：國外頭部機(jī)構(gòu)引領(lǐng)技術(shù)和商業(yè)應(yīng)用，國內(nèi)整體進(jìn)度落后2—3年，尤其是基礎(chǔ)技術(shù)研發(fā)方面。此外，除科技巨頭積極布局AIGC行業(yè)外，科技創(chuàng)業(yè)公司的機(jī)會(huì)成本也顯著增加。目前，國外多家生成式人工智能創(chuàng)業(yè)公司獲得大筆融資且擁有較高估值。ChatGPT具備強(qiáng)大的交互和信息檢索能力，對(duì)谷歌、百度等傳統(tǒng)搜索引擎公司構(gòu)成潛在替代風(fēng)險(xiǎn)，倒逼搜索引擎行業(yè)進(jìn)行技術(shù)升級(jí)。用戶可以直接在ChatGPT以提問形式獲得期待答復(fù)，比起傳統(tǒng)在搜索引擎人工瀏覽整合答案的效率大大提升。目前，各大搜索引擎企業(yè)正在加速將AIGC嵌入其網(wǎng)站中，例如微軟將ChatGPT應(yīng)用于其搜索引擎必應(yīng)（Bing）中，百度于3月推出人工智能聊天機(jī)器人文心一言，并整合到其搜索引擎中。當(dāng)前AIGC領(lǐng)域領(lǐng)先的國外公司主要包括OpenAI、Stability AI、Midjourney、Jasper等，其中OpenAI技術(shù)積累最強(qiáng)，發(fā)布了多款A(yù)IGC底層算法。國內(nèi)公司如阿里、網(wǎng)易、百度、騰訊、字節(jié)等均在部署推出AIGC的應(yīng)用產(chǎn)品。

基于此，當(dāng)前一種觀點(diǎn)認(rèn)為ChatGPT是科技史上的里程碑事件、顛覆性成果，會(huì)刺激基于人工智能的商業(yè)模式爆發(fā)式發(fā)展，進(jìn)而引發(fā)產(chǎn)業(yè)和行業(yè)大變革。另一種聲音則認(rèn)為ChatGPT只是近年來持續(xù)發(fā)展的人工智能技術(shù)的一次成功的商業(yè)化應(yīng)用，距離真正的人工智能還有很長的路，甚至可能并非在正確的道路上?？傮w而言，ChatGPT的橫空出世，利好國內(nèi)外算力與存儲(chǔ)（芯片、計(jì)算機(jī)等）相關(guān)基礎(chǔ)設(shè)施發(fā)展以及數(shù)據(jù)、算法等AIGC商業(yè)化應(yīng)用，但仍不能忽視其所帶來的潛在道德和社會(huì)危險(xiǎn)。

ChatGPT帶來的風(fēng)險(xiǎn)挑戰(zhàn)

OpenAI首席執(zhí)行官Altman曾在推特承認(rèn)，真正的強(qiáng)人工智能（Artificial General Intelligence，AGI）可能在未來十年內(nèi)實(shí)現(xiàn)。所以，當(dāng)前必須極其認(rèn)真地對(duì)待其所帶來的網(wǎng)絡(luò)安全等一系列風(fēng)險(xiǎn)。

技術(shù)層面的風(fēng)險(xiǎn)

從技術(shù)層面而言，人工智能語言模型GPT的出現(xiàn)和升級(jí)意味著語言人工智能和人工智能整體技術(shù)水平的顯著進(jìn)步。但若人工智能基礎(chǔ)設(shè)施不及預(yù)期，大模型訓(xùn)練就無法完成或者達(dá)不到預(yù)期效果。當(dāng)前AIGC技術(shù)仍有局限，模型仍需持續(xù)迭代優(yōu)化，技術(shù)發(fā)展可能存在不及預(yù)期風(fēng)險(xiǎn)，具體包括算力支持不及預(yù)期、數(shù)據(jù)質(zhì)量不及預(yù)期等。尤其是我國在AIGC領(lǐng)域仍處于發(fā)展初期，技術(shù)迭代速度較慢，基礎(chǔ)技術(shù)研發(fā)領(lǐng)域創(chuàng)新性供給不足。ChatGPT目前仍存在很多局限性，需進(jìn)行持續(xù)技術(shù)優(yōu)化。例如，ChatGPT可能生成不正確或荒謬的信息，抑或是正確但無用的廢話，也可能會(huì)產(chǎn)生違反倫理道德的答案。由于其所基于的訓(xùn)練數(shù)據(jù)庫僅截至2021年（而非基于實(shí)時(shí)數(shù)據(jù)），也會(huì)產(chǎn)生回答已經(jīng)過時(shí)的現(xiàn)象。

市場(chǎng)層面的風(fēng)險(xiǎn)

從市場(chǎng)層面而言，新一代人工智能語言模型的升級(jí)推動(dòng)AIGC的發(fā)展，極大拓展了市場(chǎng)規(guī)模。根據(jù)高德納（Gartner）預(yù)測(cè)，到2025年AIGC產(chǎn)生的數(shù)據(jù)將占所有數(shù)據(jù)的10%，2030年AIGC市場(chǎng)規(guī)模將超過萬億人民幣。目前，因?yàn)槎嘀卦?，各國類似于ChatGPT的技術(shù)發(fā)展不完善、不平衡，應(yīng)用不及預(yù)期。若ChatGPT等技術(shù)發(fā)展不及預(yù)期，AIGC滲透率未能如期提升、應(yīng)用場(chǎng)景受限，理論上存在的潛在市場(chǎng)規(guī)模就無法充分釋放。對(duì)于我國而言，國內(nèi)企業(yè)以及國內(nèi)外企業(yè)對(duì)于同一市場(chǎng)的開發(fā)與分配之間的不均衡可能會(huì)導(dǎo)致蜂擁而上的相關(guān)企業(yè)最后陷入無效競爭或者惡性競爭的狀態(tài)，以及投入與產(chǎn)出的極不對(duì)稱。

規(guī)范層面的風(fēng)險(xiǎn)

ChatGPT帶來的規(guī)范層面的風(fēng)險(xiǎn)挑戰(zhàn)，主要包括以下幾個(gè)方面：

第一，人工智能驅(qū)動(dòng)網(wǎng)絡(luò)犯罪風(fēng)險(xiǎn)。當(dāng)前，ChatGPT使得網(wǎng)絡(luò)犯罪分子更容易進(jìn)行低級(jí)別的網(wǎng)絡(luò)攻擊。ChatGPT可以產(chǎn)生多種語言的釣魚郵件，即使不懂英文或高級(jí)代碼的犯罪分子也可以輕易達(dá)成犯罪目的。ChatGPT可以被要求創(chuàng)建惡意軟件來檢測(cè)敏感的用戶數(shù)據(jù)，還可以入侵計(jì)算機(jī)系統(tǒng)或電子郵件賬戶以獲取重要信息。國外科技媒體Bleeping Computer的網(wǎng)絡(luò)安全研究員Ax Sharma曾讓ChatGPT寫了一封令人信服的釣魚郵件，并創(chuàng)建了JavaScript來竊取信用卡號(hào)碼。然而，ChatGPT也許只是人工智能驅(qū)動(dòng)網(wǎng)絡(luò)犯罪的開始。芬蘭一篇題為《人工智能驅(qū)動(dòng)的網(wǎng)絡(luò)攻擊的安全威脅》的研究論文認(rèn)為，未來五年，人工智能的迭代確實(shí)將改變網(wǎng)絡(luò)安全攻擊者和防御者的模式。

第二，知識(shí)產(chǎn)權(quán)與隱私保護(hù)風(fēng)險(xiǎn)。由于ChatGPT是以訓(xùn)練數(shù)據(jù)模式為基礎(chǔ)的，所以它不具備原創(chuàng)性思維和創(chuàng)造性反應(yīng)的能力，因此ChatGPT生成的文本可能導(dǎo)致抄襲，此外版權(quán)歸屬與深偽技術(shù)也為知識(shí)產(chǎn)權(quán)保護(hù)帶來困境。由于對(duì)抄襲的擔(dān)憂，ChatGPT已經(jīng)在美國紐約和西雅圖的學(xué)校被禁止使用。此外，ChatGPT引發(fā)了關(guān)于用于訓(xùn)練和改進(jìn)的個(gè)人數(shù)據(jù)的隱私和安全問題，它保留了用戶個(gè)人數(shù)據(jù)和敏感信息，一旦數(shù)據(jù)被濫用，會(huì)造成隱私泄露風(fēng)險(xiǎn)。簡單地說，所有與ChatGPT的對(duì)話都可以被存儲(chǔ)，并由人類培訓(xùn)師審查，以檢查和改進(jìn)人工智能模型。人工智能可能會(huì)生產(chǎn)違反常規(guī)、違背法律和道德的內(nèi)容，或幫助人類以作弊等形式完成違反常規(guī)、違背法律和道德的行為。由于 AIGC 發(fā)展處于早期，政策監(jiān)管仍不明確，利用 ChatGPT 生成的內(nèi)容可能存在侵犯其他內(nèi)容知識(shí)產(chǎn)權(quán)等規(guī)范層面的風(fēng)險(xiǎn)。與任何能夠產(chǎn)生類似人類文本的技術(shù)一樣，ChatGPT對(duì)網(wǎng)絡(luò)安全和隱私也會(huì)產(chǎn)生消極影響，尤其是風(fēng)險(xiǎn)因素的存在可能會(huì)改變網(wǎng)民對(duì)于網(wǎng)絡(luò)世界的認(rèn)知，進(jìn)而改變甚至顛覆網(wǎng)絡(luò)安全系統(tǒng)。網(wǎng)民應(yīng)用ChatGPT主要可能觸及的規(guī)范風(fēng)險(xiǎn)包括：

錯(cuò)誤信息風(fēng)險(xiǎn)：ChatGPT改變了傳統(tǒng)的網(wǎng)絡(luò)搜索方式與傳播方式。雖然大型語言模型難免會(huì)產(chǎn)生錯(cuò)誤信息，但只有當(dāng)錯(cuò)誤信息被廣泛傳播、閱讀并相信才會(huì)產(chǎn)生傷害。ChatGPT在網(wǎng)絡(luò)環(huán)境下具有大規(guī)模且廉價(jià)生成文本的能力，若被惡意濫用，勢(shì)必會(huì)使得虛假信息在網(wǎng)絡(luò)世界廣泛傳播。

深偽技術(shù)風(fēng)險(xiǎn)：基于大數(shù)據(jù)自然語言處理模型，ChatGPT通過深偽技術(shù)產(chǎn)生的文本與人類書寫的文本沒有區(qū)別。這可以用于在線模仿個(gè)人。而深偽文本的廣泛傳播會(huì)導(dǎo)致人們對(duì)于網(wǎng)絡(luò)世界信息傳播與人際交流的不信任。

數(shù)據(jù)泄漏風(fēng)險(xiǎn)：ChatGPT基于大型網(wǎng)絡(luò)文本數(shù)據(jù)庫進(jìn)行了預(yù)訓(xùn)練，因此它可能包含敏感信息或偏見。如果模型與包含敏感信息的數(shù)據(jù)（例如個(gè)人數(shù)據(jù)，財(cái)務(wù)數(shù)據(jù)或健康數(shù)據(jù)）一起使用，這可能會(huì)導(dǎo)致隱私漏洞。

第三，政策監(jiān)管漏洞。當(dāng)前AIGC處于發(fā)展初期，相關(guān)政策規(guī)范處于滯后和監(jiān)管不明的狀態(tài)。首先在技術(shù)層面，監(jiān)管機(jī)構(gòu)面臨算法不透明、技術(shù)障礙等問題，進(jìn)一步增加了監(jiān)管難度。其次，在法律規(guī)范層面，當(dāng)前算法與人工智能領(lǐng)域相關(guān)法律規(guī)范仍處于缺位狀態(tài)，監(jiān)管機(jī)構(gòu)面臨采取行動(dòng)缺乏對(duì)應(yīng)法律依據(jù)的現(xiàn)實(shí)困境。

國際競爭局面的挑戰(zhàn)

第一，技術(shù)封鎖挑戰(zhàn)。目前ChatGPT沒有對(duì)中國用戶開放使用，無法用國內(nèi)手機(jī)號(hào)進(jìn)行注冊(cè)，國內(nèi)用戶想要使用ChatGPT存在諸多限制。科技雖然無國界，但是科技公司有國籍。而ChatGPT未對(duì)中國用戶開放，實(shí)則也是這些年中美科技博弈的縮影，是美國實(shí)行對(duì)華技術(shù)封鎖的體現(xiàn)。OpenAI公司目前掌握著AIGC底層算法和核心技術(shù)，也就占領(lǐng)了國際社會(huì)該領(lǐng)域的技術(shù)話語權(quán)。

第二，國家安全風(fēng)險(xiǎn)。根據(jù)路透社2月13日的報(bào)告，由于ChatGPT對(duì)國家安全的影響，美國立法者已經(jīng)著手相關(guān)立法工作。對(duì)于我國而言，一方面，由于OpenAI公司本身的政治立場(chǎng)，ChatGPT在回答政治問題，尤其是中美問題時(shí)，存在明顯的親美貶中的傾向；另一方面，惡意行為者、其他非國家行為者，對(duì)中國有敵意的國家行為者可能會(huì)利用這些系統(tǒng)，故意訓(xùn)練或生成錯(cuò)誤的，甚至是詆毀我國的信息。

從ChatGPT看人工智能生成淵源和現(xiàn)實(shí)影響

從“奇點(diǎn)”到“爆點(diǎn)”的推動(dòng)要素。從數(shù)年前甚囂塵上的人工智能“奇點(diǎn)論”至如今對(duì)話交互式人工智能應(yīng)用成功與全社會(huì)層面進(jìn)行交互，人工智能從“奇點(diǎn)”走向“爆點(diǎn)”的事實(shí)已露端倪。然而所謂“爆點(diǎn)”，爆于何點(diǎn)卻需要更嚴(yán)謹(jǐn)?shù)囊嘏c趨勢(shì)研判才能佐證。依目前來看，近期的人工智能爆點(diǎn)源自于接近性門檻降低帶來的應(yīng)用用戶群體急速擴(kuò)張與對(duì)行業(yè)既有價(jià)值規(guī)則的沖擊，更深一層則源自于機(jī)器學(xué)習(xí)產(chǎn)生以來，以多重語料庫為學(xué)習(xí)材料不斷打磨鍛煉而形成的語言交互及邏輯模型。人工智能與語言交互領(lǐng)域的突破源自于對(duì)于相應(yīng)要素的長期積累與培育打磨。以上效果的最終呈現(xiàn)自互聯(lián)網(wǎng)發(fā)明伊始便開始沉淀，并由硬件與算力的提升及互聯(lián)網(wǎng)共享數(shù)據(jù)內(nèi)容的海量增殖而最終得以完善。

束羈于預(yù)設(shè)的功能范疇。雖然以ChatGPT為代表的交互式人工智能應(yīng)用已展現(xiàn)了令人瞠目的智能性與邏輯編排能力，但其展現(xiàn)卻仍滯留于“高于一般，低于前沿”的發(fā)展階段，且將長久處于該階段。導(dǎo)致這一結(jié)果的原因有二：其一，機(jī)器學(xué)習(xí)的基礎(chǔ)材料與模型機(jī)理皆是由人力完成，語言作為人力交互的最基本表達(dá)方式也是最簡單的呈現(xiàn)，其表現(xiàn)方式在機(jī)器易學(xué)的同時(shí)也易為大眾所接受，但無論其對(duì)基礎(chǔ)材料的重新編排如何精妙，其高度遠(yuǎn)無法超過語料庫本身所呈現(xiàn)的邏輯最高點(diǎn)，這也是由語言作為表達(dá)工具的邏輯功能所限。其二，位于前沿的科學(xué)研究與發(fā)現(xiàn)皆為人力突破極限所衍生的新高度與新事物，其中除科學(xué)技術(shù)與發(fā)現(xiàn)技巧之外，大部分創(chuàng)新成果需要對(duì)新事物發(fā)現(xiàn)進(jìn)行符合人類知性與感性邏輯的選擇。大部分技術(shù)選擇并不一定最科學(xué)，卻最符合人的感性與認(rèn)知，而機(jī)器目前無法代替人類完成這一選擇。哪怕機(jī)器能夠代替人類選擇，人類也會(huì)出于主觀能動(dòng)性，對(duì)于機(jī)器篩選結(jié)果進(jìn)行再次審核監(jiān)督，從而進(jìn)行知性與感性的糾正。

賦值社會(huì)效果有待突破。人工智能賦值社會(huì)的技術(shù)應(yīng)用周期較長，從開發(fā)到各行業(yè)落實(shí)應(yīng)用常常需要緩慢的過程。而如今飛快提速的對(duì)話式人工智能是社會(huì)層面全盤接觸人工智能的開始。對(duì)話交互的方式提升人們獲取信息的效率，減少了人與人溝通過程中的思想負(fù)擔(dān)與理性壓制，儼然成為一種無思想壓力的新社交體現(xiàn)。而廣范圍的應(yīng)用卻也使得獲取信息的途徑減少，在人工智能本身尚不能保證其內(nèi)容準(zhǔn)確度及與人類價(jià)值觀念的符合度時(shí)，這種單一來源的交互問答剝奪了人與人交互并驗(yàn)證思想與內(nèi)容對(duì)錯(cuò)是非的路徑，易產(chǎn)生負(fù)面效果，此為途徑上的缺失。

社會(huì)面的全接觸效果也源于營銷與宣傳帶來的眼球吸引效應(yīng)。美國谷歌和微軟等大型科技企業(yè)參與相關(guān)競爭，更吸引著全球熱切的目光。但是，直至目前，公開的對(duì)話式人工智能應(yīng)用仍存在嚴(yán)重缺陷。雖然人工智能通過讀取大量數(shù)據(jù)，可以給出像模像樣的答案，但也存在很多致命性錯(cuò)誤或缺陷。很難說人工智能真正理解了問題和自己用于作答的詞匯的含義，此為內(nèi)容上的缺失。通過梳理ChatGPT等對(duì)話人工智能出現(xiàn)的諸多錯(cuò)誤，就可以發(fā)現(xiàn)機(jī)器要達(dá)到真正的智能所面臨的核心技術(shù)課題仍未解決，從內(nèi)容和途徑上都尚無法完成賦值社會(huì)的目標(biāo)追求。

人工智能未來發(fā)展變化趨勢(shì)

加速推動(dòng)基礎(chǔ)研究。就目前的發(fā)展趨勢(shì)看，未來人工智能將持續(xù)、深度賦能科學(xué)研究活動(dòng)，為科研活動(dòng)提供新的、革命性的基礎(chǔ)性操作平臺(tái)與方法，推動(dòng)科研活動(dòng)由傳統(tǒng)的研究模式，擴(kuò)展至智能式研究模式，從而大幅提高科學(xué)研究效率，甚至顛覆當(dāng)前主流科研方法。社會(huì)大眾對(duì)人工智能應(yīng)用層面的全盤接觸始于ChatGPT，而各專業(yè)領(lǐng)域與人工智能的對(duì)接融合卻早已產(chǎn)生顯著成效。如天文學(xué)領(lǐng)域利用數(shù)據(jù)訓(xùn)練卷積神經(jīng)網(wǎng)絡(luò)，通過給定一個(gè)引力透鏡信息估算暗物質(zhì)能量比例參數(shù)?；瘜W(xué)領(lǐng)域在人工智能導(dǎo)入后實(shí)現(xiàn)了高速合成反應(yīng)的高效率實(shí)操，其效率與精確度遠(yuǎn)高于手工提取設(shè)計(jì)。另有諸如醫(yī)學(xué)、生物學(xué)等領(lǐng)域的人工智能前沿應(yīng)用已逐漸解決包括縮減臨床試驗(yàn)監(jiān)測(cè)周期、快速有效分析與提取遺傳數(shù)據(jù)并繪圖等損力耗時(shí)的繁瑣工作。人工智能的作用機(jī)理決定了它很難在某特定領(lǐng)域超越最先進(jìn)的人力，卻可能在長時(shí)間的算力與模型積累之下，超越大部分的人力范疇。但明顯可見的是，通過數(shù)量級(jí)與效率的疊加無法完成的工作，人工智能也無法解決，就如同人類決策的復(fù)雜與知性無法復(fù)制。

對(duì)于價(jià)值觀念的顛覆性遠(yuǎn)超過技術(shù)本身的顛覆性。機(jī)器學(xué)習(xí)提供了不同以往的研發(fā)與溝通效率，卻并非人工智能帶來顛覆科技的象征。此處并非否定人工智能在應(yīng)用層面產(chǎn)生了對(duì)社會(huì)邏輯與產(chǎn)業(yè)倫理各層面的顛覆效果，而是人工智能對(duì)于技術(shù)研發(fā)的顛覆性遠(yuǎn)不如對(duì)社會(huì)層面價(jià)值觀念的顛覆性來得更為明顯與直接。交互式人工智能是人類社會(huì)認(rèn)識(shí)和熟悉人工智能的一扇窗口，從這扇窗口中我們窺見了其超過一般人群的表達(dá)能力、邏輯思維能力、記憶與組織能力、管理與領(lǐng)導(dǎo)能力，使之從一般人的視角與立場(chǎng)出發(fā)明顯在與人力的比較中處于優(yōu)勢(shì)地位。但這也正是由于人類社會(huì)長期積累的語言邏輯知識(shí)的數(shù)量級(jí)疊加帶來的賦能。細(xì)讀之下，ChatGPT嚴(yán)謹(jǐn)邏輯內(nèi)容下的空洞說明與缺乏內(nèi)涵深度的思想羅列在深度思維層面顯現(xiàn)出了其薄弱性，更遑論對(duì)于具有爭議性的問題及新興科學(xué)發(fā)現(xiàn)的更新效率上，ChatGPT明顯弱于科學(xué)前沿的開拓者。由此可知，技術(shù)所帶來的顛覆性主要源于其大幅度介入社會(huì)生活所帶來的沖擊。

人工智能的社會(huì)意義與市場(chǎng)意義。人工智能目前呈現(xiàn)的效果具有積極的社會(huì)意義與市場(chǎng)意義。在社會(huì)層面，廣泛的接受度及其對(duì)社會(huì)民眾帶來的沖擊與震撼，可讓人類與其他社會(huì)主體重新認(rèn)識(shí)人工智能對(duì)于社會(huì)的影響力與未來趨勢(shì)，對(duì)于提升接受度，從而刺激開發(fā)主體與實(shí)施主體進(jìn)行更進(jìn)一步的開發(fā)與完善具有積極意義，進(jìn)而影響市場(chǎng)層面。市場(chǎng)意義帶來的應(yīng)用效果與研發(fā)效果疊加目前已見端倪，包括我國頭部企業(yè)在內(nèi)的互聯(lián)網(wǎng)平臺(tái)與資源企業(yè)正在積極投入到交互式人工智能的開發(fā)與應(yīng)用當(dāng)中，不久之后將帶動(dòng)更大范圍與更深層面的技術(shù)開發(fā)與市場(chǎng)聯(lián)動(dòng)。

成就智能型研發(fā)的有效工具。目前為止的主流科研模式仍基于實(shí)驗(yàn)操作方法，執(zhí)行問題提出、方法設(shè)計(jì)、模型創(chuàng)建的基本規(guī)程，最終解決既定問題。智能型科研模式則強(qiáng)調(diào)對(duì)科研大數(shù)據(jù)的智能化處理與操作，獲取數(shù)據(jù)之中的潛在規(guī)律、發(fā)現(xiàn)其中的異常、智能構(gòu)建規(guī)律模型等，或是通過自動(dòng)化、持續(xù)性的工具操作來解放科研人員體力與精力。人工智能對(duì)科學(xué)研究的意義，不僅限于輔助性的獲得新科學(xué)發(fā)現(xiàn)、新數(shù)據(jù)規(guī)律，更重要的是，它愈發(fā)成為一種新型的基礎(chǔ)性科研平臺(tái)，或是通過為整個(gè)科學(xué)研究提供革命性研究工具，來提高整個(gè)科學(xué)研究活動(dòng)效率。

我國人工智能發(fā)展面臨的機(jī)遇與挑戰(zhàn)

社會(huì)面與市場(chǎng)面接受度不同。任何創(chuàng)新都將在一定周期內(nèi)處于低接受度的實(shí)驗(yàn)階段，這個(gè)周期的長短取決于社會(huì)層面的接收程度與技術(shù)本身融入社會(huì)需求的效果。而此次ChatGPT卻是先融入社會(huì)范疇之后，在一定領(lǐng)域產(chǎn)生了融入后剝離的逆向效果。如近期多家權(quán)威期刊對(duì)于以人工智能交互表達(dá)而生成的文章內(nèi)容持排斥意見，并引為禁止刊載的理由。各級(jí)學(xué)校、教育機(jī)關(guān)也頻頻表示對(duì)學(xué)生依靠ChatGPT完成作業(yè)、報(bào)告等情況加以制約。這類逆剝離現(xiàn)象源于人工智能作為工具過度深入介入人類社會(huì)行為，從而對(duì)既有行為效果產(chǎn)生了扭曲。如同技術(shù)的創(chuàng)新研發(fā)終將服務(wù)于人類社會(huì)一樣，在效果上扭曲人類社會(huì)既有規(guī)則并引發(fā)負(fù)面影響的人工智能應(yīng)用方法自然會(huì)受到社會(huì)排斥。而社會(huì)的排斥并不直接引起市場(chǎng)層面的排斥，因?yàn)樯鐣?huì)面產(chǎn)生斥力的原因便是由于不同立場(chǎng)人群間一部分人產(chǎn)生需求，一部分人抵制需求。需求存在，則市場(chǎng)面供給就可能持續(xù)，是否保持市場(chǎng)面的供給則需要規(guī)則與制度依據(jù)社會(huì)選擇進(jìn)行制約。

基礎(chǔ)研究與產(chǎn)業(yè)鏈優(yōu)勢(shì)。人工智能所能帶來的機(jī)械操作效率積累，為基礎(chǔ)技術(shù)的研發(fā)帶來了巨大的利好條件，將有望使大部分研究人員從枯燥且易錯(cuò)的基礎(chǔ)操作當(dāng)中解放出來，完成更多的前沿設(shè)計(jì)工作。我國目前產(chǎn)業(yè)鏈優(yōu)勢(shì)明顯，研發(fā)資源與人力積累豐厚，卻因時(shí)間軸上晚于西方，在基礎(chǔ)研究上處于劣勢(shì)地位。人工智能應(yīng)用于各研究領(lǐng)域，將有望在基礎(chǔ)研究積累上進(jìn)一步解放資源，提升創(chuàng)新與創(chuàng)造能力，為進(jìn)一步的產(chǎn)業(yè)積累與前沿突破提供有利條件。

西方國家的先發(fā)優(yōu)勢(shì)影響。通過對(duì)本次語言交互人工智能應(yīng)用爆發(fā)的研判，可見目前西方在技術(shù)積累與應(yīng)用場(chǎng)景開發(fā)上對(duì)比我國處于優(yōu)勢(shì)地位。美國開發(fā)的ChatGPT，采用美西方掌握控制的語言文檔資料數(shù)據(jù)庫（大數(shù)據(jù)）訓(xùn)練引導(dǎo)產(chǎn)生的結(jié)論，暴露了其意識(shí)形態(tài)的傾向性、歸屬性、強(qiáng)制性。同時(shí)，開源促成了技術(shù)模型的接近性。我國對(duì)于人工智能跟進(jìn)速度與效率始終保持高度發(fā)展?fàn)顟B(tài)，多年來形成的技術(shù)市場(chǎng)與產(chǎn)業(yè)密度決定我國的優(yōu)勢(shì)在于對(duì)于新興應(yīng)用的落地執(zhí)行與基于市場(chǎng)反饋的多元優(yōu)化。多元場(chǎng)景落地基礎(chǔ)條件中包括資本、技術(shù)、執(zhí)行與市場(chǎng)接受度等方面，持續(xù)發(fā)展互聯(lián)網(wǎng)經(jīng)濟(jì)、數(shù)字經(jīng)濟(jì)的我國，兼有穩(wěn)步推進(jìn)的條件與廣泛的用戶積累。

確保技術(shù)本身與應(yīng)用環(huán)境的安全性。2010年開始并持續(xù)到現(xiàn)在的人工智能浪潮并不是人類思考邏輯，而是由讓計(jì)算機(jī)自己歸納出數(shù)據(jù)的各種類型的機(jī)器學(xué)習(xí)來引領(lǐng)。隨著相當(dāng)于計(jì)算機(jī)大腦的半導(dǎo)體性能越來越高以及互聯(lián)網(wǎng)普及，可以收集全世界的數(shù)據(jù)，被稱為“深層學(xué)習(xí)”的可以識(shí)別復(fù)雜類型的軟件技術(shù)問世等要素全部得以實(shí)現(xiàn)。由于機(jī)器學(xué)習(xí)逐漸到達(dá)能力提升臨界點(diǎn)，目前的人工智能應(yīng)用尚未脫出現(xiàn)有規(guī)則控制，短期未來也不會(huì)。然而人工智能介于技術(shù)開發(fā)與產(chǎn)業(yè)應(yīng)用的爆發(fā)臨界卻是不爭的事實(shí)。鑒于國內(nèi)外安全形勢(shì)，在我國總體國家安全觀政策框架下，未來應(yīng)用于各社會(huì)及產(chǎn)業(yè)全景的人工智能是否可控，將是判別一款應(yīng)用是否可推進(jìn)的基礎(chǔ)條件。

促進(jìn)我國人工智能發(fā)展的對(duì)策建議

積極快速引導(dǎo)，促進(jìn)價(jià)值觀念再成型。人類決策的復(fù)雜與知性無法復(fù)制。監(jiān)督學(xué)習(xí)是未來主動(dòng)左右人工智能服務(wù)內(nèi)容與價(jià)值傾向的主要手段。積極賦予人工智能人性價(jià)值判斷，結(jié)合網(wǎng)絡(luò)語料對(duì)交互式人工智能進(jìn)行有效的人工監(jiān)督學(xué)習(xí)，通過用戶反饋強(qiáng)化學(xué)習(xí)，導(dǎo)入人類社會(huì)的需要與價(jià)值判斷，將避免其產(chǎn)生社會(huì)負(fù)面影響。同時(shí)，根據(jù)不同行業(yè)對(duì)于人工智能體驗(yàn)的需要，針對(duì)各行業(yè)影響效果，推動(dòng)細(xì)化規(guī)則，有效監(jiān)督落地，是達(dá)成細(xì)節(jié)監(jiān)管的必要條件。

積極研發(fā)新興應(yīng)用場(chǎng)景，占據(jù)市場(chǎng)優(yōu)勢(shì)地位。人工智能技術(shù)所涉及的應(yīng)用場(chǎng)景繁雜，目前各行業(yè)均已導(dǎo)入了有效的機(jī)器學(xué)習(xí)機(jī)制，形成了可推動(dòng)的應(yīng)用場(chǎng)景?；谖覈a(chǎn)業(yè)鏈整體優(yōu)勢(shì)與基礎(chǔ)數(shù)據(jù)提供源的體量優(yōu)勢(shì)，比之交互式泛娛樂效果的人工智能應(yīng)用，我國有望在西方占有交互式人工智能探索主動(dòng)權(quán)的大環(huán)境下應(yīng)用和推動(dòng)包括主要產(chǎn)業(yè)領(lǐng)域在內(nèi)的人工智能應(yīng)用模式落地，呈現(xiàn)與西方不同的服務(wù)于基礎(chǔ)產(chǎn)業(yè)與前沿研究的深層發(fā)展模式。同時(shí)，需始終保持審慎態(tài)度，控制細(xì)分領(lǐng)域顛覆性效果肆意膨脹。

確保算法優(yōu)勢(shì)。當(dāng)前我國缺乏核心算法，過度依賴開源，幾乎93%的國內(nèi)研究者使用人工智能開源軟件包。雖然我國也有少數(shù)學(xué)者做出了原創(chuàng)性研究成果，但比之西方在實(shí)踐階段的擴(kuò)展尚有明顯不足。日前，西方包括谷歌在內(nèi)的人工智能研究主體紛紛宣布裁員，許多知名的開源開發(fā)者遭到解雇，這或?qū)槲覈铀俜e累、實(shí)現(xiàn)超越提供有利條件。但也應(yīng)當(dāng)注意，開源部分的切割裁員更將帶來開源資源和開源社區(qū)活躍度的下降，需慎防開源算法被西方國家利用成為鉗制我國人工智能學(xué)習(xí)發(fā)展的工具。

統(tǒng)籌發(fā)展和安全。在發(fā)展中規(guī)范，在規(guī)范中發(fā)展，保證企業(yè)發(fā)展在法治軌道上運(yùn)行。一方面，積極鼓勵(lì)企業(yè)通過自身的發(fā)展推動(dòng)經(jīng)濟(jì)社會(huì)發(fā)展，對(duì)于企業(yè)的正當(dāng)權(quán)益應(yīng)該通過立法的形式予以確認(rèn)，對(duì)企業(yè)有可能的違規(guī)違法行為予以及時(shí)糾正處理；另一方面，政策往往起到引領(lǐng)經(jīng)濟(jì)社會(huì)發(fā)展的作用，可以通過政策的形式對(duì)企業(yè)發(fā)展的方向予以指引。人工智能的應(yīng)用涉及網(wǎng)絡(luò)安全、數(shù)據(jù)安全、個(gè)人隱私等，一方面我們可以在現(xiàn)有法律規(guī)范的框架內(nèi)予以規(guī)范；另一方面對(duì)于企業(yè)發(fā)展的新業(yè)態(tài)若無法通過現(xiàn)有法律予以規(guī)范的，要及時(shí)立法，確保有法可依、依法行政。

明確戰(zhàn)略定位，提供宏觀指導(dǎo)。一方面，人工智能技術(shù)的應(yīng)用促進(jìn)社會(huì)發(fā)展、節(jié)約社會(huì)開支、提高運(yùn)作效率，因此國家總體上應(yīng)該鼓勵(lì)人工智能技術(shù)發(fā)展與應(yīng)用，保護(hù)企業(yè)積極性；另一方面應(yīng)該給企業(yè)的發(fā)展以宏觀指導(dǎo)，知悉商業(yè)逐利的本質(zhì)以及市場(chǎng)營銷的本性，與國外企業(yè)積極競爭引領(lǐng)權(quán)，避免國內(nèi)產(chǎn)業(yè)重復(fù)建設(shè)、惡性競爭。

做好風(fēng)險(xiǎn)評(píng)估，確保企業(yè)合規(guī)。在企業(yè)自身發(fā)展過程中，為了有效降低各種風(fēng)險(xiǎn)，要考慮使用ChatGPT模型的潛在后果并采取措施最大程度地降低濫用風(fēng)險(xiǎn)：一是限制對(duì)ChatGPT模型的訪問，監(jiān)管其使用情況并查看數(shù)據(jù)，然后再將其提供給模型以過濾或刪除敏感信息；二是使用安全和私人的計(jì)算環(huán)境并正確處理數(shù)據(jù)，以防止數(shù)據(jù)泄露或未經(jīng)授權(quán)訪問數(shù)據(jù)；三是定期監(jiān)管和審核該模型的性能和正在處理的數(shù)據(jù)，可以揭示并防止濫用或操縱。

結(jié)語

強(qiáng)化人工智能對(duì)各產(chǎn)業(yè)及各行業(yè)的支撐作用，對(duì)我國未來發(fā)展具有重大意義，而基于我國堅(jiān)實(shí)的產(chǎn)業(yè)與技術(shù)基礎(chǔ)，人工智能的研發(fā)溢出效果也將在不久后顯現(xiàn)。目前，社會(huì)面對(duì)人工智能的認(rèn)知還有不足，由于對(duì)話式交互方式的出現(xiàn)，社會(huì)與產(chǎn)業(yè)層面對(duì)人工智能的追逐產(chǎn)生了更加狂熱的傾向。由于人工智能無法做到領(lǐng)導(dǎo)前沿與指明方向的功能，因此數(shù)量級(jí)與效率的疊加無法完成的工作，需由宏觀決策加以引導(dǎo)。位于“爆點(diǎn)”的人工智能應(yīng)用無法對(duì)新興技術(shù)與產(chǎn)業(yè)領(lǐng)域進(jìn)行超前研判，因此宏觀的理性認(rèn)知與發(fā)展決策變得至關(guān)重要。

【本文作者為浙江大學(xué)光華法學(xué)院教授】

參考文獻(xiàn)

[1]Vaccari, C., & Chadwick, A. (2020). Deepfakes and Disinformation: Exploring the Impact of Synthetic Political Video on Deception, Uncertainty, and Trust in News. Social Media + Society, 6(1).

責(zé)編：周素麗／美編：王嘉騏