摘 要:科技倫理法律在條件不具備時并不能有效防控科技風(fēng)險，目前的科技倫理熱潮似乎認(rèn)為只要加強科技倫理法律的建設(shè)與實施，科技風(fēng)險與倫理問題就可以迎刃而解，這種只注重科技倫理法律而忽視科技轉(zhuǎn)型等其他重要措施的認(rèn)識誤區(qū)即為“科技倫理法律陷阱”。要用底線思維和系統(tǒng)思維構(gòu)建“底線—整體倫理學(xué)”，從而應(yīng)對前沿科技治理的巨大挑戰(zhàn)。

關(guān)鍵詞:科技倫理法律陷阱 科技重大風(fēng)險 科技治理 底線—整體倫理學(xué)

【中圖分類號】G3 【文獻(xiàn)標(biāo)識碼】A

近年來，新興科技發(fā)展迅速，呈現(xiàn)出科技大爆發(fā)態(tài)勢，科技風(fēng)險與倫理問題日益凸顯，國內(nèi)國際對此高度重視，形成一股科技倫理熱潮。但只要加強科技倫理法律建設(shè)與實施，科技風(fēng)險和倫理問題就可以迎刃而解嗎？答案是否定的，前沿科技領(lǐng)域治理仍然任重道遠(yuǎn)。應(yīng)當(dāng)認(rèn)識到這一“科技倫理法律陷阱”，構(gòu)建“底線—整體倫理學(xué)”，并對科技發(fā)展模式進行系統(tǒng)性變革，這才是解決科技風(fēng)險和倫理問題的根本性措施。

科技倫理法律陷阱：著力點錯位，難以解決科技風(fēng)險與倫理問題

加強科技倫理法律至關(guān)重要，但是其發(fā)揮應(yīng)有作用是需要一定條件的，當(dāng)條件不具備時，科技倫理法律就不能有效解決科技風(fēng)險與倫理問題，更不能有效防控科技重大風(fēng)險。目前科技倫理熱潮對此有所忽視，似乎認(rèn)為加強科技倫理法律的建設(shè)與實施，問題就可以迎刃而解，但實際上在現(xiàn)有條件和西方主流科技發(fā)展模式下，答案是否定的。對此，筆者提出“科技倫理法律陷阱”予以說明。

科技倫理法律陷阱包括兩層含義：一是指從直觀上看科技倫理法律可以解決問題，實際上在目前條件下卻不能有效解決問題，不能有效防控科技重大風(fēng)險；二是由于誤認(rèn)為找到了解決問題的關(guān)鍵，找到了著力點，而忽視了科技倫理法律發(fā)揮應(yīng)有作用是有條件的，忽視了相應(yīng)的條件關(guān)系分析，忽視了探尋真正的問題解決之道，而只注重科技倫理法律的建設(shè)與實施，錯失扭轉(zhuǎn)局面、糾正重大錯誤的機會。具體而言，科技倫理法律陷阱主要有以下六方面表現(xiàn)。

科技倫理法律主要是對科技工作者的表層約束而非深層約束

項目申請、驗收、成果發(fā)表是科研的表層活動，科研探索、鉆研思考、科學(xué)實驗、實驗室生活、交流合作是科研的深層活動，科技倫理法律主要是對科研表層活動的約束，而幾乎無法約束科研的深層活動。探索未知、科學(xué)無禁區(qū)是科研活動的核心原則，正如“原子彈之父”奧本海默所指出：“一個深刻而必要的真理是，深藏在科學(xué)中的事物并非由于它們有用而被發(fā)現(xiàn)，它們被發(fā)現(xiàn)是由于有可能發(fā)現(xiàn)它們。”盡管目前科技倫理熱潮洶涌，但據(jù)觀察了解，科學(xué)家的科研探索活動幾乎沒有任何改變。成果（包括最終成果、階段性成果、研究過程記錄、實驗數(shù)據(jù)等）的發(fā)表和傳播有正式和非正式、主動和被動、合法或非法等多種方式，存在被一些情報機構(gòu)、軍方、黑客、瘋狂科學(xué)家以及恐怖分子所利用的可能性。可見，無力實施深層約束的科技倫理法律不能有效解決科技風(fēng)險與倫理問題，尤其不能防控科技重大風(fēng)險。

科技倫理法律只是對世界的局部約束而非全面約束

科技倫理和科技法律不能約束世界上所有實驗室和科技專家。世界上有233個國家和地區(qū)，科技倫理、法律各異，倫理和法律空白和漏洞很多，公海和荒島更難監(jiān)控，有三類人很難受到約束：一是瘋狂科學(xué)家、黑客、恐怖分子和鉆倫理法律漏洞的科學(xué)家；二是軍方的武器研發(fā)，往往以防御為名；三是企業(yè)研發(fā)機構(gòu)，即使其某些技術(shù)和產(chǎn)品容易轉(zhuǎn)化而被恐怖分子利用，企業(yè)也不會束手束腳。例如，美國禁止基因編輯“三父母”嬰兒技術(shù)，美國科學(xué)家團隊就在不限制該技術(shù)的墨西哥進行操作并取得成功。

在人工智能領(lǐng)域，科技倫理失靈的情況也很嚴(yán)重，例如，在禁止“致命性自主武器”問題上無法落實。2018年國際人工智能聯(lián)合會議上，來自90個國家、160多家人工智能企業(yè)或機構(gòu)的2400多位專家學(xué)者共同簽署了《禁止致命性自主武器宣言》，呼吁立法者頒布正式的國際協(xié)議，但是在同年舉辦的聯(lián)合國日內(nèi)瓦會議上，美國、俄羅斯、韓國、以色列、澳大利亞等國都反對將“完全自主武器”納入正式談判議題框架之中，僅達(dá)成一系列非約束性建議，聯(lián)合國秘書長安東尼奧·古特雷斯強調(diào)“必須保留人類對使用武器系統(tǒng)的決定的責(zé)任，因為問責(zé)制無法轉(zhuǎn)移到機器上”。[1]但是在“2019年政府專家組關(guān)于致命自主武器系統(tǒng)新興領(lǐng)域會議報告草案”中，并沒有強調(diào)完全禁止“致命性自主武器的研發(fā)與使用”。在2019年歐盟發(fā)布的《可信人工智能倫理指南草案》中也沒有涉及致命性自主武器的禁止問題。對于顯然應(yīng)當(dāng)予以禁止的人工智能武器，在現(xiàn)實中都無法形成政府文件，表面文章都做不了（何況明令禁止也不容易真正落實），人工智能倫理中的其他約束條款還有多少意義呢？對于科學(xué)發(fā)現(xiàn)與技術(shù)發(fā)明而言，做出1次和做出100次是一樣的，在知識極易擴散的互聯(lián)網(wǎng)時代，加強科技倫理法律和安全監(jiān)管至關(guān)重要，但是也應(yīng)該清楚其本身存在的局限和漏洞。[2]

科技倫理是軟約束而非硬約束

由于科研活動非常復(fù)雜，成果也有多種應(yīng)用，各種具體研究與應(yīng)用都有相應(yīng)的理由，即使是具有巨大破壞力的兩用技術(shù)（Dual-use），也有其發(fā)展的正當(dāng)理由。兩用技術(shù)通常是指既能民用又能軍用的技術(shù)，基因編輯技術(shù)就是兩用技術(shù)。2016年美國國家情報總監(jiān)詹姆斯·克拉珀在美國情報界年度全球威脅評估報告中，將基因編輯技術(shù)列入“大規(guī)模殺傷性與擴散性武器”威脅清單。如此危險和極具爭議的技術(shù)，出于經(jīng)濟和軍事競爭的考慮，不少國家仍然爭先恐后地發(fā)展。2014年病毒學(xué)教授河岡義裕，利用H1N1流感病毒研制出一種能“繞過”人體免疫系統(tǒng)的新變種，該病毒或制造病毒的知識一旦泄漏，后果不堪設(shè)想。盡管這些高風(fēng)險的研究飽受爭議，但河岡義裕在2011—2016年間至少四次獲得日本和國際的科學(xué)獎。由此可見，科技倫理只是軟約束，而非強制性的硬約束，無論科研活動及成果有多危險都可以因為這樣或那樣的原因無法禁止，導(dǎo)致科技倫理形同虛設(shè)。

以約束人為核心的科技倫理法律并不能有效解決科技風(fēng)險與倫理問題

眾所周知，科技倫理是針對人的，它規(guī)定了科技工作者及其共同體應(yīng)恪守的價值觀念、社會責(zé)任和行為規(guī)范及準(zhǔn)則。通過約束人、約束科技工作者來解決科技風(fēng)險與倫理問題符合人們的直觀經(jīng)驗。“國外學(xué)者盡管研究科學(xué)技術(shù)負(fù)面效應(yīng)問題的觀點和角度不同，但最終都落在人的問題上。這是不難理解的，因為人是科學(xué)技術(shù)負(fù)面效應(yīng)問題的焦點，所有科學(xué)技術(shù)負(fù)面效應(yīng)問題都是由于人對科學(xué)技術(shù)把握的水平、思維方式以及道德動機落后于現(xiàn)實等原因造成的。提高人的素質(zhì)，挖掘人的潛力是解決科學(xué)技術(shù)負(fù)面效應(yīng)問題的關(guān)鍵。”[3]因此人們把加強科技倫理法律建設(shè)與實施當(dāng)作解決科技治理問題的關(guān)鍵。但是科技活動極為復(fù)雜，防控科技風(fēng)險，特別是防控科技重大風(fēng)險涉及的因素眾多，在好奇心、利益和競爭壓力驅(qū)使下，人們往往會身不由己，所以僅僅約束人是不夠的。更重要的是，決定科技風(fēng)險和倫理問題生成的是整個科技系統(tǒng)，是主流科技發(fā)展模式，而不僅僅是科技工作者?？萍紓惱矸赡芊癜l(fā)揮應(yīng)有的作用主要取決于當(dāng)時的科技發(fā)展模式，在目前西方主流的粗放式創(chuàng)新科技發(fā)展模式下（包括科學(xué)無禁區(qū)、優(yōu)先權(quán)獎勵體系、科技與資本的粗放式結(jié)合等），科技倫理法律確實難以發(fā)揮應(yīng)有的作用。

科技倫理研究薄弱，科技治理體系過于單薄

科技倫理學(xué)是新興交叉學(xué)科，產(chǎn)生于20世紀(jì)70年代。近年來新興科技的發(fā)展沖擊著現(xiàn)有的倫理規(guī)范，德裔美籍哲學(xué)家尤納斯（H. Jonas）指出，建立在個體倫理基礎(chǔ)上的傳統(tǒng)倫理學(xué)已不能應(yīng)對現(xiàn)代科技活動中出現(xiàn)的倫理問題，人類面對“倫理學(xué)的真空”，尤納斯主張構(gòu)建“一種通過調(diào)節(jié)人的行為，確保人類長久續(xù)存的倫理學(xué)”，這樣的倫理學(xué)應(yīng)該是以責(zé)任為中心的責(zé)任倫理學(xué)。[4]尤納斯的責(zé)任倫理學(xué)是當(dāng)代倫理學(xué)的代表作，它對“未來責(zé)任”倫理進行了出色的理論建構(gòu)。在筆者看來，以責(zé)任為中心、以處理人與人之間關(guān)系為中心的責(zé)任倫理學(xué)并不能解決科技倫理問題，因為對科技活動而言，對“負(fù)責(zé)任”的理解非常復(fù)雜，可以“各取所需”，更糟糕的是，只要少數(shù)人、個別人或機器人不負(fù)責(zé)任，多數(shù)人的恪盡職責(zé)就無濟于事。從20世紀(jì)90年代開始的倫理法律與社會問題研究（ELSI）并沒有取得應(yīng)有的進展，批評者認(rèn)為ELSI的目標(biāo)就是為了排除公眾干擾，使科學(xué)家坦然地認(rèn)為——我們已經(jīng)對這些問題思考過了，可以無憂無慮地做研究了。[2]

防控科技風(fēng)險、解決科技倫理問題依靠的是科技治理體系的增強與健全，但是與巨大經(jīng)濟利益驅(qū)動下的龐大科技創(chuàng)新體系相比，科技治理體系太過薄弱，科技倫理熱潮掩蓋了力量對比的懸殊。有效解決問題需要雙管齊下：正確可行的思想與對策+人多勢眾，兩者缺一不可。顯然目前科技倫理法律等科技治理體系還勢單力薄，任重道遠(yuǎn)。

限時原則缺位，忽視了科技風(fēng)險和倫理問題的嚴(yán)峻性與緊迫性

科技倫理法律研究薄弱還表現(xiàn)為許多研究都沒有考慮“限時原則”，沒有考慮在限定時間內(nèi)解決問題，這與缺乏上述關(guān)于科技倫理法律失靈的認(rèn)識、缺乏對科技重大風(fēng)險嚴(yán)峻性緊迫性的認(rèn)識有關(guān)，也與以往學(xué)術(shù)研究缺乏“限時原則”的意識和傳統(tǒng)有關(guān)，例如約翰·羅爾斯的《正義論》等許多倫理學(xué)名著都缺乏對限時原則的重視。[5]又如，建構(gòu)性技術(shù)評估（CTA）是國際上著名的技術(shù)管理和政策分析工具，它也沒有考慮“限時原則”，解決問題的思路難以成立。責(zé)任倫理也有類似的情況。應(yīng)該創(chuàng)建限時科技倫理、限時科技法律、限時科技治理、限時科技重大風(fēng)險治理等。[6]

底線—整體倫理學(xué)：用底線思維和系統(tǒng)思維構(gòu)建新型科技倫理學(xué)

綜上所述，目前的科技倫理法律失靈，因為在現(xiàn)行條件下，其不能約束深層科研活動、不能約束世界上所有科研活動、不能對高風(fēng)險科研活動實施強制性硬約束、只強調(diào)規(guī)范人的行為而忽視了體制機制與科技發(fā)展模式的關(guān)鍵作用，忽視了科技倫理法律發(fā)揮應(yīng)有作用是需要特定條件的，忽視了科技治理體系過于薄弱，以及限時原則缺位等，形成了科技倫理法律陷阱，讓人們誤認(rèn)為，只要加強科技倫理法律建設(shè)與實施，科技風(fēng)險與倫理問題就能夠迎刃而解。上述分析表明，實際情況絕非如此?？萍紓惱矸蔁岢备緵]有改變高風(fēng)險科技在爭議中快速發(fā)展的現(xiàn)狀，根本不能有效防控科技重大風(fēng)險，形勢極為嚴(yán)峻和緊迫。警惕科技倫理法律陷阱，認(rèn)清前沿科技領(lǐng)域治理的困境，是前沿科技領(lǐng)域治理的當(dāng)務(wù)之急。

基于上述分析，筆者初步提出“底線—整體倫理學(xué)”，以超越難堪重任的責(zé)任倫理學(xué)等，以底線思維、系統(tǒng)思維和以往倫理學(xué)精華來構(gòu)建“底線—整體倫理學(xué)”，它與現(xiàn)行的科技倫理學(xué)有四點區(qū)別：

第一，直面科技倫理法律失靈，并以此為前提建構(gòu)新型科技倫理學(xué)予以糾正。

第二，解決科技風(fēng)險與倫理問題是一個系統(tǒng)工程，僅僅規(guī)范人的行為遠(yuǎn)遠(yuǎn)不夠，還需要系統(tǒng)解決科技工作者和包括體制機制、科研管理等在內(nèi)的科技發(fā)展模式問題。尤其是盡快轉(zhuǎn)變科技粗放式發(fā)展模式，在“現(xiàn)象—分析”二維平面的科學(xué)中引入價值維，轉(zhuǎn)型為“現(xiàn)象—分析—價值”三維空間，實現(xiàn)從“平面”科學(xué)到“立體”科學(xué)的轉(zhuǎn)型。[7]倫理法律將作為價值維的必要組成部分嵌入科學(xué)內(nèi)部，以改變目前倫理法律作為輔助因素，外在于科學(xué)而難以發(fā)揮應(yīng)有作用的狀況，形成“科技創(chuàng)新、倫理先行”的底線安全的新型科技發(fā)展模式，不走西方“先污染后治理、先創(chuàng)新后倫理”的老路、彎路。

第三，科技治理與科技創(chuàng)新同等重要，協(xié)調(diào)兩者關(guān)系是重中之重。

第四，恪守限時原則。由于科技風(fēng)險和倫理問題愈演愈烈，要盡快實現(xiàn)有效防控，這是“底線—整體倫理學(xué)”最具挑戰(zhàn)性的任務(wù)。

“底線—整體倫理學(xué)”特征鮮明，以克服科技倫理失靈為底線目標(biāo)，拋磚引玉，希望新一代科技倫理學(xué)盡快問世。筆者長期研究科技重大風(fēng)險治理，深知目前人類面臨前所未有的雙重巨大挑戰(zhàn)：隨著新興科技爆發(fā)式發(fā)展，科技風(fēng)險和倫理問題愈演愈烈，而人類防控科技重大風(fēng)險的多道安全防線都存在嚴(yán)重漏洞，難堪重任，急需通過轉(zhuǎn)變科技發(fā)展方式、加強新型科技倫理法律建設(shè)與實施予以應(yīng)對。

【本文作者為中國科學(xué)院自然科學(xué)史研究所研究員、科技與社會研究中心主任】

注釋

[1]Autonomous weapons that kill must be banned, insists UN chief. UN News. https://news.un.org/en/story/2019/03/1035381. 25 March 2019.

[2]劉益東：《致毀知識與科技倫理失靈：科技危機及其引發(fā)的智業(yè)革命》，《山東科技大學(xué)學(xué)報（社會科學(xué)版）》，2018年第6期，第1—15頁。

[3]徐飛、張秉倫等：《科技文明的代價》，濟南：山東教育出版社，1999年，第26—27頁。

[4]王國豫：《推進新時代科技倫理學(xué)新發(fā)展》，《中國社會科學(xué)報》，2020年1月14日，第6版。

[5]劉益東：《開放式評價與前沿學(xué)者負(fù)責(zé)制：勝出機制變革引發(fā)的云科學(xué)革命》，《未來與發(fā)展》，2013年第12期，第2—11頁。

[6]劉益東：《挑戰(zhàn)與機遇：人類面臨的四大困境與最大危機及其引發(fā)的科技革命》，《科技創(chuàng)新導(dǎo)報》，2016年第35期，第221—230頁。

[7]劉益東：《人類面臨的最大挑戰(zhàn)與科學(xué)轉(zhuǎn)型》，《自然辯證法研究》，2000年第4期，第50—55+75頁。

責(zé)編：董惠敏 / 司文君

聲明：本文為《國家治理》周刊原創(chuàng)內(nèi)容，任何單位或個人轉(zhuǎn)載請回復(fù)國家治理周刊微信號獲得授權(quán)，轉(zhuǎn)載時務(wù)必標(biāo)明來源及作者，否則追究法律責(zé)任。