摘 要：當(dāng)今時(shí)代，前沿科學(xué)領(lǐng)域中產(chǎn)生了一系列新興科技，例如基因工程和基因編輯、人工智能和機(jī)器人、合成生物學(xué)、神經(jīng)技術(shù)、納米技術(shù)、增強(qiáng)現(xiàn)實(shí)技術(shù)、3D打印、異種移植等。這些新興科技有四大特點(diǎn)：風(fēng)險(xiǎn)性、不確定性、雙重用途，以及可能引發(fā)一些未曾有過(guò)的倫理問(wèn)題。因此，我們必須將傳統(tǒng)科技管理升級(jí)為科技倫理治理。新興科技的倫理治理原則應(yīng)包括人的福祉、尊重人、公正負(fù)責(zé)、透明、公眾參與等。

關(guān)鍵詞：新興科技 倫理治理 倫理原則

【中圖分類(lèi)號(hào)】B82 【文獻(xiàn)標(biāo)識(shí)碼】A

2018年底，“基因編輯嬰兒”事件引發(fā)人們對(duì)科技倫理的廣泛關(guān)注。2019年 7月24 日，中央全面深化改革委員會(huì)第九次會(huì)議審議通過(guò)《國(guó)家科技倫理委員會(huì)組建方案》，會(huì)議指出，“組建國(guó)家科技倫理委員會(huì)，目的就是加強(qiáng)統(tǒng)籌規(guī)范和指導(dǎo)協(xié)調(diào)，推動(dòng)構(gòu)建覆蓋全面、導(dǎo)向明確、規(guī)范有序、協(xié)調(diào)一致的科技倫理治理體系”。2019年10月黨的十九屆四中全會(huì)又明確提出，“健全科技倫理治理體制”。

我們過(guò)去經(jīng)常談?wù)摽萍脊芾恚⒖萍脊芾矶x為運(yùn)用國(guó)家權(quán)力對(duì)科技部門(mén)事務(wù)進(jìn)行管理，對(duì)科技部門(mén)人力物力財(cái)力資源進(jìn)行優(yōu)化整合的管理行為。那么當(dāng)代科技發(fā)生了怎樣的變革，使得我們必須從過(guò)去一般的科技管理提升到建立和健全科技倫理治理體制呢？

新興科技給國(guó)家治理帶來(lái)的挑戰(zhàn)

當(dāng)今時(shí)代，前沿科學(xué)領(lǐng)域中產(chǎn)生了一系列新興科技，例如基因工程和基因編輯、人工智能和機(jī)器人、合成生物學(xué)、神經(jīng)技術(shù)、納米技術(shù)、增強(qiáng)現(xiàn)實(shí)技術(shù)、3D打印、異種移植等。新興科技有四大特點(diǎn)，提出了一系列我們應(yīng)該做什么（實(shí)質(zhì)性倫理問(wèn)題）和如何做（程序性倫理問(wèn)題）的規(guī)范性問(wèn)題，使得傳統(tǒng)的科技管理體制無(wú)力應(yīng)對(duì)。

新興科技有可能帶來(lái)巨大風(fēng)險(xiǎn)，以至威脅到人類(lèi)未來(lái)世代的健康甚至人類(lèi)生存

例如人工智能可使人類(lèi)從一般的智能活動(dòng)解脫出來(lái)，集中精力于創(chuàng)新、發(fā)現(xiàn)、發(fā)明，然而同人類(lèi)一樣聰明甚至超越人類(lèi)的人工智能系統(tǒng)，一旦失去控制，可能對(duì)人類(lèi)的生存帶來(lái)威脅。再如，合成生物學(xué)的研究和廣泛應(yīng)用，可幫助人類(lèi)用多快好省的方法解決困擾人們已久的糧食、營(yíng)養(yǎng)、燃料、藥物和疫苗的生產(chǎn)問(wèn)題，然而如果合成出傳染力強(qiáng)、引起嚴(yán)重疾病、傳播迅速、且對(duì)疫苗有免疫力的病毒，則可能使數(shù)千萬(wàn)人喪失生命。

新興科技具有不確定性

當(dāng)某種風(fēng)險(xiǎn)的嚴(yán)重程度及其發(fā)生的概率可以預(yù)測(cè)時(shí)，我們可采取風(fēng)險(xiǎn)評(píng)估和風(fēng)險(xiǎn)管理方法加以應(yīng)對(duì)。與風(fēng)險(xiǎn)不同的是，不確定性是我們對(duì)未來(lái)事態(tài)的決定因素缺乏知識(shí)，因而難以預(yù)測(cè)其可能的風(fēng)險(xiǎn)。我們對(duì)所采取的干預(yù)措施可能引起的后果難以預(yù)測(cè)，可能影響后果的因素太多、太復(fù)雜、相互依賴(lài)性太強(qiáng)而不能完全把握。例如，用于管理電網(wǎng)、核電站等重要設(shè)施的人工智能軟件，可能發(fā)生難以預(yù)測(cè)的差錯(cuò)。再如，關(guān)于“基因編輯嬰兒”，因?yàn)槿狈Ρ匾闹R(shí)和信息，我們無(wú)法對(duì)生殖系基因組編輯進(jìn)行必要的風(fēng)險(xiǎn)—受益比評(píng)估，也不能對(duì)提供胚胎的夫妻（即未來(lái)孩子的父母）提供必要和充分的信息，使他們能夠做出有效的知情同意。

新興科技往往具有正反雙重用途

新興科技既可被善意使用，為人類(lèi)造福；也可被惡意使用，給人類(lèi)帶來(lái)禍害。例如合成流感病毒可用來(lái)研制疫苗，也可用來(lái)制造武器。這是大多數(shù)常規(guī)科技不可能具有的特點(diǎn)，很難說(shuō)制造電視機(jī)這門(mén)技術(shù)本身有雙重用途。一門(mén)顛覆性新興科技，其應(yīng)用前景越廣闊，被惡意利用的可能性就越大。在人工智能算法設(shè)計(jì)和軟件開(kāi)發(fā)中，技術(shù)越先進(jìn)，其被利用作為惡意軟件、敲詐軟件的可能性也就越大。雙重用途的特性增加了不確定性，例如我們難以完全掌握恐怖主義利用新興技術(shù)進(jìn)行襲擊的概率，因?yàn)椴豢赡塬@得所有必要的情報(bào)信息。

新興科技可能引發(fā)一些未曾有過(guò)的倫理問(wèn)題

人工智能對(duì)于人類(lèi)作出涉及未來(lái)的決策能夠起很大的積極作用，可是人工智能的決策是利用大數(shù)據(jù)和算法做出的，算法能在大數(shù)據(jù)中找出人們行為的模式，然后根據(jù)這種模式預(yù)測(cè)某一群人未來(lái)會(huì)采取何種行動(dòng)，包括消費(fèi)者會(huì)購(gòu)買(mǎi)何種商品，搜索何種人可擔(dān)任企業(yè)的高級(jí)執(zhí)行官，某種疾病在某一地區(qū)或全國(guó)發(fā)生的概率，或在某一地區(qū)犯過(guò)罪的人有沒(méi)有可能再犯，等等，然后根據(jù)這種預(yù)測(cè)制訂相應(yīng)的干預(yù)策略。然而，模式是根據(jù)數(shù)據(jù)識(shí)別出來(lái)的，數(shù)據(jù)是人們過(guò)去的行為留下的信息，根據(jù)從過(guò)去行為的數(shù)據(jù)識(shí)別出的行為模式來(lái)預(yù)測(cè)人們未來(lái)的行為，就有可能發(fā)生偏差或偏見(jiàn)。例如在美國(guó)多次發(fā)現(xiàn)算法中的種族歧視和性別偏見(jiàn)。

新興科技倫理治理的基本原則

由于這些新興科技的創(chuàng)新、研發(fā)和應(yīng)用會(huì)帶來(lái)如此多而難以應(yīng)對(duì)的倫理問(wèn)題，而這些倫理問(wèn)題不在傳統(tǒng)科技管理范圍之內(nèi)，因此我們必須將科技管理提升到科技倫理治理。實(shí)行科技倫理治理，首先需要考慮的問(wèn)題是，對(duì)在新興科技創(chuàng)新、研發(fā)和應(yīng)用中采取的行動(dòng)、作出的決策以及制定的政策提出一個(gè)評(píng)價(jià)其是非對(duì)錯(cuò)的標(biāo)準(zhǔn)，即規(guī)定科技倫理治理的基本倫理原則。我們可以將新興科技倫理治理的基本原則規(guī)定如下：

人的福祉（human well-being）

我們將這一倫理原則置于首位，就是要指出，發(fā)展科技的根本目的是增進(jìn)人的福祉，福祉原意是處于良好的狀態(tài)，簡(jiǎn)言之是人在身體上、精神上、智力上、情感上、社會(huì)上、經(jīng)濟(jì)上、環(huán)境上處于良好的狀態(tài)。我們發(fā)展科技的根本目的就是幫助人們?cè)谒羞@些方面達(dá)到良好狀態(tài)。以人的福祉為首位原則與我國(guó)“以人民為中心”的發(fā)展思想相一致。增進(jìn)人的福祉就是要將科技創(chuàng)新可能引起的對(duì)人和環(huán)境的風(fēng)險(xiǎn)最小化、受益最大化。由于基于科技創(chuàng)新的干預(yù)措施中受益與風(fēng)險(xiǎn)并存，“人的福祉” 這一原則要求我們對(duì)科研方案進(jìn)行認(rèn)真細(xì)致的倫理審查，對(duì)風(fēng)險(xiǎn)—受益比作出評(píng)估，審查科研方案是否體現(xiàn)對(duì)人的尊重。“人的福祉”這一倫理原則中的人，既包含現(xiàn)在世代的人，也包含未來(lái)世代的人，因而包含代際公正問(wèn)題；福祉要求人在社會(huì)和環(huán)境上都處于良好狀態(tài)之中，因此也包含保護(hù)環(huán)境、促進(jìn)社會(huì)發(fā)展等內(nèi)容。

尊重人（respect for person）

尊重人的倫理原則主要是尊重人的自主性，這就要求將知情同意作為倫理規(guī)范，并進(jìn)一步成為法律規(guī)范。知情同意的形式可隨干預(yù)或科研的情況及其引致的風(fēng)險(xiǎn)大小而異，與科研發(fā)展的需求相平衡。尊重人也包括尊重人的尊嚴(yán)，將人看作目的自身，而不把人看作僅僅是手段或工具。尊重人也包括承認(rèn)人的內(nèi)在價(jià)值，即每一個(gè)人的存在本身就是有價(jià)值的，反對(duì)將人視為僅有外在價(jià)值或工具性?xún)r(jià)值，即對(duì)他人或社會(huì)“有用”。尊重人也包括保護(hù)個(gè)人信息，不管是原來(lái)記錄在案、個(gè)人最近提供，還是在干預(yù)過(guò)程產(chǎn)生的數(shù)據(jù)，亦即，尊重人也包括尊重和保護(hù)人的隱私。

公正（justice）

公正包括分配的公正、程序的公正、回報(bào)的公正和修復(fù)的公正。“公正”（justice）是一個(gè)比較宏觀的概念，例如我們討論社會(huì)的公正或制度的公正時(shí)往往使用“社會(huì)正義”“制度正義”等術(shù)語(yǔ)。公平（fairness）一般用于微觀領(lǐng)域，例如我們講科研、教育、市場(chǎng)或體育領(lǐng)域的“公平競(jìng)爭(zhēng)”或“機(jī)會(huì)公平”。公正的倫理原則也包括公平可及（equitable access）這一倫理要求（在這里equity與fairness是同義語(yǔ)）。在貧富之間存在不平等而且市場(chǎng)正在擴(kuò)大貧富鴻溝時(shí)，用納稅人的公共資金發(fā)展的科技成果卻往往為少數(shù)富人享有，這是一個(gè)需要解決的不公平、不公正問(wèn)題。

負(fù)責(zé)（responsibility）

我們這里的“負(fù)責(zé)”具有多種意義。一種意義是我們應(yīng)負(fù)責(zé)地發(fā)展這些科技事業(yè)，這是指：其一，我們?cè)趧?chuàng)新和研發(fā)時(shí)必須堅(jiān)持科研誠(chéng)信，反對(duì)不端行為；同時(shí)在涉及到人時(shí)我們要保護(hù)作為人的受試者和其他利益攸關(guān)者，保護(hù)人類(lèi)未來(lái)世代的利益，在涉及到有感受能力的動(dòng)物時(shí)要關(guān)心動(dòng)物的福利，在可能影響環(huán)境時(shí)要保護(hù)環(huán)境不受污染、破壞和侵蝕。另一種意義是，當(dāng)發(fā)生有傷害人和破壞環(huán)境事件時(shí)，我們能夠追查到何人負(fù)責(zé)，即能夠問(wèn)責(zé)、追責(zé)，一直到可根據(jù)相應(yīng)法律規(guī)定追究責(zé)任人的法律責(zé)任（legal liability）。例如，在持續(xù) 10 年的干細(xì)胞治療亂象期間，沒(méi)有一例治療成功，醫(yī)生、醫(yī)院和生物技術(shù)公司賺足億萬(wàn)利潤(rùn)，而病人卻遭受身體和經(jīng)濟(jì)上的重大損失，此事至今沒(méi)有問(wèn)責(zé)，這種情況不能重演。

透明性（transparency）

透明性是防止科研人員違反科研誠(chéng)信、損害受試者和消費(fèi)者身心健康或利益等不端行為的最好辦法，也是進(jìn)行倫理和法律治理、預(yù)防違反倫理規(guī)范和法律規(guī)定的有效辦法。例如，一些學(xué)者建議建立全國(guó)注冊(cè)處，將可能發(fā)生重大違反倫理規(guī)范和法律規(guī)定的科研項(xiàng)目或課題注冊(cè)登記，便于治理者或監(jiān)管者以及大眾監(jiān)督。

公眾參與（public engagement）

“基因編輯嬰兒”事件說(shuō)明一點(diǎn)：有可能決定人類(lèi)命運(yùn)的重大決策（例如未來(lái)世代人的健康）卻讓賀建奎等少數(shù)人在實(shí)驗(yàn)室悄悄決定，而不顧科學(xué)共識(shí)和倫理規(guī)范；在市場(chǎng)的誘惑下，科學(xué)原來(lái)固有的自我校正機(jī)制已經(jīng)失效。在干細(xì)胞治療亂象的10年中，幾百家醫(yī)學(xué)會(huì)，唯有中華糖尿病學(xué)會(huì)發(fā)表聲明，干細(xì)胞療法必須經(jīng)過(guò)臨床試驗(yàn)證明其安全和有效才能應(yīng)用于臨床。因此，應(yīng)該改變“科學(xué)家立項(xiàng)、企業(yè)出資、政府批準(zhǔn)”的“三駕馬車(chē)”決策路徑，讓有專(zhuān)業(yè)知識(shí)的人文社科學(xué)者和公眾代表以及關(guān)注科技創(chuàng)新的民間組織參與到上游科研決策過(guò)程，加強(qiáng)公眾對(duì)科學(xué)的理解和信任。有些對(duì)社會(huì)和人類(lèi)有重大影響的研究項(xiàng)目和課題（例如可遺傳基因組編輯臨床試驗(yàn)）不僅需要科學(xué)共同體的共識(shí)，而且需要社會(huì)共識(shí)。

【本文作者為華中科技大學(xué)人文學(xué)院副院長(zhǎng)、教授，華中科技大學(xué)國(guó)家治理研究院研究員】

參考文獻(xiàn)

[1]雷瑞鵬、翟曉梅、朱偉、邱仁宗主編：《人類(lèi)基因組編輯：科學(xué)、倫理學(xué)與治理》，北京：中國(guó)協(xié)和醫(yī)科大學(xué)出版社，2019年。

[2]雷瑞鵬、邱仁宗：《新興技術(shù)的倫理和治理問(wèn)題》，《山東科技大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》，2019年第4期。

[3]The British Standard Institute: Robots and Robotic Devices: Guide to Ethical Design and Application of Robots and Robotic Systems, published by BSI Standards Limited, 2016. ISBN 978 0 580 89530 2

[4]Institute of Electric and Electronic Engineers (IEEE): Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems, Version 2, 2016. https://ethicsinaction.ieee.org/

[5]European Group on Ethics in Science and New Technologies: Artificial Intelligence, Robotics and ‘Autonomous’ Systems, 2018. http://ec.europa.eu/research/ege/pdf/ege_ai_statement_2018.pdf

[6]翟曉梅、邱仁宗：《生命倫理學(xué)導(dǎo)論》，北京：清華大學(xué)出版社，2005年。

[7]翟曉梅、邱仁宗：《公共衛(wèi)生倫理學(xué)》，北京：中國(guó)社會(huì)科學(xué)出版社，2016年。

責(zé)編：周素麗 / 董 楠（見(jiàn)習(xí)）