By referring to the paradigm of collaborative governance and starting from "governance concept, governance subject, governance means, governance process and governance scope", this paper proposes a new path of collaborative governance of ethical risks in emerging technologies to realize the transformation from single decentralized management to multiple collaborative governance. It puts forward the following countermeasures and suggestions for the study of ethical risk management in emerging technologies. (1) It is critical to foster the concept of collaborative governance and focus on improving people's well-being. In the process of ethical risk management of emerging technologies, it is important to hold the view of collaborative governance instead of the single decentralized management, and adhere to the "people-centered" development concept to formulate scientific and technological ethical principles and carry out scientific and technological innovation activities. (2) The participation of multiple entities under the leadership of the government is expected so as to promote the collaborative governance among multiple governance entities. (3) It is of practical significance to take a combination of "hard means" and "soft power" to strengthen the construction of science and technology ethics system for emerging technologies, and actively implement the ethical risk publicity of emerging technologies. (4) It is pivotal to focus on forward-looking governance studies and implement the whole process of ethical risk management. (5) Cooperation among multiple academic fields should be warranted to move towards the ethical governance of global science and technology.
Compared with the existing studies, this paper takes emerging technologies as the research objects and conducts research on ethical risk governance, breaking through the limitations of ethical risk governance studies on a certain emerging technology in previous studies, such as artificial intelligence technology and big data technology, and provides macro-guiding significance for the ethical risk governance in the whole field of scientific and technological innovation. In addition, this paper introduces the collaborative governance theory and adopts the collaborative governance paradigm to construct a new collaborative governance system for ethical risk management of emerging technologies against the "single and decentralized" problems existing in ethical risk management of emerging technologies at the present stage, which improves the scientific nature and effectiveness of ethical risk management of emerging technologies.
开放科学(资源服务)标识码(OSID)：
习近平总书记指出:“科技是发展的利器,也可能成为风险的源头。要前瞻研判科技发展带来的规则冲突、社会风险和伦理挑战,完善相关的法律法规、伦理审查规则以及监管框架。”[1]近年来,新兴科技及相关产业迅速发展,新兴技术在人类社会发展进程中发挥关键引擎作用,但也引发了一系列伦理风险争议。新兴技术伦理风险具有影响力大、扩散性强、涉及面广和渗透性强等特点,而传统伦理道德规范和科技管理模式已不能应对现阶段新兴技术伦理风险新变化。2022年3月20日,中共中央办公厅、国务院办公厅印发《关于加强科技伦理治理的意见》[2](以下简称《意见》),要求各地区各部门结合实际认真贯彻落实。《意见》对科技伦理治理工作作出了顶层设计和系统部署,是我国首次从国家层面制定关于科技伦理治理的纲领性文件,一经出台就引起学术界广泛热议和重点解析,其对新兴技术伦理风险治理研究具有重要指导意义。
关于技术伦理,学界已开展一些研究。吴翠丽[3]认为,科技发展的负面效应让人类社会面临风险,应在科技活动中引入伦理价值维度,提高科技人员伦理责任,正确处理伦理规范与科技研究之间的关系,加强科学文化与人文文化的对话;陈雯等[4]围绕低碳科技伦理风险,提出建设科技—伦理生态,加强科技主体伦理责任,确立前瞻性责任伦理,引入社会公众治理;王慧媛等[5]开展关于基因编辑技术伦理治理的探讨,提出政府、机构、社会公众等多主体共建伦理治理体系;陈仕伟[6]针对大数据技术异化问题,从制度、德性、责任、功利、科技的视角提出相关伦理治理对策;张兆翔等(2021)基于人工智能伦理问题,提出从教育改革、伦理规范、技术支撑、法律规制、国际合作等方面加强我国人工智能伦理治理研究。
针对人工智能伦理风险治理,欧盟人工智能高级专家组于2019年4月发布《可信任的人工智能伦理指南》,提出“尊重人类自主、防止伤害、公正与可解释性”伦理原则;美国出台了《自动驾驶法案》《2018年人工智能法案》等。在大数据技术伦理风险治理方面,欧洲经济和社会委员会(EESC)启动了大数据伦理调查,并提出5项治理举措[7]。
国内外对科技伦理风险治理研究成果较多,但是,关于新兴技术伦理风险治理的研究有限,而且,大多聚焦于某一新兴技术或某个新兴技术领域,缺乏宏观指导意义。立足新时代,实现科技创新高质量发展与高水平安全的协同互动,必须大力加强新兴技术伦理风险治理工作。目前我国科技伦理治理工作取得了较大成效,但是,在新兴技术伦理风险治理方面还存在一些现实问题。新兴技术伦理风险治理是系统性工程和长期性任务,应以科学治理理念和高效治理范式提高其治理效能。传统管理模式已然不能适应现阶段新兴技术伦理风险带来的新挑战,需协同治理,形成多方治理主体协同联动效应,打造综合性、整体性、全方位的治理格局。
为科学理解和正确把握新兴技术伦理风险概念内涵,可将其拆分为“新兴技术”与“伦理风险”两个基本概念,分别进行理性解读,再综合多方面因素进行整体概括。
(1)新兴技术。目前,学术界对于“新兴技术”的概念界定尚未形成统一共识。2000年沃顿商学院新兴技术管理研究小组首次提出“新兴技术(Emerging Technology)”概念,将其界定为建立在科学基础上的技术革新,这类技术有可能创立一个新行业或者改变某个传统行业,具有较大颠覆性和不确定性特征[8];Rotolo等[9]认为,新兴技术是具有突破性、新颖性且发展相对较快的技术,其技术特征随时间演进保持聚合稳定,对社会—经济领域(行动主体、制度、知识生产过程相关交互模式等)具有潜在重要影响,最重要的影响是指向未来并在自身涌现过程中表现为不确定性和模糊性;陈凡(2023)认为新兴技术是尚未投产及仍处于研发阶段的一系列尖端技术的总和,具有不确定性和巨大影响力两大特点。本文认为,新兴技术是指未来发展潜力大、创新性强、颠覆性强、影响力大,即将或刚进入市场的一系列尖端技术的总和,在造福人类社会的同时,其蕴含的复杂性和高度不确定性等特征也可能对社会产生潜在负面影响。
(2)伦理风险。陈爱华[10]认为,伦理风险是指在人与人、人与社会、人与自然、人与自身的伦理关系方面,由于正面或负面影响可能产生不确定事件或条件,尤指其产生的不确定的伦理负效应,如伦理关系失调、社会失序、机制失控、行为失范、心理失衡等。当前,多数学者比较认可陈爱华关于伦理风险的概念界定,将其作为重要的理论参考。
综合学者们对新兴技术伦理风险相关概念的重要阐述,本研究认为,新兴技术伦理风险是指新兴技术因其内在复杂性、高度不确定性以及外在因素等多重影响而产生的人与自身、人与人、人与社会、人与自然层面的伦理负效应,如社会秩序失调、人类主体威胁、生态环境破坏等。
正确把握新兴技术伦理风险基本特征,有助于更好地防范和化解伦理风险问题。新兴技术伦理风险的可变性与可控性统一并生、客观性与主观性相依并存,具有较强的复杂性和颠覆性(见图1)。
图1 新兴技术伦理风险基本特征
Fig.1 Basic characteristics of ethical risks in emerging technologies
(1)可变性与可控性统一共生。一方面,新兴技术伦理风险具有可变性,同一新兴技术在不同场域、不同发展阶段的具体应用会呈现出不同样态的伦理风险问题。从多方面影响因素来看,新兴技术伦理风险可变性是绝对的,其根源在于新兴技术内在的高度不确定性。另一方面,新兴技术伦理风险具有可控性。人对新兴技术伦理风险具有一定的预测评估、规约治理能力,对新兴技术发展的科学防控和有效治理可以一定程度上防范其伦理风险。
(2)客观性与主观性相依并存。伦理风险既来源于技术层面的不确定性和复杂性等客观现实,也与个体认知判断等主观因素密切相关[11]。一方面,新兴技术伦理风险是一种客观存在,属于原生性因素。新兴技术伦理风险的产生具有内在客观性,不会因人的主观意愿而彻底消失。另一方面,人作为新兴技术的创造者,新兴技术发展与人的主观意志尤其是人的伦理道德素质密切相关,使得技术伦理风险的产生具有一定主观性。同时,发挥人的主观能动性,有利于最大限度控制和减少其伦理风险的发生。
(3)较强的复杂性和颠覆性。相较于一般技术伦理风险而言,新兴技术伦理风险具有较强的复杂性和颠覆性。新兴技术伦理风险的复杂性主要体现为新兴技术伦理风险涉及多个系统和多个领域,技术与人、社会与自然之间存在密切联系,尤其是在军事、政治等领域的应用会对全社会产生深刻影响。新兴技术伦理风险的颠覆性主要体现为新兴技术具有巨大影响力,如不能很好地加以规范控制,其伦理风险问题产生的后果会更严重,甚至对整个人类社会产生致命威胁。
科学治理新兴技术伦理风险,必须正确认识其表现样态、科学廓清其生成缘由、深度剖析其管理问题,通过掌握治理任务具体特点和现实问题,为开展治理工作提供有效支撑。
新兴技术交叉性和渗透性强、涉及范围广,与一般技术相比,新兴技术可能引发许多新的伦理风险问题。
(1)技术安全性问题。技术是一把“双刃剑”,新兴技术尚处于起步探索阶段,技术本身不成熟、不完善,存在不确定性,技术负面性也具有较长潜伏期,导致对新兴技术未来发展难以进行有效预测,进而无法保障新兴技术发展的安全性和可靠性。可见,新兴技术存在一定安全隐患。2018年“基因编辑婴儿事件”一经曝出就遭到全世界的谴责,其背后的伦理道德问题引发国内国际广泛关注。人类基因编辑技术涉及伦理风险问题,具体表现为技术本身安全性和可靠性存在很大疑问,技术层面的不成熟会影响“基因编辑婴儿”生命健康,最终危及全人类基因安全和遗传安全[12]。
(2)个人权益受侵犯问题。新兴技术为人类社会带来数字化和智能化,对人类生产生活产生诸多便利,但是,人类自身隐私保护权利、自主决策权利、就业劳动权利甚至生命健康权利等也可能被无形剥夺。新兴技术使得人的角色不断弱化,技术与社会之间的双向互动一定程度上使人的主体性受损[13]。当前,自动驾驶作为人工智能技术的重要应用场景,商用发展速度迅猛。2015年特斯拉推出Autopilot功能,成为自动驾驶商业化应用领域的先行者[14]。这一发明虽得到人们广泛追捧,但负面新闻屡见不鲜,如“5·8美国特斯拉安全事故”等。近几年,特斯拉Autopilot功能在全球范围内如中国、美国、日本等国引发多起事故,造成驾驶人员伤亡,严重威胁驾驶人员生命健康,使得人们不禁思考自动驾驶技术的负面影响。“滴滴出行”是一款数据赋能的手机打车软件,在为人们出行提供便利的同时,也存在潜在伦理问题,如数据违规使用、价格歧视和垄断等[15]。
(3)社会公平正义问题。在技术与社会融合过程中,新兴技术会滋生一些社会歧视问题,导致社会公平正义受损。施瓦布(Schwab)[16]认为,第四次工业革命在带来巨大好处的同时,也会带来巨大挑战,其中不平等现象的加剧尤其令人担忧。新兴技术会对弱势群体产生一定歧视,出现价值鸿沟,导致社会不平等和不公正问题。比如人工智能技术在军事领域的广泛应用,会很大程度上改善和提升世界各国军事实力,进而对未来战争形态和国际社会安全平衡造成一定影响。2022年爆发的俄乌冲突是一场典型的数字技术战争,其中运用多种型号无人机、人脸识别、机器人、区块链等新兴技术。当前新兴技术在军事领域应用广泛,赋能军事战斗力的特征愈发明显。不同国家之间存在技术鸿沟,新兴技术发展的不平衡必然会对技术弱势国家带来较大社会安全隐患。面对发达国家新兴技术发展迅速而发展中国家新兴技术相对滞后的现状,这种技术鸿沟可能引发国际冲突、威胁世界和平。
(4)生态系统受威胁问题。新兴技术可能对自然生态环境造成较大负面影响,也可能破坏自然生态链条。新兴技术会产生一定“技术垃圾”,给自然环境带来严重负荷,对生态平衡造成较大威胁。新兴技术造福人类社会的同时,对人类赖以生存的自然生态环境带来较大伦理挑战,导致全球环境问题日益严重、自然资源大幅减少等问题。新兴技术能耗相对更大,对电力资源需求较大,对自然环境和资源带来巨大挑战。应通过加强新兴技术伦理风险治理,促进技术与自然生态环境和谐相处。此外,新兴技术如基因编辑技术对自然进化带来重大挑战,科学家运用基因编辑技术对人、动物、植物进行基因编辑会一定程度上破坏基因自然进化。
近年来,人工智能、基因编辑和大数据等新兴技术飞速发展,引发人们对其伦理风险的高度关注和深度思考,本研究选取人工智能技术、基因编辑技术和大数据技术这3种具有代表性的新兴技术,阐述其伦理风险表现形式,以便更清晰地理解现阶段新兴技术伦理风险的具体样态,如表1所示。
表1 现阶段典型新兴技术伦理风险具体样态
Table 1 Specific patterns of ethical risks of typical emerging technologies at present
典型新兴技术 技术安全性问题个人权益受侵犯问题社会公平正义问题生态系统受威胁问题人工智能技术人工智能技术失控、人工智能技术滥用问题个人自主决策受损、个人隐私泄露、责任归属问题、人类生存发展受到挑战等算法霸权、数字鸿沟、信息垄断、教育及劳动就业的负面效应等高能耗问题、技术发展与生物多样性的不对称问题[17]基因编辑技术转基因食品的安全性,人类基因编辑技术存在脱靶、镶嵌等问题人类尊严受损、人类自主权受到挑战优生学问题、技术应用的公平正义问题、“转基因人类”的社会权利问题[18]等破坏自然生态系统、影响整个人类种系大数据技术数据可信度问题、信息安全隐患问题个人隐私泄露、个人尊严受损、个人自主选择受控等数据鸿沟、数据霸权、权责问题、数据资源占有不平等问题等大数据技术的物质载体引发环境污染问题
新兴技术伦理风险的生成受到客观因素和主观因素的共同影响。高新技术风险形成与技术本身特性、技术创新主体、技术使用主体、社会引导力度和技术监管审查等密切相关(易显飞,2019)。为科学防范和有效化解现阶段新兴技术伦理风险问题,需廓清新兴技术伦理风险生成缘由,以便高效率开展新兴技术伦理风险治理工作,如图2所示。
图2 新兴技术伦理风险生成缘由
Fig.2 Reasons of ethical risks in emerging technologies
(1)新兴技术的高度不确定性。新兴技术具有高度不确定性[19],使其呈现应用领域未知性、社会影响难以预测性、技术交叉可能性等特点。第一,新兴技术不确定性体现在其发展的方方面面。杜严勇[20]认为人工智能在科技基础、管理政策、应用范围、使用效果等方面均存在不确定性,这些不确定性伴随人工智能科技的所有方面,而且不确定性的表现会不断演变。此外,有学者指出,新兴技术的不确定性也表现为新兴技术应用场景变化,从研发到应用持续影响利益相关者,始终承载着研发者、参与者的道德动机和价值取向(范毅强,2020)。可见,新兴技术不确定性体现在研发应用全过程和各方面,且这种不确定性与研发者的主观意识紧密关联。第二,新兴技术不确定性是客观存在的。新兴技术内在的不确定性是其本质属性,这种本质属性是其伦理风险生成的内在根源。风险伦理规约的核心是接受相关主体的不确定性,并在不确定性情景下进行风险决策(张成岗,2019)。新兴技术伦理风险治理的主要目的不是为了彻底消除新兴技术不确定性,这种不确定性本质上也无法完全消除,而是将这种不确定性控制在可接受范围内。由此可见,新兴技术尚处于起步探索阶段,其发展是一个动态化、长期化过程,从研发到使用涉及多种复杂性、深层次因素,其不确定性也不断演化,使得人们对新兴技术不确定性更加难以把握。
(2)伦理风险认知与应对不足。长期以来,人们在新兴技术伦理风险认知和应对上存在短板与不足,这是导致新兴技术伦理风险生成的主要缘由。有学者认为治理主体对新兴技术风险相关问题缺乏科学分析和研究,未提出有效应对指南[21]。在新兴技术伦理风险治理问题上,人作为治理主体,针对治理对象的认知能力、应对能力存在不足与短板。第一,治理主体对新兴技术伦理风险的认知存在不足。有些技术创新工作者对科技创新坚持“科学无禁区”的思想,对科技进步采取毫无批判的接受态度,加上人们对于科学技术的过分崇拜等,使得人们忽视甚至漠视新兴技术的潜在伦理风险问题。此外,与一般技术相比,新兴技术的知识覆盖面更广、技术交叉性更强、内在不确定性更大,使得难以精准预测新兴技术未来发展。第二,治理主体对新兴技术伦理风险应对处理存在短板。当前,新兴技术伦理风险问题逐渐显现出来,利益攸关方为此感到苦恼却无力应对。近年来,各国政府高度重视科技伦理治理工作,试图补齐科技伦理治理短板,但当前科技伦理风险治理仍处于起步探索阶段,科技伦理治理制度建设存在较大空白,科技伦理治理方面的投资存在较大缺口。各国政府对新兴技术伦理风险的应对明显不足,主要表现为新兴技术伦理风险治理研究比较薄弱、治理能力较为低下、治理水平有待提升,具体涉及新兴技术伦理风险的法律法规、伦理规范、审查监督等方面。
(3)受到经济利益的功利化驱使。新兴技术伦理风险生成的一大缘由,是部分科技创新工作者和科技企业受到经济利益的功利化驱使,将谋取经济利益放在科技创新第一位,没有很好地权衡新兴技术风险。市场经济可能引发的负面影响如功利主义,会投射到新兴技术问题上,即人们过于关注新兴技术商业价值而忽视新兴技术可能引发的伦理风险。新兴技术蕴含着非常高的经济价值,一些人利用新兴技术牟取暴利,一味追求经济利益,漠视新兴技术潜在伦理风险,导致伦理风险问题产生。对于经济利益的过分追逐会导致一些重大科技伦理事件发生,进而危害人类社会。市场需求、金钱诱惑会引发个别人员对新兴科技的滥用,为追求利益最大化而忽视科技价值理性,使得新兴技术走进“科林格里奇困境”。“假若明天将表明人类克隆很有市场,那么就会出现人类克隆,不管形形色色的道德委员会将会作出什么样的决议或者谴责”[22]。新兴技术对人类未来具有颠覆性和深远影响力,如果不在新兴技术发展的各个阶段植入伦理因素和治理环节,势必引发诸多伦理风险。
(4)传统伦理道德规范滞后。新兴技术快速发展与相应伦理规范体系缓慢演化之间的失衡态势日益凸显。正如鲍曼所言,“现代技术表明人类行为可能对事物产生巨大影响,而人类道德能力却不能作出相匹配的拓展”。事实表明,传统伦理道德规范已然不能对现阶段新兴技术行为目标和价值导向进行有效调控。传统伦理道德规范的局限性和滞后性较为突出,新兴技术与伦理体系不匹配导致的问题激增。李秋甫(2022)认为,技术发展已超前于社会进程,旧的伦理规范已经无法有效维持当前技术手段下的社会秩序。与一般技术伦理风险相比,新兴技术增添了许多新的伦理风险,超出传统伦理道德规范的应对范畴。面对飞速发展的新兴技术,传统伦理资源应对其伦理风险时明显“力不从心”,并处于劣势地位。传统的区域性伦理理念不能满足新兴科技的全局性伦理理念要求,新兴科技的快速发展和难以确定逼迫传统伦理“让步”(刘芳,2017)。此外,新兴技术在各行各业的广泛应用将会滋生更多伦理风险问题。传统伦理道德与新兴技术之间的关系不对等,使得人们对新兴技术伦理风险的敏感度和警觉性不够,增加新兴科技伦理风险爆发几率。
中国越来越重视科技发展风险问题尤其是新兴技术伦理风险,着力推进与加强科技伦理治理工作,使得新兴技术伦理风险治理能力得到较大提升。但是,基于多方面因素的影响,面对如此复杂和高度不确定的新兴技术,伦理风险治理方面仍存在一些现实问题,主要表现为风险防范意识不足和治理理念较为落后、治理主体力量比较薄弱和协同不足、治理手段较为陈旧单一、治理过程侧重事后治理、治理范围有待进一步扩大等。
(1)风险治理意识不足,传统管理理念较为严重。长期以来,我国大力推进科学技术发展,努力促进高新技术进步,大力发展科技创新事业,但是,有些科技创新工作者和科技企业对新兴技术伦理风险较为忽视,导致科技创新发展与科技伦理治理之间发展不协调,一定程度上阻碍我国新兴技术伦理风险治理进程。面对如此复杂和高度不确定的新兴技术,传统管理理念不足以应对其伦理风险问题。治理理念对整个治理过程起到重要指导作用,需摒弃陈旧管理理念,树立科学高效治理理念。
(2)参与主体比较单一,主体协同联动能力较弱。治理主体在治理工作中发挥关键核心作用,其治理能力直接关系到治理成效。第一,治理主体构成比较单一。新兴技术伦理风险是一项综合性治理工程,需要凝聚多方治理主体力量。在当前新兴技术伦理风险治理过程中,政府是主要治理力量,发挥主要治理作用。受多方面因素的影响,其他治理主体参与度较低,尤其是社会公众面对较大的治理障碍,在新兴技术治理中角色不够完善[23]。第二,各治理主体之间的协同联动能力比较薄弱。治理主体之间的协同联动能力与治理效能呈现正相关关系,治理主体之间协同联动能力强则促进治理效能提升,反之则会降低治理实效性。当前,我国新兴技术伦理风险治理主体之间存在治理“壁垒”,缺乏有效的协同联动。
(3)制度建设较为落后,宣传教育力度相对较弱。治理手段是提高治理效能的利器,治理措施的科学完善与否影响治理效能高低。新兴技术伦理风险治理手段方面的问题主要表现为两个方面:一是“硬性”手段治理不足,主要表现为相关法律制度建设较为薄弱。当前,我国科技伦理治理制度不够完善,难以适应新兴技术伦理风险治理的现实需求。虽建立了科技伦理审查制度,但存在伦理审查制度安排不足的问题[24]。面对新兴技术伦理风险问题,传统的伦理道德规范已然不能应对,伦理制度建设有待加强,伦理治理法治化进程仍需加速推进。二是“软性”措施治理不足,主要表现为科技伦理宣传教育力度不够。当前,我国对科技伦理的教育和宣传意识比较薄弱,教育能力和宣传能力存在较大短板。唯有“硬性”手段和“软性”措施双管齐下,才能切实提高新兴技术伦理风险治理实效性。
(4)前瞻预防不力,事中事后治理不足。面对新兴技术的复杂性和高度不确定性,应完善优化新兴技术伦理风险治理过程。当前,我国新兴技术伦理风险治理过程主要存在3个方面问题:第一,事前阶段,在新兴技术研发使用的前期阶段,治理主体缺乏良好的伦理风险预防意识,对潜在伦理风险缺乏有效的源头治理,无法很好地将伦理风险扼杀在萌芽阶段。第二,事中阶段,在新兴技术伦理风险治理过程中,事中阶段的伦理风险治理至关重要。新兴技术伦理风险不是一成不变的,而是随着使用领域和使用阶段的变化而变化。当下,治理主体对新兴技术伦理风险未能做到快速敏捷治理,不能灵活动态地应对伦理风险挑战,在事中阶段缺乏有效的监督审查环节。第三,事后阶段,当前,我国新兴技术伦理风险治理尚处于起步阶段,对于新兴技术引发的伦理问题存在较大争议。针对违法研发使用新兴技术的问题,相关法律法规建设层面存在一定空白。
(5)不同领域协同不力,国际治理能力仍待增强。新兴技术伦理风险治理范围的局限性主要表现为:第一,不同治理领域协同合作不力。当前,管理学、伦理学和法学等不同领域专家学者从自身学科领域切入,展开一系列新兴技术伦理治理研究,取得了重要成果,对伦理风险治理具有较大促进作用,但是,不同学科领域之间存在研究“孤岛”,不能很好地实现各学科领域间协同合作。第二,国际化治理能力仍待增强。新兴技术伦理风险治理是一项国际性治理任务,近年来,世界各国在推进科技创新的同时越来越重视新兴技术科技伦理治理工作,对新兴技术伦理风险治理进行了一系列探索,力求在新兴技术领域掌握主动权和话语权。但是,各国之间缺乏有效的协同合作治理,尤其是发展中国家在全球化治理中处于劣势地位。
协同治理理论的核心思想对新兴技术伦理风险治理具有较强的针对性与启示性,面对新兴技术伦理风险管理存在的现实问题,应基于协同治理理论开展协同治理研究。本文引入协同治理范式,从治理理念、治理主体、治理手段、治理过程、治理范围出发,提出新兴技术伦理风险协同治理路径,以推动单一分散管理转向多元协同治理,如图3所示。
图3 新兴技术伦理风险协同治理路径
Fig.3 Approaches to collaborative governance of ethical risks in emerging technologies
德国物理学家赫尔曼·哈肯(Hermann Haken)于20世纪70年代提出协同学(Synergetics),协同学是一门在普遍规律支配下的有序组织集体行为的科学。协同理论认为,一个复杂开放的系统由大量属性不同、相互影响的子系统构成,各子系统之间存在非线性关系,在一定的外部条件下,各子系统协调合作的整体性运动占主导地位时可促使系统协同有序运作。协同理论具有较强的普适性,学者们已将协同理论运用于多个学科领域,并取得较好效果。协同治理理论(Collaborative Governance Theory)是融合协同理论和治理理论为一体的系统性、整体性、综合性治理理论,主要强调各治理主体之间实施有效的协同合作,达到整体治理效能最大化。可将新兴技术伦理风险协同治理概括为在新兴技术伦理风险治理过程中,强调多元主体参与治理和发挥协同联动作用,针对伦理风险相关问题,实现多主体、全过程和各领域的协同治理,将协同治理理念贯穿于应对新兴技术伦理风险的各个方面,最大限度发挥治理效能以促进新兴技术良性发展。
理念是行动的先导。开展新兴技术伦理风险治理工作的首要前提是树立科学治理理念,在科学理念的指导下,聚力打造新兴技术伦理风险的新型治理格局,切实发挥新兴技术造福人类的重要作用。
(1)协同治理理念。在新兴技术伦理风险治理过程中,要打破单一分散管理理念,树立协同联动治理理念。针对新兴技术伦理风险治理的主要问题,以协同治理理念为引导,打造新兴技术伦理风险协同治理新格局。通过树立协同治理理念开展新兴技术伦理风险治理,凝聚多方治理力量,实现多维协同合作,切实提高新兴技术伦理风险治理实效。
(2)坚持“以人民为中心”的发展理念。坚持“以人民为中心”的发展理念,制定科技伦理原则、开展科技创新活动,以维护广大人民群众根本利益为出发点和落脚点,提高广大人民群众的获得感、幸福感和安全感。一方面,尊重人的生命健康,这是科技活动的伦理底线,要避免对人的身体和心理健康造成潜在威胁,确保一切科技活动守住伦理底线,并保护人的尊严和隐私不受侵犯。另一方面,尊重人的宗教信仰和文化传统等。开展科技创新活动要尊重不同社会群体,综合考量不同群体的价值诉求,避免引发歧视和偏见问题。此外,新兴技术研发、投产和使用要坚持责任价值导向,注重人文价值融入,注入社会伦理道德,实现新兴技术的责任式发展,促进新兴技术和相关产业可持续发展。
新兴技术伦理风险治理涉及多方利益攸关主体,要集合多元治理主体力量、压实各方治理主体责任、明确各方治理主体任务,最大化发挥各治理主体力量。同时,要实现政府主导下的多元主体协同共治,切实提高新兴技术伦理风险治理效能。
(1)政府主导,多元主体共同参与。加强政府统筹,发挥政府的“元治理”作用。“元治理”是在承认共治模式的情况下,加强政府部门的引导与控制,政府在决策制定、参与形式、协调能力、问责对象上发挥重要作用(唐任伍,2018)。新兴技术伦理风险治理要始终坚持政府主导,充分发挥政府在治理过程中的主导作用,坚持科技伦理委员会的指导和统筹协调,保障科技伦理治理工作落实到位。需要指出的是,治理主体不局限于政府,高校、科研院所、科技企业、科技类社会团体、科研人员和社会公众等都是科技伦理的重要治理主体,需要调动各主体参与治理的积极性和主动性,实现政府主导下多元治理主体的共同参与。
(2)多元治理主体协同治理。实现各方治理主体精准发力和协同共治,一方面,要增强各方治理主体的治理责任意识。政府、高校、科技企业、科研人员、媒体、社会公众等要正确认知自身的科技伦理治理责任,切实履行伦理风险治理任务。另一方面,要加强治理主体间沟通交流,促进多元治理主体协同合作。建立信息交流平台,拓宽主体沟通渠道,建立协同合作机制,实现多元治理主体之间的沟通交流、资源互补与齐抓共管。推进政府主导下的多元治理主体协同共治,建构多元治理主体协同的网状治理结构,实现新兴技术伦理风险从单一分散管理向多元协同治理转变。
治理手段在治理任务中发挥关键“利器”作用,创新治理手段是提高治理效能的内在要求。面对新兴技术伦理风险治理任务,要以协同为核心,促进治理“硬手段”和“软实力”协同发展。
(1)加强新兴技术的科技伦理制度建设。我国新兴技术伦理风险治理起步较晚,科技伦理治理的制度化水平较低,因而要深化制度保障,落实规范化伦理治理。第一,加快新兴技术伦理风险治理的规范化和标准化建设。相关部门应尽快出台科技工作者伦理行为规范[25],制定新兴技术伦理规范和标准,为新兴技术研发和使用主体提供行为指导。此外,不同技术领域的科技伦理委员会、行业领域专家等要结合本研究领域特点,制定符合本领域的具体伦理规范和标准。第二,促进科技伦理审查监督的制度化建设。科技伦理审查监督要避免“走过场”,明确规定科技伦理审查监督的规则流程,科学设置科技伦理委员会工作机制,研究制定科技伦理委员会的具体职能。第三,推进新兴技术伦理风险治理的法治化建设。新兴技术伦理治理关键在于健全的法治保障[26],对科技创新行为进行强制性约束必须运用法治手段,利用法律权威保障科技伦理对科技创新行为的强制约束性。相关部门要细化和完善各领域相关法律法规,科学规范各类科技创新行为,帮助各级各类科研机构、广大科技工作者实现科技伦理框架内的制度依归。
(2)加强新兴技术伦理风险治理的“软实力”发展。第一,高度重视新兴技术伦理风险教育工作。高校学生群体是一支特殊的、潜在的科技工作力量,高校应围绕科技伦理教育主题开设相关课程和举办相关讲座等,增强学生群体对新兴技术科技伦理的重视程度,帮助学生群体树立正确的科技伦理观。此外,高校可利用自身教育优势,为国家和社会培养一支高素质、专业化的科技伦理治理人才队伍。科学制定新兴技术伦理风险培训机制,加强在职科技创新工作者培训,建立科技伦理长期培训和短期培训班,促进科技伦理培训工作日常化和持续化发展。将科技伦理培训纳为新人入职培训、学术交流探讨、科研任务设置的重点内容,全方位引导广大科技创新工作者实施负责任的科技创新行为。第二,积极落实新兴技术伦理风险宣传工作。社会公众是新兴技术的重要利益攸关主体,加强科技伦理宣传可有效增强公众的科技伦理意识,提高公众的科技伦理素养,以更好地发挥社会公众对新兴技术的监督作用。新闻媒体可加强对新兴技术伦理问题事件的报道,提高相关治理主体对科技伦理问题的关注度。相关学会、协会等应搭建科技伦理宣传平台,增加社会公众的科技伦理知识储备。通过科技伦理宣传教育工作的实施,促使社会公众高度重视科技伦理治理。
《意见》提出要“加强对科技创新中伦理问题的前瞻研究”。基于全生命周期视角,将科技伦理治理工作贯穿新兴技术研发应用全过程,对新兴技术伦理风险进行整体性、全方位审查监管,制定全过程的伦理风险审查监管体系,最大限度发挥科技伦理治理效能。
(1)“事前”的前瞻治理。前瞻性治理是指通过安排适当范围参与主体、调节特定沟通过程、使治理参与者转变或提升新兴技术风险认知,促进或放缓某类新兴技术应用发展脚步,最终实现新兴技术社会风险化解的技术决策方式[27]。在开展科学研究和技术开发等科技创新活动前,要加强前瞻性预测评估,将科技伦理作为科技创新研发的重要影响要素,开展负责任的科技创新活动。科技伦理委员会和科技创新工作者等要客观、审慎地对待新兴技术研发应用的伦理风险,对科技创新开展前瞻性预测评估,规避防范科技创新可能引发的伦理道德问题。科技创新要按照增强透明度、公开性、公正性等研发原则,鼓励相关利益攸关主体如社会公众合理参与,对科技创新可能引发的重大和敏感伦理问题进行探讨研究,促进社会公众参与科技创新伦理风险的前瞻性评估审查工作。
(2) “事中”的过程治理。加强过程治理能够有效促进新兴技术伦理风险治理的科学发展。在新兴技术研发应用过程中,实现政府、科学界、产业界、伦理学家和社会公众共同进行过程监督。科技伦理委员会、科技创新主体要对新兴技术研发应用的潜在伦理风险问题进行实时审查与动态监管,根据实际情况及时动态调整科技伦理原则和伦理规范,实现敏捷治理。充分发挥伦理学家的专业特长,促进科学家与伦理学家之间的交流合作,共同把好新兴技术研发应用过程中的伦理关。及时发现潜在伦理风险问题并进行有效治理,走“边发展,边治理”的科学治理之路,切实加强新兴技术伦理风险问题的“事中”过程治理,确保新兴技术研发和应用过程中始终坚守科技伦理底线,促进新兴技术造福人类长远发展。
(3)“事后”的结果治理。在新兴技术伦理风险治理过程中,治理主体既要打破“唯结果治理”的理念,也应高度重视“事后”的结果治理,以“结果导向”倒逼新兴技术伦理风险治理,增强人们对新兴技术伦理风险的警惕意识,提高新兴技术伦理风险治理实效。在新兴技术伦理风险治理视域下,结果性治理是指对违背科技伦理的违法违规行为进行严肃查处。相关单位要主动调查新兴技术的科技伦理违法行为,依法依规对违背新兴技术科技伦理的机构和人员追责问责、严肃处理。各地方、相关行业主管部门要加强对本地区、本系统科技伦理违规行为调查的指导监督,提高新兴技术伦理风险“事后”结果治理的规范化水平。基于新兴技术伦理风险的严峻性,加大对新兴技术科技伦理违法违规行为的惩罚力度,增强科学界、产业界对新兴技术伦理风险的防范意识。
新兴技术伦理风险治理涉及多个领域范畴,不只是科技领域治理工作,而要促进多维领域开展协同治理研究。此外,新兴技术风险具有全球性[28],全球化科技伦理治理是未来发展趋势。实现新兴技术伦理风险全球化治理已成为全社会共同呼声,促使新兴技术向善发展是人类社会亟待解决的重要课题。我国作为一个负责任的大国,理应彰显大国风范、担当大国责任,致力于推进新兴技术伦理风险全球治理。
(1)促进公共管理学、伦理学、法学等多维领域协同合作。新兴技术伦理风险治理问题涉及多维领域,实现多维领域协同合作能够有效提升其治理成效。当前,各领域专家学者都对新兴技术伦理治理展开研究,但存在疏离分散的现实问题,这很大程度上降低了治理研究成效。因此,针对新兴技术伦理风险治理问题,要加强多维领域之间的协同合作。建立多维领域协同合作治理平台,为各领域专家学者提供沟通交流渠道。各领域之间虽存在“知识鸿沟”,但是,在伦理治理问题上具有目标一致性且各具领域优势,可通过举办会议、学术对话等方式搭建多维领域协同合作平台。
(2)协同国际社会开展新兴技术伦理治理工作。第一,积极为发展中国家发声。随着全球化发展,低收入国家面临高收入国家伦理倾销的隐患。欧盟于2013年正式提出伦理倾销(Ethics Dumping)这一新概念,目前关于伦理倾销尚未形成统一定义,其可理解为因本国伦理审查严格而转移到伦理审查相对宽松的中低收入国家的具有较大伦理风险的科学研究[29]。中国作为世界发展中国家之一,不仅要警惕和避免发达国家对中国的伦理倾销,更要代表发展中国家发声抵制伦理倾销。第二,加强与国际社会交流合作。我国要加强与国际社会沟通交流,坚持开放合作理念,多渠道参与国际科技伦理治理问题讨论,推进我国参与全球科技伦理治理的广度与深度,为国际科技伦理规则制定提出“中国方案”,贡献“中国智慧”,在科技伦理全球化治理中发出“中国声音”。此外,在新兴技术伦理风险全球化治理过程中,各国政府之间需秉持平等、尊重、民主、互惠等原则,针对新兴技术伦理风险的全球化治理开展积极对话、平等协商、开放合作,建立新兴技术伦理风险全球化治理共商、共建、共享的合作交流平台,促进新兴技术高质量地惠及全人类。
当前,科技发展日新月异,新兴技术伦理风险日益凸显,运用科学高效的治理范式以提升新兴技术伦理风险治理效能十分必要。本文以协同治理理论为依据,阐释新兴技术伦理风险概念和基本特征,归纳总结现阶段新兴技术伦理风险的表现样态、生成缘由和管理问题,最后,提出实施新兴技术伦理风险协同治理路径。
本文以新兴技术为研究对象,开展伦理风险治理研究,突破了以往研究针对某一新兴技术如人工智能技术、大数据技术等伦理风险治理研究的局限性,对整个科技创新领域伦理风险治理工作具有宏观指导意义。此外,引入协同治理理论,提出协同治理范式,针对现阶段新兴技术伦理风险管理存在的单一分散问题,建构新兴技术伦理风险协同治理新体系,有利于提高新兴技术伦理风险治理的科学性和有效性。
[1] 习近平.加快建设科技强国实现高水平科技自立自强[J].求是,2022,65(9):4-15.
[2] 关于加强科技伦理治理的意见[N]. 人民日报,2022-03-21(001).
[3] 吴翠丽. 科技伦理与社会风险治理[J]. 广西社会科学,2009, 25(1):23-27.
[4] 陈雯,陈爱华. 低碳科技伦理风险审视[J]. 求索,2012, 33(1):58-60.
[5] 王慧媛,李鹏飞,徐丽娟,等. 基因编辑技术伦理治理探讨[J]. 中国科学院院刊,2021,36(11):1259-1269.
[6] 陈仕伟. 大数据技术异化的伦理治理[J]. 自然辩证法研究,2016,32(1):46-50.
[7] 陈一. 欧盟大数据伦理治理实践及对我国的启示[J]. 图书情报工作,2020,64(3):130-138.
[8] DE GEORGE S D, PAUL J H, GUNTHER S R E. Wharton on managing emerging technologies[M]. New York: John Wiley&Sons,2000.
[9] ROTOLO D, HICKS D, MARTIN B R. What is an emerging technology[J]. Research Policy, 2015,44(10):1827-1843.
[10] 陈爱华. 高技术的伦理风险及其应对[J]. 伦理学研究,2006,5(4):95-99.
[11] 谭九生,杨建武. 人工智能技术的伦理风险及其协同治理[J]. 中国行政管理,2019,12(10):44-50.
[12] 余秋莉. 论人体生殖系基因编辑行为的刑法应对——兼评贺建奎“基因编辑婴儿”案[J]. 法律适用,2020, 45(4):22-33.
[13] 单纯,叶茂. 刷脸识别中的技术伦理检视及法律规制[J]. 河南师范大学学报(哲学社会科学版),2022,49(3):59-67.
[14] 张溪瑨. 商用自动驾驶技术监管问题及对策——以特斯拉为例[J]. 中国科技论坛,2022,13(5):167-177.
[15] 韩洪灵,陈帅弟,刘杰,等. 数据伦理、国家安全与海外上市:基于滴滴的案例研究[J]. 财会月刊,2021,42(15):13-23.
[16] 施瓦布.第四次工业革命[M].李菁,译.北京:中信出版社,2016.
[17] 李旭,苏东扬. 论人工智能的伦理风险表征[J]. 长沙理工大学学报(社会科学版),2020,35(1):13-17.
[18] 李新苗,刘鸿宇,王珏. 基因编辑伦理的知识脉络与发展趋势[J]. 自然辩证法通讯,2020,42(7):1-9.
[19] DAY G.Wharton on managing emerging technologies[M]. New Jersey: John Wiley &Sons,2002.
[20] 杜严勇. 人工智能伦理风险防范研究中的若干基础性问题探析[J]. 云南社会科学,2022, 47 (3):12-19.
[21] 张乐. 新兴技术风险的挑战及其适应性治理[J]. 上海行政学院学报,2021,22(1):13-27.
[22] 陆象淦.西方学术界新动向——寻求新人道主义[M].北京:社会科学文献出版社,2005.
[23] 陈瑜,丁堃. 治理网络视角下新兴技术治理的社会公众角色演变[J]. 科技进步与对策,2018,35(5):1-7.
[24] 陈书全,王开元. 国家治理视域下科技伦理审查的制度路径[J]. 科技进步与对策,2022,39(18):110-120.
[25] CALLAWAY E. South Africa′s san people issue ethics code to scientists [J]. Nature ,2017,149(7):475-496.
[26] 田亦尧,李欣冉. 科技伦理治理机制的法治因应与逻辑转换——由生物技术科技伦理规制问题展开[J]. 科技进步与对策,2021,38(2):121-127.
[27] 陈瑜,马永驰. 新兴技术社会风险化解的前瞻性治理特征[J]. 科技进步与对策,2022,39(10):122-130.
[28] 丁大尉,李正风,胡明艳. 新兴技术发展的潜在风险及技术治理问题研究[J]. 中国软科学,2013,28 (6):62-70.
[29] 周森,许小委. 科研伦理倾销的概念辨析及其启示[J]. 科学管理研究,2019,37(6):29-35.