开放科学(资源服务)标识码(OSID)：
This study adopts a qualitative, theory-building approach grounded in the synthesis and critical analysis of extant literature. It systematically reviews and deconstructs the current body of knowledge on AI application social risks, identifying dominant paradigms, thematic evolution, and methodological trends through conceptual analysis. The core analytical framework is derived from knowledge production theory, which is used to interrogate the knowledge system concerning AI risks by examining elements such as knowledge producers, instruments of production (research methods), and productive relations (academic ecology). To ground the theoretical discussion and demonstrate the proposed framework's utility, the study conducts an in-depth secondary analysis of two representative case studies in the domain of autonomous driving, involving Tesla vehicles in Florida(2016) and California (2018-2019). These cases are analyzed through the newly constructed framework to illustrate the multidimensional and dynamic nature of AI application risks.
The analysis reveals serious systemic flaws in how the social risks of AI applications are understood from the perspective of knowledge production. Ontologically, research on this topic is fragmented: technological determinism foregrounds inherent technical flaws such as algorithmic bias and data errors, whereas social constructivism emphasizes algorithmic myths and ethical conflicts; this dualism results in a reductive and static view of risk that overlooks its emergent nature arising from the dynamic interplay among technology, institutions, and human cognition. Epistemologically, deep disciplinary silos separate computer science, management, law, and the humanities, leading to disconnected research themes, non-communicating discourses, and a lack of genuine interdisciplinary collaboration, further exacerbated by the monopolization of academic capital like computing power and data, path dependency in disciplinary practices, and evaluation systems rooted in Utility theory. Methodologically, quantitative studies often exhibit "computational worship" by neglecting social context, while qualitative studies frequently lack sufficient empirical grounding, and integrated mixed-methods approaches remain rare and poorly executed.
To address these issues, the study proposes a comprehensive framework for transforming the cognitive pathway toward understanding AI-related social risks. Ontological reconstruction calls for shifting from a substantialist to a relational ontology, reconceptualizing risks as emergent phenomena produced through the dynamic coupling of embodied technology (which reshapes human perception and action), embedded institutions (which provide constraints and possibilities), and situated social contexts (which confer meaning). Epistemological transformation involves fostering collaborative knowledge production through a reflexive turn in technical sciences,such as embedding value-sensitive design,engaged research in the humanities and social sciences like lab ethnography, and the development of interface governance paradigms in management science to evaluate the alignment between technology and socio-organizational systems. Methodological innovation entails building a dynamic governance framework that includes multidimensional monitoring, adaptive assessment using dialectical models encompassing technical, normative, and interpretive dimensions, agile response through a spectrum of intervention strategies, and organizational learning via double- and triple-loop mechanisms. Institutional reformation aims to revolutionize knowledge production relations by redistributing academic capital to break monopolies over computation and data, cultivating interdisciplinary hybrid cultures, and establishing experimental governance regimes such as regulatory sandboxes and scenario-based testing. A case analysis of autonomous driving accidents vividly demonstrates these dynamics, revealing how risks emerge from the coupling of environment, technology, and perception, how knowledge claims are contested among manufacturers, regulators, and users, and how methodological and institutional gaps impede effective risk governance.
开放科学(资源服务)标识码(OSID)：
随着人工智能技术的迅猛发展,其已深入到经济、政治、军事、环境等各个领域,人工智能技术在赋能社会变革的同时也为社会治理与人类发展带来新的风险,人工智能风险治理已成为保障国家安全面临的重要议题。党的二十届三中全会强调“建立人工智能安全监管制度”。本文中的人工智能应用社会风险是指人工智能技术在不同社会领域应用过程中,其技术特性与社会结构、制度环境、行为模式等通过相互作用引发的多维度不确定性,其不仅包括直接的技术风险(如算法偏差、隐私泄露等),还涵盖由技术嵌入社会运行机制产生的间接风险(如伦理冲突、道德风险等)。
技术应用社会风险早在工业时代和信息化时代便展开过广泛而深入的讨论[1]。技术应用社会风险本质上是新技术在嵌入、融进、变革现有社会秩序和生产关系时引发的暂时性不适、冲突和不确定性,其生成机制和技术属性与社会反应均有关联[2]。因此,对技术应用社会风险的研究存在技术决定论与社会建构论两个流派,二者共同构成技术社会学的主流解释范式。其中,技术决定论强调技术作为客观规律的自然属性,认为技术可独立于人与社会而发展[3]。社会建构论则强调社会情境条件的作用,认为新技术的形成、发展和应用离不开人的选择和社会条件的支持[4]。在技术决定论下,技术应用社会风险的生成有其客观性,风险治理具有工具理性;在社会建构论下,技术应用社会风险的生成与人类主观认识与操纵有关,风险治理具有价值理性。
目前,关于人工智能应用社会风险的研究多围绕技术决定与社会建构两个方面展开。从技术决定论视角看,该流派认为人工智能应用社会风险主要来源于数据枯竭、计算误差、技术黑箱等[5],并认为算法模型漏洞、有组织的算法攻击以及算法迭代落后等人工智能技术层面风险在应用过程中会引发社会安全风险,由此危及国家安全与社会稳定[6];从社会建构论视角看,该流派认为人工智能技术应用社会风险产生的根源在于算法迷思文化,在这种算法迷思文化的引导下,人工智能技术应用会引发社会公众对算法的非理性认识与危害性应用,从而造成伦理与道德风险[7]。
上述两种研究范式为理解人工智能应用社会风险提供了参考,但也存在一些不足:首先,社会决定论强调技术的自主性与内在逻辑,认为技术发展不可逆且决定社会变迁,其过度聚焦技术属性本身,忽视了技术嵌入社会情境存在的制度约束、文化差异与人类能动性;其次,社会建构论则更注重社会、制度、文化对技术发展路径的塑造与规训,强调技术是社会过程的产物,但低估了技术特性所带来的结构性冲击与跨情境扩散效应。尤其是在人工智能应用的人机交互领域,人与机两大要素本身就具有高度复杂性,而二者交织所产生的风险来源具有多样性与动态性。所以,上述任何单一范式都难以对人工智能应用社会风险生成机理与扩散路径作出完整解释。
鉴于人工智能应用社会风险本身是一个科学研究过程,而科学研究的本质在于知识生产,故本文引入知识生产理论,对现有风险认知体系进行过程性反思与结构性改进,在本体论、认识论与方法论3个层面突破单一范式研究局限,构建一个更具整合性与解释力的人工智能应用社会风险认知框架。采用知识生产理论视角意义主要体现在以下两个方面:第一,数智化时代,知识生产仍立足于实践场景[8]。知识生产是人类对世界客观规律的认知,既体现了世界规律性运行的本体论范畴,又体现了人类能够认识规律的认识论范畴。人工智能技术应用情境中,本体论和认识论一体两面的关系融合了技术决定论和社会建构论的观点。第二,知识生产理论考察生产者、劳动工具、生产资料、生产关系等要素及其参与知识生产的作用[9],将该理论引入人工智能应用社会风险研究情境,有助于捕捉社会风险形成—表现—认识的完整路径,并思考社会风险形成机制。由此,不仅可以更加充分地考察人工智能应用社会风险的主观性特征,还能够评估主观性因素对认识、预防、治理人工智能应用所产生的可能性影响。
鉴于此,本文以知识生产理论为视角,对当前人工智能应用社会风险研究进行梳理,重点考察人工智能应用社会风险认识主体、过程、社会条件等要素在本体论、认识论与方法论层面的结构性局限。在此基础上,通过对人工智能应用社会风险进行分析,优化人工智能应用社会风险研究体系。本文理论贡献主要体现在以下两个方面:①基于知识生产理论,对现有人工智能应用社会风险研究进行反思,揭示其范式局限与逻辑断裂;②提出整合性认知路径及改进思路,为风险识别、解释与治理提供理论支撑。
“什么是知识以及如何生产知识”是知识论领域的核心议题[10]。知识论包括本体论、认识论、方法论,这也是哲学体系的三大支柱。在本体论视角下,知识是客观存在的事实以及人类对这些事实的理解和解释,知识描述了现实世界中实体之间的客观联系。知识的本体被认为是关系,在知识体系中甚至被归纳为因果律。相较于本体论,认识论更强调知识生产主体的主观性,认为知识虽然是客观的,但知识的认知与获取是主观归纳或演绎的过程[11]。因此,知识生产过程对知识体系建构具有深刻影响,科学知识生产具有社会建构特征。方法论则试图弥合本体论与认识论之间的“鸿沟”,强调在开发和应用规范程序及科学方法的基础上获取更加具有效度和信度的认知。综合本体论、认识论和方法论可知,优化人工智能应用社会风险研究体系的关键点在于:第一,从本体论视角深度考察人工智能技术本身的属性特征及其影响因素,归纳人工智能应用技术漏洞;第二,从认识论视角剖析知识生产主体在认识、利用、适应、应对人工智能技术、产品与服务时的系统偏差及能力局限,理性审视人类理解与掌控人工智能技术的真实水平;第三,从方法论视角探索人工智能应用社会风险认识、评价、防控、治理方法,生成具有效力的方法论体系。
与物质生产类似,知识生产也是一种社会活动。知识生产过程同样需要生产者、劳动对象、生产资料、生产工具的支持。知识生产者会经历从个体向集体、从实体向虚拟的演变过程。在古代,知识生产与传播的动力主要源自个体兴趣,从事脑力劳动的个体往往是贵族或士大夫,他们是社会中的少数群体。进入到现代社会,知识分子成为社会发展的中坚力量,知识生产与传播活动规模不断扩大,知识共同体成为知识生产、传播与应用的主体,集体技术攻关和有组织科研成为知识生产的高效形式[12]。人工智能时代知识生产主体出现两个变化:一是人工智能体与人类个体以人机融合形式共同参与知识生产和发现;二是知识共同体从线下搬到线上,实现全时、全域、全员生产协作,以问题为导向的学科交叉研究显著增多[13]。
人工智能时代,知识生产过程的劳动对象(知识自身)发生改变,拥有了新特征。第一,低价值密度。知识大爆炸使得知识规模呈指数级增长,但知识所映射的实体空间价值增长较为缓慢,这使得单位知识所带来的边际价值产出减少,价值密度降低。第二,迷惑性。人工智能时代知识生产者数量增多,甚至人工智能体也能参与知识生产与传播,这使得知识在虚拟空间被大规模、高频次迭代,这种迭代存在往复、失真、掺假等现象,使得失效知识、虚假信息比例增大,同时知识验证、判断和评价难度也加大[14]。第三,要素属性。在过去,知识生产依赖于人类中有创造力的个体,他们以格物致知的形式实现知识从0到1的发现和掌握。人工智能时代,人工智能助力更大规模、更加智慧、更高效率的数据计算和逻辑推理,使得现有知识持续重构、组合并产生新知识,实现知识体系从1到N的扩展[15]。知识取代智力成为知识生产过程的核心要素,让知识生产过程更加生生不息。换言之,在知识生产—分配—交换—消费—再生产循环过程中,知识是维持系统循环的重要资料,知识既是劳动对象也是生产资料。正如野中郁次郎SECI模型指出,知识在显性知识与隐性知识的持续转化中实现创生[16]。
人工智能应用还改变了参与知识生产过程的生产工具,或者说人工智能技术与产品本身成为新型知识生产工具,提升了知识生产力[17]。例如,各种人工智能平台已成为企业组织战略决策、商业运营、生产智造的有效工具,帮助企业提高决策效率、降低运营成本、提升产品质量,在传统产业价值链基础上实现能力提升和价值赋能;生成式人工智能工具在科学研究、文化传播、商业策划等领域被广泛应用,成为知识工作者节约知识搜索时间和提高工作效率的利器。人工智能时代知识生产力提升又会倒逼生产关系转型升级[18]。一方面,人与机器的关系被重塑。加载人工智能体的机器能够实现自动化与智能化生产,对劳动者干预和操控的依赖性减弱。另一方面,人类个体受人工智能思维的影响,其决策思想、发展模式、价值理念发生改变,人与人、人与世界的关系也发生转变,社会结构与秩序在无形中重建。
借鉴知识生产理论,本文从生产者、劳动对象、生产资料、生产工具、生产关系等视角审视和思考“应如何认识人工智能应用社会风险”。从本体论视角,人工智能技术在社会生产中的应用本身是一个知识生产过程,在这一过程中会出现很多客观意义上的风险;从认识论视角,人工智能应用社会风险研究也是一个知识生产过程,研究者认识偏差存在一些主观意义上的风险。客观风险与主观风险之间既存在镜像关系,同时又构成人工智能应用社会风险整体。此外,厘清人工智能应用社会风险依赖于科学方法,但方法的科学性本身又有主观性,因此不同研究方法会给人工智能应用社会风险知识体系带来新的不确定性。
(1)本体论视角下人工智能应用社会风险。从本体论视角出发,当人工智能体作为生产者参与知识生产过程时,会引发伦理风险(人工智能体对人类社会伦理与道德的侵蚀)、法律风险(权益与责任难以界定和归属)、道德风险(恶意数据篡改、入侵、泄露与滥用)。当人工智能技术作为劳动对象时,可能会引发资本风险(人工智能技术发展与应用受资本控制与操纵)、技术缺陷风险(技术不成熟产品应用存在不确定性和不安全性)。当人工智能技术作为生产资料时,会引发数据质量风险(数据污染、失真、缺陷)、信息风险(信息异化和信息茧房)。当人工智能技术作为生产工具时,会引发操作风险(人工智能工具选择与使用不当)、侵权风险(人工智能工具被滥用而侵犯他人权益)、产品安全风险(人工智能产品设计、制造、交易和服务过程存在安全质量问题)。当人工智能技术反作用于生产关系时,会加剧社会结构变迁,引发各种社会问题,如社会失序、伦理失范、失业加剧、公共安全受到威胁、舆情危机增多等[19]。以上风险存在于人工智能应用的各种现实场景,会威胁到人工智能应用过程与成效,对社会可持续发展产生不良影响,因此要加强研判、防控和治理。
(2)认识论视角下人工智能应用社会风险。从认识论视角出发,随着人工智能技术的兴起、应用与发展,关于人工智能应用社会风险的认识发生改变。基于对人工智能应用社会风险的思考,学界开展了社会情境、技术发展、生产流程、制度规范等多维度研究。然而,受限于学者的技术背景、实践经历、知识结构和经验储备,他们在思考人工智能应用社会风险时多用过去的知识与经验作出评判,导致学术研究成果存在一定程度的碎片性、片面性、主观性,使得认识论与本体论视角下的人工智能应用社会风险存在一定偏差。这种认识偏差作用于人工智能应用社会风险防控与治理时,又会带来新的风险。
(3)方法论视角下人工智能应用社会风险。从方法论视角出发,对人工智能应用社会风险的认识与研究存在两个悖论:第一,如果不落实到现实层面,而仅仅采用演绎逻辑和思辨方法讨论人工智能应用社会风险,将会使研究浮于表面;若落实到现实场景,人工智能应用社会风险研究则需依赖大数据采集和智能分析工具,这就意味着研究风险的工具与产生风险的对象在本质上为同源同构,由此将出现“以子之矛攻子之盾”的悖论难题。第二,若不分析人工智能应用社会风险结构,那么研究成果将很难指导实践。然而,对人工智能应用社会风险展开评价需要有具体评价标准,而任何指标与标准都依赖于过去经验,这就导致难以准确评价具有前瞻性、前沿性的人工智能技术应用的潜在影响。换言之,当缺乏经过实践反复检验的评价标准时,将难以判断人工智能应用社会风险的全面性、准确性与价值性。
本文通过对人工智能应用社会风险研究进行分析,发现当前研究体系存在3个特征,显示出该研究领域尚不成熟。
(1)学科缺乏交叉融合。目前,涉及人工智能应用社会风险的学科主要为计算机科学、管理学、法学领域,其中计算机科学领域重点研究人工智能应用所产生的技术风险[20],管理学侧重于探究人工智能应用所产生的产品安全风险和制度风险[21],法学则集中于讨论伦理道德风险和产权风险[22]。人工智能应用社会风险学科交叉与融合尚未大规模呈现,尤其是以计算机学科为主导的技术风险和以管理学、法学、教育学为主导的社会情境嵌入风险两类交叉研究较少。
(2)研究主题分化。通过对文献进行梳理发现,人工智能应用社会风险存在两个较为明显的演进阶段:①2020年以前,关注技术安全与算法伦理的研究占据主流地位,人文社科领域研究较少;②2021年以后,治理视角下的人工智能应用社会风险研究开始蓬勃发展。研究主题上,前一阶段研究重点关注人工智能技术的异化,如算法权力异化[23];后一阶段研究开始讨论人工智能技术冲击下的制度失范(如对知识产权制度的影响[24])和认知颠覆(如生成式人工智能技术对人类认知与工作模式的挑战[25])。然而,两类主题研究关联度较小,知识生产碎片化问题严重。
(3)方法论鸿沟。技术决定论和社会建构论研究范式在方法论上存在鸿沟:前者偏好于量化模型与方法,而后者多集中于规范分析与思辨研究[26]。两种不同的方法论使得研究成果之间缺乏整合、互通,如计算机等理工学科偏好风险预测模型,但鲜有研究包含社会公平性参数;管理学、法学、科技哲学研究则较抽象化和概念化,多数批判理论应用未超越既有研究框架。
技术决定论和社会建构论的争论在当前研究体系中表现明显,主要原因在于理工与人文两类学科研究者话语体系有别。在现代知识生产体系下,个体很难学习和掌握多个学科知识,学科细化和知识分工提高了科研工作者在专业领域的研究深度,限制了他们对知识进行搜索、吸收和表达的宽度。当前,知识生产体系在认识框架、方法论与实践效度层面存在三重困境:
2.2.1 认识框架的学科割裂
(1)技术视角扩张导致解释偏差。多数研究将人工智能应用风险归因为技术固有缺陷,陷入物质类比谬误,如将算法偏见与种族歧视、性别歧视相关联[27],抑或将数据网络分析的机械化问题类比为科层制弊端[28]。这种还原论思维导致人工智能应用社会风险分析陷入技术具象化,忽视了技术—制度—认识的协同作用以及社会情境条件对人工智能应用风险的影响。例如,自动驾驶事件中的风险与伦理问题受到学者广泛关注,但鲜有研究关注自动驾驶事故发生的技术故障、责任划分与公众风险容忍等[29]。
(2)传统理论框架适应性不足。人工智能应用风险伦理学研究存在双重滞后性:①在理论层面,多数讨论仍局限于康德义务论与功利主义框架,难以应对道德物化等新现象[30];②在方法层面,较多学者将风险源头归结为工业时代和数字时代的文化相对性问题,缺乏可操作的治理工具设计[31]。鲜有研究讨论道德嵌入技术架构的问题,且未突破传统规范伦理学的理论边界[32]。
(3)跨学科合作的结构性失衡。跨学科合作网络呈现结构性不足:理工学科掌握方法主导权,人文学科多为价值注释者。本文对文献进行梳理发现,理工学科和人文学科学者合作发文较少,导致目前人工智能应用风险治理方案存在适用性不足的问题。即理工科学者治理方案仅关注模型优化而忽视应用场景需求与行业标准迭代,人文社会科学学者治理方案落地难度较大。
2.2.2 方法论的实践脱嵌
(1)缺乏量化研究的社会情景。在技术决定论研究中,很多风险预测模型将预测精度等同于认识深度,鲜有模型考虑认识偏差的技术嵌入性[33]。这种工具理性扩张导致研究方法的使用与现实情景脱节,如在医疗领域人工智能风险研究中,多数模型都采用受试者特征曲线(ROC)评估医疗诊断的准确性,鲜有研究考虑医患关系问题[34]。
(2)质性研究证据不足。人工智能应用社会风险人文社科研究尚处于起步阶段,多数研究均通过思辨方法和质性方法进行探索性分析,导致这类研究面临双重效度危机:在方法层面,多数算法未通过伦理审查委员会审查,很多访谈资料缺乏严格的三角验证;在理论层面,批判性理论分析视野狭隘,往往忽视了人工智能应用实践场景中存在的具体风险问题。
(3)缺乏混合方法整合机制。虽然有学者尝试量化与质性方法的混合应用,但多为简单叠加,来自实践场景的量化数据与受访谈和思辨驱动的质性探索研究缺乏有机整合。例如,在人工智能算法歧视领域,鲜有研究建立人工智能技术参数与社会效应(如就业机会剥夺)之间的因果链[35]。
2.2.3 知识转化的制度阻滞
(1)知识生产的资本垄断。人工智能应用社会风险研究与其他研究领域不同:对于理工科学者而言,其不仅需要强算力资源重点实验室支持,还需要社会应用场景的加持,导致这一领域开展高水平研究存在一定壁垒[36];对于人文社会科学学者而言,这种进入壁垒使其难以深入观察与认识人工智能社会应用,对很多问题的探索只能停留在思辨与构想层面。本文通过对发文量进行统计发现,有重点实验室支持的算力垄断机构年均发文量是普通机构的近6倍,其通过数据—论文—项目闭环机制形成这一领域的学术卡特尔。例如,人工智能技术应用中的深度学习研究几乎都来自10家机构,学术资本垄断导致知识生产同质化问题。
(2)科研管理的认识规训。本文通过对国家自然科学基金和国家社会科学基金项目进行统计发现,多数研究课题都遵循技术治理框架,批判性研究较少。在国家级项目评审中,技术绩效导向明显,评价体系会设置各种技术参数,忽视了对前瞻性深度认知观点的输出。例如,算法审计研究强调模型可解释性,导致研究问题窄化。
(3)知识传播的生态断裂。目前,尚未建立人工智能应用社会风险多学科交叉体系,使得很多学术成果只能在小圈子内传播。学术成果转化通道存在结构性梗阻,技术白皮书与政策文件术语重合度低,多数人工智能应用社会风险治理方案多关注技术先进性和有用性等参数,缺乏治理方案落实的成本—收益分析。例如,在欧盟《人工智能法案》制定过程中,学术界贡献较低,暴露出学界与政界对人工智能风险治理存在严重的知识流动壁垒[37]。
综上,影响人工智能应用社会风险的因素较多,包括技术维度的复杂性与高壁垒、方法维度的范式差异与融合困境,以及学术生态维度的学科分化与权力异化。在这一知识生产系统中,生产力和生产关系出现矛盾:当生产力已经进入到人工智能时代的特殊技术场景时,生产关系却还停留在传统模式,尚未作出适应性变革和技术性嵌入。因此,人工智能应用社会风险研究学术生态亟待优化。
(1)学术资本分配的算力垄断。基于布尔迪厄场域理论,算力资源正成为新型学术资本。重点实验室和大型互联网企业通过计算机硬件集群等物质资本和数据集等符号资本,在数据密集型研究中占据垄断地位。这种资本形态导致知识生产的马太效应,即人工智能应用社会风险研究投入、产出、传播和应用呈集中化趋势,仅有少数机构获得在人工智能应用领域的学术话语权。
(2)学科惯性的路径依赖。不同学科在科研文化与学术范式方面的差异会对其认识惯性形成锁定效应。例如,理工学科善于延续先设计再优化的工程思维,而人文社会学科则侧重在批判的基础上再解构的阐释传统。在代际层面,人工智能技术应用的新兴特征使其社会风险研究差异较为突出:青年学者成为交叉学科研究的主要推动力量,而资深学者的自我调整机制比较缓慢。青年学者与资深学者带来人工智能应用社会风险的方法论分化,其中青年学者更倾向于采用计算方法,而资深学者更擅长顶层思考和逻辑思辨。
(3)制度环境的认识规约。制度是引领生产关系转型的主要力量,我国科研生态受科技制度、教育制度、人才制度的影响。国家科研管理制度和人才评价制度中的短期导向和量化追求,催生出策略性知识生产行为。例如,在人工智能算法偏见研究中,多数学者选择人脸识别等量化场景[38],而回避招聘算法等复杂社会场景,这在一定程度上影响了学术研究深度。
传统研究对人工智能应用社会风险的认识受困于实体论思维,将风险视为技术系统的固有属性或社会结构的被动映射。这种认识范式割裂了技术物质性与社会建构性的内在关联,导致风险分析陷入本质主义与相对主义的二元对立。要突破此困境需转向关系论本体观,将人工智能应用社会风险生成机制视为技术—制度—认识三维动态耦合的结果。由此,人工智能应用社会风险既非简单的技术缺陷外显,也非纯粹的主体认识投射,而是技术系统自组织性、制度环境适应性、主体实践反思性三者协同演化的复杂产物。这种转向要求研究者超越主客二分认识传统,在动态交互网络情境中重新定位人工智能应用社会风险的本质属性。
从现象学视角出发,需构建具身—嵌入—情境的人工智能应用社会风险认识范式。从具身微观维度看,技术人工物,即人为实现某种目的所创造的技术产品与系统,其具身性特征不再被视为中性载体,而是深度重塑着主体知觉与行为模式的认识界面。不同于传统范式将技术视作工具客体,新范式更强调人工智能技术在使用过程中如何对使用者认知和行为产生影响。从嵌入中观维度看,制度框架的嵌入性特征构成风险生成的约束条件与可能性空间。不同于传统范式注重技术指标,新范式更加突出现有制度和组织体系是否与人工智能实际技术逻辑相兼容。从情景宏观维度看,社会情景的历史性特征为人工智能应用社会风险认识提供了意义锚点。传统范式强调普适性的风险治理方案,新范式则根据具体情景实施差异化治理方案。上述三者共同构成风险拓扑结构,其动态张力影响风险形态的显隐与转化。这一范式打破了技术决定论与社会建构论的认知窠臼,为风险分析提供了更具解释力的理论工具。
学科壁垒导致的认识碎片化本质上是现代性知识生产模式与人工智能风险复杂性之间的结构性矛盾。构建跨学科协同知识生产体系,需实现三重认识论突破:
(1)技术科学的反思性转向。突破工具理性的支配地位,在人工智能技术研发与应用中嵌入价值敏感性设计的认知维度。这要求技术文档不仅要记录算法参数与性能指标,还需系统阐明技术选择的价值预设与社会影响。通过制度设计,使人工智能系统达到可追溯、可审查、可干预标准,实现技术透明性与伦理责任的内在统一。
(2)人文社会学科的介入式研究。人文社会科学学者需改变传统批判理论的旁观者立场,探索参与式行动研究方法。通过构建实验室等介入工具,将哲学反思嵌入人工智能技术开发流程,实现价值批判与技术实践的实时对话[39]。在此过程中,抽象伦理概念被转化为可操作的技术参数,形成从概念迁移、技术实现到效果评估的认识闭环。
(3)管理学科的界面治理。管理学科要发展社会技术系统理论指导下的界面治理范式,聚焦技术系统与组织制度、文化传统、权力结构的适配性,构建包含技术复杂度、组织吸收能力、制度兼容性、文化容忍度的多维度人工智能应用社会风险评估模型。这一模型要超越简单的技术移植思维,在系统交互的动态过程中识别人工智能应用社会风险生成的关键节点。
传统风险治理线性思维方式难以应对人工智能系统社会风险涌现特征,亟需构建监测、评估、响应、学习的动态风险认识与治理框架。
(1)构建人工智能应用社会风险监测体系。该体系包括技术(如算法偏差和数据漂移)、制度(如法律滞后和标准缺失)、认识(如公众信任和伦理冲突)等维度,关注技术系统的异常性波动、制度环境的适应性缺口、主体认识的结构性转变等问题,辅助早期阶段的人工智能应用社会风险识别、认知和预警。
(2)开发适应性评估辩证模型。该模型需突破新技术应用成本收益分析的传统逻辑,将技术系统的物质性风险(如算法歧视)、制度结构的规范性风险(如责任真空)、认识框架的解释性风险(如意义危机)纳入统一框架,探索立体化与动态化的人工智能应用社会风险评估方法。
(3)生成敏捷响应的谱系策略。构建包含预防性规制、适应性治理、实验性干预的人工智能应用社会风险治理工具箱,根据风险类型、传播速度、影响范围等动态特征灵活配置规制强度与干预节奏,形成具有柔性和包容性的人工智能应用社会风险响应与应急管理体系。
(4)打造组织学习双环机制。在单环学习(优化现有治理参数)的基础上,发展双环学习(重构治理范式)与三环学习(革新认识框架)递进机制,构建反事实推演—认知冲突模拟—范式挑战学习路径,持续打破学科惯性与制度惰性形成的认知锁定效应。
知识生产系统的结构性矛盾本质上是现代学术制度与后现代知识形态的深层冲突,破解此困境需要制度层面的三重变革:
(1)学术资本重构。打破算力垄断形成的新型学术霸权主义,建立算力共享体系与数据交易市场体系。优化学术贡献导向的人才多元评价体系,将治理方案采纳率、社会影响转化度等指标纳入学术资本积累机制,重塑科研工作者与机构开展知识生产活动的价值导向。
(2)学科文化融合。构建基于科技哲学的复合型人才培养体系,重点培育人工智能应用社会风险研究人员的技术理解力、制度设计力和伦理判断力。建设跨学科实验室、协同治理合作研究团队、人工智能体行为实验室等新型知识生产空间,培育知识结构更为健全和认识能力更加强大的学术研究共同体。
(3)治理实验的演化。建立人工智能应用社会风险实验研究体系,包括人工智能技术伦理压力测试、人工智能风险监管沙盒适应性实验以及人工智能社会风险治理方案场景验证等[40]。通过实验数据的跨层反馈与知识迭代,在虚拟化经验积累中找到快速提升认识人工智能应用社会风险的路径。
本文选择智能驾驶技术作为人工智能应用社会风险的典型案例领域,主要基于以下考虑:智能驾驶技术发展迅速且在实际应用中安全风险较为突出,能够更准确地反映人工智能技术与社会环境互动所产生的复杂风险问题。智能驾驶作为高度依赖感知、决策与执行系统的智能化应用,其运行环境动态多变,涉及技术性能、人机交互及制度监管等多维因素,是检验人工智能应用社会风险进路的理想实践场域。本文选取2个智能驾驶事故案例,分别代表人工智能应用风险中的不同主题:案例1为2016年美国佛罗里达州特斯拉事故,反映复杂环境条件下人工智能系统感知能力不足,分析技术与环境耦合风险生成机制;案例2为2018年美国加州特斯拉事故,呈现驾驶员行为、系统预警与责任认定之间的复杂关系,揭示风险认知过程中多方利益与话语权的博弈。通过这2个代表性案例,从多角度、多层次考察智能驾驶领域人工智能应用社会风险的本体论特征、认识论困境、方法论挑战及制度治理需求,以为推动人工智能风险认识与治理框架构建提供启示。
(1)案例1:环境感知失效。2016年,美国佛罗里达州一辆超速行驶的特斯拉Model S智能驾驶汽车未触发警报与制动,司机也未采取避险操作,与横穿公路的拖挂车相撞。经调查,天空中明亮的光线照射致使智能驾驶功能和驾驶员均未发现拖挂车的白色面板,因而刹车功能未能启动。特斯拉公司负责人强调,雷达将白色拖挂车检测为路面交通信号,认为事故原因与特斯拉智能驾驶系统无关,这种将智能驾驶事故隔离在环境之外的风险认识存在一定片面性[41]。
(2)案例2:认知冲突与制度滞后。2018年,一辆特斯拉智能驾驶汽车在美国加州山景城发生车祸,事故原因为驾驶员双手离开方向盘且超速行驶。然而,数据记录显示,智能驾驶系统在事故发生前曾多次提醒驾驶员的手不能离开方向盘[42]。而对该事故认定的看法,部分社会人士与特斯拉公司所持观点相反。部分社会人士认为,特斯拉的广告宣传内容可能使驾驶员对智能驾驶系统产生了过高预期,而特斯拉公司则认为事故责任主要在于驾驶员驾驶不当。这一认知冲突引发了一场关于特斯拉在此事故中应承担多大比例责任的舆情讨论,他们认为将人工智能应用风险仅归因于技术风险存在一定片面性。从表面上看,舆情讨论是认知冲突的表象。更深层次看,则是制度滞后的结果。
为更好地揭示智能驾驶安全风险多元生成机制与认知困境,本文基于两个智能驾驶典型案例,从本体论重构、认识论转型、方法论创新、制度重建4个方面进一步作出阐释。
(1)本体论层面:风险动态涌现和感知与情境耦合。从本体论视角看,人工智能应用社会风险不应被简单视为技术缺陷或社会结构的单一映射,而是技术系统、物理环境及主体行为之间动态耦合的复杂结果。技术感知系统与物理环境的相互作用是风险生成的本质,感知与情境耦合则是风险分析的核心范式。此视角突破传统技术决定论与社会建构论的二元对立,聚焦复杂系统内部关系网络与非线性反馈,强调风险形态的动态生成与转化。2016年,佛罗里达州特斯拉事故不仅是技术感知失效的典型案例,更深层次体现了人工智能系统在复杂动态环境中对外部变量敏感性感知的不足。白色拖挂车因光照条件被误判为路面交通信号,反映出训练数据集对多样性环境感知的不足以及算法对极端情境泛化能力的感知受限。此外,驾驶员未能及时察觉风险,凸显出技术与人类认知的双重盲区。特斯拉公司将事故归咎于环境因素,试图将风险隔离于技术之外,这种分离式认知忽视了技术与环境的互动关系,导致风险治理策略出现失衡。这种误判不仅源于技术局限,更是对现实环境复杂性的直接反映,体现了感知—情境耦合不充分导致风险涌现的典型特征。案例显示,技术系统在特定环境下的失效不是孤立事件,而是技术、环境、主体多因素交织的结果,强调本体论层面应将风险视为系统关系网络中的复杂现象。
(2)认识论层面:多主体知识生产与认知协同挑战。从认识论层面看,人工智能应用社会风险知识生产受学科壁垒、信息不对称及利益相关方认知分歧的影响。风险知识生成是多主体、多学科协同的动态过程,涉及厂商、监管者、用户及公众之间的权力互动与认知博弈。通过开放透明、跨学科合作与多方参与,能克服知识碎片化与认知冲突。2018年美国加州山景城特斯拉事故所引发的争议凸显了知识生产过程中多主体认知冲突。厂商强调其智能驾驶系统符合设计规范,且多次对驾驶员发出提醒,体现了其对风险预警机制的重视;而家属和公众则质疑系统未能防止事故的发生,怀疑技术缺陷或设计不足。此种认知冲突反映出知识生产权力结构与话语权的争夺,厂商掌握核心数据和技术参数,信息透明度不足,限制了第三方独立验证和公众风险理解,形成知识碎片化的典型困境。该事件暴露出认知层面信息闭塞和多方协调不足的治理漏洞,强化了跨学科、跨主体合作生产综合风险知识的必要性。多个利益相关方协同参与,是提升风险认知科学性和全面性的关键。
(3)方法论层面:动态监测与适应性风险治理体系。方法论层面强调构建包含监测—评估—响应—学习闭环的动态风险治理体系,以突破传统线性风险评估方法的局限性。风险监测体系应覆盖技术性能、环境变量及用户行为等多维指标,评估模型需具备适应性和辩证性,治理策略需实现敏捷响应和持续改进,以提升风险预警和干预效率。上述案例反映出当前风险监测体系在技术与环境交互复杂性方面的不足。2016年事故暴露出智能驾驶系统对特定环境变量(强光反射、色彩混淆)缺乏有效监测,未能实现早期风险预警。2018年事故中驾驶员操作行为与系统预警信息不匹配,提示人机交互设计存在断层,因此监测指标需涵盖对用户行为的实时反馈以及对系统提示的响应。两起案例均显示过度依赖厂商内部数据的风险评估不够科学,强调多源异构数据融合、独立验证和动态调整机制的重要性。动态监测与适应性治理不仅能提升风险识别的时效性和准确性,也为预防和干预策略提供了科学依据,进而推动风险治理方法论向系统化和智能化方向升级。
(4)制度层面:制度创新与多方协同治理机制。制度层面强调制度环境是风险治理的基础和保障。制度创新需推动学术、产业、监管协同,建立开放共享的治理生态,解决监管滞后、数据孤岛及信息不对称等问题。构建监管沙盒、数据共享平台及公众参与机制,是实现制度范式转型升级的关键举措。美国的两起智能驾驶事故反映出制度环境在风险治理中存在多重矛盾。美国不同州对智能驾驶的监管标准不统一,导致事故责任界定和安全评估存在争议,从而影响治理效力。厂商在事故调查和数据披露方面信息相对封闭,削弱了监管机构和公众对风险的认知和监督。公众对智能驾驶安全的担忧与信任危机,反映出制度设计在信息公开、责任划分和公众参与方面的不足。安全隐患警示监管机构亟需通过强制性政策和辅助技术标准提升行业整体安全水平。制度创新应以多主体协同为核心,推动监管沙盒和风险监管机制建设,促进数据共享和透明治理,实现技术进步与社会规范的良性互动,确保人工智能技术应用安全与公正。
综上所述,智能驾驶安全风险作为技术、环境、主体和制度多维动态耦合的复杂产物,体现了本体论、认识论、方法论和制度4个层面的深刻内涵。风险认知的碎片化、责任归属的模糊性以及治理措施的滞后性,反映出知识生产的现实困境,突显了跨学科协同与多主体参与的必要性。其中,方法论创新为构建动态风险治理体系提供实证支撑,制度创新则是风险治理体系有效运行的保障。通过情境化机制分析,本研究深化了对人工智能应用社会风险的认知,推动理论范式与具体实践有效对接,为智能驾驶及其他人工智能应用领域风险治理提供了启示。
本研究基于知识社会学与技术哲学双重视角,解构人工智能应用社会风险研究的认识困境及深层根源,得出如下研究结论:第一,当前研究领域的核心矛盾源于知识生产系统的结构性失衡。在本体论层面,技术决定论与社会建构论的二元对立导致风险认识割裂;在认识论层面,学科壁垒与范式冲突形成知识生产的认识鸿沟;在方法论层面,工具理性的过度扩张引发研究实践异化。这些矛盾共同塑造了人工智能应用社会风险研究的技术中心主义倾向,使知识生产陷入技术具象化与风险虚无化并存困境。第二,通过构建关系论风险认识范式,本研究揭示人工智能应用社会风险本质上是“具身—嵌入—情境”三维度动态耦合的结果。这一认识跃迁突破了本体论思维局限,强调从动态交互视角认识人工智能应用社会风险这一复杂系统。本文整合社会技术系统理论、具身认知哲学等方法,提出人工智能应用社会风险认识的优化逻辑,为破解学科割裂与治理失灵提供了理论工具。研究认为,知识生产关系制度重构能有效缓解学术资本垄断与学科惯性锁定,为人工智能应用社会风险治理范式转型提供基础。
本文理论贡献主要体现在以下两个方面:第一,从知识生产理论出发,对学界关于人工智能应用社会风险的研究进行反思与批判,指出其在范式选择上易陷入技术决定论与社会建构论的二元对立,在逻辑上存在忽视风险生成动态性与多主体互动复杂性的缺陷,从而揭示其理论局限与认知断裂。第二,基于批判性分析,构建兼顾本体论、认识论与方法论的整合性认知路径,强调多维度风险识别、跨主体认知协同与情境化动态治理结合,不仅提升了理论解释力,也为人工智能社会风险识别、解释与治理提供了理论支撑,推动理论与实践深度融合。
(1)开展跨学科、跨部门、跨领域人工智能应用社会风险认识研究,构建风险动态认识体系。成立围绕人工智能应用项目、学科交叉、多部门联动的技术专家组,开发并持续优化人工智能应用社会风险认识理论、工具与方法,以演绎思辨和实践归纳相结合的思路构建人工智能应用社会风险认识知识生产标准流程,突破技术决定论或社会建构论主导的单一认知路径,建构人工智能应用社会风险认识新范式。同时,将理论研究成果应用到人工智能场景,如智能驾驶、智能制造、智能客服等,在应用过程中发现现有认识体系的不足并进行动态改进。
(2)完善人工智能应用社会风险法律体系和行业标准,引导规范化的社会风险认识体系建设。立法部门应明确细化人工智能应用社会风险分类标准,建立风险清单,界定已知风险的权责关系。政府应充当中间人角色,组织人工智能龙头企业开展人工智能应用社会风险联合攻关,从技术开发和应用场景等方面弥补高校对人工智能应用社会风险认识的不足。
(3)打破学科壁垒,建立跨学科学术知识生产共同体与人工智能应用社会风险治理研究网络。鼓励不同学科背景的专业技术人员进行学术合作,整合碎片化的人工智能应用社会风险认识。政府与企业可联合设立揭榜挂帅项目,鼓励跨学科团队开展与企业实际需求相结合的研究,共同推进人工智能应用社会风险认识。
本文存在如下不足:第一,案例选取集中于智能驾驶领域,虽具代表性,但不一定适合其他人工智能应用场景,未来可扩展至医疗、金融等多个领域,以验证理论的适用性。第二,主要依赖文献与二手案例分析,缺乏一手访谈与实地调研,限制了对风险生成机制的深度还原,后续可引入多源数据与实证方法加以补充。第三,理论框架虽整合了本体论、认识论与方法论,但对不同文化、法律与伦理背景下适配性的探讨不足,未来可开展跨国比较研究,以提升理论框架的普适性。
[1] ECKHARDT A,LAUMER S,NGUYEN N. Social influence in technology adoption research——a scientometric study over two decades behavior[C].DIGIT 2010 Proceedings: Proceedings of the Special Interest Group on Adoption and Diffusion of Information Technology, 2010.
[2] VANNOY S A,PALVIA P. The social influence model of technology adoption[J]. Communications of the ACM,2010,53(6):149-153.
[3] 葛玉海,曹志平. 生产力与座架:马克思与海德格尔在技术决定论上的异同[J]. 自然辩证法研究,2015,31(4):31-36.
[4] 蔡萍,陈玉林. 技术社会建构论(SCOT)的发展轨迹与走向[J]. 自然辩证法研究,2016,32(5):34-41.
[5] 臧雷振,陈浩. 生成式人工智能算法风险及社会治理挑战[J]. 中共中央党校(国家行政学院)学报,2025,29(1):43-53.
[6] 张龙辉. 总体国家安全观视域下的算法安全及其风险治理[J]. 情报杂志,2025,44(6):86-93.
[7] 杜严勇. 智能社会建构中的算法文化:本质特征、伦理风险及其规避路径[J]. 同济大学学报(社会科学版),2023,34(1):77-87.
[8] 姚伟,张佶,石梦茹. 从数联网到知联网:数智化时代的知识画像[J]. 科技进步与对策,2025,42(16):144-154.
[9] 姜利标. 数据内爆时代认知范式变革下的知识生产[J]. 探索与争鸣,2024,40(11):22-25.
[10] 金岳霖. 知识论[M]. 北京:商务印书馆,2011.
[11] 杨国荣. 所知与能知:人类知识的多重向度[J]. 中国社会科学,2024(3):166-182,206-207.
[12] 刘希宋,喻登科. 知识场与知识型组织的演化[J]. 情报杂志,2008,27(3):46-49.
[13] 邱泽奇. 人机互生:范式革命与知识生产重构[J]. 探索与争鸣,2024,43(11):30-40,209.
[14] SHARMA K,SALAGRAMA S,PARASHAR D,et al. AI-driven decision making in the age of data abundance:navigating scalability challenges in big data processing[J]. Revue d'Intelligence Artificielle,2024,38(4):1335-1340.
[15] 刘大年,曹月. 知识的幻象:人工智能与知识变迁[J]. 现代出版,2024,31(9):53-67.
[16] 野中郁次郎,竹内弘高. 创造知识的企业[M]. 北京:知识产权出版社,2006.
[17] 唐斌. 生成式人工智能赋能新质生产力研究——基于马克思主义生产力理论与新发展理念的双重解构[J]. 学术界,2024,39(12):68-81.
[18] 任保平,李培伟. 人工智能时代新质生产力与新型生产关系的良性互动[J]. 四川大学学报(哲学社会科学版),2024,70(5):25-34,207-208.
[19] ALESSANDRO G,FEDERICA D,CRISTINA B,et al. Artificial intelligence in the eyes of society:assessing social risk and social value perception in a novel classification[J]. Human Behavior and Emerging Technologies,2024,(1):1-11.
[20] 程学旗,陈薇,沈华伟,等. 智能算法安全:内涵、科学问题与展望[J]. 中国科学院院刊,2025,40(3):419-428.
[21] 胡元聪,李雨益. 企业社会责任视域下人工智能产品风险防范研究[J]. 当代经济管理,2020,42(4):19-26.
[22] 曹新明,咸晨旭. 人工智能作为知识产权主体的伦理探讨[J]. 西北大学学报(哲学社会科学版),2020,50(1):94-106.
[23] 陈兰馨,沈桂龙. 驯服还是被驯服:数字利维坦下人的自主性问题[J]. 学术月刊,2024,56(10):90-100.
[24] 季冬梅. 从知识产权到数据要素:AIGC相关制度困境的化解[J].科技进步与对策,2025,42(2):122-131.
[25] 高艺轩,王思尹. 被颠覆的认知域:Sora类人工智能驱动下的传播变革与发展[J]. 科学技术哲学研究,2025,42(1):85-91.
[26] 王建设. “技术决定论”与“社会建构论”:从分立到耦合[J]. 自然辩证法研究,2007,73(5):61-64.
[27] 刘友华. 算法偏见及其规制路径研究[J]. 法学杂志,2019,40(6):55-66.
[28] 许阳,胡月. 政府数据治理的概念、应用场域及多重困境:研究综述与展望[J]. 情报理论与实践,2022,45(1):196-204.
[29] 杨烨阳,王元喆,苏果云. 自动驾驶技术的伦理风险、事故的归责模式与责任规避[J]. 西华师范大学学报(哲学社会科学版),2025,34(4):80-90.
[30] 李熙,周日晴. 从三种伦理理论的视角看人工智能威胁问题及其对策[J]. 江汉大学学报(社会科学版),2019,36(1):92-100.
[31] TUBADJI A,DENNEY T,WEBBER D J. Cultural relativity in consumers' rates of adoption of artificial intelligence[J]. Economic Inquiry,2021,59(3):1234-1251.
[32] 吴佩霜. 从人的至善到机器的至善——技术伦理视域下的人工智能伦理框架考察[J]. 中国传媒科技,2023,3(7):84-87.
[33] 李荟,朱万成,徐晓冬,等. 露天矿山地表变形智能预测与灾害风险评价研究现状与展望[J]. 矿业科学学报,2024,9(6):837-848.
[34] QUAN X,XIONG W,PAN J,et al. AI-based smart healthcare consortium management:an overview of the Dapeng Medical Group initiative in Shenzhen[J]. Atencion Primaria,2024,56(12):102795.
[35] 邱玥,何勤,董晓雨. 人工智能技术应用会减少制造业企业的就业机会吗——以珠江三角洲制造业企业为例[J]. 中国劳动关系学院学报,2020,34(6):112-120.
[36] 李思民,王嘉凯,刘艾杉,等. 智能系统行为动力学理论与安全监测方法[J]. 网络空间安全科学学报,2024,2(6):86-97.
[37] NATURE EDITORIALS. There are holes in Europe′s AI act and researchers can help to fill them[J]. Nature,2024,625(7994):216.
[38] HYESUN C,PRABU D,TS AI W L. Acceptance of AI-powered facial recognition technology in surveillance scenarios:role of trust,security,and privacy perceptions[J]. Technology in Society,2024,79:102721.
[39] 高进,黄种兴. 生成式人工智能与网络民族志发展[J]. 西南民族大学学报(人文社会科学版),2024,45(7):34-40.
[40] 杨丰一. 人工智能“监管沙盒”:理论溯源、实践考察与制度构建[J]. 中国行政管理,2024,40(12):25-35.
[41] 闫枫,窦明.自动驾驶事故致死 特斯拉官方作出声明[EB/OL].(2016-07-02)[2025-05-05].http://auto.people.com.cn/n1/2016/0702/c1005-28517713.html.
[42] 谢博韬.美国运输安全局发布报告 揭2018加州特斯拉车祸原因[EB/OL].(2023-09-04)[2025-05-05].https://news.cctv.com/2019/09/05/ARTIIXnYNLYOtdA3ju1Y Oryl190905.shtml.