开放科学(资源服务)标识码(OSID)：
Drawing on trust theory, algorithm governance theory, and financial risk contagion theory, this study develops a unified analytical framework that links algorithms, trust, and credit risk contagion in digital financial platforms. Guided by a research logic that progresses from algorithm-reconfigured trust mechanisms to the ways algorithmic risks erode trust, then to the emergence and contagion of credit risk, and finally to multidimensional governance, the study examines the operational mechanisms of algorithm-driven digital financial platforms and summarizes three trust pathways reconfigured by algorithms. It embeds algorithmic risks into the dominant trust pathways to examine how algorithmic risks affect these pathways. Finally, the study elucidates the drivers of credit risk formation as well as the mechanisms and channels of contagion under algorithm-reconfigured trust, and proposes multidimensional strategies to prevent and contain credit risk.
This study arrives at the following conclusions. Algorithms have reconfigured the trust mechanism of digital financial platforms, giving rise to three trust pathways: the customer-platform, the platform-algorithm, and the algorithm-customer. These pathways are mutually reinforcing and operate as a dynamically linked feedback loop. By improving credit identification, information matching, and decision execution, algorithms enhance the predictive accuracy of credit risk, thereby mitigating credit risk and increasing the efficiency of financial services. However, algorithmic risks may weaken trust relationships and trigger the formation and contagion of credit risk. Specifically, algorithmic discrimination risk, algorithmic black box risk, and algorithmic monopoly risk are primarily embedded in the customer-platform, platform-algorithm, and algorithm-customer trust pathways, respectively. In turn, they erode the foundations of customer trust, weaken the platform’s capacity for control, and compress the space for customers to restore their credit, thus inducing credit risk. Through the linkage among trust pathways, such disruptions can lead to customer trust transfer, loss of platform trust control, and the entrenchment of algorithmic trust, ultimately causing credit risk to spread through customer association channels, platform business channels, and algorithm entrenchment channels. These dynamics are significantly more complex than traditional financial risk contagion. Credit risk governance should be strengthened from three dimensions: algorithm governance, trust governance, and credit risk governance.
This study offers a fresh perspective on digital financial platforms by adopting an algorithm-reconfigured trust lens. It develops a three-layer trust framework for digital financial platforms and clarifies the mechanisms and contagion logic through which different types of algorithmic risks operate under the linkage among trust pathways. In addition, this study enriches the research framework for credit risk contagion. It examines how algorithmic risks, by weakening trust mechanisms, can trigger the emergence and spread of credit risk on digital financial platforms, and it elucidates how credit risk propagates and evolves through interactions among linked trust pathways.
开放科学(资源服务)标识码(OSID)：
算法、算力与数据是人工智能发展的三大核心要素,其中算法是“智能”的核心驱动力,决定如何从数据中提取规律并利用算力作出智能决策。数字金融平台借助算法模型与数据优势开展金融业务,推动金融服务模式创新。与传统金融机构依赖的制度信任和关系信任不同,数字金融平台以算法构建的“可计算信任”体系为支撑,能够降低信任成本与交易成本,提升金融服务效率。算法通过多维信息采集与交叉验证等方式提高信用识别与风控的准确性,缓解金融交易中的信用风险。然而,算法构建信任机制具有去人际化、动态迭代和高度技术依赖性等特征,缺乏传统信任的社会性缓冲机制。当面临算法垄断、算法黑箱与算法歧视等风险时,信任机制更容易失衡,信用风险更容易传染与扩散。算法模型偏差可在多业务、多平台、多条信任路径中快速复制放大,使信用风险呈现跨业务、跨平台与跨信任路径传染的新特征。
2024年11月,中国人民银行等七部门印发《推动数字金融高质量发展行动方案》,提出“完善数字金融治理体系”“强化数字金融风险防范”“强化模型和算法风险管理”。算法深度应用于数字金融业务存在潜在风险,加强风险治理与算法治理是促进数字金融高质量发展的重要举措。算法重构了数字金融平台信任机制,带来新的信用风险传染特征。那么,算法重构信任机制如何影响数字金融平台信用风险的形成与传染?应该如何构建多维治理体系以有效防控数字金融平台信用风险传染?解决上述问题,有助于完善我国数字金融平台治理体系、促进数字金融高质量发展。因此,本文借鉴信任理论、算法治理理论与金融风险传染理论等,将算法、信任与数字金融平台信用风险传染纳入统一分析框架,梳理算法重构的客户—平台、平台—算法、算法—客户三重信任路径,探讨算法风险如何通过弱化信任机制诱发数字金融平台信用风险的产生与传染,并基于算法治理、信任治理、信用风险治理3层治理维度,提出信用风险多维治理策略,旨在推动数字金融平台信用风险常态化治理。
国内外学者对平台开展金融业务进行研究,主要包含以下方面:一是基于政治经济学视角研究平台开展金融业务的资本逻辑,认为平台经济金融化是金融资本介入平台发展过程的表现[1]。有学者进一步提出数字平台扩张与金融化相互嵌套并共同演化[2]。该类文献从宏观视角揭示平台开展金融业务的动力与制度基础,对平台金融业务具体运行机制的探讨较少。二是随着金融科技发展,部分学者关注到金融科技对金融业务的技术赋能作用,研究金融科技平台企业[3]和大科技信贷[4]带来的经济影响和金融普惠性。该类研究将技术视为提升金融效率的外部工具,但对技术如何进一步嵌入平台业务发展的分析有限。三是随着数字技术和人工智能技术发展,部分金融科技公司演化为数字金融平台,相关学者认为数字金融平台是数字金融与平台经济融合的产物,算法黑箱性使其具有系统性风险特征[5]。学者开始关注算法对数字金融平台风险的影响,但对算法在数字金融平台内部具体作用机制及风险影响机制的探讨较少。金融数字化走向平台化[6]虽能提升金融服务包容性,但也有可能带来信用风险隐患。因此,亟需深入研究数字金融平台信用风险与治理机制。
信任是社会经济活动运行的重要机制,是影响交易行为完成的重要因素[7]。传统金融机构多依赖系统信任与人际信任[8],数字技术重塑了社会信任,数字信任能够降低信任成本,形成信任资本[9]。算法作为人工智能的三大核心要素之一,重构了数智时代的信任结构。数字平台可自行构建信用评分体系并开展金融业务,形成一套全新的信任机制[10]。已有文献虽关注了平台信任机制的转变,但对于算法如何重构信任机制的研究较少。宋胜男和闫宏秀[11]从重构社会伦理秩序视角出发,提出算法信任是技术信任与人际信任融合的产物;黄伟文[12]从法律视角出发,将算法信任定义为“算法提供者与算法用户在交互过程中产生的回应性规范关系”;戴维和王锡锌[13]认为算法信任是在不消除全部风险的前提下,使公众在可接受范围内愿意使用和依赖算法。
算法虽会降低信任成本,但算法自身存在的风险也会侵蚀信任关系。算法黑箱风险会破坏人机信任与人际信任[14],算法代言人方案能解决算法黑箱问题[15]。已有文献虽然提出算法导致信任受损,但对于算法削弱信任内在机制的阐释不够充分。算法风险容易带来治理压力,使数字金融平台治理面临挑战。已有学者发现算法黑箱风险会影响算法决策的稳定性[16],算法歧视风险会影响公众对人工智能的信任[17],算法合谋现象引发监管关注,并逐渐被纳入反垄断范畴[18]。算法风险促使平台反思伦理与权利问题;算法歧视会加剧伦理价值失衡[19],对消费者权益造成损害[20];算法使用易引发知识产权侵权风险[21],带来道德和技术挑战[22];算法杀熟等侵权行为不仅会损害个人权利,也会破坏市场秩序。面对数据与算法高度耦合带来的新型复杂性,算法治理应以需求回应型立法为主,并结合技术导向手段[23]。
已有研究对平台信用风险的研究多集中在地方融资平台信用风险[24]、互联网借贷平台信用风险[25]等方面,对于数字金融平台信用风险的研究较少。有学者认为信任影响供应链风险管理决策[26],基于区块链的组织间信任会提升数字供应链金融运行效率[27]。信任在风险共担中是一把“双刃剑”,其在促成初始合作、降低风险的同时也可能带来配置扭曲与资源消耗[28]。可见,已有文献多基于供应链金融或传统金融场景分析信任对决策的影响,较少关注数字金融平台中算法重构信任机制对信用风险的影响。与传统金融市场不同,数字金融平台依托算法构建信任机制,信用风险的生成与传染呈现新特征。信任作为数字平台非正式治理机制[29],信任关系演变影响数字金融平台的稳定性与风险治理能力。因此,深入探究算法重构信任机制,对于治理数字金融平台信用风险具有重要意义。
有学者关注到算法对信用风险的影响。一方面,算法优化能够提高商业银行[30]、供应链金融中小企业[31]信用风险评估准确率。另一方面,算法模型无法通用于中小企业信用数据[32],算法虽然会提升信用风险预测性,但也会带来新的模型风险,如算法歧视会降低信用评估的准确性[33]。
综上,既有研究存在以下不足:一是当前关于平台开展金融业务的研究主要基于政治经济学视角和技术赋能视角,探讨金融资本介入引发的平台经济金融化与资本扩张逻辑以及金融科技对金融业务的赋能作用。在数智时代,算法深度嵌入平台金融业务、重构平台信任结构与风险逻辑,已有研究对此关注不足。虽然有学者探讨数字金融平台算法风险,但主要集中在监管与治理层面,对于算法驱动数字金融平台运行逻辑、信任机制、信用风险形成与传染缺乏系统性研究。二是当前关于算法与信任的研究主要停留在宏观技术信任、数字信任层面,强调其与传统信任的差异,未深入研究算法如何在数字金融平台内部重构信任机制,以及算法风险如何侵蚀信任关系并引发信用风险传染。三是尽管已有文献探讨了信任与风险、算法与风险的关系,但多集中于分析信任对风险决策与结果的影响以及算法对信用风险评估的影响,鲜有研究将算法重构信任机制与信用风险传染相结合,解析算法风险如何通过弱化信任机制诱发数字金融平台信用风险,尚未形成包含算法、信任机制、信用风险传染的理论框架。
本文将算法、信任与数字金融平台信用风险传染纳入统一分析框架,按照算法重构信任机制—算法风险破坏信任机制—信用风险形成与传染—信用风险多维治理的研究思路,挖掘算法重构的客户—平台、平台—算法、算法—客户三重信任路径,将算法歧视风险、算法黑箱风险、算法垄断风险嵌入主导信任路径,分析算法风险对信任路径的影响,揭示算法重构信任机制下数字金融平台信用风险形成原因、作用机理与传染渠道,并基于算法治理、信任治理、信用风险治理3层治理维度提出信用风险多维治理策略,以期推动数字金融平台高质量发展。
当前,金融科技平台与数字金融平台的概念常被混淆,二者虽在业务上存在重叠,但侧重点有所不同。其中,金融科技平台侧重于技术对金融业务的赋能,依托技术应用改造金融服务流程,部分平台向外输出技术服务的同时也会开展金融业务。而数字金融平台则是在人工智能技术推动下由金融科技平台演化而来,技术不再是外部赋能工具,而是内嵌于平台运行机制,并重构金融业务信任机制。数智时代背景下,本文采用数字金融平台这一概念。广义上的数字金融平台既包括互联网科技企业,也涵盖金融机构在数字化转型中形成的平台化服务模式。为保持研究对象的聚焦性与一致性,本文研究对象不包括金融机构数字化平台,主要研究狭义意义上的数字金融平台,即具备自营放贷资质,以算法模型主导风险识别、信用评估与定价决策等关键环节,并通过算法重构可计算信任机制为客户提供线上、智能化金融服务的平台。
在实践中,一些平台既是金融科技平台,又是数字金融平台,兼具技术赋能与自营金融业务特征。但并非所有的金融科技平台都会发展成为数字金融平台,如金融云服务厂商仅提供技术支持。
(1)算法重构了信用识别体系,为数字金融平台开展金融业务提供了信用基础。数字金融平台通过对用户行为、社交关系等信息进行算法建模与评分,构建数字信用评价体系,并根据算法生成的可计算信任体系,对用户信用情况进行自动化评估与风险定价。数字信用评价体系不仅能降低征信成本、提升金融服务普惠性,还能提高信用风险评估的准确性。
(2)算法改变了数字金融平台开展金融业务的信息匹配方式。数字金融平台不只是依靠线上场景引流,而是直接把金融服务嵌入到用户日常活动中。例如,直接为客户推送“先用后付”“分期付款”等金融服务,不仅降低了客户信息搜寻成本,也在一定程度上扩大了金融服务覆盖范围。
(3)算法改变了金融业务决策执行逻辑,为数字金融平台开拓自动化、智能化金融业务提供了基础。金融科技平台主要通过流程数字化提升金融业务效率,而数字金融平台则直接由算法主导金融业务执行。平台可依托算法提供全天候服务,如智能客服或个性化推荐等,使用户随时都能获取金融服务。
智能时代主要存在治理信任、中介信任、网络信任3种信任机制,分别对应政府权威秩序、市场自发秩序和自主技术秩序。其中,正规金融市场属于治理信任;民营非正规金融市场属于中介信任;数字金融平台开展金融业务属于网络信任,其依靠算法模型建立信任关系,进而促成信贷交易。算法承担着风险识别与信用判断等关键职能,无需借助其他有形的中介或组织,呈现出高度依赖技术系统的自主技术秩序。
本文构建三重信任路径,分析“客户—平台—算法—客户”之间的闭环信任结构。影响网络交易信任的因素主要包括主体因素、客体因素及交互因素[34],其中信任主体为信任发出方,信任客体为信任接受方,交互因素为主体与客体之间建立信任、维护信任的互动机制。三重信任路径并非简单的并列关系,而是形成一个包含信任建立、委托、反馈的信任闭环机制。信任在反馈后经过调整形成新的信任,进入新的信任建立阶段,形成信任闭环。每条信任路径都包含相对应的信任三要素。
(1)客户对平台的信任是信任闭环的起点,属于信任建立阶段。客户作为信任主体,基于平台声誉、服务响应等要素建立对平台的初始信任或持续信任,为平台运行提供业务需求与客户数据。平台属于信任客体,数据使用的透明度与算法决策的公平性等交互因素影响客户信任水平。
(2)平台对算法的信任体现为信任转向自主技术秩序,属于信任闭环中的委托阶段。平台作为信任主体,将风险识别、信用评估等关键职能委托给算法。算法模型为信任客体,接口开放性、参数可调性等属于交互因素,平台通过对算法的可控性管理,增强对算法模型输出结果的信任。
(3)算法对客户的信任为信任闭环反馈阶段。算法基于客户数据进行建模,对客户信用进行信任判断并反馈给平台与客户,其影响后续客户交易与平台管理。算法为信任主体,客户为信任客体,数据输入的完整性、客户行为的动态性构成交互因素,影响算法能否作出合理判断。然而,当前学者对于算法能否直接作为信任主体持有不同观点。传统哲学与社会学认为只有具备意向性与道德责任能力的个体才能成为信任主体[35],而算法只能作为信任客体。然而,社会技术系统理论和行动者网络理论则认为技术系统具有行动者地位[36]。人工智能时代,能动性的本质是功能而非载体,人工智能具备不同程度的行动能力[37]。算法虽无人格意志,但其根据客户行为数据作出信用判断,具备行动者地位,是信任关系中的技术性行动体。因此,在算法—客户信任路径中,本文将算法看作信任主体并非拟人化假设,而是反映了算法在技术信任中的能动性作用。
上述三重信任路径相互影响,客户对平台的信任变化影响平台对算法的信任程度与控制策略,平台对算法的信任变化影响算法信用决策逻辑,算法输出结果又反向影响客户对平台的信任预期与行为选择,从而形成动态关联的闭环。
金融交易中的信用风险是指交易对手不能按约履行义务所导致的潜在风险或实际损失,通常表现为违约行为等。数字金融平台以算法主导获客、授信与风控等关键环节,能够提高异常交易识别的准确率,降低金融交易中的信用风险。然而,算法本身也存在一定风险,算法风险会破坏数字金融平台信任路径,导致信用风险识别与控制反馈失灵,扩大信用风险传染概率。在数字金融平台中,违约风险是信用风险的重要表现,而算法风险通过破坏信任关系影响信用识别与风险处置,会扩大信用风险,改变信用风险传染路径与特征。据此,本文将数字金融平台信用风险定义为信任路径受到算法风险的冲击,触发信任弱化效应,会削弱信任主体与客体之间的合作预期,诱发信用违约、信用误判等结果,从而给多方交易关系带来损失。
传统金融体系依赖于制度信任与人际信任,具有一定的关系黏性、组织边界与社会性缓冲机制,信任受损相对缓和,信用风险主要沿着资金流或信息流传染与扩散。相比之下,算法重构信任机制具有去人际化、动态迭代与高度技术依赖特征,其将金融业务置于自动化、由算法主导的环境中,缺乏社会缓冲机制,更容易加速信用风险扩散。因此,本文围绕算法重构信任机制下数字金融平台信用风险形成与传染机理展开分析,如图1所示。
图1 算法重构信任机制下数字金融平台信用风险传染机理
Fig.1 Credit risk contagion mechanisms of digital financial platforms under trust mechanism reconstructed by algorithms
2025年9月,国家网络安全宣传周主论坛上发布的《人工智能安全治理框架》2.0版,将模型算法风险划分为可解释性不足、偏见与歧视、鲁棒性不强、输出决策不可靠、外部对抗攻击、模型缺陷扩散6类。经济合作与发展组织(OECD)在相关研究报告中提出算法偏见与歧视风险[38]、算法合谋风险[39]。美国的《算法问责法案2025(草案)》明确要求对自动化决策系统进行评估,重点识别和防范歧视性结果、隐私与安全隐患以及下游或未来存在的潜在负向影响。一方面,算法歧视风险(偏见与歧视)、算法黑箱风险(透明性与可解释性不足)、算法垄断风险(合谋现象等)已成为各国算法治理关注的共性问题;另一方面,这3类算法风险在贷前信息采集、算法模型训练、贷中信用决策、贷后监测以及客户反馈等数字金融平台业务环节具有重要影响。因此,本文主要探讨算法歧视风险、算法黑箱风险、算法垄断风险的主要嵌入路径。
(1)算法歧视风险:主要嵌入客户—平台信任路径。 算法歧视风险是指数字金融平台在运用算法模型对客户进行数据建模时,由数据偏见、开发者偏见与算法偏见导致的特定群体所受到的差别对待。其中,数据偏见体现为不同平台拥有不同的信用数据来源,反映平台偏好。开发者偏见体现为开发人员将个人价值观或主观认识嵌入到算法模型中,影响数据选取、权重和信用评分。而算法处理数据和信息本身就是一个差别对待的过程,算法会强化数据偏见和开发者偏见,所以算法本身也存在偏见。在数字金融平台业务中,贷前与贷中环节主要表现为特定群体授信通过率偏低、授信额度偏小、贷款利率偏高等,贷后环节主要表现为信用风控触发概率偏高、展期时间较长、催收频率较高等。
另外,由于客户通常无法直接了解算法运行逻辑,当客户遭遇差异化金融服务时,通常会把责任直接归咎于平台,从而削弱客户对平台的信任,影响客户对平台的使用频率,降低客户行为数据披露的真实性,并通过客户行为数据变化进一步影响其他信任路径。
(2)算法黑箱风险:主要嵌入平台—算法信任路径。 算法黑箱风险是指数字金融平台将关键决策权交由算法主导时,由于算法系统复杂度高、可解释性低与运行机制不透明,平台难以干预算法的实际运行逻辑。算法黑箱风险源于算法的复杂性、信息不对称及监管的滞后性。其中,算法复杂性体现为算法模型多运用机器学习模型,算法内部参数庞大复杂,对平台管理者呈现出不可解释性。信息不对称体现为“信息悖论”,即数据快速延伸,但算法模型及其所依赖的关键数据变量、训练逻辑仅由少数局内人掌控,对平台运营管理层与客户不透明。监管滞后性体现为算法监管存在真空地带,算法系统往往游离于金融法规与责任追溯体系之外。在数字金融平台业务中,贷前与贷中环节主要表现为突然授信降额、定价异常等,贷后环节主要体现为平台难以解释与干预客户反馈等。
平台将信用决策职能委托给算法,当平台无法干预算法运行逻辑时,将会失去对算法的控制,削弱平台对算法的信任。因此,算法黑箱风险会降低平台对算法信任委托的可控性,有可能因平台解释与控制力不足而影响其他信任路径。
(3)算法垄断风险:主要嵌入算法—客户路径。 算法垄断风险是指数字金融平台构建以算法模型为核心的信用评估机制,通过模型迭代与自我学习,最终主导金融资源配置过程。算法垄断风险源于马太效应、算法合谋行为及算法推荐匹配机制。其中,马太效应体现为头部数字金融平台凭借数据和流量优势,不断扩大市场控制力。不同数字平台因算法逻辑趋同或数据协同,在金融价格、客户评分等环节形成隐性算法合谋,一旦算法误判,客户在其他平台也有可能遭遇相似歧视,进而压缩客户平台选择空间。而算法推荐匹配机制会提升客户依赖性,基于客户行为数据精准识别客户行为与偏好,精准向客户推送定制化服务,从而削弱外部竞争市场的吸引力。算法垄断风险主要表现为算法在信用评估与金融资源配置中具有支配性地位,客户缺乏对信用评价的修复空间。在数字金融平台业务中,客户端主要表现为信用评分滞后、授信额度难以恢复等,平台端主要表现为头部平台的算法评分模型更有影响力。
当客户难以通过自身行为数据变化修正信用评分时,算法输出结果不能体现客户信用变化,会削弱算法—客户信任关系。因此,算法垄断风险会降低算法—客户信任反馈的有效性,有可能因客户信用评分降低而对其他信任关系产生影响。
(1)算法歧视削弱客户信任基础。 算法歧视风险通过影响信任的公平性,来增加信用风险隐患。客户(信任主体)期望数字金融平台(信任客体)能够提供公正合理的金融服务,但算法歧视风险导致部分客户在授信、定价、风控决策等环节处于不利地位,会削弱客户对平台的信任。即使客户向平台提出反馈与申诉,平台也难以解释和及时处理,从而破坏客户与平台交互,导致客户出现信用违约、诋毁平台声誉等行为,进一步产生信用风险。当客户意识到平台信用评分来自具有歧视性的算法模型时,部分客户可能会降低平台使用频率,减少数据授权行为,此时客户信息将不能真实反映其信用现状,导致其出现迎合算法偏好或信息隐瞒等行为。平台收集的数据偏离客户真实信用,不仅会导致信用评估误差增大,也会影响后续算法评估与平台风控,并不断扩大信用风险。
(2)算法黑箱降低平台控制能力。 算法黑箱风险会降低平台—算法信任委托的掌控力,削弱平台内部风控能力,增加信用风险概率。数字金融平台(信任主体)将风控、定价、决策等职能委托给算法模型(信任客体),在算法公开性与透明性等交互过程中,算法黑箱风险会降低算法可解释性,削弱平台对算法决策的干预能力。一旦算法出现决策失误,平台无法及时追溯问题源头、纠偏优化算法流程,将会降低平台整体风险治理水平,引发信用误判、定价不合理、额度异常波动等问题,进而产生信用风险。算法偏差模型若长期未被校正,会导致错误决策在平台内部积累,提升信用风险概率。
(3)算法垄断压缩信用修复空间。 算法垄断风险会降低算法—客户信任反馈的有效性,导致信用风险的产生。算法(信任主体)根据客户(信任客体)行为数据变化及时更新对客户的信用评价,并将结果反馈给客户与平台。然而,算法垄断风险使算法占据主导地位,通过数据反馈与模型强化,客户行为偏好与信用表现被标签化,一旦算法模型出现误判,算法合谋效应将导致某类客户的不利评价在多个平台间被复制与放大。客户将难以通过后续行为纠正算法评价,失去信用修复空间,导致在多个平台承担较高信贷利率或面临授信受限,进而产生信用违约风险。
(1)算法歧视导致信任转移,引发多路径联动传染。 算法歧视风险会破坏客户对数字金融平台的信任,当客户被算法模型歧视而遭遇不利的差异化决策时,其会降低对平台的信任预期,产生信用风险。客户为降低金融服务的不确定性与不利预期,会产生信任转移行为[40],并转向其他数字金融平台,此时信用风险将突破原有客户—平台信任路径。
客户信任转移会带来客户流失与投诉,降低平台—算法信任关系。当出现集中的客户信任转移或评分争议时,平台将其视为算法模型输出偏差的信号,会对算法模型进行调整,而算法调整是基于客户迁移形成的非典型性和高波动性数据样本,可能会产生新的算法歧视,降低算法对客户信用判断的准确性,削弱算法—客户信任关系。新输出的算法偏差结果又会重新反馈至平台和客户,导致更多客户遭遇不利决策与规则不确定性,进一步削弱客户—平台信任,引发新的信任转移行为,加速信用风险传染与扩散。部分客户出于规避不利评分的动机,可能会减少数据授权或选择性披露,此时平台和算法将更难获取用于修正算法偏差的数据,从而导致信用风险在信任路径闭环内被不断强化。
(2)算法黑箱导致信任失控,诱发多路径风险传染。 算法黑箱风险会降低数字金融平台对算法模型的控制力,打破平台对算法的可控性预期,降低平台对算法的信任预期,产生信用风险。当算法出现误判而平台又无法解释时,平台对算法的信任处于失控状态,将会引发信用风险向其他信任路径溢出。
当客户对算法决策提出异议时,平台因缺乏可解释性与控制力而无法有效回应与修正,客户将不利结果归因于平台,导致客户—平台信任受损。平台缺乏对算法模型的干预能力,无法及时将客户反馈数据有效输入算法模型,导致算法模型无法有效校准,算法误判风险不断累积,会削弱算法—客户信任基础,导致信任反馈失效。平台为控制信任失控状态,可能会采取盲目的算法调整与风险控制措施。这种基于不透明判断的盲目调整有可能继续扩大算法误判,导致更多客户承受不合理决策,进一步削弱客户—平台信任关系。此时,客户可能会减少平台使用频率,使算法模型更加难以校准,进而导致算法—客户信任受损。平台风险控制策略无效又会进一步降低平台—算法信任关系,引发新一轮信任失控,导致信用风险循环传染。
(3)算法垄断导致信任固化,推动多路径风险扩散。 算法垄断风险使算法模型逐步掌握了对客户信用的主导权,客户信用难以通过行为数据更新,这会降低信任反馈的有效性,削弱算法—客户信任关系。当客户发现无法根据行为调整修复信用且形成信用标签时,信用风险将会传染至其他信任路径。
客户并不直接接触算法,若客户发现信用评分难以修复,将会降低对平台的信任,使客户—平台信任关系受损。客户会减少数据授权范围,使得算法缺乏完整的样本数据进行更新迭代,导致算法—客户信任关系受损。客户承受难以修复的信用标签,会进一步削弱客户—平台信任关系。而平台在面对客户关于信用标签的申诉时,虽然会影响平台—算法信任关系,但是基于对高风险客户的识别与控制,平台往往倾向于继续沿用既有标签体系,导致固化的信用标签被进一步强化。此时,客户信用难以被重新识别与更新,算法—客户信任关系再次受损,形成新一轮信任固化,导致信用风险在多重信任路径中被不断传染与扩大。
(1)客户关联渠道:算法歧视引发客户多个平台借贷传染。 算法歧视风险使得部分客户在授信、定价或风控触发等环节遭遇不利的差异化决策,会削弱对平台的信任预期,客户为避免再次遭遇不利待遇转向其他数字金融平台寻求金融服务,产生信任转移行为,成为信用风险传染引爆点。客户信任转移会将其原有风险状况带入新平台,形成多平台信用重叠现象,从而加剧平台间的关联性风险。一旦客户在某个平台产生信用违约行为,客户的偿付能力受限,将会增加在其他平台的违约概率,加速信用风险向多个平台传染与扩散。
客户信任转移行为会降低平台客户粘性,引发客户流失与多平台违约,此时平台将会质疑算法模型的准确性,调整算法评估标准。平台算法调整策略一般有两个方向:一是通过放宽授信条件、给予利率优惠等措施提高客户忠诚度,但也会吸引其他平台的高风险客户迁移过来,甚至引发逆向选择行为,即低风险客户因规制不确定而退出,高风险客户更容易被吸引,从而导致信用风险更加集中。二是通过提高授信门槛、收紧信用额度等措施防范集中违约风险,进一步推动客户向其他平台寻求资金,形成更高成本的债务结构,扩大信用风险传染范围。无论平台采取哪种策略,算法参数调整的依据都来自客户迁移样本数据。若引入样本存在偏差,则无法反映整体风险水平,甚至有可能进一步降低算法模型的准确性,引发新一轮信任转移行为,推动信用风险跨平台多轮传染。
以某地MY消费金融有限公司(简称“MY平台”)额度互动功能为例,根据《某地MY消费金融有限公司2024年ESG可持续发展报告》,客户上传职业、工作年限等材料,经算法审核后可提升不同幅度的授信额度。部分客户可能因提额有限而对授信规则产生质疑,削弱对平台的信任,转向其他数字金融平台寻求更优授信条件。客户在多平台交叉借贷后,一旦在原平台违约,将会影响其在其他平台的正常还款行为,导致信用风险跨平台传染。
(2)平台业务渠道:算法黑箱模型共用引发平台业务风险传染。 算法黑箱风险使得平台对算法的信任处于失控状态,一旦算法模型出现偏差,其错误结果会传导至平台多个业务环节,导致多项金融业务在同一误判算法模型上作出决策,成为信用风险传染的引爆点。随着模型输出结果被多业务链条重复使用,算法误判结果也在不同业务场景中叠加。一旦某一业务因评分误判发生信用违约,信用风险将沿着算法模型应用链条传染至其他金融业务,引发多条业务信用风险,并加速其在平台业务间传染。
由于算法缺乏可解释性和可控制性,平台难以对算法模型进行拆解,进而对具体业务的算法参数进行精准校准。平台本意可能是控制某一业务的信用风险,但算法调整往往同步影响其他业务场景,这会扩大算法调整范围。这种不透明的算法调整难以有效修正算法偏差,甚至可能扩大误判,导致更多客户在不同业务中遭遇不合理决策,并在多个业务中退出使用或发起投诉,进而引发多条业务线的信用风险。随着误判客户减少业务使用,平台收集的有效反馈样本数据减少,平台更难将分散于各业务的异常数据有效输入算法模型进行更新迭代,导致模型偏差在多业务循环使用中被不断放大,进一步加剧平台对算法的失控,使平台再度采取更保守的算法调整措施,形成新一轮信任失控,推动信用风险在业务间循环传染。
以MY平台为例,其两类信贷业务虽未完全采用同一算法模型,但两者的信用额度均由系统自动评估,人工无法干预,可能存在算法黑箱风险。两类信贷业务在作算法评估时依托同源用户行为数据,并参考相同的信用评分系统进行动态调整。由于底层行为数据存在交叉,一类信贷产品的使用会影响信用评分系统,进而影响另一类信贷产品的额度评估,反之亦然。一旦客户某类业务发生信用违约风险,其可能通过共用的行为数据传染至另一类业务,导致信用风险在平台内跨业务传染。
(3)算法固化渠道:算法垄断会固化信用标签并引发风险扩散。 算法垄断风险使算法掌握了客户的信用解释权,将客户信用固化为难以修复的标签,该标签可能在其他平台复制使用,形成信用风险传染引爆点。在联合贷款、算法逻辑趋同、算法合谋背景下,固化的客户信用标签在多个平台间复制使用,导致低信用标签客户同时面临额度下降、利率上调等不利决策。一旦客户在某一平台违约,信用风险通过联合贷款等合作机制传导至其他平台,将会加速信用风险传染。
随着信用标签在多平台同步使用,容易引发客户集中违约、申诉等问题,导致客户逐渐降低对整个行业平台的信任。而平台为加强对高风险客户的防控,往往选择沿用信用标签体系,导致信用标签在不同平台间继续被固化,进一步削弱低信用标签客户对整个行业平台的信任。低信用标签客户会降低对平台的使用频率,减少客户反馈样本数据,使算法难以通过数据迭代更新客户信用标签,引发新一轮信任固化风险,导致信用风险在平台间不断累积与扩大。
以MY平台的联合贷款业务为例,根据《某地MY消费金融有限公司2025年第一期金融债券信用评级报告及跟踪评级安排》,截至2024年末,该平台自营投放贷款业务余额占比超过50%,其余为联合贷款。联合贷款涉及多个合作方,其中该平台向合作方提供客户行为数据并进行初步信用评估,合作方基于自身风控模型进行独立审核。如果该平台将某类客户识别为高风险并赋予低信用标签时,该标签不仅会影响客户在该平台的授信与定价,还可能通过数据输入传导至其他合作机构,使合作机构收紧授信或加强风险审查。若低信用标签客户违约,将会增加其他合作方的风险敞口,导致信用风险跨平台扩散。多次高风险信号还可能促使合作方趋同于相似的风控标准,强化信用标签固化效应。
在国际治理实践中,欧盟已形成相对完善的数字平台治理框架。欧盟《数字服务法案》(DSA)重点关注平台责任与透明性,采取分级治理模式。欧盟《数字市场法案》(DMA)主要防范“守门人”平台滥用市场支配力,以保障公平开放的数字市场秩序及竞争环境。美国尚未出台统一立法,但已有草案反映出数字平台治理的侧重点。如《平台责任和透明度法案》(PATA)要求大型平台公开报告推荐或排序算法及相关指标;《美国创新与选择在线法案》(AICOA)限制具有市场支配地位的平台进行自我优待;《通过启用服务交换增强兼容性和竞争性法案》(ACCESS)则通过出台数据可携带性与互操作性等措施,保障用户选择权。尽管这些法案并非专门针对数字金融平台,但数字金融平台算法治理可借鉴其中关于算法透明、平台责任和市场竞争的治理逻辑。关于算法在金融领域的监管与治理,欧盟《人工智能法案》将“用于评估自然人信用状况或建立信用评分的人工智能系统”纳入高风险类,实施严格的风险管控措施;美国消费者金融保护局(CFPB)明确算法授信也要承担“不利行动通知义务”,向申请人说明采取不利行动的主要原因。
我国数字金融平台治理需统筹发展和安全的关系,强调系统性风险防控。《互联网信息服务算法推荐管理规定》提出算法备案制度,明确了算法安全主体责任。《金融科技发展规划(2022—2025年)》明确提出“健全智能算法管理规则制度”、“防范算法黑盒、羊群效应、算法歧视等问题”。《推动数字金融高质量发展行动方案》提出要“完善数字金融治理体系”“强化模型和算法风险管理”。我国数字金融平台治理不仅关注算法透明和用户权益,也关注金融稳定与系统性金融风险防范。
综上,欧盟的治理经验侧重于算法透明性与市场竞争,美国侧重于算法透明性与用户权益保护。我国数字金融平台治理环境具有自身特点:一方面,我国数字市场庞大,头部数字平台集中度高,数字金融平台在支付、信贷、理财、保险等领域广泛渗透,形成高度交织的信用风险网络,治理复杂;另一方面,算法深度嵌入数字金融平台,一旦爆发大规模信用风险,可能会引发系统性金融风险。因此,单一的数字平台治理框架难以覆盖数字金融平台信用风险逻辑,照搬国外治理经验反而有可能带来算法模型被复刻、数据泄露与信用风险外溢等新问题。基于此,本文结合数字金融平台信用风险传染机理,借鉴国际治理经验,并基于我国数字金融平台实际情况,从算法治理、信任治理和信用风险治理3个维度提出多维治理策略,以契合我国数字金融平台的信用风险特征与治理需求。
(1)算法治理维度。 针对算法歧视风险,可借鉴欧盟《人工智能法案》中按风险水平实施分类监管理念(第6条)及其对高风险AI系统提出的数据偏差防控要求(第10条),避免算法产生歧视性结果。由于欧盟《人工智能法案》的分类依据为基本权利风险,而算法主导授信与定价,风险识别与控制要求较高,因此我国可按金融风险敏感性开展本土化分类治理。如对于涉及授信和定价的高敏感算法,由监管部门或具备资质的第三方开展数据偏差检测、结果一致性评估等;一般性服务类算法则以备案、抽查为主。同时,通过第三方评估与伦理审查,将公平与非歧视原则嵌入算法模型,提高算法模型公平性。
针对算法黑箱风险,借鉴欧盟《数字服务法案》(DSA)中对大型平台提交透明度报告(第42条)并接受独立外部审计的要求(第37条),提高算法的可验证性。DSA的透明度要求适用于一般数字平台,而数字金融平台的核心算法风控模型具有高敏感性,过度披露容易引发模型攻击、风险外溢等问题。因此,我国可对透明度披露进行调整,引入分级透明度体系。即对外披露与客户权益相关的决策依据和申诉渠道,对监管部门提供算法模型运行规则和压力测试结果,确保算法可追溯。此外,引入具备金融算法审计资质的第三方开展算法模型审查,提升算法模型的可解释性。
对于算法垄断风险,欧盟《数字市场法案》(DMA)通过“守门人”机制约束大型平台滥用市场支配力(第3条、第5～7条)。DMA面向一般数字平台竞争市场,而我国头部数字金融平台占据市场主导地位,可能形成平台垄断,也容易引发系统性风险,应加强治理。一是将具有影响力的头部数字金融平台列为重点监管“守门人”,实施更高标准的数据分级隔离、算法模型独立验证和跨机构风险共担机制,以防止算法垄断;二是在《中华人民共和国反垄断法》和《中华人民共和国反不正当竞争法》框架下推进互操作性机制,鼓励超大型平台开放涉及用户权益的部分接口或标准,降低算法垄断风险。
(2)信任治理维度。 在客户—平台信任路径中,通过加强信息披露,完善申诉调解机制,维护客户对平台的信任。首先,建立统一的信息披露规范,鼓励数字金融平台明确告知数据收集范围、信用评估所参考的主要因素类别及信用决策结果可能对客户产生的影响等核心事项,提升平台业务规则透明度,保障客户知情权。其次,由行业协会牵头,建立客户信用申诉与调解平台,完善客户信用反馈与投诉渠道,保障客户权益,增强客户粘性,减少信任转移行为。
在平台—算法信任路径中,通过增强平台对算法的可控性,防范算法黑箱风险。首先,借鉴欧盟《人工智能法案》中高风险AI系统贯穿生命周期实施风险管理理念(第9条),将其转化为适用于金融场景的算法全生命周期使用规则,建立覆盖算法模型上线、更新与暂停使用的全生命周期使用治理框架,提升核心算法模型的可控性与可问责性。其次,构建清晰的责任分担机制,明确算法开发者、平台运营者、数据提供方及监管部门的责任边界,落实算法安全主体责任,避免损害平台与算法的信任关系。
在算法—客户信任路径中,应动态更新客户信用评分,避免客户信用标签化,增强算法对客户的信任。首先,在现有个人信息可携带的基础上,完善信用数据授权转移规则,在客户授权下实现个人信用数据的可携性,使与信用评估相关的有效行为数据在合规范围内被不同平台认可,并及时更新客户信用评分。其次,完善信用数据使用边界,对超大型数字金融平台加强数据使用范围与用途约束监管,防止平台凭借数据与算法优势形成垄断,避免固化客户信用标签。
(3)信用风险治理维度。 在客户关联传染渠道中,信用风险主要通过客户多平台借贷交叉传染,信用风险治理既要强调制度约束,又要兼顾普惠金融。首先,应推动公共信用教育与风险告知制度化,鼓励平台在借款界面设置“全网负债风险提示模板”,提升客户风险认知能力。其次,建立差异化普惠金融治理机制,对数字金融平台实施负债压力测试,对风险可控的小额借贷客户保障其合理融资需求,对存在恶意多头套利行为的客户实施严格惩戒,降低不合规多平台借贷概率。
在平台业务风险传染渠道中,应加强业务风险隔离与跨业务风险监管。一方面,监管部门应鼓励数字金融平台对不同业务线实行独立核算和风险计量,对不同业务各自计提风险准备金,隔离业务风险。另一方面,建立跨业务风险监管与处置机制,当某一业务出现较大规模信用风险暴露时,监管部门可依据预先设定的不良贷款率等风险触发指标,使平台同步采取跨业务限制措施,降低信用风险在不同业务间的传染概率。
在算法固化传染渠道中,信用风险通过固化的信用标签在不同平台、不同机构间传染,故应加强客户数据管控与算法模型共享监管。首先,借鉴欧盟《通用数据保护条例》(GDPR)在特殊类别数据中的保护思路(第9条),建立数字金融平台间数据分级共享制度,对不同敏感程度的数据设定严格的使用范围与跨平台传递规则。其次,设立跨平台算法模型共享备案与审查制度,对涉及信用决策的核心算法模型设定强制备案和用途限制,并由第三方审查合规性,防止算法合谋,降低信用风险跨平台传染概率。
本文运用信任理论、算法治理理论、金融风险传染理论,探究算法风险通过弱化信任机制诱发数字金融平台信用风险产生与扩散的内在机理,构建包含算法、信任、信用风险传染理论框架,细化了技术信任理论,验证了算法治理在数字金融平台信用风险传染情境下的适用性。
本文研究结论如下:算法重构了数字金融平台信任机制,形成客户—平台、平台—算法、算法—客户三重信任路径。算法通过信用识别、信息匹配与决策执行虽能提升信用风险预测准确性,降低交易成本,增强金融服务包容性,但算法风险也有可能会削弱信任关系,引发信用风险形成与传染。算法歧视风险、算法黑箱风险、算法垄断风险嵌入到信任路径中,在信任路径联动下引发客户信任转移、平台信任失控与算法信任固化,导致信用风险通过客户关联渠道、平台业务渠道、算法固化渠道传染扩散,与传统金融风险传染相比更具复杂性。因此,本文从算法治理、信任治理与信用风险治理3个维度提出多维治理策略。在全球人工智能治理不断强化背景下,数字金融平台风险治理受到国际规则约束,未来治理应主动对接国际标准和监管规则,加强多维协同治理与跨境合作治理。
本文聚焦具备自营放贷资质的数字金融平台,其既可独立发放贷款,也可通过联合贷款等方式开展金融业务,而对于引流助贷模式的数字商业平台以及以技术赋能为核心的金融科技平台、金融机构数字化平台等,其信任机制、风险传染过程和治理重点可能有所不同。此外,各国在算法治理制度与平台业务发展方面的差异也会影响理论框架的适用性。
(1)拓宽了数字金融平台研究视角。已有研究多将数字金融平台、金融科技平台混用,本文对此进行区分,界定数字金融平台的概念,并从算法重构信任机制视角切入,构建数字金融平台三重信任路径,厘清不同类型算法风险在信任路径联动下的作用机制与风险传染逻辑,聚焦于微观信任关系的具体演变。
(2)丰富了信用风险传染研究框架。本文不同于已有研究从资金流、信息流或市场关联度出发构建风险传染分析框架,而是聚焦算法风险通过弱化信任机制诱发数字金融平台信用风险的产生与扩散,揭示信用风险在信任路径联动中传染的演化机理,并构建多维治理策略,来应对数智时代下数字金融平台复杂的信用风险传染问题。
本研究存在以下不足:一是提出信任路径联动下的信用风险传染机理,未考虑信任路径联动效应的量化特征,未来可运用多层复杂网络模型、结构方程模型描述不同信任路径的影响方向、传染强度及联动效应。二是缺乏数字金融平台算法运行的真实参数,未来可建立算法风险与信任关系多层复杂网络模型,仿真模拟信任路径联动下的信用风险传染过程。三是主要聚焦消费金融平台,未覆盖供应链金融等其他类型数字金融平台。不同平台信任机制与风险传染可能存在差异,未来可拓展至多类型平台,开展跨平台比较研究;进行跨国别比较研究,探索国际治理规则。
[1] 齐昊, 李钟瑾. 平台经济金融化的政治经济学分析[J]. 经济学家, 2021, 1(10):14-22.
[2] SRNICEK N. Platform capitalism[M]. Cambridge: Polity Press, 2017.
[3] 王义中, 林溪, 孙睿. 金融科技平台公司经济影响研究: 风险与收益不对称视角[J]. 经济研究, 2022, 57(6):119-136.
[4] 黄益平, 邱晗. 大科技信贷: 一个新的信用风险管理框架[J]. 管理世界, 2021, 37(2):12-21, 50.
[5] 程雪军. 金融强国目标下数字金融平台算法黑箱的系统治理机制[J]. 河海大学学报(哲学社会科学版), 2024, 26(2):107-120.
[6] 韩龙. 金融数字化、平台化: 风险治理的制度挑战与寻解[J]. 暨南学报(哲学社会科学版), 2024, 46(7):33-46.
[7] ARROW K J. Gifts and exchanges[J]. Philosophy &Public Affairs, 1972,1(4):343-362.
[8] LUHMANN N. Trust and power[M]. Chichester: John Wiley &Sons, 1979.
[9] 郭广珍, 陈茜怡, 陈尚轩. 数字信任的经济学分析[J]. 南方经济, 2023, 41(9):1-24.
[10] 叶明, 邱威棋. “秘密自治”的数字平台信用评分: 隐忧与规制[J]. 北京工业大学学报(社会科学版), 2023, 23(4):118-134.
[11] 宋胜男, 闫宏秀. 算法信任的本质问题探析: 从概念到构成[J]. 东北大学学报(社会科学版), 2024, 26(6):28-35.
[12] 黄伟文. 算法信任的法律性质[J]. 环球法律评论, 2025, 47(3):120-135.
[13] 戴维, 王锡锌. 算法透明机制的局限性及其克服[J]. 华东政法大学学报, 2025, 28(1):33-44.
[14] 董青岭. 人工智能时代的算法黑箱与信任重建[J]. 人民论坛·学术前沿, 2024,13(16):76-82.
[15] 廖新媛, 周程. 绕过算法黑箱:通过算法代言人建立算法信任的进路初探[J]. 自然辩证法研究, 2024, 40(9):20-26.
[16] KIM B, BARBER R F. Black-box tests for algorithmic stability[J]. Information and Inference: A Journal of the IMA, 2023, 12(4): 2690-2719.
[17] KIM S. Perceptions of discriminatory decisions of artificial intelligence: unpacking the role of individual characteristics[J]. International Journal of Human-Computer Studies, 2025, 194: 103387.
[18] INDERST R, THOMAS S. Algorithms and antitrust: a framework with special emphasis on coordinated pricing[J]. Journal of Competition Law &Economics, 2025, 21(4):534-564.
[19] 郑煌杰. 生成式人工智能的伦理风险与可信治理路径研究[J]. 科技进步与对策, 2025, 42(12):38-48.
[20] BAR-GILL O, SUNSTEIN C R, TALGAM-COHEN I. Algorithmic harm in consumer markets[J]. Journal of Legal Analysis, 2023, 15(1):1-47.
[21] WACH K, DUONG C D, EJDYS J, et al. The dark side of generative artificial intelligence: a critical analysis of controversies and risks of ChatGPT[J]. Entrepreneurial Business and Economics Review, 2023, 11(2):7-30.
[22] KOSHIYAMA A, KAZIM E, TRELEAVEN P, et al. Towards algorithm auditing: managing legal, ethical and technological risks of AI, ML and associated algorithms[J]. Royal Society Open Science, 2024, 11(5):230859.
[23] 蔡琳, 卢青霞. 从技术导向型到以需求回应型为主的转变——论算法规制的路向问题与破解[J]. 科技进步与对策, 2025, 42(21):25-36.
[24] 马勇, 章洪铭. 地方融资平台债务风险传导机制与政策应对[J]. 中国工业经济, 2023,41(8):42-60.
[25] HU M R, LI X, SHI Y, et al. Numerological heuristics and credit risk in peer-to-peer lending[J].Information Systems Research, 2023, 34(4):1744-1760.
[26] WANG F, ZHANG H, WANG J. Strategic behavior in multi-criteria sorting with trust relationships-based consensus mechanism: application in supply chain risk management[J]. European Journal of Operational Research, 2025, 321(3): 907-924.
[27] 宋晓晨, 毛基业. 基于区块链的组织间信任构建过程研究——以数字供应链金融模式为例[J]. 中国工业经济, 2022,40(11):174-192.
[28] COLE H L, KRUEGER D, MAILATH G J, et al. Trust in risk sharing: a double-edged sword[J]. The Review of Economic Studies, 2024, 91(3):1448-1497.
[29] 杨亚倩, 蔡莉, 陈姿颖. 数字平台治理机制对机会集的影响——基于多主体互动视角的研究[J]. 科技进步与对策, 2023, 40(15):1-11.
[30] 陆阳, 石宝峰. 基于极小极大算法的信用评级模型[J]. 中国管理科学,2025,33(2):28-37.
[31] HOU L, BI G, GUO Q. An improved sparrow search algorithm optimized LightGBM approach for credit risk prediction of SMEs in supply chain finance[J]. Journal of Computational and Applied Mathematics, 2025, 454:116197.
[32] LU Y, YANG L, SHI B, et al. A novel framework of credit risk feature selection for SMEs during industry 4.0[J]. Annals of Operations Research, 2025, 350(2):425-452.
[33] GARCIA A C B, GARCIA M G P, RIGOBON R. Algorithmic discrimination in the credit domain: what do we know about it[J]. AI &SOCIETY, 2024, 39(4):2059-2098.
[34] SHANKAR V, URBAN G L, SULTAN F. Online trust: a stakeholder perspective, concepts, implications, and future directions[J]. The Journal of Strategic Information Systems, 2002, 11(3-4): 325-344.
[35] HARDIN R. Trust and trustworthiness[M]. New York: Russell Sage Foundation, 2002.
[36] LATOUR B. Where are the missing masses? the sociology of a few mundane artifacts[C]// BIJKER W E, LAW J, et al. Shaping technology building society: studies in sociotechnical change. Cambridge, MA: MIT Press,1992.
[37] DATTATHRANI S, DE′R. The concept of agency in the era of artificial intelligence: dimensions and degrees[J]. Information Systems Frontiers, 2023, 25(1):29-54.
[38] OECD. OECD digital education outlook 2023:towards an effective digital education ecosystem[R]. Paris: OECD Publishing, 2023.
[39] OECD. Algorithms and collusion:competition policy in the digital age[R]. Paris: OECD Publishing, 2017.
[40] STEWART K J. Trust transfer on the World Wide Web[J]. Organization Science, 2003, 14(1): 5-17.