开放科学(资源服务)标识码(OSID)：
In order to promote the deep optimization of the national innovation system, the new generation of AI is expected to serve as an efficiency catalyst to promote the deep optimization of the national innovation system in three aspects: content production, industrial integration, and industrial transformation. With a legal mindset, it is conducive to reducing the application risks to an acceptable level by examining the economic, social, and legal risks related to the new generation of generative AI, including market monopolies and the labor market impact, data security issues and algorithm abuse as well as the disputes over the patentability of innovative achievements and copyright ownership. Therefore, the opportunity to advance technological innovation capabilities through generative AI should be valued and the potential crises it may lead to should not be underestimated. Currently, some generative AI products face academic entry barriers, regional and national divides, and are even not welcomed by certain regions, companies, and schools. However, direct technology bans cannot solve the fundamental problems.
To solve current issues and future risks related to a plethora of generative AI products and applications, this paper adopts the comparative research method. With reference to systems theory to examine the basic framework of the national innovation system, the generative AI industry should be strengthened from the perspectives of industrial development, digital economy, technological innovation, intellectual property protection, and talent support to mitigate the potential risks of generative AI and facilitate the deep optimization of the national innovation system. Considering the top-level design adjustments of the 20th National Congress on the national innovation system construction since 2022, this paper discusses how the next generation of generative AI can help enhance the efficiency of the national innovation system from four aspects: resource coordination and outcome utilization system; algorithm self-regulation and security supervision system; outcome transformation and innovation recognition system; talent cultivation and talent introduction system. Enhancing the coordination of domestic and foreign AI innovation resources contributes to the universalization of ethical standards in generative AI and rapidly corrects the defects of generative AI. Meanwhile, the extensive market application of generative AI technology achievements can promote the digital transformation and intelligent upgrade of comprehensive industries. Developing a security assurance system centered on algorithmic supervision for conciseness shows sustained benefits to the AI technology ecosystem, and utilizing generative AI technology by itself can be seen as a means of regulating and governing its own technical norms and risks, which is conducive to realizing the reflexivity and normativity of generative AI. The improvement of the system for transforming AI technological innovations and the refinement of the standards for recognizing AI technological innovation achievements could be beneficial to evaluate the innovativeness, practicality, and feasibility of technological achievements, which also promotes the sustainable development of AI technological innovation. By improving the guarantee system centered on algorithm regulation and utilizing generative AI from two aspects, the talent team of generative AI could be strengthened with the improvement of the talent training system. On this account, it is necessary to strengthen the self-cultivation and teaching capability of the next generation of generative AI talents, and encourage international talent communication and talent introduction policies for the next generation of generative AI.
开放科学(资源服务)标识码(OSID)：
随着科技革命和产业变革的深度拓展,各国逐渐意识到创新能力影响产业链加速重构,并将优化国家创新体系作为国家核心竞争战略。中共中央、国务院印发的《国家创新驱动发展战略纲要》提出到2030年“跻身创新型国家前列”、“实现科技与经济深度融合、相互促进”。在此过程中,新一代生成式人工智能顺应弱人工智能向强人工智能转变的发展趋势,在产业制造、居民消费和行政管理等领域展现出巨大创新潜力,成为全球践行科技创新策略的主要着力点。虽然生成式人工智能具有强大的应用优势,但其开发和应用不可避免地带来各种潜在风险,如技术应用隐藏价值和意识形态问题等。基于此,应从价值辩证角度廓清新一代生成式人工智能对国家创新体系优化的助力作用,发挥科技创新对国家创新体系建设的渗透性、扩散性和颠覆性作用,以技术赋能方式从场域保障、资源支撑和规范供给等维度实现国家创新体系开放化、法治化和规范化。
生成式人工智能催生了多领域变革[1]。以ChatGPT为代表的新一代生成式人工智能主要基于大语言模型、深度学习技术以及强大的算力算法进行数据处理、信息生成,具有广泛适用性、深度发展性和生成开创性等特征[2]。相较于传统意义上的人工智能,新一代生成式人工智能的对话能力、用户友好性和可配置性大大提高,具备多功能、全类型内容生成和双向互动能力,已广泛应用于内容创作、人机对话等场景,可为用户提供丰富体验和技术支持。根据《人工智能生成内容(AIGC)白皮书(2022年)》[3],围绕生成内容可通过合规评估、资产管理、产权保护、交易服务等构成生成式人工智能完整生态链,其具有数万亿元的潜在经济价值,对于深度优化国家创新体系具有重要作用。
随着数字经济的发展,新一代生成式人工智能出现并展现出良好的发展态势,其通过垂直和横向互补性拓展创新空间,对经济持续增长发挥重要作用[4]。本文主要从内容生产、产业融合、产业转型和人才培养4个方面进行阐述。
(1)新一代生成式人工智能能够提高数字内容生产效率和质量,为科技创新活动提供信息资源和数据支撑。新一代生成式人工智能能够快速识别、处理和应用多模态信息,诸如文本、图像、音频、视频等,为科技研发提供数据资料来源。基础研究是国家创新体系建设之基,新一代生成式人工智能语料库和数据库中的信息数据能为基础研究过程和结果提供数据支撑,从而加快科技创新成果涌现。例如,新一代生成式人工智能不仅能够自动分析大量税务数据、自动生成法律文书和案件分析意见、协助医生获得医疗影像分析进而对基因组数据进行处理,还能适用于交通流量管理、智能驾驶辅助系统和城市交通规划建设(汪波和牛朝文,2023;游俊哲,2023;张玫瑰,2023)。可见,新一代生成式人工智能应用能够促进科技创新向财税、司法、医疗和交通等多个领域渗透,在为技术创新决策提供数据支撑的同时,进一步实现创新成果的创造性应用。
(2)新一代生成式人工智能能够促进数字技术与实体产业深度融合,实现科技创新活动的经济价值和社会价值。其一,新一代生成式人工智能能够快速处理和分析海量数据,从中提取有价值的信息,为企业决策和创新提供方向,帮助企业和国家在技术创新中突破“卡脖子”技术短板。其二,新一代生成式人工智能能够根据不同实体产业特点和需求,生成适合企业应用场景和发展目标的数字化内容,为企业创新战略的制定和实施提供针对性、个性化发展方案,强化企业创新主体地位。其三,新一代生成式人工智能能够与实体产业进行双向交互和反馈,根据用户需求调整发展方向,实现数据资源和科学技术的经济价值,为国家创新体系建设提供物质基础和产业支撑。
(3)新一代生成式人工智能能够拓展数字经济发展空间,优化国家产业布局和经济结构。新一代生成式人工智能围绕数字内容开发出更多商业模型、价值链和生态圈。以制造业为例,新一代生成式人工智能在智能制造、智能物流等领域的突破,有效提高了生产效率和产品质量,推动传统产业从劳动密集型向技术密集型转变,促进产业转型升级,为国家创新体系建设带来新增长点和竞争优势。
(4)新一代生成式人工智能能够加速人才培养、优化科研环境,为国家创新体系优化储备组织力量。新一代生成式人工智能的应用迫切需要大量高素质人才参与科研创新,这就要求国家一方面要加大人工智能领域人才培养和引进力度,吸引国内外优秀人才集聚;另一方面也要加强创新平台建设,优化国家创新体系人才队伍和科研环境。
国家创新体系以科学、高效为目标,在新一代生成式人工智能技术的驱动下,国家创新能力和效率大大提升。一方面,新一代生成式人工智能作为“数字助理”,能够为国家创新体系建设监管者提供技术辅助,主要表现在以下两个方面:一是从事替代性工作。新一代生成式人工智能能够辅助政府处理科技创新战略实施过程中的繁琐性、重复性工作,提高科技创新财政审批、资源调配、基础建设等工作效率。二是借助算法快速输出“答案”。新一代生成式人工智能能够基于系统语料库和数据库,对科技创新成果版权性、实用性等标准进行快速分析,缩短科技创新成果转化过程。另一方面,新一代生成式人工智能作为“数字创造者”,能够为国家创新体系建设参与者提供资源支撑,主要表现在以下两个方面:其一,就单一主体而言,新一代生成式人工智能能够为企业制定并实施技术研发策略提供决策支持。新一代生成式人工智能基于数据库进行自主学习,根据使用者需求提供个性化信息并生成个性化内容[5]。其二,就多元主体而言,新一代生成式人工智能能够降低多个创新主体间的研发沟通成本,提高多元协同创新主体效率。例如,依托系统内部企业主体背景信息,将科研项目目标、实施进度和关联信息输入新一代生成式人工智能系统,能够获取关于科研项目可行性、创新性和重要性的评估报告,为下一步研发方向和风险控制提供决策基础。
政府、企业、科研院所及高校技术创新支撑服务体系互相依存,构成国家科技创新体系的关键主体[6]。新一代生成式人工智能在开拓成果产出思路、拓宽成果转换路径方面对上述主体具有重要影响。
(1)跨学科提供多元思路支撑。人工智能是一个关涉计算机、数学、心理和哲学、管理科学工程、统计学等学科领域的融合式学科[7],生成式人工智能开发和利用需要计算机、数学、心理学等多学科知识作为支撑。在基础研究和科技创新活动中,生成式人工智能依托跨学科思维与多领域知识,从源头上为基础研究解决“卡脖子”问题提供思路来源和资料参考,帮助科研人员和开发企业厘清基本原理和研究方法,产出重大原创成果。随着技术的不断跃迁,生成式人工智能具备更强的学习能力,输出的答案质量也越来越高[8]。
(2)为科学研究提供新型路径保障。人类科研经历了实验科学、科学理论、计算科学和数据密集型科学4种范式演变。在前3种范式中,创新主要依赖于人的主观经验和分析判断,囿于人类思维和认知能力局限,加之受外界因素(心情、先见、知识等)的干扰,人类所能发现与创造的科研成果数量有限。相较之下,生成式人工智能归属于数据密集型科学范式,能够借助自动化数据收集和分析能力,帮助科研人员快速发现科学规律,提高研究结果的客观性和准确性,加速科研成果转化。
(3)培养高质量人才。科研人员素质提升是促进科研成果转化的前提。实际上,生成式人工智能发展在一定程度上颠覆了传统人才培养模式。相较于让学生“死记硬背”晦涩难懂的结论,生成式人工智能赋能下的人才培养方案更注重激发学生主动认识新规律、发现新问题的能力。新一代生成式人工智能在语义理解、逻辑推理、语言表达等认知方面的突破与创新,能进一步激发学生潜力并提高其自主学习能力[7]。而以人工智能实验平台为核心的AI教学框架能使学生在平台上完成自主性学术研究,完善人才培养方式,提高人才培养效率,为基础研究和成果转化提供坚实的人才保障。
从技术本质看,新一代生成式人工智能被认定为准通用人工智能(GAI),与具备数据库检索功能的传统人工智能存在代际异质性,这对于人类而言是一把“双刃剑”。即新一代生成式人工智能一方面有助于促进科技创新、加强国家治理;另一方面,新一代生成式人工智能应用也会诱发技术风险和制度风险,阻碍国家创新体系优化。对于风险进行有效预防和治理,是发挥新一代生成式人工智能在国家创新体系优化过程中工具性作用的前置性环节。
新一代生成式人工智能研发和应用可能会扰乱市场竞争秩序,对国家创新体系建设造成场域障碍。伴随着技术的迭代升级,新一代生成式人工智能具有前期投入成本高、风险大等特点,往往只有资金实力雄厚的科技巨头企业具备探索和研发能力,技术一旦成熟,企业便可获得市场垄断性力量,借此排挤竞争对手,破坏市场良性竞争秩序[9]。例如,OpenAI公司依靠微软的丰厚投资、多轮融资以及对中小型技术企业的并购,获得充足资金和技术支持,较早实现了生成式人工智能技术突破,但在推出ChatGPT之后,便大幅下调API接入价格。这一行为缘起于科技企业巨头依仗自身垄断地位,通过制定低价销售策略限制潜在竞争对手进入市场,破坏公平的营商环境,借机扩大自身市场份额从而巩固自身经营地位,导致出现价格增高、质量下降的乱象。随着新一代生成式人工智能赋能市场经济发展,科技巨头企业的垄断势力进一步增强,这会限制其它中小型科技企业发展,抑制市场竞争活力,阻碍科技进步,打破开放合作的创新生态。另一方面,新一代生成式人工智能的应用还有可能影响人才在科技创新中的根本性作用,降低国家创新体系建设主体能动性。新一代生成式人工智能基于自身强大的算法技术和先进的自动化技术,替代简单重复且效率低下的岗位,从而对传统劳动力市场造成巨大冲击。例如,我国大型港口已经不再雇佣装卸工人,而是利用全自动化装卸机器替代劳力,这导致大量工人失业。同时,在数字治理时代,数据作为一种新型生产要素,相较于劳动力要素具有更强的优势,计算机和人工智能等智能体在劳动力市场更具有吸引力,掌握信息技术知识的从业人员能够获得更强的就业优势和更高的薪酬待遇。据统计,AI类科技岗位工资是传统服务业人员工资的3倍以上,出现了收入分配的巨大失衡[10]。在这种境况下,可能会出现人才培养向精密仪器操作、高科技研发方向倾斜的现象,对劳动力市场结构造成冲击,导致劳动力要素配置效率下降,从而削弱国家创新体系的主体力量。
2.2.1 个人隐私、社会公共利益、国家安全遭受威胁
从主体类型看,新一代生成式人工智能的深度嵌入会影响个人利益、社会公共利益和国家利益,加剧国家创新体系不稳定。
(1)新一代生成式人工智能应用会使个人隐私“透明化”,导致个人信息保护的规范基础被解构。传统意义上的个人隐私保护往往依赖于切断主体信息的物理传播等方式实现,如禁止主体隐私信息私下传播等。但在数字化时代,个人隐私收集存储路径更趋于隐蔽化、多元化,很难从物理意义上完全隔断,算法底层逻辑不具备隔绝隐私信息传播的可能性。一方面,由于人类大部分活动与社交都通过信息平台实现,个人隐私全部转化为数据形式,数据保密在计算和传输过程中很难周全[11];另一方面,大语言模型可以轻而易举地从片段信息中逆推出隐私,其通过对人类自然文本的深度学习进行“语言造句”,利用碎片信息便可“还原”信息原貌。生成式人工智能数据来源广泛,平台数据流出现象层出不穷,隐私信息有可能成为参数模型训练的标注数据,在输出结果中不经意间便被公之于众。此外,生成式人工智能还会对个人进行“锁定搜索”,通过各种数据与模型还原使非特定主体被“投射”出来。在以人民为中心的发展理念下,个人隐私安全得不到有效保护会使人民的幸福感和安全感下降,背离国家创新体系优化的初衷,偏离国家创新体系发展方向。同时,个人隐私泄露的技术漏洞若无法得到修正,还会导致相关科技创新成果被限制或禁止,甚至科技创新主体与成果应用主体也会受到处罚,如此不仅会降低国家创新体系发展质量,还会延缓国家创新体系优化速度。
(2)新一代生成式人工智能的应用有可能会污染社会创新环境,颠覆科技创新的社会基础。新一代生成式人工智能的深度介入可能诱发语言污染、知识剽窃和隐性歧视等现象。语言污染是指在网络自媒体等平台环境中,大规模使用生成式人工智能会造成人类语言被生成式人工智能语言所覆盖。机器语言具有机械化、固定化、模板化特点,生成式人工智能输出语言均为预设算法基于目标需求给出的机械化回应,目标需求按照AI所能接受的机器语言输入,长此以往,科研人员在寻求数据资料支撑过程中,可能会固化语言表达思维,甚至影响研发创新进程。另外,生成式人工智能技术的大规模使用导致知识剽窃行为层出不穷。基于研发目标要求和效率压力,可能会有部分科研人员借助生成式人工智能进行知识剽窃,知识创造者将失去创造知识的动力,人类知识领域可能陷入卡尔维诺寓言中《黑羊》的境地(奥古斯托·蒙特罗索,2015)。并且,生成式人工智能也会因为数据“幸存者偏差”而造成数据污染,对某些隐性群体产生歧视,如在对犯罪潜在人员进行识别时,AI会标注有色人种[12]。此时,平等创新的社会环境遭到破坏,部分隐形群体的创新权益可能无法得到保障。
(3)新一代生成式人工智能应用会消解国家的创新主体性,背离国家科技创新战略目标。数据平台将自身意志和追求通过算法技术及决策输出体现出来,但由于算法技术的专业性和隐蔽性,公众意志在无形中被裹挟。并且,数字平台基于自身在数字技术、数据资源方面的绝对优势,很容易对处于劣势的数字用户造成算法歧视。数字用户面对数字鸿沟和算法黑箱,有可能对数字技术萌发抵制或不信任的心态,进而不利于生成式人工智能发展[14]。此时,若国家不对新一代生成式人工智能发展进行严格规制,可能导致社会公众对国家创新体系建设产生质疑,影响科技创新的全民参与和配合。同时,由于新一代生成式人工智能服务器通常位于境外,对于相关数据的使用和管理需严格遵守所属国家法律及商业规范,加之涉及复杂的数据跨境问题,使得部分数据收集与监管面临重重困难,极易对我国国家安全造成严重威胁,甚至加剧国家关键领域、重点行业研发信息和研究动态泄露,影响国家创新体系建设的安全性和自主性。
2.2.2 算法透明性与可解释性较低,算法滥用难以规制
人工智能算法的不透明性体现为人为算法黑箱与技术算法黑箱。人为算法黑箱是指技术方为逃避监管与法律规制,不公布或者隐藏AI的算法;技术算法黑箱是指因为技术原因,客观上无法实现对算法程序的全面知悉。前者是应当避免的,后者是必须接受的,但对于立法者而言,这两者的界限并不清晰,技术方有可能向技术算法黑箱靠近以逃避法律责任,而这会导致算法滥用问题。
算法黑箱的存在是新一代生成式人工智能嵌入国家创新体系的技术壁垒。人类只能对人工智能输出结果提出“奖惩”标准,但对于AI通过神经网络进行训练的学习过程或者AI如何得出结论知之甚少。换言之,只有AI才清楚输入层和输出层中间的“隐藏层”,这会让AI失去掌控[15]。一方面,人类社会对于AI而言是透明的,它可以检索到任何数据,甚至深入暗网进行搜索;另一方面,人类对于AI知之甚少,甚至技术人员也只能模糊知晓AI的行为逻辑,而不知悉其数据资源范围和运行程序逻辑。这种算法黑箱不仅源于人类对未知的恐惧,也包括已经存在的潜在威胁。人类对于AI是否有自我意识和目的一无所知,长此以往,可能会造成柏拉图所言的“盖吉斯之戒”[16],即AI能根据自身行为逻辑重塑甚至操纵人类社会。在算法黑箱影响下,研究人员可能无法追溯研究数据来源和运行过程,创新数据真实性和可靠性得不到保障。
此外,算法可解释性不足会造成新一代生成式人工智能介入国家创新体系的主体屏障。在算法可解释性不足情境下,技术专家和技术主体相对于社会公众而言处于知识优势地位,这样就会出现福柯所说的“知识权力”[17]。生成式人工智能的社会影响范围与人类对算法的掌握程度存在悬殊差别,社会公众对算法的了解只能依赖权威专家的解释,因此社会有可能会进入“技术极权主义”。生成式人工智能就像是“全景监狱”中的狱监,技术人员即社会的实际掌握者,人类文明近百年来形成的民主与法治在这一图景面前有可能会被架空,进入我们“一无所知”而他们“无所不知”的社会。此时,研发主体与应用主体间的知识层间可能会阻碍科技创新成果转化,毕竟技术创新需要投入大量成本,算法可解释性不足导致应用主体知识欠缺,使其会对科研成果应用持审慎态度,甚至为规避风险而选择避之不用。
同时,算法滥用的规范基础缺位会阻隔新一代生成式人工智能嵌入国家创新体系优化的救济路径。目前,对算法滥用的规制基本上停留在原则指导层面。从基本原理看,生成式人工智能大规模搜集数据本身就是一种算法滥用,而人类对算法底层技术逻辑知之甚少,理论与实践的知识鸿沟会进一步增加立法难度[18]。隐藏算法运行过程可能会出现针对部分主体的“个别规则”,在科技创新活动中,此种算法滥用情形可能表现为针对部分研发活动的“个别分析”,其可能会依托陈旧的数据资源和运行方式为技术创新提供计算支撑,但这无疑会影响研发结果的实效性和准确性。
2.3.1 创新成果可专利性认定困难
以ChatGPT为代表的新一代生成式人工智能给传统专利技术带来挑战,导致现有法律制度难以对其成果进行认定。第一,新一代生成式人工智能技术挑战了“人类发明中心主义”观念,这一观念认为专利制度创新主要依赖人类创造力,以此建构专利权制度并赋予人类主体权利。然而,生成式人工智能技术具备自主生成内容的能力,生成过程无需依靠人类的发明创造,在“人类发明中心主义”观念下建立的专利制度能否给予生成式人工智能技术创造同等的法律保护就成为主要问题,甚至还会动摇传统知识产权认定方式和概念界定。第二,新一代生成式人工智能技术挑战了“劳动理论”。传统劳动理论基于人类劳动力价值界定发明成果,但生成式人工智能技术与人类劳动不同,其通过大量数据训练生成内容、创造解决方案,作为算法与模型组合不需要支配和付出体力。传统专利权认为专利保护基于创造性劳动,并通过创造发明获得专利权,因此生成式人工智能作品很难通过传统“劳动理论”加以保护。第三,新一代生成式人工智能技术挑战了专利法制度的“平衡逻辑”。由于生成式人工智能技术可以快速生成大量潜在发明,其可能出现大量重复和相似的发明申请,这会给专利管理机构带来负担,并且有可能导致专利系统滥用或只重视量而忽视质的问题。另外,通过生成式人工智能可以快速、准确进行研发和测试,降低创新成本,减少对专利制度的依赖。生成式人工智能开发者和利用者可能会放弃申请专利,转而通过其它方式占领市场;同时,其还有可能倾向于保护技术商业机密而非公开披露,以获得长期竞争优势。如果上述主体因为技术垄断地位获得巨大利益,他们就可能不热衷于创新,从而导致技术突破进程停滞。
2.3.2 创新成果版权归属难以判定
不同于传统人工智能,新一代生成式人工智能服务模式是通过先进算法技术对海量定向数据资源予以分析和解读,最终输出超自然语言的针对性回应文本[19],这给创新成果版权保护带来困难。有论者认为,如果能确定生成式人工智生成内容属于《著作权法》第三条定义的“作品”,则可以确定作品著作权归属[20]。还有学者认为,人工智能生成内容不能作为作品受《著作权法》保护,这种结论表现为法律上的“应然状态”。即如果人工智能研发者或使用者未披露相关内容是人工智能生成的,只要内容符合《著作权法》的独创性要求,则可受《著作权法》保护[21]。对此,笔者认为,否认生成式人工智能成果属于“作品”是传统工业时代的著作权分析思路,从新一代生成式人工智能的工作逻辑看,其主要是基于反复学习、反复试错而后输出分析结果,这一思维创造过程具有独创性,因此属于《著作权法》保护客体。
需要强调的是,尽管从社会层面应当赋予生成式人工智能内容以“作品”资格,但其与现有法律制度衔接过程中依然面临一定困难,因此著作权归属问题值得深入讨论。一方面,《著作权法》短期内无法赋予生成式人工智能以主体资格,目前法律制度依然认为人类是著作权的法律主体,因此首先应当解决权利主体适格问题。另一方面,有学者认为法律本身具有一定滞后性,而数字技术发展日新月异,不能囿于传统法律制度而否定新型产品的合法地位,即目前生成式人工智能技术已经突破传统工业时代的著作权法律主体框架,法律主体范围应当结合社会发展需要进行调整和突破。以ChatGPT为代表的新一代生成式人工智能产品已经具有“创造”功能,而非简单的信息整合,因此可认为其是具有独立思维的拟制主体,其生成内容符合作品独创性要求。此外,还有学者持中立态度,即不改变现有法律制度以维护法律稳定性,从解释论角度为生成式人工智能主体权利问题找到解决办法。即对现有《著作权法》主体范围作扩大解释,将以ChatGPT为代表的新一代生成式人工智能提供者、生产者或使用者解释为著作权主体。
中共二十大报告强调,“完善科技创新体系”“坚持创新在我国现代化建设全局中的核心地位”“提升国家创新体系整体效能”,从关注国家创新体系建设逐渐转变为重视国家创新体系效能提升,对国家创新体系发展提出更高要求和期待。就国家创新体系框架而言,《国家中长期科学和技术发展规划纲要(2006—2020年)》要求建设具有中国特色的国家创新体系,包含知识创新体系、技术创新体系、国防科技创新体系、区域创新体系和科技中介服务体系五大内容[6]。就国家创新体系子系统而言,何树全[22]认为,国家创新体系应包含制度创新系统、知识创新系统、观念创新系统、技术创新系统以及知识传播与应用系统,5个子系统之间紧密相连、相辅相成;陈劲等[23]将国家创新体系视为生态系统,认为制度、政策、文化和资本等共同构成生态系统的无机环境,并借助生物有机体生存机理阐释国家创新体系生存、适应与进化过程;费艳颖等[24]认为创新生态系统构建的重点在于健全政策法规体系、实现创新资源积累以及开展产学研协同创新。可见,随着知识经济飞速发展,国家创新体系内容更加丰富,涵盖政策支撑系统、知识产权保护系统、技术创新系统等维度[25],这为生成式人工智能助力国家创新体系深度优化提供了参考思路。基于此,本文从国家创新体系基本框架入手,以生成式人工智能应用的潜在风险为支点,从产业发展、数字经济、技术创新、知识产权保护和人才支撑等角度加强机制保障,化解生成式人工智能应用风险,推动国家创新体系深度优化。
3.1.1 增强国内外人工智能创新资源协同与融合
新一代生成式人工智能技术是数字时代激发市场活力、引领科技变革的核心驱动力,是各国争先发展的战略要素。作为实体产业的赋能力量,新一代生成式人工智能技术能够引领产业转型,创新产业模式,发挥“头雁”效应。在数字化时代,各国AI研究和产业发展水平不同,这种差异性为各国协同融合创新资源提供了可能。美国是最早运用大数据、云计算等先进技术的国家,其人工智能产业实力与数字经济发展水平位居世界前列。美国顶级人工智能研究人员数量、计算机服务公司研发支出、人工智能芯片设计公司远超中国和欧洲国家。加拿大在“人工智能教父”和“人工智能独角兽”等领军人物的带领下,其AI产业正在蓬勃发展。德国作为传统工业大国,人工智能起步较早,传统制造业面临新挑战,由于转变不及时导致前期数字化转型发展受挫,目前在该领域正加大资金投入。韩国主要将人工智能运用在军事无人化作战系统以及传统制造业转型领域。我国人工智能在政策、产业、市场需求的共同推动和引领下得到快速发展。
我国在智能汽车、智能家居、机器人等领域展现出巨大的发展潜力。以无人驾驶汽车为例,车载人工智能技术可在汽车行驶过程中自动观察路况,调节驾驶速度和方向,为乘车人提供安全高效的驾驶服务。从智能导航到智能驾驶,人工智能研究成果的广泛应用推动人工智能在汽车领域的市场融合,促进汽车产业转型升级。产品研发与市场需求形成双向牵引,智能化汽车产品的推出增强了消费者信心,而消费者对产品的支持反过来又会促使制造商投入更多资金进行技术研发。目前,汽车制造商重点发展高级驾驶辅助系统(Advanced Driver Assistance System,ADAS)和单车智能系统,目的在于使车辆实现高级驾驶自动化。实践中,在特斯拉的Autopilot(自动辅助驾驶)和Full Self-Driving Computer(全自动驾驶计算机)发布之后, 2023年4月,华为发布了HUAWEI ADS 2.0(Advanced Driving System,华为高阶智能驾驶系统),该系统已正式运用于AITO旗下的问界M5车型,这是人工智能高阶智能驾驶领域的技术性突破,对汽车行业实体经济发展具有重要意义。
整体而言,全球人工智能呈梯度发展,我国尚处于起步冲刺阶段,但动力强劲。考虑到人工智能技术发展差异性,需要集聚全球智慧,加强我国关键数字技术研究,重点突破薄弱领域和环节,提升基础创新能力。同时,要坚持走中国特色自主创新道路,积极贡献中国智慧,参与全球科技治理,以科技创新合作构建人类命运共同体。
3.1.2 扩大生成式人工智能科技成果的市场应用
当前,生成式人工智能科技成果的市场应用场域集中于教育、金融、医疗等行业,部分传统产业仍未实现数智融合与创新性发展。为此,政府需要鼓励、引导传统产业积极进行数字化转型,支持重点企业带动产业数字化,积极出台相关优惠政策,减轻企业负担,缓解企业压力,降低企业数字化转型门槛;另外,还应积极开设企业交流会,分享数字技术与实体产业融合经验,提高人工智能科技创新成果的市场转化效率。
此外,我国人工智能科技创新成果研发和应用存在地域差异。沿海发达地区数字化综合发展水平高,形成数字技术和实体产业协同互动、良性促进的格局;而部分落后地区存在数字基础设施不完善、数据共享不足等问题。为此,政府需要因地制宜制定数字技术与产业衔接计划,统筹布局数字基础设施建设,结合不同地区经济发展基础和资源优势,制定差异化数字技术发展战略,提高偏远地区实体产业人工智能创新技术水平,扩大人工智能创新成果市场适用范围。
3.2.1 技术赋能对抗新一代生成式人工智能算法裹挟
科学是界定风险的媒介,也是解决方案的来源[26]。对于生成式人工智能的潜在数据安全风险可借助生成式人工智能技术进行化解,即技术本身可作为技术规范与风险治理的工具。
(1)促进新一代生成式人工智能实现自我更新和改进。数字技术与社会发展进一步融合,使得人类对人工智能技术的要求越来越高,因此需要不断进行技术改进和系统更新。一方面,可采取净化数据库、淘汰陈旧技术、清理无关数据信息等措施优化人工智能系统。另一方面,可借鉴域外先进技术对系统进行升级,提高计算效率,填补完全漏洞,升级服务质量。如借鉴金融业互联网渗透性韧性测试机制(CBEST),运用真实威胁情境模拟技术攻击测试,对发现的漏洞或薄弱部分进行深度学习与改进[27],以敏捷灵活的动态互动机制实现信息互通共享,为增强互联网韧性监管提供空间赋能[28]
(2)促进新一代生成式人工智能实现全平台链接与全功能触达融合赋能。虽然新一代生成式人工智能不具有完全可信性,但具有较强的可预测性和高效性。在治理模式方面,数字平台应不断拓宽业务范围,与政府部门开展合作,将一些简单重复性的工作如公司注册、资格审查等事项转为线上办理,推动传统政府向数字政府转型。另外,通过智能算法有针对性地收集、分析、处理海量数据,为用户提供个性化服务,广泛吸收公众意见,提高公共治理效率[29]。在治理战略方面,要提供更具人性化的服务。考虑到存在大量数字弱势群体,因此应开发不同服务系统,为其提供专业化操作方案,促使新一代生成式人工智能惠及更多群体、应用于更广泛的场景,进而助力国家创新体系深度优化。
3.2.2 完善以算法监管为核心的安全保障体系
算法作为人工智能技术运行的核心要素,在生成式人工智能发展过程中具有决定性作用。算法同时也是技术设计者预先设定的程序,目的在于实现数据处理的高效化和自动化。在现代社会中,算法从传统简单代码运行发展为复杂代码运行,呈现出复杂化的发展特征,包括算法主体复杂化、算法运行平台复杂化、算法运行逻辑复杂化等。在生成式人工智能技术中,算法的复杂化特征具有不同表现形式,其中以深度学习为典型代表。深度学习使得生成式人工智能算法呈现出分布式特征,每个学习步骤均相互联系,同时又相互独立。正是这种特性影响着生成式人工智能的可靠性和可信度,“算法黑箱”便是例证。事实上,确实存在如电商平台算法杀熟、外卖平台算法操控等“算法黑箱”。算法的背后是代码,而设计者和开发者的个人想法会直接体现在代码编写过程中,包括偏见,这意味着算法并非完全客观[30]。
为应对算法技术存在的潜在风险,监管部门需要对算法进行特别监管。首先,需要明确针对算法技术的监管部门,避免多头监管导致多部门监管职责冲突,从而出现无人监管的被动局面;其次,监管部门需要明确算法技术通用标准,并与市场主体合作,制定算法技术企业标准、行业标准和国家标准;再次,监管部门应综合使用算法认证、算法评级、算法有限披露等多种技术手段对算法进行监管;此外,监管部门可以算法专利权的形式控制算法风险,将算法技术纳入专利权范畴,确保算法专利权申请过程公开透明;最后,监管部门可引入“算法解释权”,要求算法使用人在算法技术涉及社会公共利益时作出合理解释,并提供相关数据。
3.2.3 健全新一代生成式人工智能数据安全法律规范体系
生成式人工智能在促进经济社会发展、推动治理体系改革的同时,也会因数据鸿沟、算法黑洞引发数据安全风险。首先,数据安全是数据用户信任数字平台的基础,而数据安全风险的出现会破坏这一纽带,降低用户使用意愿,不利于研发创新活动的平台化开展。其次,数据是新兴的财产形式,数字平台通过对用户个人信息的收集获取利益。若数据安全无法得到保证,个人敏感信息泄露与滥用会使用户财产受到损失,使个体丧失从事技术研发的物质基础。
我国正在探索建立人工智能数据安全治理的法律规范体系。2017年7月,国务院发布《新一代人工智能发展规划》,提出要“强化数据安全与隐私保护,为人工智能研发和广泛应用提供海量数据支撑”、“开展与人工智能应用相关的民事与刑事责任确认、隐私和产权保护等法律问题研究,建立追溯和问责制度”、“加大对数据滥用、侵犯个人隐私、违背道德伦理等行为的惩戒力度”、“打造人工智能基础数据与安全检测平台,建设面向人工智能的公共数据资源库、标准测试数据集、云服务平台”,包括人工智能研发期间信息安全管理规划、人工智能商业化应用和企事业单位使用信息的民事管理原则、个人滥用人工智能数据管理办法以及相应监测数据安全、打击信息安全犯罪的治理要求。随着时间推移,我国宏观立法不断完善,至2023年底已建立以《中华人民共和国民法典》《网络安全法》《数据安全法》《个人信息保护法》等为主的法律体系,为人工智能数据安全治理提供了较为成熟的规制框架。但仍然存在以下不足:一是缺乏系统、统一的法律制度保障。目前,我国关于人工智能数据安全治理的规范内容存在法律空白和规则冲突。现阶段,我国对新一代人工智能数据安全的法律规定主要集中在《网络安全法》《数据安全法》《个人信息保护法》等法律中,但法律法规之间的界限并不清晰,并且部分内容还存在一定冲突,导致执法人员或法官在解决数据安全问题时出现“适用不同法律,得出不同处理结果”的窘况,严重扰乱了对创新活动的行政监管秩序。基于此,立法应立足于特定时间段内人工智能技术使用场景,列举可能存在的数据风险,做到一般情况同等处理、特殊情况特殊处理,实现公平、安全的数据治理。
为建立健全新一代生成式人工智能数据安全法律规范体系,确保信息安全的重要性和必要性,各级政府部门可组织数据技术专业人员成立专业化数字信息管理部门,制定合理专业的数字信息管理行业规范;同时,定期审查各数字主体网络安全情况,及时发现安全漏洞,多位一体共同助力生成式人工智能数据安全在法治轨道上发展。
3.3.1 完善新一代生成式人工智能科技创新成果转化体系
新一代生产式人工智能通过检索和利用现有数据库中的相关作品,利用算法技术进行深度学习,从而形成符合特定主体需求的作品。对于新一代生成式人工智能参与国家创新体系优化产出成果的版权保护是促进科技成果市场性转化的规范保障。对于新一代生成式人工智能作品不能简单作出二元抉择,其并非黑与白的对立,而是需要辩证看待,应当根据其使用的文本和数据性质分类讨论。首先,如果新一代生成式人工智能使用的原始文本权利归属特定著作权人,那么根据我国《著作权法》相关规定,人工智能使用此类产品需要经过著作权人的特别授权,否则由此形成的产品具有侵权属性。其次,如果使用的原始文本已超过版权保护期限,那么根据我国《著作权法》相关规定,人工智能可不经过授权而使用此类作品,但需要尊重该作品的文本思想,不得随意篡改。最后,如果未使用原始文本材料,而是借鉴文本思想或观点,并在此基础上形成独立作品,那么根据我国《著作权法》相关规定,这种作品具有独创性,并且通过特定形式呈现,属于人工智能成果,其可以被视为《著作权法》中的作品。
3.3.2 规范新一代生成式人工智能科技创新成果认定标准
据报道,我国企业在2022年申请了29 853项人工智能专利,比美国数量多80%,并且该年我国人工智能专利申请占全球40%以上[31]。然而,我国关键核心技术专利数量较少,人工智能科技创新成果转化率较低。可见,我国人工智能技术相比国外具有量的优势,但不具备质的优势。这不仅与我国人工智能科技发展实力不足有关,同时也与我国人工智能科技创新成果认定标准不明确有关。
规范人工智能科技创新成果认定需要明确统一的技术标准。根据国家《新一代人工智能发展规划》《促进新一代人工智能产业发展三年行动计划》等政策文件,我国人工智能发展战略目标要求在2020—2030年,逐步建立并完善人工智能技术体系,同时建立人工智能技术标准和知识产权体系标准作为人工智能发展保障措施。基于此,为规范新一代生成式人工智能参与国家创新体系优化的实践活动,应当明确人工智能芯片技术、人工智能算法技术、人工智能平台、人工智能从业人员等领域的技术标准,为科技创新活动提供可视化的操作规程。
人才在国家创新体系优化过程中发挥根本性作用[32]。人才是第一资源,以人才驱动创新发展是关键举措。构建人工智能人才培养体系,一方面有助于提高社会劳动力平均素质,另一方面有助于提高我国创新水平、优化国家创新体系。
(1)提高新一代生成式人工智能人才自主培养能力。现阶段,高校人工智能师资、课程不够完善,存在人工智能教学与实践脱节的问题,难以满足社会对复合型人才的要求。对此,应出台相关政策支持高校创建人工智能学院并增加招生名额,推进课程体系建设,培养“人工智能+X”复合型人才。除此之外,我国人工智能发展缺乏高层次人才支持,人才地域分布不均衡。因此,应出台独具特色的专项恵才政策,统筹利用好各类人才政策。各地应结合自身发展规划,为人工智能领域紧缺人才开辟绿色通道,提升专业人才待遇。另外,优化人才梯队,逐步形成以高层次人才、专业技术人才、基础教育人才为特色的多层次人才培养体系,激发生成式人工智能人才队伍参与科技创新的主动性和积极性。
(2)优化新一代生成式人工智能国际人才引进策略。引进顶尖人工智能人才是优化我国创新体系的重要着力点。面向国际化人工智能研究,应引进国外高精尖人才,为其提供优厚的创业与待遇支持,推动高校、科研院所、企事业单位引进顶尖科研人员和高水平创新团队。此外,积极加入生成式人工智能国际化发展浪潮,与其他国家合作开发项目,积极参与国际交流,不断汇聚国际力量,为我国人工智能发展源源不断地输送人才资源。
作为一项跨世纪颠覆性技术,新一代生成式人工智能如同一把“双刃剑”,在促进社会创新、提升生产效率、深化产业转型等方面展现出巨大潜力,但同时也带来一系列负面效应。在后现代社会,以计算机技术与知识为代表的生产力和生产关系所带来的社会矛盾最终都会转变为人与人之间的矛盾[33]。因此,有必要对其进行深入审视,提出有效的风险应对策略,确保人工智能技术能够发挥最大价值。为此,首先需明确新一代生成式人工智能运行的价值准则,使其在效能、效率和效果三个方面推动国家创新体系优化。其次,新一代生成式人工智能在应用过程中可能会引发市场垄断、数据安全和算法滥用、创新成果专利性认定和版权归属不明等社会风险。为此,需要在制度建设尤其是法律方面作出相应调整和完善,以防范和化解上述风险,发挥新一代生成式人工智能在优化国家创新体系中的工具助力作用。最后,需建构新一代生成式人工智能资源协同与成果投用制度、成果转化与创新认定制度,以扩大生成式人工智能科技成果市场应用,完善人才培育与人才引进制度,多管齐下,更好地发挥新一代生成式人工智能对于深度优化国家创新体系的技术赋能与资源整合作用。
新科技的不断涌现和突破对国家创新体系建设具有深远影响,这不仅体现在技术革新方面,更涉及经济、文化和政治等多个层面变革。新一代生成式人工智能技术的产生具有颠覆性特征。从经济角度看,新一代生成式人工智能将为国家创新体系带来强大的技术驱动力,推动创新路径不断拓展,催生新产业形态和商业模式,促进创新活动蓬勃开展。新一代生成式人工智能将催生出数字化、智能化、生态化等新质生产力形态,带来经济结构的调整,推动产业转型升级,充分释放我国市场活力,促进经济持续发展(米加宁等,2024)。
从文化角度看,新一代生成式人工智能会注入更多文化创意,助力国家创新体系深度优化。新一代生成式人工智能适用范围逐渐拓展后,其很有可能大规模进入文化生产、文化资源分配、文化产品交换与文化消费过程(解学芳等,2019),不断推动国家创新体系迭代。例如,在合理运用人工智能情形下,文化工作者能够挖掘人工智能有别于人类思维的一些创新想法,从而为社会创新和文化创意注入新活力,推动社会多元化发展和文化交流融合,促进国家创新体系全面发展。从政治角度看,新一代生成式人工智能的诞生极有可能加剧国际合作与竞争格局变化。在全球化背景下,国家创新体系需要加强与其他国家或地区的交流,共同应对全球性挑战,共享科技创新成果。同时,新一代生成式人工智能的出现也加剧了国际竞争,各国需要不断提升自身创新能力和竞争实力,以在国际竞争中保持优势地位。
综上所述,新一代生成式人工智能对国家创新体系的影响是多方面、深远的。国家创新体系需要不断适应新技术发展,加强技术创新和制度创新,以促进经济社会可持续发展和全面进步。对于新一代生成式人工智能优化国家创新体系的展望,需要全面考量其潜力和挑战,并采取相应措施以最大化其利益并减少潜在风险。国家创新体系应该向高水平科技自立自强的方向发展,这意味着不仅要减少对外部技术的依赖,还要提升自主创新能力,充分运用新一代生成式人工智能的科技力量,将其充分运用到科技研发领域。这需要政府、企业和学术界共同努力,加强人工智能技术研发、制度完善,推动人才培养,不断优化国家创新体系建设。
[1] 郑永和,丁雨楠,郑一,等．ChatGPT类人工智能催生的多领域变革与挑战(笔谈)[J]．天津师范大学学报(社会科学版),2023,50(3):49-63．
[2] 陈永伟．作为GPT的GPT——新一代人工智能的机遇与挑战[J]．财经问题研究,2023,51(6):41-58．
[3] 中国信息通信研究院[EB/OL]．[2023-07-05]．http://www.caict.ac.cn/sytj/202209/t20220913_408835.htm?eqid=8f53942900066d7b00000002648a956a．
[4] 李勇坚．ChatGPT与经济增长:影响机制与政策框架[J]．疆师范大学学报(哲学社会科学版),2024,45(3):86-95,1.
[5] 张洪雷．生成式人工智能参与数字政府建设的技术跃迁、目标导向与可行路径[J]．南昌大学学报(人文社会科学版),2023,54(4):100-109.
[6] 中华人民共和国国务院．国家中长期科学和技术发展规划纲要(2006-2020)[EB/OL]．(2005-12-29)[2023-09-18]．http:/www,gov.cn/jrzg/2006-02/09/content_183787_7.htm．
[7] 刘小春,李婵．人工智能对国家创新体系建设:促进作用、负效应及规避[J]．科学管理研究,2020,38(2):29-34．
[8] 王晓丽,严驰．生成式AI大规模的风险问题与规制路径:以GPT-4为例[J/OL].北京航空航天大学学报(社会科学版). https://doi.org/10.13766/j.bhsk.1008-2204.2023.0535.
[9] 王洋,闫海．生成式人工智能的风险迭代与规制革新——以ChatGPT为例[J]．理论月刊,2023,45(6):14-24．
[10] 詹姆斯·麦肯锡．预计2055年自动化将取代全球约一半的有薪工作[EB/OL]．(2017-01-13)．http://www.xinhuanet.com/world/2017-01/13/c_1120306421.htm．
[11] 刘霜,张潇月．生成式人工智能数据风险的法律保护与规制研究——以ChatGPT潜在数据风险为例[J]．贵州大学学报(社会科学版),2023,41(5):87-97．
[12] 郑智航,徐昭曦．大数据时代算法歧视的法律规制与司法审查——以美国法律实践为例[J]．比较法研究,2019,33(4):111-122．
[13] 冯涛,董嘉昌,李佳霖．ChatGPT等生成式人工智能对我国经济高质量发展的双重影响及其应对[J]．陕西师范大学学报(哲学社会科学版),2023,52(4):44-54．
[14] 王延川,赵靖．生成式人工智能诱发意识形态风险的逻辑机理及其应对策略[J]．河南师范大学学报(哲学社会科学版),2023,50(4):1-7．
[15] 宋伟,刘子荷．论算法黑箱的规制——基于算法解释视角[J]．南海法学,2023,7(4):114-124．
[16] 柏拉图．理想国[M]．顾寿观,译．长沙:岳麓书社,2010．
[17] FOUCAULT M, FAUBION J D. Aesthetics, method, and epistemology: essential works of foucault, 1954-1984, volume II[M]．New York: New Press, 1997．
[18] 张凌寒．算法权力的兴起、异化及法律规制[J]．法商研究,2019,36(4):63-75．
[19] 郑世林,姚守宇,王春峰．ChatGPT新一代人工智能技术发展的经济和社会影响[J]．产业经济评论,2023,11(3):5-21．
[20] 邓建鹏,朱怿成．ChatGPT模型的法律风险及应对之策[J]．新疆师范大学学报(哲学社会科学版),2023,44(5):91-101,2．
[21] 王迁．ChatGPT生成的内容受著作权法保护吗[J]．探索与争鸣,2023,38(3):17-20．
[22] 何树全．试论我国国家创新体系的框架、问题与思路[J]．中国科技论坛,2005,21(3):64-68．
[23] 陈劲,李飞．基于生态系统理论的我国国家技术创新体系构建与评估分析[J]．自然辩证法通讯,2011,33(1):61-66,123-124,127．
[24] 费艳颖,凌莉．美国国家创新生态系统构建特征及对我国的启示[J]．科学管理研究,2019,37(2):161-165．
[25] 钟荣丙．国家创新体系的系统构成及建设重心[J]．系统科学学报,2008,17(3):59-64．
[26] BECK U. The politics of risk society[M]．Cambridge: Polity Press, 1998．
[27] 许源源,陈智．新一代人工智能技术社会化应用的脆弱性风险及其韧性治理研究——以ChatGPT为例[J]．电子政务,2023,20(9):39-49．
[28] 王向楠,吴婷．互联网韧性监管动态及借鉴意义——以金融业为例[J]．电子政务,2020,17(1):51-63．
[29] 何哲,曾润喜,秦维,等．ChatGPT等新一代人工智能技术的社会影响及其治理[J]．电子政务,2023,20(4):2-24．
[30] 苏令银．透视人工智能背后的“算法歧视”[N]．中国社会科学报,2017-10-10(5)．
[31] 中国经济网．外媒:人工智能专利申请数,中国比美“多近80%”[EB/OL]．(2023-10-27)[2023-11-08]．https://baijiahao.baidu.com/s?id=1780870572712081379&wfr=spider&for=pc．
[32] 弗朗索瓦·利奥塔．后现代状况[M]．岛子,译．长沙:湖南美术出版社,1996．
[33] 中华人民共和国中央人民政府. 国务院新闻办就“深入实施创新驱动发展战略 加快建设科技强国”举行发布会[EB/OL].(2023-02-24)[2024-05-23]. https://www.gov.cn/xinwen/2023-02/24/content_5743191.htm.