学术前沿杂志

其他

张广胜|生成式人工智能的国家安全风险及其对策

作者简介张广胜,中央军委政法委员会侦查技术中心正高级工程师。研究方向为网络安全、国家安全。摘要以ChatGPT为代表的生成式人工智能成为专用人工智能迈向通用人工智能的关键,拉开了强人工智能时代的序幕。生成式人工智能开创了“大模型”主导的内容生成时代,给政治安全、军事安全、网络安全、经济安全、社会安全等国家安全领域带来了诸多风险与挑战。为防控风险,应遵循人本逻辑制定防控生成式人工智能风险的“一体化”顶层战略,遵循法治逻辑健全防控风险的“全方位”制度体系,遵循共治逻辑构建防控风险的“同心圆”治理结构,遵循科技逻辑强化防控风险的“全周期”过程监管。生成式人工智能(Generative
2023年9月21日
其他

郑智航|数据安全与数据利用平衡的法治保障

作者简介郑智航,山东大学法学院副院长、教授、博导,山东大学法学院大数据法治研究中心副主任。研究方向为法理学、司法学、人权法学、网络法学。主要著作有《法律内在逻辑的基调演变》《适当生活水准权研究》等。摘要数据安全是数据流通和使用的前提和基础。以维护数据主权为由阻碍数据利用、扩大数据安全审查范围、过分强调数据静态安全,是数据安全与数据利用失衡的重要表现形式。从数据静态安全转变为数据动态安全、强调多元主体共治、实现法律的后置模式到前置模式的转变,是数据安全与数据利用平衡的主要发展动向。从数字经济发展的基本规律和法治运行的规律出发,妥善处理数据主权与数据自由流通、技术治理与法律治理、数据整体保护与数据具体保护三对主要关系,是实现数据安全与数据利用平衡的法治路径。随着信息科学、大数据和人工智能技术的发展,数据的价值愈发凸显。数据作为一种新的生产要素,正在快速融入生产、交换、分配和消费各个环节。数据应用快速改变着生产方式并大幅提升活动效率,与此同时,数据基础设施遭受攻击、数据泄露、个人数据滥用、数据霸权现象等一系列数据安全问题如影随形。对此,各国都采取了一定的措施,强化对数据安全的保护。然而,过分强调数据安全极有可能导致数据安全与利用之间的价值失衡,增加数据利用成本,影响数字社会的发展。因此,如何有效平衡数据安全与数据利用、统筹数据安全与数据产业发展的关系,是当下数字社会发展亟须解决的一个重要问题。数据安全与数据利用失衡的表现形式数据在技术创新进一步嵌入、社会分工进一步深化、经济时空进一步延展等方面都具有高度的价值属性,人们能够通过数据利用来提升社会活动的效率和效益。然而,数据利用具有高度的专业性、技术性和隐蔽性,从而在一定程度上滋生出一种具有高度支配性的平台权力。这种平台权力突破了国家权力专属性质,容易增加国家治理负荷和侵害公民权益的风险。因此,强调数据安全既有必要性,也有正当性。但在实践中过分强调数据安全容易引起数据安全与数据利用的失衡,从而影响数字社会的发展。具体而言,数据安全与数据利用的失衡主要体现在以下方面。运用数据主权阻碍数据利用。数据的流动性和穿透性致使数据利用极有可能逃逸于主权国家的监管,进而影响国家利益和社会利益。在此背景下,以管制主义为核心的数据主权理论愈加强化。根据数据主权的相关理论,计算机硬件设备是数据和互联网的载体,设备必然有安置地,而且存储于某地设备中的数据往往是因特定地点的人、事和物而产生的,因此,数据便天然归属到了相关设备的所在地国——数据主权由此产生。数据的利用绝不是要排除政府的干预,它和其他领域的自由一样,都需要受到政府某种形式的控制。近年来,世界各国出于国家安全考量,纷纷强化“数据主权”理念,并采取多种措施加强对数据利用的管制。例如,2018年,美国通过《澄清域外合法使用数据法案》,明确了美国执法机构在法定条件下调取美国公民存储在域外服务器中的电子邮件、文档和其他通信内容的规则,企图将美国“长臂管辖”权扩展到网络空间数据领域,并对外国机构获取美国境内个人信息设定了比美国机构更为严苛的条件。2021年,日本个人信息保护委员会颁布了《跨境数据流动指南》,强调在严格保护网络安全的前提下,推动工业、健康等领域中非个人、匿名、有用信息的自由流动。英国、德国等国家也以保护数据安全为由,打压其域外国家技术与App的应用。这些过于强调数据安全的措施和手段极易滋生数据利用中的不对等现象。不同国家的数据处理能力不同,数据处理能力强的国家极有可能以国家安全为理由,绕开其它国家的法律制度而单方面获取一些数据,造成国家之间在利用他国数据方面的实质不对等。数据安全审查的扩大化。数据安全审查是一个国家依托专门机构按照严格的数据审查启动程序和审查运行程序对重要数据进行审查以维护国家数据主权、公共数据安全和个人数据安全的一项重要措施。尽管数据安全审查能够在一定程度上维护数据安全,但是政府在实践中容易滥用数据安全审查阻碍数据信息的正常传递、流动和利用。例如,2022年,美国政府就以数据安全为由,对阿里巴巴云存储业务进行审查,关注阿里巴巴是否收集和存储了美国用户数据,并对阿里巴巴是否将这些数据开放给中国政府进行了重点审查。具体而言,政府安全审查扩大化的主要方式包括:第一,违反数据安全审查程序。数据安全审查理应遵循数据安全案件的受理程序、数据安全是否被侵犯的初步筛查程序、数据审查者就数据安全案件的审理程序、数据安全审查机构的决定程序等一系列的复杂程序。这些程序为数据安全与数据利用的平衡提供了重要的形式保障,但在实践中数据安全审查机构容易违反上述程序。第二,扩大数据安全审查的范围。随着数据价值的日益凸显,各国都在加强对数据安全的审查并进一步扩大数据安全审查的范围。例如,美国除了将农业、受控技术信息、关键基础设施、应急管理、出口控制、金融、地理产品信息等界定为重要数据并规定其需要接受审查外,还将持有美国公民敏感个人数据的外资背景公司纳入审查范围。第三,用定量审查标准代替定性审查标准。数据安全审查标准是一个相当复杂的标准体系,涉及定量因素与定性因素的有效结合。然而,为了操作便利,政府在监管实践中往往会用定量标准来代替定性标准。例如,有专家认为,国家网信办于2022年7月出台的《数据出境安全评估办法》将“累计向境外提供10万人个人信息或者1万人敏感个人信息的数据处理者向境外提供个人信息”作为需申报数据出境安全评估的情形之一,这在一定程度上忽略了个人信息的性质、用途、处理方式、信息主体身份、是否可公开获得等定性因素。数据静态安全保护。从理论上讲,数据安全主要包括数据占有意义上的安全和数据流通利用中的安全两个层面。前者强调的是数据静态安全,后者强调的是数据动态安全。从数据安全保护的制度设置来看,数据静态安全侧重于通过物权制度来实现;数据动态安全则侧重于通过债权制度来实现。随着数字经济的快速发展,以数据流通利用为核心的数据动态安全的价值进一步凸显。在数据价值化的过程中,数据被吸附进数据化体系以后,被数据处理技术创造转化出新的关系化信息,数据处理技术又会再次将这种关系化的信息重新数据化,产生出更新的关系化信息。只有在不断“关系化”的过程中,数据才能实现增值,因此,应当更进一步强化数据的动态安全观念。然而,为追求风险控制和社会管理的便利,政府在监管实践中更强调数据静态安全,倾向于采取“一刀切”的作法并利用信息删除、屏蔽和封号等技术手段对被认为是有害的某些信息和数据进行监管。这种作法忽视了数据的价值辩识过程是一个复杂的交互过程,极有可能阻碍有价值的数据和信息的流通和利用。数据安全与数据利用平衡的基本取向数据安全和数据利用是数字经济发展的一体两翼。数字经济的健康发展不仅强调数据安全,而且强调数据的流通和利用。因此,保持数据安全与数据流通利用的适度平衡是数字经济持续健康发展的前提。面对当前数据安全与数据利用出现的上述失衡现象,我们需要在一定程度上转变价值观念,逐步树立数据动态安全观念,强调多元主体共治,实现法律介入的后置模式到前置模式的转变。从数据静态安全到数据动态安全。前已叙及,数字经济发展的过程是利用数字技术充分挖掘数据价值,并将数据植入一定的数据化体系,从而实现数据增值的过程。倘若将数据完全置入静态状态,数据的绝对安全的确能够实现,但是,这将极大阻碍数据的流通价值和交换价值的实现。因此,我们既要强调数据的静态安全,又要强调数据的动态安全价值,确立一种数据动态安全观。所谓数据动态安全,强调数据安全不仅局限于数据占有上的绝对安全,还应确保数据流通利用过程中的安全,其核心在于构建一套尽可能有助于数据资源有序流通利用的基本规则。这也是数据作为一种新型生产要素,快速融入数字经济活动的重要前提。因此,数据动态安全理念强调债权保护理念和制度在确保数据安全方面的重要作用,这也符合现代市场经济发展的基本规律。日本著名学者我妻荣从所有权的发展历史与支配作用角度分析认为,在现代市场经济社会中,所有权色彩愈来愈弱,而债权色彩愈来愈强,甚至债权在现代法律中具有优越地位。因为在仅依物权形成财产关系、仅以物权作为财产客体的时代,人类可以说只能生活在过去和现在。但是,经济价值不是暂时静止地存在于物权,而是从一个债权向另一个债权不停地移动。承认债权制度就可以使将来的给付预约变为现在的给付对价价值。从数据的增值过程来看,它本是大量零乱的信息被技术化手段处理后而创造转化出新价值的过程。在此过程中,数据的所有权归属问题很难界定,平台上的数据既可以被认为是个人所有、平台所有、个人与平台共有,也可以被认为是互联网空间的公共数据。因此,从数据的静态所有权意义上来确保数据安全难度很大,而应当从动态的流通使用意义上来认识数据安全问题,通过构建符合市场经济运行基本规律的数据要素流通和交易制度来促进数据动态安全的实现。此外,数据动态安全也强调一种场景化的分析思路。从这一思路出发,数据要素面临的安全问题具有较大的不确定性,需要逐步细化,并进行类型化和模式化,同时需要结合安全领域技术对场景进行赋能,从而沉淀更多的数据场景。因此,需要结合具体的情势认识和分析数据安全问题。从政府管控到多元主体共治。深受数据主权理念的影响,各国都强调政府应当运用行政权力确保数据安全的实现,并逐步形成了一种政府管控的理念。这种理念主要存在以下局限:第一,忽视了数字生活领域逐步形成的“政府—平台—商户”“公权力—社会权力—私权利”的三元结构。数据技术往往与算法技术结合,并产生了一种信息权力。这种信息权力改变了政府与个人的关系及公权力与私权利的关系,将传统国家与社会、公权力与私权利的消极对抗关系转变为共同合作关系,政府权力也由传统的“高专断性”转变为“合作性”。在平衡数据安全与数据利用的过程中,数据平台和社会第三方因为具备技术优势,在事实上扮演着愈来愈重要的角色。第二,不利于数据的流通利用,影响数字经济的发展。政府管控的理念具有较强的集权主义色彩,它强调政府在数据领域的严格管控,不断扩大政府在数据相关领域的管辖范围和管辖权力,将越来越多的数据资源分配权和行政审批权掌握在自己手中。而这种监管模式带来的负面影响会在一定程度上降低数据流通和利用的效率,增加数字经济的交易成本。第三,忽视政府在科技领域存在知识不足这一客观现实。数字经济的核心在于利用信息技术挖掘数据要素的潜能,而这个过程具有高度的技术性、专业性和隐蔽性。受制于知识的有限性,政府必须借助数据平台和社会第三方的力量来对数据安全与数据利用进行有效平衡。因此,我们应当坚持政府主导下的多元主体共治的基本理念。该理念强调在平衡数据安全和数据利用的过程中,应当充分考虑国家安全需要,并在政府主导下广泛吸收社会多元力量参与,从而形成一种多元主体合作共治的格局。这种理念既要求反对虚化数据主权、彻底抛弃国家主权观念,任由数字经济自生自发的作法;又要求反对利用本国网络和数据技术的优势及地位控制整个数据流通和使用过程的进攻性数据霸权行为以及政府以维护国家安全为由无限扩大管控范围和管控强度的作法。从法律介入的后置模式到前置模式的转变。在传统安全领域,法律往往是以后置模式介入的。这种后置模式以危害或行为发生以后进行追责、处理、修复和救济为核心。然而,这种后置模式在数字经济中难以奏效。一方面,数字经济往往和互联网联系紧密,互联网不但为数字经济提供了物质基础,也为数字经济提供了大量的数据资源。然而,互联网具有显著的跨时间性和跨空间性,从而在实质上形成了一种新质的共在模式,它实现了人机交互的生存方式,使人的心智与计算机的高性能得以良好嵌合。这种人网合一的嵌合结构使人的实践能力发生了质的飞跃,社会实践因人与工具的交互作用产生倍增之效。这种新的方式增加了法律关系的不确定性,模糊了行为与结果之间的因果关系,从而增加了事后处置的难度。另一方面,互联网的互联互通增加了数据流通和利用的安全风险,而且,这种安全风险具有系统性、不确定性、不可控性和难以恢复性等特点。例如,2020年,万豪国际酒店泄露了大约520万名客人的姓名、通讯地址、会员账号等个人信息。这是该酒店继2018年发生信息泄露事件以后又一次发生大规模个人信息泄露事件。这些信息涉及人数多、范围广,给相关个人造成了难以挽回的巨大损失。此次泄露事件也给万豪国际酒店自身带来了巨大损失,仅2020年4月1日一天,万豪国际股价大跌,市值蒸发约18.34亿美元。尽管启动事后追责的法律后置处置程序,能够在一定程度上弥补当事人的损失,但是,个人隐私性信息已经被他人知晓。由此可见,财产权受到损害后可以通过事后的修复或赔偿恢复,使财产恢复到未受到损害前的状态,但在数据领域却难以通过这一法律处置模式弥补被侵权人的损失。鉴于法律后置模式在数据安全领域的失灵和降效,我们应当进一步强调以风险预防和法律代码化为核心的法律前置模式。在法律前置模式下,数据安全事件一但发生,就会给当事人带来无法挽回的损失,法律应当聚焦于行为发生之前,通过对人们行为的事前规训、塑造以及对不法与违法行为的阻却来减少数据安全事件的发生。因此,我们应当进一步发挥法律在数据流通和使用过程中的风险预防功能。与此同时,算法在数字社会中扮演着越来越重要的角色,推动实现法律规则的算法化,并使法律规则的自动执行成为可能。法律的前置模式强调将数据安全与数据利用平衡相关的法律规则和理念预先嵌入数据运用的算法形成过程中,并能够推动实现自动化执行。数据安全与数据利用平衡的实现路径面对数据安全与数据利用的失衡状况,我们需要认真审视二者之间的关系,在强化数据安全保障的同时,加快构建以数据流动和利用为核心的数字经济发展格局。这也要求我们从数字经济发展的基本规律和法治运行的规律出发,妥善处理好数据主权与数据自由流通、技术治理与法律治理、数据整体保护与数据具体保护三对主要关系。数据主权的法律构造。过分强调数据主权理念极有可能造成数据安全与数据利用的失衡,但是,数据主权观念仍然是我们应当秉持的基本理念,而不能如网络自由主义所主张的那样否定国家对运行在网络中的数据拥有主权和政府对数据领域的必要干预。尽管主权观念是起源于物理边界的观念,但是,主权本身是一个不断发展的概念。随着技术的进步与发展,国家的控制力愈来愈强,实质边界也因此愈来愈大,并逐步突破物理边界的概念,向虚拟的网络世界延展。另一方面,虚拟的网络世界会产生一些冲突和矛盾,而这些冲突和矛盾不可能完全靠自生自发的规则来化解,这种情况就需要国家主权的界入,此外,网络的无中心性使得人们的行为从地缘空间扩展到无形的网络空间,而对无形的网络空间的监管必然要求政府的权力超越地域因素的限制。数据作为网络空间中最重要的资源,自然属于国家主权的管辖范围。因此,数据主权观念应运而生,该观念强调国家对内拥有对数据进行管辖的权力,而对外则拥有独立处理数据相关事务的权力。然而,数字主权也不是法国政治思想家让·博丹“主权学说”定义下的绝对性意义的主权。一方面,它强调主权是在“政府—平台—商户”“公权力—社会权力—私权利”的三元结构中实现的。政府需要和网络运营商以及数据技术专家共同进行数据治理。另一方面,它强调数据主权应当在一种开放的世界结构中实现。数据主权的行使并不是要在国家与国家之间建立阻隔数据流通和利用的藩篱。相反,实现公正的数据开放与共享,才是行使数据主权的初衷。因此,从数据安全与数据利用平衡的角度出发,数据主权应当包括以下几种主要的权力形态。第一,数据保护权。该项权力赋予政府保护该国所拥有的数据的职责和权力。它既强调政府应当维护公民的个人数据信息,防止他国政府和个人对本国公民个人数据的侵害,又强调政府有权采取措施阻止他国获得、利用本国敏感或重要数据以保障国家的安全利益。在此需要强调的是,在行使数据保护权的实践中,我们应当进一步明确国家安全利益的范围。美国对国家安全利益的范围采取一种模糊的态度,甚至拒绝对国家安全利益的范围作出详细解释,泛化、滥用国家安全概念,侵害了其他国家正常的数据利用活动。2018年以来,美国以保护国家安全为由,对中国展开“301调查”,并阻止华为、腾讯等公司在美国的经营活动。因此,明确国家安全利益的范围是政府对外行使数据保护权的一个重要前提。第二,数据管理权。该项权力强调国家有权对数据生成、收集、存储、传播、处理和使用等数据活动行为进行管理。在多元主体共治的理念下,政府的数据管理权需要广泛吸收社会主体参与,赋予社会自治组织一定的数据管理参与权,并使其代表一般公众管理部分公共数据。为了实现数据安全与数据利用的平衡,促进多元主体共治理念在数据管理权行使实践中得以落实,《中共中央
2023年4月23日
其他

陈 兵|科学构建数据要素交易制度

作者简介陈兵,南开大学法学院副院长、教授、博导,竞争法研究中心主任,数字经济交叉科学中心研究员。研究方向为竞争法学、数据法学、人工智能法学。主要著作有《数字经济时代法治观澜》《新基建与数据治理法治化》《法治推进下的数字经济规范发展》《数字经济多维治理的逻辑阐发》等。摘要我国的数据要素蕴涵着巨大的潜在价值,亟需通过安全、顺畅的流通交易过程来将潜在价值转化为现实价值。目前,阻碍我国数据要素价值实现的问题可以归结为数据要素流通体制机制不畅,具体表现为:数据产权制度待完善、数据交易体系不健全、数据多元权益配置规则需明晰、数据安全治理亟待规范等多个方面。基于此,数据要素价值的实现需要配套的法治体系作保障。数据要素交易法治体系的构建,要贯穿数据要素确权、流通与交易、权益分配的全过程,以平衡数据要素交易安全与发展两者间的关系。具体来看,构建与完善实现数据要素价值、保障数据要素交易安全的法治体系,应以问题为导向,解决数据要素交易制度运行中数据权属界定不明晰、交易规则不统一、保护体系不完善等问题,以数据要素权益的确认、实现及保护为主线和抓手,推动数据要素流通与交易的健康发展。背景与问题随着经济社会数字化转型步伐加快,万物互联时代已经到来。从各类终端设备聚集而来的信息逐渐汇集为海量数据群,这种体量庞大、内容丰富的数据群又形成了一种新型生产要素。2019年10月31日,党的十九届四中全会首次肯定了数据的生产要素属性,在土地、劳动力、资本、技术等传统生产要素之外,将数据增加为新型生产要素,并且提出要“健全劳动、资本、土地、知识、技术、管理、数据等生产要素由市场评价贡献、按贡献决定报酬的机制”。若数据要素的价值能得到充分释放,必将对社会经济发展起到重要推动作用。但数据要素之所以被视为新型生产要素,是由于其具有不同于传统生产要素的特点,数据的收集、利用离不开信息技术。因而,数据要素价值的实现也需要在信息技术的加持下,经过安全、畅通的流通与交易,才能最终进入权益分配阶段,遵循“潜在价值—价值创造—价值实现”的演进形态。数据具有要素价值已经成为不争的事实,数据要素的流通与交易是其价值实现的关键环节,是数字经济高质量发展的保障。赋予数据作为生产要素的定位,其意义在于更好地推动数据的开发利用与流通交易,实现数据价值,使数据更有效地助力社会经济发展。基于此,党和国家高度重视数据要素市场化体制机制建设,陆续出台法律政策,推动数据的流通利用和价值实现。2020年3月,中共中央、国务院印发的《关于构建更加完善的要素市场化配置体制机制的意见》中提出,要“加快培育数据要素市场”,明确了“市场决定,有序流动”等基本原则,提出了推进政府数据开放共享、提升社会数据资源价值、加强数据资源整合和安全保护等三个方面的具体推进举措。2021年,《中华人民共和国国民经济和社会发展第十四个五年规划和2035年远景目标纲要》(后文简称“十四五”规划)进一步提出要“建立健全数据要素市场规则”,强调统筹数据开发利用、隐私保护和公共安全,提出要加快建立数据产权、交易流通、跨境传输和安全保护等基础制度和标准规范。2021年9月1日,我国数据安全领域的首部基础性立法《中华人民共和国数据安全法》开始施行,它诠释了数据安全与发展的关系,明确了国家要建立数据分类分级保护制度,规定了开展数据处理活动应当履行数据安全保护义务,提出了政务数据的开放原则。2021年12月21日,国务院办公厅印发《要素市场化配置综合改革试点总体方案》,从完善公共数据开放共享机制、建立健全数据流通交易规则、拓展规范化数据开放利用场景、加强数据安全保护四个方面,对数据要素流通规则的建立给予了较为明确的指引。2022年10月,《国务院关于数字经济发展情况的报告》再次明确,要加快出台数据要素基础制度及配套政策,推进公共数据、企业数据、个人数据分类分级确权授权使用,构建数据产权、流通交易、收益分配、安全治理制度规则,统筹推进全国数据要素市场体系。2022年12月印发的《中共中央
2023年4月11日
其他

新刊推介|《学术前沿》2023年1月上

者:眭纪刚,中国科学院科技战略咨询研究院研究员中国式现代化视域中的新型举国体制:演进、内涵与优化
2023年2月3日
其他

人工智能时代的新闻伦理:行动与治理

【摘要】人工智能背景下新闻传播的生产工具和生产方式出现了巨大变化,尊崇客观、公正、最小伤害的新闻伦理传统面临冲击,研究范畴由新闻工作者、新闻机构、新闻受众延伸至智能技术和社交平台,它们在新闻伦理图景中的位置和行为模式也产生了变化。以算法伦理和大数据伦理为主要的逻辑起点,结合智能时代新闻传播模式的具体变化,从个体伦理层次、组织伦理层次和社会伦理层次厘清具体道德行动者的行动领域,可以更为清晰地展现各道德行动者之间的伦理互动结构,并且综合呈现人工智能时代的新闻伦理结构和不同责任主体之间的关系。【关键词】人工智能
2019年3月28日