查看原文
其他

【重磅首发】王利明:人工智能时代提出的法学新课题 | 中法评

王利明 中国法律评论 2021-03-08



王利明

中国人民大学常务副校长,法学教授

法治不仅仅是要考虑当下,也要考虑未来。法治要提供制度环境安排,这一安排的质量将直接决定新兴科技等的发育状况。我们的法学理论研究应当密切关注社会现实,积极回应大数据、人工智能等新兴科学技术所带来的一系列法律挑战,从而为我们立法的进一步完善提供有力的理论支撑。

 

特别是要充分认识和拥抱科学技术对社会生产和生活带来的结构性、革命性的影响,尽早观察和预测未来法治发展的方向,促进良法制定,使我们的法律尽可能地契合未来的发展,成为未来科技发展的一股制度支持力量,而不能成为科技发展的障碍。



本文为《中国法律评论》2018年第2期卷首语(第1—4页),原文3500余字,为阅读方便,略去脚注,如需引用,请点此购刊,参阅原文。



随着大数据和人工智能技术的发展,许多院校都开始关注与此相关的法律问题,也分别设立了有关的研究机构,如大数据法律研究院、人工智能法治研究院、未来法治研究院等,大力推动与网络、大数据、人工智能相关的现代科技和法律关系的研究和教学工作。

 

有的研究机构还专门出版了网络、人工智能研究的杂志,凸显出法律界同行已经开始关注网络科技、人工智能等对传统法制的挑战。

 

“问题就是时代的口号。”


我们已经进人人工智能的新时代,大数据和人工智能的发展深刻地影响着我们的社会生活,改变了我们的生产和生活方式,也深刻地影响社会的方方面面。但同时,它们也提出了诸多的法律问题,需要法学理论研究工作者予以回应。

 

大数据是人工智能的一种重要分析工具,借助大数据分析技术,人工智能可以进行相关的演练和操作。

 

大数据记载了我们过去发生的一切,现在发生的一切,并能准确地预测我们的未来。现代社会的人就好像“裸奔”一样,我们的一切都有可能被他人“监视”,都时刻可能暴露在“第三只眼”之下,“亚马逊监视着我们的购物习惯,谷歌监视着我们的网页浏览习惯,而微博似乎什么都知道,不仅窃听到了我们心中的‘TA’,还有我们的社交关系网”。

 

无论我们走到哪里,只要携带手机,相关软件借助于Cookie技术,就可以时刻知道我们的准确定位。例如,我们下载某新闻软件后,其就可能准确知道我们的地理位置,并相应地推送与该地相关的新闻信息。

 

获取海量大数据信息的主体,可以研究、开发以大数据为基础的各种产品,并凭借大数据无穷的潜力获取利益,从而刺激其进一步采集、分析人们的大数据信息。

 

随着收集和分析方式越来越先进,成本越来越低廉,大规模数据收集已成为常态,并越来越普遍,这就进一步加剧了对个人隐私的威胁。

 

大数据的价值并不限于初次利用,经过整合和分析,其可以进行二次利用甚至多次利用,价值也较原始数据本身更高。很多数据在收集时并不确定其用途,但收集之后,其可能被许许多多的数据收集者进行各种创新用途。

 

人工智能的应用在很大程度上需要借助大数据分析和处理技术,应当专门设置相关的法律规则,防止人工智能应用过程中的数据非法收集、泄露、贩卖等问题,以有效保护个人信息的安全。


 

人工智能的发展涉及人格权保护问题。

 

现在很多人工智能系统把一些人的声音、表情、肢体动作等植人内部系统,使所开发的人工智能产品可以模仿他人的声音、形体动作等,甚至能够像人一样表达,并与人进行交流。但如果未经他人同意而擅自进行上述模仿活动,就有可能构成对他人人格权的侵害。

 

此外,人工智能还可能借助光学技术、声音控制、人脸识别技术等,对他人的人格权客体加以利用,这也对个人声音、肖像等的保护提出了新的挑战。例如,光学技术的发展促进了摄像技术的发展,提高了摄像图片的分辨率,使夜拍图片具有与日拍图片同等的效果,也使对肖像权的获取与利用更为简便。

 

此外,机器人伴侣已经出现,在虐待、侵害机器人伴侣的情形下,行为人是否应当承担侵害人格权以及精神损害赔偿责任呢?但这样一来,是不是需要先考虑赋予人工智能机器人主体资格,或者至少具有部分权利能力呢?这确实是一个值得探讨的问题。


人工智能的发展也涉及知识产权的保护问题。

 

从实践来看,机器人已经能够自己创作音乐、绘画,机器人写作的诗歌集也已经出版,这对现行知识产权法提出了新的挑战。


例如,百度已经研发出可以创作诗歌的机器人,微软公司的人工智能产品“微软小冰”已于2017年5月出版人工智能诗集《阳光失了玻璃窗》;在日本,机器人创作的小说甚至还通过了日本文学奖的初审,有的机器人甚至会谱曲、作画,这些作品已经可以在市面上销售。

 

这就提出了一个问题,即这些机器人创作作品的著作权究竟归属于谁?是归属于机器人软件的发明者?还是机器的所有权人?还是赋予机器人一定程度的法律主体地位从而由其自身享有相关权利?

 

人工智能的发展也可能引发知识产权的争议。

 

智能机器人要通过一定的程序进行“深度学习”(deep learning)、“深度思维”(deep mind),在这个过程中有可能收集、储存大量的他人已享有著作权的信息,这就有可能构成非法复制他人的作品,从而构成对他人著作权的侵害。

 

如果人工智能机器人利用获取的他人享有著作权的知识和信息创作作品(例如,创作的歌曲中包含他人歌曲的音节、曲调),就有可能构成剽窃。但构成侵害知识产权的情形下,究竟应当由谁承担责任,这本身也是一个问题。

 

人工智能的发展涉及数据财产的保护问题。

 

我国《民法总则》第127条对数据的保护规则作出了规定,数据在性质上属于新型财产权,但数据保护问题并不限于财产权的归属和分配问题,还涉及这一类财产权的安全,特别是涉及国家安全。


人工智能的发展也对数据的保护提出了新的挑战,一方面,人工智能及其系统能够正常运作,在很大程度上是以海量的数据为支撑的,在利用人工智能时如何规范数据的收集、储存、利用行为,避免数据的泄露和滥用,并确保国家数据的安全,是亟须解决的重大现实问题。

 

另一方面,人工智能的应用在很大程度上取决于其背后的一套算法,如何有效规范这一算法及其结果的运用,避免侵害他人权利,也需要法律制度予以应对。例如,人工智能通过对一个人在网络交易中取消订单的频繁程度进行分析,可以得出关于一个人社会信用状况和交易能力的评价,此种评价可能对个人的经济生活产生重大影响。

 

目前,人工智能算法本身的公开性、透明性和公正性的问题,是人工智能时代的一个核心问题,但并未受到充分关注。

 

人工智能的发展还涉及侵权责任的认定问题。

 

人工智能引发的侵权责任问题很早就受到了学者的关注,随着人工智能应用范围的日益普及,其引发的侵权责任认定和承担问题将对现行侵权法律制度提出越来越多的挑战。无论是机器人致人损害,还是人类侵害机器人,都是新的法律责任。

 

据报载,2016年11月,在深圳举办的第十八届中国国际高新技术成果交易会上,一台名为小胖的机器人突然发生故障,在没有指令的前提下自行打砸展台玻璃,砸坏了部分展台,并导致一人受伤。

 

毫无疑问,机器人是人制造的,其程序也是制造者控制的,所以,在造成损害后,谁研制的机器人,就应当由谁负责,似乎在法律上没有争议。人工智能就是人的手臂的延长,在人工智能造成他人损害时,当然应当适用产品责任的相关规则。

 

其实不然,机器人与人类一样,是用“脑子”来思考的,机器人的脑子就是程序。我们都知道一个产品可以追踪属于哪个厂家,但程序是不一定的,有可能是由众多的人共同开发的,程序的产生可能无法追踪到某个具体的个人或组织。

 

尤其是,智能机器人也会思考,如果有人故意挑逗,惹怒了它,它有可能会主动攻击人类,此时是否都要由研制者负责,就需要进一步研究。

 

前不久,深圳已经测试无人驾驶公交线路,引发全球关注。但由此需要思考的问题就是,一旦发生交通事故,应当由谁承担责任?能否适用现行机动车交通事故责任认定相关主体的责任?法律上是否有必要为无人驾驶机动车制定专门的责任规则?这确实是一个新问题。

 

今天,人工智能机器人已经逐步具有一定程度的自我意识和自我表达能力,可以与人类进行一定的情感交流。有人估计,未来若干年,机器人可以达到人类50%的智力。

 

这就提出了一个新的法律问题,即我们将来是否有必要在法律上承认人工智能机器人的法律主体地位?在实践中,机器人可以为我们接听电话、语音客服、身份识别、翻译、语音转换、智能交通,甚至案件分析。

 

有人统计,现阶段23%的律师业务已可由人工智能完成。机器人本身能够形成自学能力,对既有的信息进行分析和研究,从而提供司法警示和建议。甚至有人认为,机器人未来可以直接当法官,人工智能已经不仅是一个工具,而且在一定程度上具有了自己的意识,并能作出简单的意思表示。这实际上对现有的权利主体、程序法治、用工制度、保险制度、绩效考核等一系列法律制度提出了挑战,我们需要妥善应对。

 

人工智能时代已经来临,它不仅改变人类世界,也会深刻改变人类的法律制度。本世纪初,华裔著名经济学家杨小凯就提出:如果中国仅仅重视技术模仿,而忽视制度建设,后发优势就可能转化为后发劣势。

 

因此,我们不能仅注重技术的应用,而忽视其可能带来的负面效果。

 

不谋万世者,不足以谋一时。法治不仅仅是要考虑当下,也要考虑未来。法治要提供制度环境安排,这一安排的质量将直接决定新兴科技等的发育状况。我们的法学理论研究应当密切关注社会现实,积极回应大数据、人工智能等新兴科学技术所带来的一系列法律挑战,从而为我们立法的进一步完善提供有力的理论支撑。

 

特别是要充分认识和拥抱科学技术对社会生产和生活带来的结构性、革命性的影响,尽早观察和预测未来法治发展的方向,促进良法制定,使我们的法律尽可能地契合未来的发展,成为未来科技发展的一股制度支持力量,而不能成为科技发展的障碍。



推荐阅读

王利明:民法典的时代特征和编纂步骤

民法“四巨头”:历史重任与时代创新(上)

民法“四巨头”:历史重任与时代创新(下)

王利明:论法律解释之必要性

王利明:法治是值得信仰的

王利明:十年来我国民法体系日益完善

王利明:成文法传统中的创新——怎么看案例指导制度

    您可能也对以下帖子感兴趣

    文章有问题?点此查看未经处理的缓存