滥用“AI换脸”，还卖教程，法院：赔偿公益损失并道歉

以假乱真、掩人耳目的AI换脸技术，给人们带来新鲜体验的同时，也在频频触及法律红线。

近日，杭州互联网法院组成七人合议庭，对公益诉讼起诉人杭州市萧山区人民检察院诉虞某个人信息保护民事公益诉讼案公开开庭审理，判令被告虞某删除非法获取的个人信息，公开赔礼道歉、消除影响并赔偿损失共60000元。

被告虞某服从法院判决，现已履行道歉、赔偿义务等民事责任。赔偿金额将专门用于个人信息保护、人脸深度合成技术不当应用的治理等公益事项。

案件详情

公益诉讼起诉人诉称，其在履职过程中发现，2021年左右，虞某开始以牟利为目的，在未取得被编辑人同意情况下，利用“AI换脸”软件非法处理他人人脸信息，将他人人脸信息与部分视频中人脸信息进行替换合成，制作生成虚假的换脸视频。上述行为侵害承载在不特定多数社会主体个人信息之上的公共信息安全，破坏社会公共秩序，构成对公共信息安全领域的社会公共利益侵害，故向杭州互联网法院提起民事公益诉讼，请求判令被告虞某承担停止侵害、赔偿损失、赔礼道歉的民事责任。

被告虞某表示，对被诉事实和理由没有异议，深感后悔，愿意向社会公众诚恳道歉，并积极履行判决义务，弥补对社会公益造成的损害。

裁判要点

杭州互联网法院经审理认为，人脸信息属于敏感个人信息中至为重要的生物识别信息，关系到每个个体的人格尊严、人身安全和财产安全。滥用人脸信息牵涉不特定社会群体的公共利益。

本案中，虞某使用换脸软件（技术）深度合成伪造视频和图片，未经相关信息主体同意，大量搜集、提取、替换、合成、存储他人人脸敏感信息等个人信息，并将深度合成伪造视频、图片发布于2000多人的多个社交软件群组中，同时，为他人提供不特定主体的人脸替换定制服务，并为牟利对外销售换脸软件、传授换脸技术教程，获得非法利益数万余元，上述行为构成对个人信息权益的侵害。虞某将合成伪造的视频、图片在人数众多的网络群组中发布，传播可能性高、影响范围大，使得潜在社会不特定群体可能成为受侵害对象，更可能导致公众形成“眼见不为实”的心理预期，破坏互联网数字世界中社会共同体信任，损害相关领域的社会公共利益。

综上，法院认定虞某对于人脸深度合成技术的滥用行为，损害社会公共利益，判决其承担停止侵害、赔偿损失、赔礼道歉的民事责任。

法官释法

技术的运用是把双刃剑，用之为善可以造福社会，不当滥用则会造成社会风险和损害。对于换脸软件等深度合成技术应用的规制应当从其参与者入手，包括发明者、应用者、传播者等方面，以规制深度合成技术使用目的为路径，实现深度合成技术的合理使用，避免该技术对个人、社会、国家造成诸多方面的风险。同时，也需要引导技术开发、应用者自觉遵守法律规定和科技伦理道德，培育积极健康、向上向善的研发、应用环境，保护和鼓励新兴智能技术的有益探索。