人工智能相机引发网络隐私与安全问题

引言

近期，一款名为“妙鸭相机”的AI相机在社交媒体上快速走红. 该相机使用AIGC（生成式人工智能）大模型，可以以仅需9.9元的价格一键生成个人写真，效果堪比实体照相馆。然而，随着这类应用的不断涌现，数据非法获取、数据泄露及恶意滥用等法律风险也层出不穷. 为了应对技术迭代带来的挑战，人民法院加强了网络空间人格权益保护，推进了网络空间治理的法治化.

数据隐私泄露风险

使用“妙鸭相机”生成个人写真需要先上传20张照片，并支付9.9元的费用，然后即可在线排队等待系统生成写真. 然而，这款相机的使用条款引发了争议. 根据“妙鸭相机”用户服务协议的规定，该相机不仅可以使用用户生成的AI内容作为再训练数据，还可以永久、不可撤销、可转让、可转授权地使用用户上传的内容，即使是在元宇宙等虚拟空间. 面对用户的质疑，上网行为管理系统该团队随后道歉，并修改了用户服务协议，承诺用户上传的照片只会用于数字分身制作，并且在分身制作完成后会自动删除.

为了规范AIGC的使用，相关监管文件也相继发布. 7月13日，网信办联合7个部门发布了《生成式人工智能服务管理暂行办法》，其中规定了一些关键条款，如不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息等。这一规定将于8月15日正式生效.

虽然用户的隐私存在风险，但滥用AIGC模型也可能导致生成欺骗性内容，这也引发了人们的担忧.

AIGC滥用与网络暴力

近日，北京互联网法院发布了一份涉及网络暴力案件的审理情况报告。报告指出，随着社交网络的不断发展和新技术的应用，新型网络暴力手段不断更新，以人肉搜索、合成虚假照片、制作表情包、传播“AI换脸”视频等形式发生的网络暴力现象日益严重。上网行为管理系统“AI换脸”并不是一种新现象，它利用人工智能等信息技术手段，可以操纵和修改视频、影像数据，将某人的面部更换为他人的面部，但保留身体动作等躯干特征，从而形成高度逼真的图像和视频。

据《法治日报》报道，曾有杭州互联网法院等法院审理了因“AI换脸”App利用深度合成算法侵害他人肖像权的案件，判决该App开发者赔礼道歉并赔偿损失. 为了加强对侵权行为的干预和处置，法院也不断加强对网络暴力的监管。

网络空间治理的法治化

随着互联网的发展，越来越多的用户喜欢在网络上分享自己的生活。然而，个人信息泄露和遭受网络暴力等现象也随之增加. 其中一些案件涉及以影射方式贬损他人、侵犯他人名誉权等. 北京互联网法院少年法庭庭长孙铭溪表示：“此类案件不在少数。”他介绍说，随着互联网的发展，广大网络用户喜欢在网络上分享自己的生活，与此同时也出现了个人信息泄露、遭受网络暴力等现象.

为了加强网络空间的治理，人民法院不断加大对侵权行为的干预和处置力度.

结论

虽然AI相机的出现给人们带来了便利和乐趣，但也给网络隐私和安全带来了一系列的问题. 人们期待相关法律和规定能够更好地保护用户的隐私和权益，同时也希望相关技术能够更加安全地应用于社会生活中. 只有在法治化的网络空间中，我们才能更加安心地享受科技带来的便利. .