人工智能相机引发隐私与安全问题

引言

近期，一款名为“妙鸭相机”AI相机在社交媒体上快速走红. 该相机使用AIGC（生成式人工智能）大模型，可以以仅需9.9元价格一键生成个人，效果堪比实体照相馆。然而，随着这类应用不断涌现，数据非法获取、数据泄露及恶意滥用等法律风险也层出不穷. 为了应对技术迭代带来，加强了空间人格权益保护，推进了空间治理法治化.

数据隐私泄露风险

使用“妙鸭相机”生成个人需要先上传20张照片，并支付9.9元费用，即可在线排队等待系统生成. 然而，这款相机使用条款引发了争议. 根据“妙鸭相机”用户服务协议规定，该相机不仅可以使用用户生成AI内容作为再训练数据，还可以永久、不可撤销、可转让、可转授权地使用用户上传内容，即使是在元宇宙等虚拟空间. 面对用户质疑，该团队随后道歉，并修改了用户服务协议，承诺用户上传照片只会用于数字分身制作，并且在分身制作完成后会自动删除.

为了规范AIGC使用，相关文件也相继发布. 7月13，网信办联合7个部门发布了《生成式人工智能暂行办法》，其中规定了一些关键条款，如不得非法留存能够推断出用户身份输入，不得根据用户输入和使用情况进行画像，不得向他人提供用户输入等。这一规定将于8月15正式生效.

虽然用户隐私存在风险，但滥用AIGC模型也可能导致生成欺骗内容，这也引发了人们担忧.

AIGC滥用与暴力

近，北京互联网发布了一份涉及暴力案件审理情况报告。报告指出，随着社交不断发展和新技术应用，新型暴力手段不断更新，以搜索、合成虚假照片、制作表情包、传播“AI换脸”等形式发生暴力现象益严重。“AI换脸”并不是一种新现象，它利用人工智能等技术手段，可以纵和修改、影像数据，将某人面部更换为他人面部，但保留身体动作等躯特征，从而形成高度真图像和。

据《法治报》报道，曾有杭州互联网等审理了因“AI换脸”App利用深度合成算法侵害他人肖像权案件，判决该App者赔礼道歉并赔偿损失. 为了加强对侵权行为预和处置，也不断加强对暴力。

空间治理法治化

随着互联网发展，越来越多用户喜欢在上分享自己生活。然而，个人泄露和遭受暴力等现象也随之增加. 其中一些案件涉及以影方式贬损他人、侵犯他人名誉权等. 北京互联网少年法庭庭长孙铭溪表示：“此类案件不在少数。”他介绍说，上网行为管理系统随着互联网发展，广大用户喜欢在上分享自己生活，与此同时也出现了个人泄露、遭受暴力等现象.

为了加强空间治理，不断加大对侵权行为预和处置力度.

结论

虽然AI相机出现给人们带来了便利和乐趣，但也给隐私和安全带来了一系列问题. 人们期待相关法律和规定能够更好地保护用户隐私和权益，同时也希望相关技术能够更加安全地应用于社会生活中. 只有在法治化空间中，上网行为管理系统上网行为管理系统我们才能更加安心地享受科技带来便利. .