拿AI整蛊、侵权、擦边？都是在玩火！

xinwen.mobi · 发表于前天 22:57

拿AI整蛊、侵权、擦边？都是在玩火！
AI一键“脱衣”、伪造“流浪汉闯入家门”，这些看似滑稽的整蛊背后，是受害者被迫承受的心理创伤和法律底线被践踏的事实。

“家里进了一个陌生流浪汉！”不久前的一个晚上，舟山市公安局普陀区分局东港派出所接到这样一个紧急报警电话。值班民警火速赶到现场后，却只看到一脸茫然的女主人高女士。

这竟是一场由AI整蛊引发的乌龙——高女士用AI工具生成“流浪汉坐在餐桌旁”的图片，发给值班的丈夫测试反应，没想到丈夫信以为真直接报警。

类似的AI恶搞事件正频频上演。有人用AI“一键脱衣”伪造他人不雅照，有人将熟人照片处理成衣着暴露的动漫形象，还有人在社交媒体上传播AI生成的畸形、恐怖图片。

一、当整蛊越过法律边界
北京互联网法院最近审理的一起案件中，被告未经原告同意，使用AI软件将原告微信头像生成衣着暴露、身体畸形的动漫图片，并发到摄影交流微信群中。法院判决被告行为构成对原告肖像权、名誉权的侵害，要求其赔礼道歉并赔偿精神损失。

法律专家指出，即使是点对点的私信行为，如果发送令人心理屈辱的AI生成图片，也可能构成对一般人格权的侵害。

在上述北京互联网法院的案例中，法官指出，被告将原告头像生成“腿部为木头状、有三只手臂”的畸形图片并私信发送，势必会造成原告心理屈辱，侵害了其人格尊严。

二、虚假警情与公共资源的浪费
安徽一名女子的“AI流浪汉”闹剧，不仅引发了丈夫的恐慌，更导致了警察的徒劳出动。这种因AI整蛊引发的虚假报警事件，并非个例。

警方对此明确表示，此类利用AI技术捏造或歪曲事实，散布谣言的行为，如果扰乱社会秩序造成严重后果的，当事人会因违反相关法律法规被处以行政处罚，构成犯罪的，依法追究刑事责任。

从法律角度看，并不是只有本人打电话才算报假警。明知家人可能会误判报警，还故意制作AI图片、视频，属于“间接故意”，可能算共犯。

根据《中华人民共和国治安管理处罚法》，谎报警情者将面临5天至10天拘留的处罚，同时需缴纳500元罚款。

三、AI侵权的认定标准
在北京互联网法院审理的“AI恶搞案”中，法院认为，即使被诉侵权图片与原告原照片存在风格差异，但只要在脸型、姿势、造型等方面有高度对应关系，使特定群体能够识别出对应的主体，就构成对肖像权的侵害。

而针对AI生成内容是否构成名誉侵权，法院考察的焦点在于：是否具有侮辱性质，是否会导致他人对受害人的社会评价降低。

将穿着得体的照片处理成胸部暴露的图片，并在人数较多的群内传播，引发对受害人的低俗化讨论，就被认定为构成名誉权侵害。

四、平台责任与监管动向
面对AI技术滥用风险，中央网信办于2025年4月在全国范围内部署开展了为期3个月的“清朗·整治AI技术滥用”专项行动。

专项行动分两个阶段开展，第一阶段强化AI技术源头治理，清理整治违规AI应用程序；第二阶段则聚焦利用AI技术制作发布谣言、不实信息、色情低俗内容等突出问题。

网信办重点整治的违规行为包括：提供“一键脱衣”等违背法律、伦理的功能；在未经授权情况下，克隆、编辑他人声音、人脸等生物特征信息；以及未落实内容标识要求等。

五、全球监管与版权争议
AI技术滥用并非中国独有的问题。在美国，超过30个州已颁布了针对深度伪造技术的法律。

2025年5月，特朗普签署了两党支持的《删除法案》，将“明知发布”或威胁发布未经同意的亲密影像（包括AI生成的深度伪造内容）定为非法。

在版权领域，Meta、OpenAI和微软等科技巨头也因使用受版权保护的材料训练AI模型而陷入诉讼漩涡。

德国甚至出现了“AI幻觉第一案”，汉堡地方法院对马斯克旗下的AI聊天机器人Grok发出了临时禁令，要求其停止发布关于Campact e.V.协会资金来源的不实陈述。

这一案件引发了业内对AI平台法律角色和责任边界的热议——AI需要为自己“说”出的每句话负责吗？

六、结语
随着AI技术的普及和门槛的降低，利用AI进行整蛊、侵权和“擦边”的行为可能越来越多。但法律界限不会因为技术的进步而后退，相反，法律正在积极应对技术带来的新挑战。

从肖像权、名誉权到人格尊严，从民事赔偿到行政处罚甚至刑事责任，AI技术的滥用者面临多重法律风险。

正如北京互联网法院法官刘承祖所言，行为人使用AI软件恶搞他人肖像，属于对他人人格权的侵害，已超出人工智能技术合理使用范畴，违背法律底线。

技术在进步，但尊重他人权益和遵守法律的基本要求从未改变。在AI时代，我们更需要明确：技术应当用于造福人类，而非成为伤害他人、践踏法律底线的工具。

		自动登录	找回密码
密码			立即注册

拿AI整蛊、侵权、擦边？都是在玩火！

拿AI整蛊、侵权、擦边？都是在玩火！

相关帖子