深度伪造霸凌案:女生遭开除,涉事男生被起诉

人工智能
Deepfake Bullying: Girl Expelled, Boys Charged
路易斯安那州一所中学发生AI生成裸照传播事件,导致涉事男生面临刑事指控,但与之对质的女生却被学校开除。随着深度伪造滥用现象日益严重,此案凸显了学校政策、法律规范和创伤应对机制方面的漏洞。

一场关于AI生成图像的对峙导致一名初中女生停课

今年8月,在路易斯安那州 Thibodaux 的 Sixth Ward Middle School,利用人工智能制作的露骨色情图像在学生间的校车上和教室内流传。当地律师和执法部门表示,这些图像是将一名13岁女孩的面部叠加在裸体身上。在向学校工作人员举报该事件后,该女孩随后与一名她指控分享这些图像的男孩发生了肢体冲突。学校官员维持了对她的开除决定;当地检察官随后根据路易斯安那州新的AI深度伪造(deepfake)法规,对至少一名男学生提出了多项指控。

事件经过及即时反应

根据该女孩律师的陈述,她曾向学校工作人员告知有人在分享她的伪造图像。家属律师表示,她多次寻求帮助,却被安排与传播图像的学生乘坐同一辆校车。当她在校车上与一名男孩对峙并击打他时,学校官员对其进行了处分并予以开除。学区随后允许她缓刑复学。另外,Lafourche Parish 警长办公室展开了调查,检察官援引新颁布的州法律,指控一名初中男生多项非法传播由人工智能生成图像的罪名。

学区在公开评论中为其行为进行了辩护,理由是受联邦法律保护的未成年人隐私,并表示其彻底调查了违反学生行为准则的行为。学区总监称,有关事件经过的一些公开说法存在误导。由于法定保密规定,地区检察官拒绝讨论青少年诉讼程序的细节。

法律涵盖的内容及其面临的困境

路易斯安那州于2024年通过立法,旨在惩治利用生成式AI制作未成年人虚假色情图像的有害行为。立法者和当地检察官表示,该法律为他们提供了工具来追究制作和分享此类内容的学生的责任;根据其中一项条款,非法传播者可能面临罚款和监禁。与此同时,该地区的立法者已公开表示希望加大处罚力度:一些当地代表提议将某些传播罪行从轻罪提升为重罪。

然而,法律只是拼图的一角。当AI篡改的图像在教室内和通过私人聊天应用传播时,调查人员和学校领导面临着技术、证据和程序上的障碍。生成式AI工具的飞速发展——现在已封装在手机应用和社交平台中——意味着无需以往所需的技术专长即可制作出看似真实的图像,这使得学校纪律处分和刑事诉讼中的溯源和归因变得更加复杂。

专家对问题的界定

追踪在线虐待的研究人员强调,AI深度伪造在性质上不同于谣言和简单的骚扰。德克萨斯基督教大学(Texas Christian University)研究深度伪造的研究助理 Sergio Alexander 指出,直到最近,制作令人信服的虚假图像还需要技术技巧;而今天,面向消费者的工具使得伪造真实的图片或视频变得轻而易举。这种真实性增加了受害者的痛苦,以及图像在紧密的同龄人网络中传播时造成的社会伤害。

佛罗里达大西洋大学(Florida Atlantic University)网络欺凌研究中心的 Sameer Hinduja 表示,学校往往滞后于技术和学生的行为实践。Hinduja 警告说,如果没有明确且经过传达的政策和培训,事件可能会被处理不当——要么将受害者视为纪律问题处理,要么未能收集执法部门所需的证据。

现象的规模

国家数据表明,这一问题在短时间内迅速扩大。向国家失踪与受虐儿童服务中心(NCMEC)提交的报告显示,AI生成的儿童性虐待材料大幅增加:报告数量从2023年的数千份跃升至2025年上半年的数十万份。这些数字既反映了产量的增加,也反映了举报渠道的完善,但它们也强调了学龄网络卷入新型虐待形式的速度。

为什么学校的反应至关重要——以及为何常让受害者失望

AI篡改性影像的受害者面临着一系列特殊的伤害。一张看起来真实得令人信服的图像在原始事件处理完毕后很久仍可能被重新分享,从而揭开伤疤并造成持续的创伤循环。这种持续性在学校背景下至关重要:违规行为发生的空间、同学间的社会生态以及学校使用的纪律系统,对于应对既是伪造又被广泛传播的数字内容都显得准备不足。

代表路易斯安那州女孩家属的律师表示,学校未能隔离涉嫌作恶者并防止进一步传播,是导致女孩做出反应以及随后引发社区愤怒的关键因素。学校官员表示他们正在调查,且 FERPA 和青少年保密规则限制了他们可以披露的内容;批评者则认为,这些限制不应被用来掩盖在保障学生安全方面的失败。

专家建议的务实步骤

  • 更新纪律政策,明确将AI篡改内容纳入考量,并确保受害者拥有清晰、受保护的举报路径。
  • 对员工进行数字证据保存培训——如何在不使学生再次受害的情况下记录截图、消息元数据和设备链。
  • 与当地执法部门和儿童保护组织协调,弥补学校纪律与刑事调查之间的鸿沟。
  • 主动与家长和社区沟通:极具迷惑性的虚假内容现在已非常普遍,通过日常交流可以在事件升级前发现苗头。

对政策和平台责任的更广泛影响

立法者面临权衡。更严厉的刑事处罚可能会威慑某些行为,但也引发了关于青少年司法资源的妥当使用以及青少年长期记录风险的问题。许多倡导者认为,最有效的路径是将法律威慑与预防相结合:教育学生了解伤害和后果,加强家长参与,并投资于学校心理健康支持。

Thibodaux 社区的后续影响

该案件引发了当地立法的关注、学区委员会听证会以及关于学校做得是否足够的公开辩论。一些社区成员呼吁对制作和分享深度伪造图像的学生进行更严厉的惩罚;另一些人则坚持学校必须改进保护挺身而出的学生的程序。立法者表示,他们将监督起诉过程,并根据需要考虑加大处罚力度。

对于处于事件中心的女孩和全国各地的许多学生来说,持久的伤害是社会性和心理性的。即使学校或检察官采取了行动,图像仍可能继续流传;专家表示,遏制和关怀与惩罚同样重要。

资料来源

  • 德克萨斯基督教大学 (Texas Christian University)(深度伪造研究)
  • 佛罗里达大西洋大学 (Florida Atlantic University),网络欺凌研究中心 (Sameer Hinduja)
  • 国家失踪与受虐儿童服务中心 (NCMEC)(网络提示线数据)
  • Lafourche Parish 警长办公室(调查)
  • 路易斯安那州议会(AI深度伪造立法)
  • Lafourche Parish 学区委员会(学校反应及纪律处分程序)
Mattias Risberg

Mattias Risberg

Cologne-based science & technology reporter tracking semiconductors, space policy and data-driven investigations.

University of Cologne (Universität zu Köln) • Cologne, Germany

Readers

Readers Questions Answered

Q 提博多第六选区中学发生了哪些与 AI 生成图像相关的事件?
A 8月,在路易斯安那州提博多的第六选区中学(Sixth Ward Middle School),一些将一名 13 岁女孩的面部叠加在裸体上的 AI 生成图像在校车和教室内学生间流传。在告知校方后,该女孩与她指控分享这些图像的男生对质;她随后被开除,后来获准留校察看返回学校,而检察官则根据新的 AI 深度伪造法律,对至少一名男学生提出了多项指控。
Q 该事件导致了哪些法律行动?
A 当地检察官援引路易斯安那州新的 AI 深度伪造法规,指控至少一名男学生犯有多项非法传播人工智能制作图像的罪名。学区引用联邦未成年人隐私保护法(FERPA)为其行为辩护,并表示其对违规行为进行了彻底调查,而地方检察官则拒绝就青少年诉讼程序发表评论。
Q 专家认为学校在处理 AI 生成内容方面面临哪些挑战?
A 专家表示,AI 生成的内容在性质上不同于谣言,因为使用消费级工具即可制作出写实的图像,这加剧了受害者的痛苦,并在紧密的同龄人网络中迅速传播。学校通常落后于技术发展,缺乏明确的政策和培训,并在证据保存、归属认定以及在保护学生与执行纪律之间取得平衡方面感到困难。
Q 针对学校中 AI 操纵的内容,有哪些建议的实际应对步骤?
A 专家建议更新纪律政策以明确应对 AI 操纵的内容,为受害者建立受保护的举报渠道,培训教职工在不让学生受到二次伤害的情况下保存数字证据(如截图、元数据、设备链),与执法部门和儿童保护组织协调,并主动与家长和社区沟通以抑制传播。

Have a question about this article?

Questions are reviewed before publishing. We'll answer the best ones!

Comments

No comments yet. Be the first!