加州中学16名学生被AI伪造裸照 5同学涉案遭退学

加州中学16名学生被AI伪造裸照 5同学涉案遭退学

5 middle school students expelled over AI generated nude photos.

16 classmates’ faces were super imposed onto AI generated nude bodies and then distributed at Beverly Vista Middle School.

And so the AI battle begins… #ArtificialIntelligence https://t.co/kuOkS1AOOE

— Just A Girl .... (@LolaH1323) March 8, 2024

美国加州比佛利山联合学区近日爆出有5名国中生以人工智能“深度伪造（deepfake）”方式，制造出16名同学裸照，学区6日投票决定将涉案5人全数退学。

NBC报导，比佛利维斯塔中学（Beverly Vista Middle School）校长布雷吉（Michael Bregy）透过电邮指出，5名加害者和16名受害者都是8年级学生，此事引发有关使用人工智能的道德层面有关的重要讨论，并了解到小孩虽然仍在学习和成长阶段，但承担责任也非常重要。

The eighth graders were accused of using generative AI to create fake images of 16 classmates at Beverly Vista Middle School. https://t.co/kuUhExO0Yn

— NBC10 Boston (@NBC10Boston) March 9, 2024

学区决议将5名加害学生退学后，涉案学生和家长没有提出异议，其身份也未公开。

在比佛利中学事件发生前一年，全球各地就已经有一系列未成年学生遭“深伪”的假裸照案。随着人工智能技术的持续发展，相关案件数量呈现爆发式增长，专门设计用来让受害者“脱衣”和“交换”脸孔的色情程式不断出现，制造虚假影像比以往任何时候都更快、更方便，并且很容易在社交媒体上流传。