日本AI换脸制作未成年人色情图片案激增，上半年已超去年全年

日本警察厅公布的数据显示，利用生成式AI将未成年人照片制作成色情图片的案件正在快速增加。今年上半年，此类案件数量比去年同期翻了一倍，已经超过去年全年的总数。

近年来，一些人使用生成式AI和修图软件，把真实存在的未成年人照片加工成色情图片，然后通过社交平台或熟人圈子传播，这类“AI色情换脸”问题已成为严重的社会危害。

根据日本警察厅统计，今年1月到6月，全国警方共受理相关案件123起，比去年同期增加63起，增长约一倍。这个数字已经超过了去年全年的114起。

受害者中，初中生79人、高中生38人、小学生3人，还有3人因身份信息无法确认具体年龄。调查发现，绝大多数加害者都是受害者认识的人，包括同班同学或同一所学校的学生。

据日本媒体综合报道，针对这一情况，日本警察厅和儿童家庭厅提醒家长，要主动和孩子讨论AI的正确使用方法，以及网络上的规则和道德规范，提高孩子的防范意识。同时呼吁受害者及时报警，可拨打警方咨询热线“#9110”求助。

AI技术让制作和传播色情内容变得更容易、更隐蔽。上半年123起案件，受害者大多是初中生和高中生，加害者往往是身边的同学。技术本身没有好坏，但用在哪里，决定了它的善恶。