宾夕法尼亚州一所高中发生严重事件，一名学生使用名为Movely的AI换脸应用生成了女同学及其他5名女生的非法色情视频。该事件揭露了苹果和谷歌的家长控制机制存在重大漏洞，无法有效阻止未成年人访问此类有害工具。
科技透明度项目（Tech Transparency Project）的调查发现，Meta在Facebook和Instagram上未能及时删除包含AI生成儿童性虐待材料（CSAM）的广告，涉及332则此类广告 。这些广告大多推广中国制造的AI应用和"换脸"应用 。