深度伪造

健康公共卫生

国家安全部揭示接陌生来电沉默三秒背后的AI声纹克隆风险

国家安全部近日披露了一种新型诈骗手段的运作机制:不法分子在接通电话后刻意保持沉默,促使受害者主动出声回应,借此采集短短数秒的语音样本。这些极短的音频片段随后被用于AI声纹克隆技术,实现身份冒充和欺诈目的。

社会法治

澳大利亚传统防骗建议因人工智能诈骗升级而面临挑战

澳大利亚银行和网络安全专家发出警告,长期以来流传的识别诈骗的建议正在失去效力。 犯罪分子如今利用人工智能技术生成逼真的电子邮件、电话和视频深度伪造,冒充可信赖的人士和机构,使诈骗手法不再是零散的个案,而是演变为大规模、系统化的犯罪产业。 2025年澳大利亚共报告超过84,000起网络犯罪案件。

国际澳新

澳大利亚维州选举中深度伪造泛滥 民众识别能力堪忧

澳大利亚维多利亚州选举前出现多个AI生成的深度伪造视频以付费广告形式传播,内容涵盖虚假的暴力事件和灾害场景,包括"加油站砍刀攻击""妇女在路边分娩"和"洪水冲进议会"等场景。

娱乐明星

已故喜剧演员罗宾·威廉姆斯之女呼吁粉丝停止传播AI生成视频

已故喜剧演员罗宾·威廉姆斯的女儿塞尔达·威廉姆斯近日在社交媒体X上发表声明,呼吁粉丝停止创作和传播利用AI生成的父亲形象视频。塞尔达指出这些AI视频"声音机械且可怕",并表示:"如果你不能在不借助死者之口来说服他人的情况下表达你的观点,那么你才是在通过媒体操纵公众。"她进一步说道:"有些羞耻心吧。"

社会法治

软件开发人员因制作深度伪造色情图像被判入狱两年

前软件开发人员安东尼奥·罗通多因利用人工智能技术制作并传播女性的深度伪造色情图像被定罪。布里斯班陪审团判其犯有11项跟踪罪、5项传播隐私影像罪以及1项涉及13岁女童的儿童性剥削材料罪。法官约翰·艾伦以其缺乏悔意为由,判处其监禁两年。

政治政策

欧盟成立新团队强化AI监管 《AI法案》即将生效

欧盟委员会周五在布鲁塞尔推出新的监管团队,以加强对全球AI公司的监督,这一举措恰逢新《AI法案》即将于周日(2025年1月26日)生效之际。欧盟AI Office的团队规模扩编至38人,将专门监测AI模型是否被用于发布色情内容、生成虚假图像和视频以及实施网络威胁等违规用途。

政治政策

欧盟规定AI生成内容必须加标签标记

欧盟根据《AI法案》推出新规则,从2024年8月2日起,在欧盟市场上的新AI系统必须为人工生成的图像、音频和文本加上标签标记,以表明其人工来源。现有系统获得额外四个月的合规期限。违反这一要求的公司将面临最高1500万欧元或其全球营业收入3%的罚款。