Folia
← 返回头版

AI滥用致虚假广告与钓鱼邮件泛滥,互联网真实性面临崩溃

当前互联网正被大量由人工智能生成的低质量虚假广告和高度定制化的垃圾邮件所充斥。1 这种现象被视为“真相本身的崩溃”,是AI普及带来的社会成本。1

在YouTube等平台上,出现了许多违背物理常识的AI生成产品广告,例如声称能在90秒内冷却任意房间的书籍大小迷你空调,以及提供无限流量免费上网的USB设备。1 诈骗者利用AI技术模仿受害者语境,制造出类似“新尼日利亚王子骗局”的新型网络欺诈手段,旨在通过极低的转化率获取非法利益。1

随着AI技术的介入,垃圾邮件的质量显著提升,变得更具针对性且难以通过传统过滤机制识别。1 文章作者举例称,收到的一封声称其作品获得“perfect 5.0 rating”的邮件,实则是ChatGPT对其博客内容的改写;尽管作者的书籍《Our Voices in the Chaos》实际上是免费PDF,但诈骗邮件仍试图将其包装成需要营销的作品以进行钓鱼攻击。1

此类现象之所以泛滥,是因为部分平台倾向于接收任何付费广告而不进行真实性验证。1 鉴于诈骗者只需少量成功转化即可盈利,平台缺乏有效的审核机制导致了此类行为的持续蔓延。1


来源

  1. Hacker NewsEverything is an AI scam now

评论