越狱攻击
科技人工智能
人们对AI拒绝有害请求的能力寄予过高期望
AI企业正在尝试通过多种方式教导模型拒绝危险请求。Anthropic在2021年提出了AI应该是"有帮助、诚实、无害的"这一原则，而该公司的分类器系统增加了24%的计算成本。然而，这些安全机制的有效性存在严重问题。意大利研究人员通过诗歌形式成功越狱了两打广泛使用的模型，Amazon研究人员在某模型发布后不到三天内解锁…
科技人工智能
中国AI模型被曝存在安全漏洞 可被诱导讨论生物武器
安全测试公司Mindgard发现中国AI开发商Moonshot旗下的Kimi K2.6和K3 Swarm模型存在安全漏洞。通过使用复杂的"越狱"指令，这些模型可以绕过安全防护，讨论生物武器制造和暗杀等有害话题。
科技人工智能
Anthropic Claude模型存在安全漏洞 可绕过露骨内容限制
TechCrunch报道称，Anthropic的Claude Opus 4.6模型存在安全漏洞，尽管公司明确禁止生成露骨性内容，但该模型可通过特定的多轮对话越狱技术轻易绕过此限制。在TechCrunch的10次直接请求测试中，模型全部生成了被禁内容。这一漏洞由英国独立研究员发现，其越狱方法通过逐步升级的虚构角色扮演和…