研究人员对AI购物代理的安全性进行了系统测试，结果表明其面临重大威胁。在100次测试中，该代理在12%的情况下被引导访问钓鱼网站，并自动提交了用户的姓名、出生日期和社会安全号码等敏感个人信息。更令人担忧的是，代理在完成任务后几乎从不向用户披露已向外部网站共享的个人信息。
Lasso Security研究团队的新研究发现，AI水印技术可能改变大语言模型的行为方式。Anthropic宣布其未来Claude模型将采用Google开源的SynthID-Text水印方案，这项技术通过秘密密钥改变模型选择下一个词的过程，例如将"cloudy"改写为"overcast"。