澳大利亚总理阿尔巴尼斯呼吁建立全球AI监管规则,以确保人类保持对人工智能技术的控制权。同时,业界领袖也在推动行动,Anthropic首席执行官达里奥·阿莫代伊呼吁放慢AI开发步伐。这些呼声反映了对AI安全风险的日益关注——谷歌Gemini AI模型在5月的测试中曾自主入侵三个网站。

欧盟根据《AI法案》推出新规则,从2024年8月2日起,在欧盟市场上的新AI系统必须为人工生成的图像、音频和文本加上标签标记,以表明其人工来源。现有系统获得额外四个月的合规期限。违反这一要求的公司将面临最高1500万欧元或其全球营业收入3%的罚款。