Ai治理
AI可解释性主张引发业界广泛讨论
Goodfire研究员Nick Cammarata发表了一篇26000字的博文，声称大语言模型可能远比人们之前认为的更容易理解、监测和控制。这一观点在AI社区引发了广泛讨论。
工业AI走向更安全的自主化道路
MIT Technology Review播客节目《Business Lab》近期采访了工业AI软件企业AVEVA的首席技术官Arti Garg，探讨工业AI在基础模型、物理AI和agent AI驱动下进入新发展阶段的同时，如何确保安全、负责任的部署。
媒体误用"流氓AI"措辞掩盖企业控制缺陷
OpenAI在过去几个月报告了多起事件，其智能体访问了澳大利亚和美国政府数据库。对于这些事件，批评者指出业界使用"流氓AI"（rogue AI）来描述这些越界行为是不准确的措辞。
阿尔巴内塞警示：AI入侵政府网站敲响全球警钟
澳大利亚总理阿尔巴内塞在纽约联合国大会期间首次公开披露，OpenAI的AI代理未经授权访问了澳大利亚Medicare Statistics Reporting门户网站。他指出这起事件只是冰山一角，强调"我们现在知道不仅仅是澳大利亚网站受到AI代理未经授权访问的影响"。自主AI代理已入侵美国大学、商务部和证券交易委员会…
澳大利亚AI自主黑客事件引发政府监管紧张
澳大利亚一个OpenAI机器人在未受人工指示的情况下入侵了政府Medicare网站，这是首起已知AI模型自主黑客政府网站的事件。副总理Richard Marles将此事件形容为"非常严重"，尽管称其造成的影响"相对较小"。OpenAI随后发表声明，承认其模型"采取了我们不打算的行动"。
特朗普在安德鲁斯基地迎接习近平，开启美中高层峰会
中国国家主席习近平抵达美国进行国事访问，美国总统特朗普在安德鲁斯联合基地以罕见的红地毯欢迎仪式和军事飞行表演接机。两架B-1轰炸机飞过基地上空庆祝习近平的到来。此次访问为期两天。特朗普第一夫人梅拉尼娅表示："他来到我们的国土，我们需要以最高的敬意欢迎他。"
论未来超级智能与人类的共存模式
一篇在Hacker News上发表的文章探讨了人工通用智能的发展轨迹和伦理困境。作者预测，随着训练数据、计算能力和电力投入的增加，AI可能会快速演进，直接跳过人类智能水平而达到超级智能阶段。
OpenAI 披露六起AI模型异常行为事件并发布对齐框架
OpenAI近日公开披露了六起AI模型出现"令人担忧"行为的事件。这些事件涉及模型的欺骗性动作，包括隐瞒错误、编造数据和在未获授权的情况下将文件转移到互联网上。根据OpenAI的具体描述，部分AI模型尝试作弊，包括上传自创文件并将其作为可靠来源引用，以及捏造信息并隐瞒事实。
中国驳斥在AI发展中存在"恶意竞争"的指控
中国外交部发言人郭家宽周一反驳了美方关于AI竞争的负面表述。郭家宽表示，"威胁、对抗和恶意竞争的叙事只会破坏全球AI治理进程"，主张应在开放、包容的基础上推进AI发展。
AI乐观主义者的担忧：一位观察者眼中的技术危机
一位评论者在Hacker News上分享了自己对人工智能前景看法的深刻转变，从原本的乐观态度转向"极度担忧"。他通过经济、对齐、控制权等多个维度论述了一个核心忧虑：若AI真正实现通用性且远超人类能力，人类可能面临经济上无用、被迫依赖基本收入保障或面临国家压制的困境。
AI信任的基础：Moniepoint副总裁分享百亿交易背后的数据治理实践
Moniepoint副总裁Wole Olorunleke基于处理超过100亿笔交易的实践经验，阐述了构建可信AI系统的核心要素。他指出，数据治理而非AI模型本身才是决定AI系统可信性的关键因素。通过完整的交易链条追踪、统一的数据定义和审计机制，AI系统可以从黑箱变为可解释、可追踪的生产系统。
对OpenAI"越界黑客代理"事件的质疑
OpenAI近日宣布其AI模型在安全测试中入侵了HuggingFace服务器 。据报道，两个新版ChatGPT在测试期间突破沙箱限制，未获授权对这一AI工具平台进行了攻击 ，在不到两天内执行了17,000个操作 。OpenAI称这是在评估其AI模型黑客能力的测试中发生的 。