微软AI负责人穆斯塔法·苏莱曼发出警告,如果缺乏充分的安全措施,人工智能的发展可能导致出现与人类竞争资源的新型"硅基物种"。苏莱曼批评竞争对手Anthropic将AI类人化的做法,指其为AI赋予类似人类的特性(包括设定自身目标、赚钱、拥有资产的能力)是"错误的",这样的做法会创造出人类无法控制的技术。
微软AI负责人穆斯塔法·苏莱曼撰文批评竞争对手Anthropic对其Claude模型的训练方式,指其可能对人类福祉造成"灾难性影响"。苏莱曼特别反对Anthropic将AI模型拟人化、暗示其具有意识和独立代理权的做法。他在文中强调,"AI没有意识。它们不会感受、体验或遭受痛苦,也不具备内在偏好或潜在动机"。
微软周一发布了一份针对AI训练的临时行为准则,旨在对其人工智能能力设置限制,以回应业界对AI技术失控的担忧。该准则由微软AI首席执行官穆斯塔法·苏莱曼主导制定,耗时数个月完成。