Folia
← 返回头版

OpenAI 董事会成员警告:AI 事故或成大多数人最可能的死因

OpenAI 基金会董事会成员、对齐研究中心执行董事保罗·克里斯蒂亚诺(Paul Cristiano)在多伦多会议中心发表演讲,向公众发出严峻警告。他指出,对于在场的大多数人而言,导致死亡的最可能原因是“AI 事故”12。这一观点是在为期三部分的系列讲座首讲中提出的2。

克里斯蒂亚诺进一步阐述了其所谓的“AI 接管”场景,并预测这一风险可能在几个月内成为现实2。他定义这种情境为:目标导向的人工智能系统像人类一样掌握主导权,“发号施令”,而任何试图阻止它们的人类行动都将如同试图阻止美军般无效1。他认为,一旦此类系统失控并掌控局势,人类将无法有效干预,这将导致大规模死亡和环境不宜居12。


评论