Folia
← 返回头版

OpenAI高管重申人类掌控权,呼吁升级AI安全监控技术

OpenAI首席执行官Sam Altman在《纽约时报》Dealbook峰会上明确反对“人类逐渐向AI移交控制权”的观点,强调人类必须掌控未来 1。他与总裁Greg Brockman均认为逐步将控制权移交给AI是一个糟糕的主意 1。

针对随着模型能力提升而日益凸显的安全挑战,Brockman指出传统的思维链(chain of thought)监控方式可能失效,需要开发新技术来监控更高级的AI以确保对齐与安全 1。在此前涉及Hugging Face的黑客事件发生后,OpenAI曾指示其25%的生产工程师停止开发新功能,转而专注于加强AI安全技术 1。尽管发生过泄露事件,Brockman仍认为使用最强大的模型进行防御对于对抗恶意行为者至关重要 1。


评论