机制可解释性研究

科技人工智能

"我们一直看错了":震撼AI界的大胆主张

Goodfire研究员Nick Cammarata发表26000字博文,主张大语言模型和神经网络比此前认为的更容易理解和控制。他声称神经网络内部具有可解释的逻辑结构而非完全混乱的纠缠,挑战了学界长期以来对这一领域的基本认知。通过重新审视谷歌2014年开发的Inception v1模型,Cammarata发现看似无关的…