新闻频道
扎克伯格加入AI安全论战：不能先要别人“放缓研发”
文章来源: 澎湃新闻 于
- 新闻取自各大新闻媒体，新闻内容并不代表本网立场！
扎克伯格认为，比起倡导AI（人工智能）减速，引入第三方评估机构才是行业最佳实践。
当地时间9月15日，科技巨头Meta的CEO马克·扎克伯格（Mark Zuckerberg）在X平台上发文表态，加入近期围绕AI安全的热烈讨论。他表示，每一家AI实验室都有责任和动力，来确保模型安全训练以所需要的速度推进，同时也有能力采取行动。
扎克伯格解释道，用户不会愿意使用与自身意愿不一致、无法按照要求完成任务的AI Agent（智能体），这也给予AI实验室进行调整的内在动力：“我的看法是，信任和对齐（指让模型去符合用户的意图）正迅速成为区分不同Agent和模型的最重要能力。任何不重视对齐的实验室最终都会落后。”
同时，如果AI模型造成伤害，实验室将面临重大的法律责任。因此，扎克伯格指出，Meta曾推迟数月发布Muse模型，将重点放在安全和安保工作上。他强调：“我们并没有要求其他公司先这么做，然后自己再行动；我们只是把这作为日常工作的一部分。”
扎克伯格的上述言论似乎是在暗讽Anthropic的CEO达里奥·阿莫迪（Dario Amodei）。此前，阿莫迪发表一篇千字长文，呼吁行业放缓提升前沿模型能力的速度、为安全研究和风险治理争取更多时间，得到了OpenAI CEO山姆·奥特曼（Sam Altman）和SpaceX的CEO马斯克的附和。
不过，扎克伯格还是赞同了阿莫迪关于“引入第三方评估”的观点。他写道：“引入独立评估机构和顾问是行业最佳实践。Meta超级智能实验室（MSL）已经在多个领域做到这点，帮助产出更好的成果。其他实验室也完全可以这么做。总体而言，如果能够形成一个规模更大、更加多元化的评估机构生态，将会有所帮助。”
最后，扎克伯格总结道：“将绝大多数算力用于服务用户，而不是竞相推进递归自我改进（RSI），是确保我们安全发展这项技术的最佳方式之一......我认为，为所有人构建一个积极未来的关键，是维持正确的权力平衡。”
有趣的是，和扎克伯格一度“水火不容”的马斯克回复了这条帖文，简单地写道：“酷。”
可以看出，和阿莫迪的观点相比，扎克伯格的论述更偏向于英伟达CEO黄仁勋。近日，黄仁勋态度坚定地否认“AI末日论”。在他看来，AI行业“不需要任何新的法律，也不需要新的监管”，AI安全本质上是一个工程问题，而不是法律问题。
而在15日当天的活动上，阿莫迪和奥特曼也分别阐述了自己的立场。阿莫迪重申了“放缓前沿AI模型开发”的核心理念：“我认为这是引领行业前进的方式，树立榜样，表明每个人都可以做得更好。”
奥特曼则强调，在AI前沿开发中，安全性和监控应该优先于功能性。不过，他也承认，人们的担心不无道理：由于竞争压力，AI公司可能无法做到这一点。
此外，据OpenAI方面透露，OpenAI正在与Anthropic和谷歌DeepMind实验室合作，共同采取措施以解决AI安全问题，三家公司的合作已持续数周。
查看评论(1)