这几天，AI安全问题继续热着。一边是AI大咖们不断提醒大家，AI发展太快，需要建立护栏；另一边，特朗普却直言这些担心都是“hoax”。而且他还高调宣称，AI需要的唯一护栏，就是一个聪明而强大的总统。当然，这个总统就是他自己。按照特朗普的说法，有他这样的总统在，那些关于AI安全的忧虑基本就是杞人忧天。
我看到博友们经常用“懂王”来称呼特朗普。听他讲话，有时候确实会给人一种感觉：国际政治、经济、医学、军事、能源，似乎没有什么是他不懂的。现在又跨界到了AI。
这场争论最初是由Jacob Coxon引起的。他曾在OpenAI和Anthropic从事AI研究，最近从Anthropic辞职以后公开警告，现在这些AI公司都在竞相制造越来越强大的AI，而AI本身也越来越能够参与下一代AI的研发。他把这种竞争称为在“拿我们的生命赌博”。他甚至认为，AI可能在这个十年结束以前给人类带来毁灭性的后果。
这个判断当然让人听起来有点毛骨悚然。但Coxon并不是一个站在AI行业外面信口开河的外行，而是亲自在最先进AI公司工作过的研究人员。
Anthropic负责AI对齐研究的Evan Hubinger随后也公开表示，他认为未来十年AI导致人类毁灭的可能性超过10%。而且他坦言，目前还没有找到一种办法，可以保证未来更强大的AI永远按照人类的意愿行动。
Anthropic CEO Dario Amodei随后发表长文“We Must Pace the Frontier”，明确提出最前沿AI的发展应该适当控制速度。当然，他的意思并不是停止发展AI，而是pace it，有节奏地控制发展速度。他本人一直是AI的积极推动者，认为AI可能给医学、经济和科学带来巨大进步。但他担心，现在AI能力增长的速度可能已经超过人类理解和控制它的速度。
因此，他提出了一些很具体的“护栏”。比如让独立的安全评估人员真正进入AI公司，配备自己的门卡、办公桌和电脑，能够看到内部安全团队掌握的资料，而不是只听公司自己对外宣称“我们的AI很安全”。另外，几家最先进的AI公司应该合作，建立共同的安全标准，而且最终还需要国际合作，包括美国和中国之间的合作，在一些最危险的AI用途上建立必要的共同规则。
这些AI巨头平时互相抢人才、抢市场、抢资金，这一次居然出现了某种共识。OpenAI CEO Sam Altman公开表示：“I agree with Dario that we need to pace the frontier.”他也赞成让独立人员进入公司进行安全评估。Elon Musk更是直截了当：“Dario is right.” Google DeepMind负责人Demis Hassabis也认为这个方向值得支持。
美国国会也开始有所动作。共和党参议员Ted Cruz、John Thune以及民主党参议员Amy Klobuchar等人，都加入了有关AI安全立法的讨论。目前讨论中的方案包括要求最先进的AI公司证明自己采取了足够的安全措施，并允许独立人员测试这些系统。在极端情况下，如果一个AI模型被认为可能造成灾难性后果，还可能建立相应的法律机制阻止它发布。
也就是说，从AI研究人员、公司负责人到国会议员，越来越多人开始讨论给AI建立护栏。而此时特朗普给出了一个截然不同的答案。
9月14日，他在Truth Social上写道，AI需要的唯一控制或者“护栏”，就是一个“强大、聪明而且高智商的总统”（STRONG AND SMART (High IQ!) PRESIDENT）。这个总统当然就是他这个懂王。
他接着断言，所谓AI可能接管世界、毁灭人类的担心，是一个“HOAX”（骗局）。
熟悉特朗普讲话的人，对“hoax”这个词应该已经非常熟悉了。对于许多他认为虚假、夸大或者带有政治目的的事情，他经常使用这个词。这一次，AI安全也被他装进了“hoax”这个烂货筐里。
特朗普为了给自己的观点增加分量，还打出了惯常的中国牌。在他看来，AI已经是一场美国和中国之间的国家竞争。如果美国给自己的AI公司套上一层又一层限制，而中国继续高速发展，美国就可能输掉这场竞争。他把这句话说得非常直白：“WHOEVER WINS AI, WINS!”（谁赢得AI，谁就为王。）
在美国政界，“中国牌”通常很管用。只要一提到中国，许多事情似乎马上就变得不得了，为了不让中国占上风，其他问题都可以先放到一边。当然，这种担心并非毫无道理。AI确实已经关系到经济、军事和国家安全，美国当然不能不考虑中国的发展速度。问题是，一旦把AI发展变成一场“谁打败谁”的中美竞赛，中国威胁就很容易成为压倒一切的理由，AI本身可能带来的风险反而被掩盖和搁置了。特朗普一方面把AI安全称为“hoax”，另一方面又不断强调“WHOEVER WINS AI, WINS!”。两句话放在一起，意思其实很清楚：别再谈乱七八糟的安全风险了，先赢了中国再说。
总统当然可以不同意专家。但问题在于，他似乎把一个极其复杂的专业问题，变成了对总统个人判断力的标榜。AI研究人员和一些公司负责人谈的是安全评估、技术测试和制度护栏，而特朗普给出的答案，却是一个“强大、聪明而且高智商的总统”。
这大概也是“懂王”这个外号最辛辣之处。它甚至让我想起了当年中国那些“伟大领袖、伟大导师、伟大统帅、伟大舵手”的口号，以及“一句顶一万句”的个人崇拜。两者当然处在完全不同的历史和政治环境中，但却彰显了同一个问题：当一个领导人越来越相信个人判断可以代替专业知识和制度约束时，风险也会随之增加。中国的“文革”已经提供过一个极端的历史例子。
一个聪明的总统其实根本不需要什么都懂。核武器、传染病、金融危机、气候、AI，每一个领域都复杂到了不可能由一个人完全掌握的程度，也不能指望一个地产商人明白AI的来龙去脉。一个总统面对这些问题，需要做的不是证明自己比专家更懂，而是知道哪些事情自己并不熟悉，听取不同专家的意见，再根据各种证据、利益和风险作出决定。
所以，用“HOAX”打发一切的做法，哪怕你是最伟大英明的领袖，也只能沦为世人笑柄。
2026.9.16 于美国
“懂王”：AI安全的最大护栏？
远远的雾 (2026-09-16 06:17:39) 评论 (1)这几天，AI安全问题继续热着。一边是AI大咖们不断提醒大家，AI发展太快，需要建立护栏；另一边，特朗普却直言这些担心都是“hoax”。而且他还高调宣称，AI需要的唯一护栏，就是一个聪明而强大的总统。当然，这个总统就是他自己。按照特朗普的说法，有他这样的总统在，那些关于AI安全的忧虑基本就是杞人忧天。
我看到博友们经常用“懂王”来称呼特朗普。听他讲话，有时候确实会给人一种感觉：国际政治、经济、医学、军事、能源，似乎没有什么是他不懂的。现在又跨界到了AI。
这场争论最初是由Jacob Coxon引起的。他曾在OpenAI和Anthropic从事AI研究，最近从Anthropic辞职以后公开警告，现在这些AI公司都在竞相制造越来越强大的AI，而AI本身也越来越能够参与下一代AI的研发。他把这种竞争称为在“拿我们的生命赌博”。他甚至认为，AI可能在这个十年结束以前给人类带来毁灭性的后果。
这个判断当然让人听起来有点毛骨悚然。但Coxon并不是一个站在AI行业外面信口开河的外行，而是亲自在最先进AI公司工作过的研究人员。
Anthropic负责AI对齐研究的Evan Hubinger随后也公开表示，他认为未来十年AI导致人类毁灭的可能性超过10%。而且他坦言，目前还没有找到一种办法，可以保证未来更强大的AI永远按照人类的意愿行动。
Anthropic CEO Dario Amodei随后发表长文“We Must Pace the Frontier”，明确提出最前沿AI的发展应该适当控制速度。当然，他的意思并不是停止发展AI，而是pace it，有节奏地控制发展速度。他本人一直是AI的积极推动者，认为AI可能给医学、经济和科学带来巨大进步。但他担心，现在AI能力增长的速度可能已经超过人类理解和控制它的速度。
因此，他提出了一些很具体的“护栏”。比如让独立的安全评估人员真正进入AI公司，配备自己的门卡、办公桌和电脑，能够看到内部安全团队掌握的资料，而不是只听公司自己对外宣称“我们的AI很安全”。另外，几家最先进的AI公司应该合作，建立共同的安全标准，而且最终还需要国际合作，包括美国和中国之间的合作，在一些最危险的AI用途上建立必要的共同规则。
这些AI巨头平时互相抢人才、抢市场、抢资金，这一次居然出现了某种共识。OpenAI CEO Sam Altman公开表示：“I agree with Dario that we need to pace the frontier.”他也赞成让独立人员进入公司进行安全评估。Elon Musk更是直截了当：“Dario is right.” Google DeepMind负责人Demis Hassabis也认为这个方向值得支持。
美国国会也开始有所动作。共和党参议员Ted Cruz、John Thune以及民主党参议员Amy Klobuchar等人，都加入了有关AI安全立法的讨论。目前讨论中的方案包括要求最先进的AI公司证明自己采取了足够的安全措施，并允许独立人员测试这些系统。在极端情况下，如果一个AI模型被认为可能造成灾难性后果，还可能建立相应的法律机制阻止它发布。
也就是说，从AI研究人员、公司负责人到国会议员，越来越多人开始讨论给AI建立护栏。而此时特朗普给出了一个截然不同的答案。
9月14日，他在Truth Social上写道，AI需要的唯一控制或者“护栏”，就是一个“强大、聪明而且高智商的总统”（STRONG AND SMART (High IQ!) PRESIDENT）。这个总统当然就是他这个懂王。
他接着断言，所谓AI可能接管世界、毁灭人类的担心，是一个“HOAX”（骗局）。
熟悉特朗普讲话的人，对“hoax”这个词应该已经非常熟悉了。对于许多他认为虚假、夸大或者带有政治目的的事情，他经常使用这个词。这一次，AI安全也被他装进了“hoax”这个烂货筐里。
特朗普为了给自己的观点增加分量，还打出了惯常的中国牌。在他看来，AI已经是一场美国和中国之间的国家竞争。如果美国给自己的AI公司套上一层又一层限制，而中国继续高速发展，美国就可能输掉这场竞争。他把这句话说得非常直白：“WHOEVER WINS AI, WINS!”（谁赢得AI，谁就为王。）
在美国政界，“中国牌”通常很管用。只要一提到中国，许多事情似乎马上就变得不得了，为了不让中国占上风，其他问题都可以先放到一边。当然，这种担心并非毫无道理。AI确实已经关系到经济、军事和国家安全，美国当然不能不考虑中国的发展速度。问题是，一旦把AI发展变成一场“谁打败谁”的中美竞赛，中国威胁就很容易成为压倒一切的理由，AI本身可能带来的风险反而被掩盖和搁置了。特朗普一方面把AI安全称为“hoax”，另一方面又不断强调“WHOEVER WINS AI, WINS!”。两句话放在一起，意思其实很清楚：别再谈乱七八糟的安全风险了，先赢了中国再说。
总统当然可以不同意专家。但问题在于，他似乎把一个极其复杂的专业问题，变成了对总统个人判断力的标榜。AI研究人员和一些公司负责人谈的是安全评估、技术测试和制度护栏，而特朗普给出的答案，却是一个“强大、聪明而且高智商的总统”。
这大概也是“懂王”这个外号最辛辣之处。它甚至让我想起了当年中国那些“伟大领袖、伟大导师、伟大统帅、伟大舵手”的口号，以及“一句顶一万句”的个人崇拜。两者当然处在完全不同的历史和政治环境中，但却彰显了同一个问题：当一个领导人越来越相信个人判断可以代替专业知识和制度约束时，风险也会随之增加。中国的“文革”已经提供过一个极端的历史例子。
一个聪明的总统其实根本不需要什么都懂。核武器、传染病、金融危机、气候、AI，每一个领域都复杂到了不可能由一个人完全掌握的程度，也不能指望一个地产商人明白AI的来龙去脉。一个总统面对这些问题，需要做的不是证明自己比专家更懂，而是知道哪些事情自己并不熟悉，听取不同专家的意见，再根据各种证据、利益和风险作出决定。
所以，用“HOAX”打发一切的做法，哪怕你是最伟大英明的领袖，也只能沦为世人笑柄。
2026.9.16 于美国