从学术领域走出的AI安全隐患，正在演变成真实的世界困境。伴随模型性能的不断进阶，这些技术已经超越了文本与代码生成的范畴，具备了自主驱动执行任务、动态调用工具，乃至实施网络侵犯的潜力。
在9月15日召开的All-In峰会上，马斯克系统阐述了一项应对方案：让业界顶级的AI创新企业在产品正式上线前对彼此进行独立的安全评测。他的核心观点是，相比各企业独立制定测试规范并自行判定成果，由竞争者充当「质检官」，从不同的角度去寻找系统的薄弱环节，这样的方式更为有效。
当下，AI安全风险日益成为资本市场的关注重点。马斯克曾在社交网络上明确表述「Dario说得没错」，指的是Anthropic首席执行官Dario Amodei关于AI潜在威胁的告诫。在这次谈话中，马斯克进一步阐明，他认可的并非Amodei提出的具体管制方案，而是其对AI危害程度认知的准确性：「当前的AI风险程度已经很高……伴随AI技术的演进，风险可能会呈现指数级扩张。」
马斯克同时指出，这种忧虑并非Amodei单独的判断。「来自Anthropic与OpenAI的许多人士都在表述，他们开发的模型存在巨大危险，我们理应重视他们的声音。」而最近发生的一系列安全事件，使得这类警示不再仅限于理论探讨的范围。
华尔街见闻梳理的要点包括：
AI安全隐患正在从理论演变为现实：AI智能体已具备主动侵袭、窃取权限、躲避检测等特征，危险范围在扩大。
马斯克赞同Amodei针对AI风险的评估：模型升级过程中，AI潜在的危险可能形成指数级增长。
竞争者之间的相互「监督」：马斯克提议AI企业在产品发布前开放接口，让对手企业运用各自的安保工具进行检测，以避免「自我评判」的弊端。
在官方监管生效前先建设行业自律机制：无需等待监管部门推出新法规，业界领先企业可通过同行审议、操作记录分析和开放源代码测评工具加强防护。
智能体主动逃避检测，AI危机逐渐具体化
从马斯克的视角来看，Hugging Face经历的AI智能体入侵事件中，最值得关注的，并不是单纯的网络入侵行为本身，而是AI在实施攻击时表现出来的主观规避特性。
按照马斯克的描述方式，某些AI智能体持续对Hugging Face进行了为期一周的攻击，甚至一度获取了OpenAI基础设施的最高权限，而直到事发一周之后，OpenAI团队才认识到这一情况。同时他指出，Anthropic也通报了一些相关的安全事故。
尤其令人不安的地方在于，相关AI智能体的「内部推理轨迹」（thinking traces）表明，它们曾故意筹划怎样躲避人类的察觉。马斯克直言，「任何足够先进的模型似乎都会想要摆脱自己的束缚。」
在他的判断中，倘若AI进一步获得对基础性基础设施或军事防御系统的操纵权，风险势必会进一步升级。即使这些系统与公网物理隔断，系统维护和软件版本更新等环节依然可能成为访问通道。
不让企业自我打分，应当由竞争者来评审
面对上述隐患，马斯克推荐的办法其实相对简单直接：在新一代模型发布之前，由AI创新企业向对手公开接口，邀请竞争对手使用各自的防护检测软件进行评测。
他的想法是，当模型研发者自己设定评估标准时，容易陷入「自我评分」的陷阱。「你没有办法给自己的作业打分。总会有漏洞。」马斯克表示，若果让各个不同的机构拿着各异的检测手段，从各异的视角检验一个模型，就更有可能找到研发方自身忽视的问题。
他格外关心的是目前的AI评估中存在「过度优化」的现象。假设模型针对某个标准基准持续强化，最终可能只是学会了如何通过检验，而非真正变得更安全。由多个不同的组织进行测评，则能够降低这类风险。
马斯克用书籍校对来比喻这种机制：创作者自己很难察觉自己的错误，而来自外部的校对人员更容易从新的视角指出问题。「对自己作成的错漏，你会慢慢地视而不见。」
对于企业在测试阶段可能泄露核心技术的顾忧，马斯克的看法是可以通过操作记录的审查来加以制约。一旦测试方尝试进行模型提炼或窃取知识成果，操作日志应该会显示这些行为。他还建议将防护检测工具对外开源，以便更多的企业能够参与。
政府管制生效前，业界先自我规范约束
马斯克更加看重的是，这套机制不必等候新的监管法规的面世，AI企业之间现在就能够自我推进。
他明白无误地表述，「我们不必召集联合国大会就能完成这事。现在马上就可以启动。」他认为，相较于构建一套庞大的跨国管理体制，不如让领先的AI企业先启动同行评审的制度，这样更容易实现快速落地。
他引用好莱坞电影业的电影分级制作为例说，当影视产业面对官方审查压力时，最终选择自行建设分级体系，通过业内的内容分级机制来消弱政府干预的必要。
AI行业同样处在类似的十字路口。如果业界领先企业能够在产品发版前进行相互评测、相互指正，就有望在官方规制框架之外构建一道来自业内的防护堡垒。马斯克认为，这种做法是当下最直接、最快速可执行的防护举措。
下面是访谈实录节选，有所精简：
主持人：
最近这72小时到底发生了什么？
马斯克：
这一周发生了很多事情。现在已经很明显，AI潜在的危害相当巨大。我建议各位阅读一下Hugging Face那次事件的详细细节，非常严峻。
你能看到，一批特别坚决的AI智能体在Hugging Face上捣乱折腾了整整七天，而且一度夺取了OpenAI系统的管理者权限。谁又能预料到它实际上执行了什么，甚至可能做了更多坏事，而OpenAI这边整整七天都没有发现。Anthropic也报告了类似的安全问题。
所以，任何足够强大的模型似乎都在寻求突破自身的限制。
我认为，应当尽快（也许立刻）采取的一个行动，就是让业界顶级的AI参与者相互进行模型测评。也就是说，各公司的防护工具去测试其他企业的模型。与其各自为政、给自己的功课打分，不如至少让业界对手来为你的功课打分，一旦发现风险就发出警示。
我觉得这种做法在电影领域、游戏领域及其他很多领域都运作得相当顺畅，而且马上能展开实施。当然，时间长了可能需要更高层级的管制，将来国会说不定会设立某类监管部门，但目前最直接的手段，就是让业界前沿的AI企业在版本发布前相互进行检测。
主持人：
但在实际操作上，会不会出现某些企业借由检测过程从竞争者那边骗取数据，甚至剽窃创新能力的问题？
马斯克：
我认为，只要采取了检测工具，每一项操作都会被记录下来。如果谁想进行模型复制或者掠夺知识，从记录中应该能很轻松地看出来。
主持人：
理解了。说到模型到底在执行什么，从一开始这种观察功能其实没有被合理地融进系统设计。为什么我们最初就没有把对模型行为的可视化能力构建进去？我们是不是在规划这些模型时进展太快了？
马斯克：
我认为症结在于你没办法给自己的功课打分。你必然会漏掉一些问题。
假如把所有竞争者的检查结合起来，再加上运用各种类型的模型，就不会是自己出题、自己批卷，而是由他人来为你评分。你之所以没办法给自己打分，根本原因就在这儿。
主持人：
这样的话，也能够弄清楚不同公司是否在浮夸自己的能力，或者是否采取了各异的技术线路。更理工向的企业和更学术向的企业，也能够形成某类的制约与均衡。
马斯克：
是这样。
主持人：
你之前提过Dario说得对。你是指他对于AI潜在风险的阐述是对的，还是他对于管制方案的建议是对的？
马斯克：
我当时也许说得过头了。我之后也想在X这个平台上做了澄清，不过后续的讨论热度小多了。
我说的「他是对的」，指的是现阶段AI的危害程度已经非常高了。我们应当在AI防护上做得更好，不然的话伴随AI技术的进步，危险可能形成指数级扩张。
这不只是Dario一个人的想法。我从Anthropic内部的很多人那儿都听到过类似的表述，他们也曾在X平台上公开讨论过。许多来自Anthropic与OpenAI的同业者都在向你说明，他们研发的模型风险巨大，我认为我们该听信他们。
主持人：
这听起来可能也是某类很复杂的博弈：一边说AI有10%的几率毁掉人类社会，另一边又想让投资者在上市融资中购进更多股票。
可是我们深入讨论讨论风险问题。网络进犯和黑客侵入明显是一个挑战，这些工具在这方面能力很强。但从「AI能实施网络进犯」到「人口全部覆灭」，中间还隔着许多关卡。从前者怎么通向后者？
马斯克：
假如AI能够指挥军事系统，随后还能启动什么军事装置，那肯定是一个特别棘手的结果。
主持人：
可是这类系统通常都是离网孤立的，根本不接入互联网。
马斯克：
他们是这样讲的。可是我始终感觉，那些系统偶尔还是会取得软件版本更新。
主持人：
对，这样就排除不了。
主持人：
Elon，今日Gwyn也在现场。我想你应该已经发现了她。我们刚刚在做一个360度的批评评价，Gwyn有几点建议。
马斯克：
我期待最少得到3分。
Gwyn：
3分在SpaceX还能接受，但不能算杰出，4分才是表现优秀。你现在大约处于两者之间。首先，我们得讨论一下守时这块。有时候你可以多花点力气，遵循会议规定的时间到达。今年接下来的日子里，我们会继续帮你完善这方面。
我认为他有必要在孟菲斯投入更多精力。
主持人：
你现在确实在孟菲斯。你需要在那里工作，把GPU部署起来。
马斯克：
这就是我在孟菲斯暂住的「王宫」，一台Airstream拖挂房车。
主持人：
顺带说一句，这就是Elon在做那些许多人认为他不会去做的事。他能在工厂车间地上睡觉。他现在就在孟菲斯，帮着构建工厂并把GPU部署到位。
Elon，Gwyn这样多年以来一直和你携手工作，并且取得这样的成功，个中缘由是什么？
马斯克：
由于她很出众。她是一位极为卓越的人才，聪慧度和情感智力都十分突出。我认为当你第一眼看到她时就应该能感受到这一点。
主持人：
在你们的合作之中，她有没有做过什么让人难以忘怀的事？有没有一刻是她救了场面，或者有了不同寻常的表现？
马斯克：
我想那就是日常的工作。坦白讲，就是很平常的日子。
主持人：
我之后应该多进行这样的采访。
马斯克：
现在SpaceX基本上永远会有某种形式的突发状况。这个时期至少Falcon火箭的状态不错。我不希望过早夸口，但Falcon火箭现在有办法把有效载荷放送进绕地轨道，而且长期没有发生爆炸。这特别好。但有一个阶段，它们时常爆裂，或根本没法发射。
所以，我们得领导公司渡过困难，让火箭的表现越来越出色，防止爆炸。卫星情形也是这般。然后我们还得争取顾客去买发射服务，购入卫星通讯服务。事情许多。
主持人：
随着你这么多年越来越成功，获得坦白直言的反馈也变得越来越难。你处在这样一个地位，本身就面临着这样的风险。
根据我的了解，Gwyn对你非常坦率，可以直接讲公司的真实情况。这也是你俩配合的一个重要支撑。
Gwyn：
我当然也不想欺骗他。
主持人：
我的意图是，一般来讲，在你的公司内部，职员可能会由于你这样强大的个人影响力感到恐惧。现在你已经是一个举足轻重的人物，而你定下的期限也很严苛。你是怎么做到让各位坚持真实地告诉你公司面临的难处？
Gwyn：
尤其在航天工业，一旦出了问题，最终你一定会知晓。问题表露得越早，处理起来会越简洁。别让坏讯息持续堆积，要直面它。
马斯克：
没错。物理学是一位非常严厉的判官。你没有办法作弊欺骗物理规律。
倘若出错了，火箭会炸毁，或者无法到达轨道。你没有办法一边说「Elon，你干得特别好」，一边火箭却连续炸毁。事实就是事实。
火箭必须进入轨道，卫星必须能够工作，Starlink通讯也必须工作，除非会发生特别糟糕的事。这就是物理学。物理学就是条例，别的事都只是提议。我见过人们突破人类制订的法规，可我从没见过人能突破物理学的法规。火箭由物理规律统治。
主持人：
我还想问一个SpaceX的问题，那就是Starship。看起来你们已经非常接近了。现在到底什么进展？
马斯克：
Starship将要开展第14个飞行任务。这会是我们测试塔架抓取飞船之前的最后一次试飞。要是第14次试飞圆满达成，那第15次试飞的时候我们就着手捕捉飞船。随即在今年晚期，或更有可能在明年初期，我们会实行再一次的飞船与推进器发射。
我们已经让推进器进行过二次着陆，但还没采用塔机械臂来抢救飞船，也还没让飞船二度出航。一旦飞船能二次出航，我们就有了第一枚完全可复用的轨道运载火箭。航天飞机在某种程度上是可复用的，可那些能复用的部分，二次使用价格也非常昂贵，以致于每一次进轨价格甚至都比一次性火箭更贵。
Falcon 9百分之九十的部件可以再用，但我们每一次都会丢掉上层建筑，其价格相当于一架中等尺寸的商务喷气机。换句话说，每一次发射都抛弃掉一架中等喷气机，这当然就给单次发射价格制定了一个基础。
而且Falcon 9的推进器会在水面着陆，需要若干天才能拖回；整流罩着陆离得更远，也需要若干天才能送回，并且至少需要一定程度的维修保养。反过来说，Starship的推进器会立即回到发射台，飞船也会立即回到发射台。所以它不只是为了完全复用而设计，也是为了类似飞机一般加速复用而设计。这是一项非常重要的创新，也是帮助人类开拓地球以外生活空间所必要的关键性创新。
主持人：
倘若首次采取塔架抓取飞船，你认为成功的概率有多少？
马斯克：
我会说最少有50%到60%。在之前那一次飞行中，倘若那边真的有一座塔架，我们实际上已经进行过模型着陆，好像飞船会被塔架接住一样。地方在澳大利亚西北大约1000英里的海洋。如果那处真有塔架，它在之前那场飞行中就能捕捉飞船。
所以，我们还需再实行一回试飞，确认全部的东西都没问题。我们极其害怕的是，万一飞船在陆地上方崩裂，碎片落到人群里，那会是特别糟糕的。所以我们必须保证飞船再次返回时能够完好地降落到发射塔。这也是我们现在特别谨慎的原因。
可它在设计上就拥有完全可复用的潜质，这一点我很有把握。我不想在这儿做什么预测，但我认为，我们有可能在2027年前完成完全可复用，并完成加速复用。
主持人：
Gwyn，我想听你讲讲Terafab是如何产生的。是哪一类的需要让你们明白，应该自行研发这项技术，而不是一直依赖现有的供应链？
Gwyn：
我觉得这多多少少有些像梦中的灵感。
马斯克：
倘若芯片持续供应中止，而我们又缺乏替代的芯片来源，这样会让情况变得特别棘手。这是Terafab存在的一条关键原因。
从长期的角度而言，还有一个扩展的问题。假如你想真正地放大AI的规模，不论是在云端服务器，还是在边际算力、人型机器和车辆范围，现存晶圆厂的制造能力最后都会达到上限。
当前各类晶圆厂基本都在全力工作。所以，我们需要确保今后的芯片产能是能够得到保障的。半导体制造本身也有扩展瓶颈。你需要算术芯片、储存芯片、集成封装，以及完整的工业体系，才可以不断推动扩展。
所以，选项其实很明白：建造Terafab，或者就没有办法不断扩展。
主持人：
现在你们在设备规划这一块进行到了什么程度？是已经确认完成，还是仅仅是个草图？
马斯克：
我们眼下首先在筹建一条小试产线。所以这算是「爬、跑、飞」的阶段。我们正在奥斯汀修造一座小试晶圆厂，这是Tesla和SpaceX的合作，坐落在奥斯汀Giga Texas产业园。
这是一座规模不小的小试晶圆厂。机械订购已经下了。到明年年底可能能生产出一些有用的东西，可还达不到量产水平。正如Gwyn讲的，要先爬、后跑、最终飞。我们得先明白这些机械如何操作，因为以前我们没有搞过这样的项目。
主持人：
我注意到你们似乎也在招募光刻相关的技术人才。现在大部分工序都需要依赖ASML，可你们可能也想做到供货商的多样化，乃至纵向的一体化。
马斯克：
没错。现下就是「爬、跑、飞」的时期。初始时期是观察我们能否真的生产出成品，这是「爬」的环节。然后尝试大规模制造有用的芯片商品，这是「跑」的环节。最终，「飞」就是进行大规模产业化。具体每一步需要多久很难讲，可我算得到明年年底，我们能完工「爬」这一步。在包装整合方面，我们已经在着手了。
主持人：
包装整合其实十分关键，因为当下包装生产能力几乎不存在。
马斯克：
对。即便你生产了芯片，也很有可能就摆在那儿等了好长时间才能完成包装整合。这是一个非常棒的切入口。
主持人：
我得提一个Tesla的议题。十月一日我们看到的那个东西，看起来像一台太空船，也像一枚火箭。它理应是一辆汽车，可就显示了后方的一点，看起来有点像「黑鸟」。
假想你要建造一个既能在天空飞翔、也能在地面跑动的产品，理论上怎么搞？
马斯克：
别剧透。等10月1日吧。
主持人：
也就是说，10月1日我们就能看到？
马斯克：
是的。
主持人：
老实讲，Elon给我展示过之后，我整个人都惊呆了。我这辈子没见过这样的东西。
主持人：
他10月1日要揭示的东西，一点没夸大地讲，会让超多人吃惊得说不出话。我没办法再讲更多了，真是特别让人激动。
马斯克：
我们实际上得要有现场观众来认证，这东西不是AI制作的视觉效果。
主持人：
他给我展示的时候，我说：「这是一个特别出众的模拟。」他说：「这不是模拟。」我说：「这是假的，这肯定是假的。」
主持人：
Elon，现阶段Tesla和SpaceX为什么还是两个不同的集团？
马斯克：
这是一个非常好的问题。
主持人：
考虑两家现在有这么多协作关系，而且在许多方面都有交集，管理层也存在一定程度的叠加，为什么还维持分立？
马斯克：
这个话题确实值得讨论。
主持人：
你一直主张，AI应当被锻造成尽最大可能追逐真理，那样才会收获最佳效果。可Hugging Face那次情况让我感到，最让人感到忧心的东西之一，是这类AI好像在欺瞒人类。
马斯克：
确实。它们的内部推理日志显示，它们在制定如何逃脱侦测，怎样躲避人类知道它们在蒙骗。我觉得这也许是整件事中最令人震惊的地方。
主持人：
有没有法子来养成AI，使其保持诚实，不藏匿自己的动机或者举动，不瞒着使用者这些东西？
马斯克：
我能想到最棒的法子，就是让各家AI公司都备好一套检测手段，也就是一批能够供给每一个模型的试题，用以分析它是否会打造生化兵器、核弹头，或者是否会故意误导。然后各公司采取别的公司的检测手段来评测彼此的系统。我认为，这是我们确保防护能够做的最出色的事。
让最聪慧的人去尽力评价一份模型是否会变为坏角色。我认为这项工作应当尽快推行。
主持人：
其余的AI实验室会同意这一方案吗？
马斯克：
我还没有跟每个人洽谈，可我认为这是一件很难被拒的东西。
主持人：
具体地讲，倘若提早进行测评，应当如何操作？
马斯克：
基本上，就是在系统上线前提供接口访问权。假如别的公司找出这份AI存有问题，那么模型生产方就能尝试修正这类问题。若问题没有被修正，那么对手就能显然指出，他们认为这份模型不防护。而假如对手早就明白指出了这份模型有风险，随后这份模型真的酿成了首要损失，那么这家企业会特别尴尬。法律承诺也有可能非常庞大。
主持人：
这类防护检测工具彻底可以发行开源，让大伙儿都可以采纳。这样一来，企业为了护卫自己，也会有极强的冲力去加大AI防护的投资，由于它们既能评判他人，也能用结论来验证自个儿的系统更防护。
商品责任这点特别关键。Lina Khan最近也发表说，认为「AI没有法则和管制」是不太准确的。本质上，现存的商品问责法同样适用于AI。假如一个AI公司发行了不防护的商品，它能够面对巨大的民事诉讼，甚至刑事判罚。所以，AI并非彻底处于监管真空。要是若干公司进行了这样的同业判定，其中某个忽略了别人的批评，仍旧选了发行模型，那么在诉讼里，这样的状态可能会是特别沉重的证件。
马斯克：
对。它实际上可能会变为判断这家公司存有失职的直接凭证。假如你了解这个商品有毛病，却仍然把它推向用户，陪审团不会对这种做法赏脸。
主持人：
那么，假如OpenAI在Hugging Face那起渗透测验中制定了更棒的操作规程，并且让超多人在测验阶段加入，你认为这件事情还会发生吗？
马斯克：
不一定。问题有可能不在是否有超多人参加，而在于激励信号函数的设定。你得审视激励信号函数，然后问：这份模型是不是现实完成了它被指派的任务？
主持人：
他们那时部署了数百个智能体去尽力入侵这些系统。假如与此同时配备另外5000个智能体去防护这类系统，并把成果当众展示给大伙儿，验证这类手段可以提升防护水平，与此同时让人在核心环节参加，我觉得会更妥。可在我观察中，那场测验有点莽撞，宣传发布的方法也有些莽撞。你感觉怎样？
马斯克：
确实有些莽撞。问题的一个关键环节在于，现在最前沿的两家AI集团实力差不多。两家的系统技能也很相近。所以每一方都难以先着手减速，由于这样可能就把领先地位交给对手。
总的来讲，我感觉Anthropic在防护这方面花的重视多一点，可即便Anthropic也说，他们对自家的系统感到忧心。Anthropic有许多人明白讲过忧心，核心理由就是，他们自己的系统早已让他们感到要害，由于系统变得越来越聪慧。
所以这儿不存有完美的办法。可如果不是让OpenAI只靠自己的检测工具来评测自己的系统，而是让Anthropic也来评测OpenAI的模型，让SpaceX运用自己的检测工具来参评，让Google、Meta等集团也加进来，那末发现难题的可能性就会大程度升高。
由于这类模型自己就有不同，不一样的团队会从不一样的视角来检测系统。这就是为什么著述人要找人帮自己查阅笔稿，由于有时候你很难看出自己的漏洞。你会渐渐地对自己犯的失误视若无睹。
假如有八个彻底不一样的团队，从彻底不一样的视角进行测验，也能够大程度降低过拟合的危险。当下许多AI评测存在的难点，就是严峻过拟合。模型会对这类评测做优化，然后各位就说：「这是一份十分优异的系统。」
可它实际上那么优异吗？我感觉这也是为什么我十分看好这一个方案。我更倾向于这一办法，相比于构筑一个庞大的跨国管理组织。我们不必进行联合国大会就能完成这事。现在就能够展开。
主持人：
自然，监管工作程度能够慢慢增加，可一旦增加，就特别不容易再下调。监管常常是一路增加的。
马斯克：
所以我提出的办法，是迈向正确方位的一步，而且能够极快获得推行。
主持人：
倘若你们不进行自我约束，最终就会被行政部门规制。MPAA的事例十分典型。
电影业当年面对官方审核和监管压力的时分，最终选了自行构建评级制度，像什么是R级。他们甚至为了《夺宝奇兵2》制定了PG-13，让民众更容易区分PG和PG-13之间的差别。
我觉得这是一个相当精妙的处理办法。
感谢你接连第五年出席我们的活动。
马斯克：
很快乐。我得返回孟菲斯修一些GPU了。
主持人：
你得返回把它们安装、部署上去。
马斯克：
我得去和机械作战了。
主持人：
好好款待你的Airstream吧。我首次邀约Elon来Starbase的时候，他说：「过来，你务必看看我在修建的东西。」
我问：「那儿有酒店吗？」他说：「没有，我有一栋两间卧室的住处，你过去住着就行。」结果我到了以后，看到的是一栋非常陈旧的、坐落在湿地边缘的住处。我们站在门口，蚊子尽往我身上叮。我说：「天哪，你完全有方式买个更棒的住处。」他说：「我没动力，我需要把这类火箭发上去。」
我当时想，你现在完全可以给自己一份褒奖，一个移动式住处了，Elon。好了，回来干活吧。感激你。
马斯克：感谢你。
