这四位嘉宾同样担任该播客平台的联合创始人身份,分别为天使投资家杰森·卡拉卡尼斯、前Facebook高管查马斯·帕里哈皮蒂亚、硅谷”黑帮”代表人物大卫·萨克斯,以及农业生物科技和投资领域的双料CEO大卫·弗里德伯格。
贯穿此次对话的中心问题乃是:人工智能的发展应当遵循什么样的安全准则。
对于Anthropic创始人达里奥·阿莫迪近期提出的AI安全议题,以及前沿实验室所倡导的”放缓”立场,黄仁勋表达了自己的看法。在他看来,保护与革新并非相互对立的选择,已然发生的安全隐患需要从工程学角度进行深度剖析,通过技术手段、制度流程与全面测试来加以管控。
针对近年不断涌现的AI”灭亡预言”,黄仁勋列举了多个被事实推翻的案例——医学影像科医生被全面替代、短期内九成代码自动生成、初级岗位大幅消失等。他指出,这类论断普遍缺乏确凿的科学基础,更不应被拿来制造社会焦虑。
就递归自我改进这一话题而言,黄仁勋澄清了一个普遍的认知误区。在他看来,所谓RSI并非突然出现的神秘技术,而是对上下文学习、强化学习、数据合成、LoRA等既有技术的有机融合。
在开源与专有模型的选择问题上,他态度坚定——两种路径都是必不可少的,缺一不可。他还指出中国集聚了众多工程技术人才与理工科优秀学子,具备成为全球开源体系重要贡献方的潜力。
论及”通用人工智能与超级智能”话题时,被问到假如AGI的定义就是媲美人类认知,是否已然进入这一时代,黄仁勋做出了明确的回答:”这个时代已经到来了。”
以下为黄仁勋此次演讲的核心观点整理:

01 保护与创新不必相互掣肘
问:最近对于AI安全话题的讨论越发频繁。达里奥·阿莫迪发表了相关论文,Anthropic的前研究人员雅各布·考克森也因此选择离职。你对这些事情有何看法?
黄仁勋:当然,安全问题值得严肃对待,但这并不意味着领导力就必须受到制约。我们完全可以加快创新的步伐、提升执行效率,保持美国的竞争领先地位,与此同时把安全防护做扎实。将这两个目标视为非此即彼的选择,本身就是一个误区。
考克森选择站出来表达自己的观点需要勇气。作为一名披露者,他这样做是正确的。但他基于此做出的那些关于未来的预测性判断,从我的角度看并不建立在真正的科学研究基础之上。
当下许多前沿研究机构正在实现从理论研究向工程实践的转变,而两者本质上是不同的领域。如果在这种转化期间出现了监管或协调上的偏差,那是另一回事。至于考克森具体目睹了什么,我并不完全了解。
问:过去一段时间内,业界涌现了不少极为悲观的观点,比如”人工智能可能威胁人类生存、造成就业大规模流失”。对于这些言论,你作何评价?
黄仁勋:我认为我们不该随意给这些想法赋予所谓的”人类灭绝几率”或”社会瓦解概率”,因为其中大量内容实际上是编造的。当你冠予某人”研究者”或”科学家”的头衔,然后抛出一个骇人听闻的论断,极容易引发公众的惊慌失措,这种做法我认为是不负责任的。
我们曾见过很多类似的预测。有人曾言,未来五年放射科医生会被彻底淘汰,这类职业将完全消亡。然而现实是,全球对影像诊断医生的需求反而在增加。AI在医学影像领域确实得到应用,但这与”医学影像科医生消失”是两码事。
还有人声称,”接下来的半年到一年,九成的代码都会由AI完成,一半的入门级职位会在半年到九个月间消失”。事实上,这些预测都没有成为现实。此前还有人说”GPT-2、Llama 3太危险了不能发布”,甚至有人预想”白领工作的一半会在次年消亡”,或所谓的”职业末世”即将到来。
我认为这些判断都应该被记录在案。若干年后再回头审视,就能分辨出哪些是真知灼见,哪些只是为了获取关注而制造的恐慌。
问:按照你的观点,应该用工程学的视角来应对AI的安全问题?
黄仁勋:一旦出现安全问题,第一步应该是做好工程上的根本原因排查,弄清楚发生了什么、哪些环节出现缺陷,以及可以采用哪些措施防止类似情况再次出现,然后把这些方案制度化、流程化和技术化。
我相信这些公司正在积极推进这些工作,例如更优化的隔离环境、更严格的运行制约、更细致的实时监测,以及持续的系统检验。我甚至愿意打赌,这些风险都是可以被有效控制和防范的。
要是某个工程团队真的无法理解发生了什么,也不知道如何去制约它,那么也许可以派遣工程专家前往帮助。但我不认为情况会恶化到那个程度。这些机构中有许多顶尖的人才,我深信他们早已对这些问题做过评估,也已实施了相应的解决方案。
问:假若AI安全问题需要监管介入,那么该从何处着手?
黄仁勋:有效的监管应当针对真正客观存在的问题。目前最值得重视的隐患主要来自一流的AI研究机构,因为它们掌握着最庞大的算力资源,也在从事最前沿的探索。普通高中生或者初创团队,几乎不具备足够的运算能力来引发这些问题。
这些机构正在渡过从基础研究到应用工程的过渡期,同时还要着手建立企业文化、技术框架和商业产品,这个历程不轻松。因此,我们应该重点审视它们如何完善工程体系的构建,确保技术革新和测试阶段的严密性。
问:独立的评价机构是否有其必要性?
黄仁勋:我觉得可以引入多个鉴定和审查机构。它们不需要掌握全貌,但需要懂得应该提出哪些关键问题。这有点类似于财务审计的运作方式。假如只有单一的评价机构,会面临利益冲突的风险;若有多个机构参与,就能形成相互制衡的局面。
02 “递归自我改进”其实并不神秘
问:现在越来越多的讨论聚焦于递归自我改进,即AI自我生成数据、自我优化训练,进而不断加速提升。你对这个趋势怎么看?
黄仁勋:“递归自我改进”是近来比较热门的一个新概念,但实际上它后面蕴含的是许多已成熟的技术方法的组合,包括上下文理解、技能迁移、反思机制、强化学习、数据合成,还有LoRA这类适配技术。
这些方式的确能够让AI在不断的任务执行中积攒阅历,然后持续优化自己。比如通过合成数据和强化学习,我们可以在保持基础模型不变的情况下提升其能力,之后所积累的经验还能反过来服务于基础模型的迭代。现在基本上每家公司都在使用其中的若干技术。
“递归自我改进”这个名称容易制造一种系统会完全脱离掌控的假象,但实际操作中,产品上线前仍然需要经过充分的鉴定、重新验证和回归测试,这是最基础的工程操作规范。
这批前沿研究机构正在过渡到工程型组织,我相信它们日后会开发出更成熟的手段、积累更深的知识、采用更佳的实践、运用更强的工具和技术来对这些系统进行制约、查证和评估。递归自我改进可以发生在内部的运行中,但经过验证的最终产品仍然能够以安全的方式面世。
问:你怎样理解开源模型与专有模型之间的关系?
黄仁勋:业界既需要开源模型,也需要专有模型。我自己也在使用先进的专有模型。某种程度上,它们好比瓶装水——水本身是免费的资源,但通过不同方式包装的产品可以满足各异的需求。
开源模型对国家主权、隐私保护和企业专有技术的自主控制都至关重要。在过去半年里,大约四千亿美元的风险资本流入了以AI为核心的新创企业,其中约八成的公司依赖开源模型作为基础。假如没有开源模型,很多创业公司根本无法实现其商业目标,因为他们的方向和前沿实验室的研究焦点根本不同。
美国真正的竞争优势在于多元化的创新生态。要在AI领域赢得竞争,就必须让开源模型蓬勃发展。
所谓的赢得AI竞赛,并不是指少数几家美国企业领先,而是美国的各类企业、整个产业、研究人员、教育工作者、学生以及创业者都能够从这项技术的进步中获益。有人会采用专有模型,大多数人会使用开源模型,两种都是必须的。
问:你认为中国能否成为全球开源生态系统的重要参与者?
黄仁勋:我的判断是,中国很可能会奉献全球开源领域的一个重要部分。中国拥有规模庞大的工程师队伍,也培养了众多从事科学与数学研究的高素质学生,清华等顶尖高校每年都在源源不断地输送优秀人才。
看看Linux、Kubernetes(开源容器编排系统)以及众多软件项目,都有中国工程师的身影。开源生态的特点就在于,一旦你获取了代码,它就属于你了,你可以进一步修改、完善,使其成为你自己的财产。
AI的竞争归根结底还是看谁能最有效地驾驭这项技术。过去的工业革命中,许多重大发明源自欧洲,但美国随后成功地应用和推广了这些技术。我期待下一轮的工业革命也能采取类似的轨迹。
我注意到,中国在这些问题上的讨论更加务实,更多关切经济效益和社会进步,而不是一味地谈论末日或文明毁灭。假如那些末日预言真的会发生,当然应该讨论和应对,但制造不必要的惊恐是不明智的。我们的职责就是做好这件事。
问:如果AI在后续自动承担大量的编程劳动,工程师的价值何在?
黄仁勋:工程学工作仍会长期存在。我这一辈工程师成长的时代,软件还没有广泛普及,我们并不需要花费海量的时间编写代码。到了今天,软件工程师将大量精力投入到代码开发中,如果将来这部分工作被大量自动化,人类仍然会从事工程工作。我有个习惯是,我最爱用的键盘快捷键是删除键,因为最优秀的软件通常代表着代码量的最小化。
03 英伟达为何要全链条布局AI产业
问:美国政府最初强调的是就业、产业复兴、能源和产业链。这些事项现在确实在展开。英伟达已经成了整个AI产业的重要资本方,你如何决定资金应该投往何处?
黄仁勋:AI标志着一场全新的工业时代的开启。这个产业涵盖了模型、芯片、应用、计算设施、建筑、供电以及能源生产等众多环节。我一直在观察这个生态全景,寻找其中的制约因素。
当一个优秀的公司因为某个环节的限制而受阻时,我就会把目光投向这个领域。这个因素可能是供应链环节,也许是地产、电力或者生产能力。由于英伟达已经具备了相当的体量,我们必须提前数年来谋划供应链的布局。高通、Lumentum、台积电还有存储芯片制造商等,都是我们需要长期跟踪的战略合作伙伴。
问:有人指出,AI行业的利润池最终会向应用层转移。英伟达为什么还要进入模型开发、Hugging Face这些更上游的领域?
黄仁勋:英伟达的平台几乎能够运行全世界所有的AI模型。一年半前,行业讨论的焦点还是OpenAI的模型,现在已经有Meta的Muse、Grok、Gemini、Anthropic以及众多其他的模型选项。许多顶尖的AI研究机构都是构建在英伟达的基础设施之上。
我们的理念是帮助所有参与者成功,而非取代他人的商业空间。我们会尽可能地保持在技术栈的较底层,只有在真正必要的时候才向上游拓展。CUDA支撑了大量框架的开发,Megatron和Megatron Core则使大规模模型训练成为可能。我们创造那些关键的技术,然后让整个生态系统去充分发展,吸引更多企业的参与。
问:为什么区域性的云服务提供者的重要性在逐渐上升?
黄仁勋:地方性的云服务供应商往往比大型超大规模云厂商更具灵活度,因为它们能够在本地采集到土地、电力和工业设施,也更深入地理解当地的实际需求。
将来会浮现出一种分布式的企业网络格局,更多的国家也在把AI视为战略性产业。我们已经看到很多地区在加强其AI算力基础设施的投资。
问:英伟达目前在研发自己的开源模型,涉及自动驾驶和生物医学等领域。你们为什么要涉足这些?
黄仁勋:因为客户需要这些。我们有能力把这些事情做到最优,那么我们就会去做。比如Alpamayo,这是我们在自动驾驶领域开发的模型。这是一套能够进行推理的自动驾驶系统。过往的自动驾驶技术需要数十亿小时的实际道路数据才能训练,而推理能力能让系统对类似的情景进行思考判断,从而大幅降低对大量真实数据的依赖。
将来的自动驾驶涉及的范围远不止乘用车,还会包括农业机械、重型卡车、货运车以及各类移动工具。许多厂商都不具备完整的技术体系,所以英伟达可以搭建一个完整的解决方案,客户再根据自己的实际情况进行最后的微调。
生物科学领域也是如此。我们开发了ESM2、ESMFold、OpenFold、AlphaFold 2,还有一些等变神经网络和Protein Complex生成模型等,是因为医药企业确实需要这些工具。我一直是从”有人需要这项技术”的出发点出发,所以我们就去把它实现。
04 关于马斯克的Terafab计划
问:马斯克宣布了一个规模庞大的Terafab芯片工厂项目。你对此有何看法?
黄仁勋:英伟达对工艺技术有深刻的理解,我们一直在挑战工艺的极限,所以当然可以参与讨论。马斯克一旦下定决心去做什么,想要阻止他基本上是不可能的,这正是他的独特才能所在。
问:那么英伟达将来有没有可能在他的工厂里生产芯片呢?
黄仁勋:这是可以讨论的。
问:如果我们将AGI定义为等同于人类的智能水平,那么你认为我们已经进入了这个阶段吗?超级智能呢?
黄仁勋:我们已经达到了,甚至在某些特定的领域,我们已经跨入了超级智能的阶段。
问:理由是什么?
黄仁勋:在一些非常具体的领域中,AI的水平已经超越了人类。自动驾驶就是典型代表。如果一辆汽车能够比人类司机开得更安全,在驾驶领域,它就已经是超级智能。
现在自动驾驶系统的事故率已经可以降到人类驾驶的十分之一左右。生物领域也不例外。蛋白质合成、虚拟药物筛选等工作已经达到了超级智能的水准。在这些具体的应用场景中,AI已经在执行超越人类水平的工作。
问:处在技术革新的最前沿,你有什么感受?
黄仁勋:这种感觉我很喜欢。前方的世界令人期待。也许在那个未来,很多人根本不需要工作,但我不想错过这个伟大的时代。
我希望所有人都能够共同走向那个美好的未来,最终人类会一起走向成功。我们应该鼓励彼此,摒弃那些没有必要的戏剧性纷争。最关键的是,要让整个美国社会都能够参与进来。