2024年岁末，DeepSeek-V3大模型发布，迅速成为全球人工智能领域的焦点，刷屏科技圈，很多人化身“自来水”，在各大社交媒体、科技论坛上发帖讨论。
在全球范围内的行业基准测试中，DeepSeek-V3达到与Llama3、GPT-4o相当的水平，闯入了多个AI大模型排行榜单前列。聊天机器人竞技场最新数据显示，DeepSeek-V3位列开源模型榜第一，在全模型榜单里排名第七，也是中国模型中排名最高的。更令人诧异的是，DeepSeek-V3模型训练所消耗的算力，只有Llama的1/11。
DeepSeek-V3轰动AI圈，背后的中国公司深度求索也“浮出水面”。硅谷同行称其为“东方神秘力量”，对DeepSeek团队表现出浓厚的兴趣。
不管是AI圈，还是“吃瓜群众”，都在好奇，DeepSeek-V3大模型的背后，到底是一支什么样的团队？
走出校园不久的年轻人
2024年12月底，有媒体报道，雷军以千万年薪招揽一名“天才AI少女”罗福莉来领导小米的AI大模型团队。罗福莉过去两年供职于DeepSeek团队，曾参与DeepSeek大模型的关键研发。
罗福莉在北京大学读计算语言学硕士期间，曾因在ACL学术会议上发表多篇论文而受到关注。毕业后，她进入阿里巴巴达摩院，从事预训练语言模型相关的工作。2022年加入深度求索母公司幻方量化，之后成为DeepSeek大模型项目成员。
DeepSeek-v3的出现，让很多人以为，DeepSeek团队必然有“大牛”坐镇。但罗福莉走红却让外界发现，真正的“大牛”是那些像她一样的年轻人。
▲罗福莉 图/罗福莉个人公众号
2023年5月，DeepSeek-V2发布，相比于国内外主流大模型，大幅减少了计算量和推理显存，一问世就备受关注。做出这一突破性创新的，是年轻的高华佐和曾旺丁等人。
两人都刚从学校出来没几年。高华佐来自广东，曾获全国中学生物理竞赛一等奖，并保送至北京大学物理学院学习。曾旺丁就读于北京邮电大学人工智能学院，硕士期间主要学习人工智能方向。
DeepSeek大模型的另一大突破，是通过一种名为GRPO的算法，创新训练方法，大大降低了成本。其中的主角，依然是这些看似缺少经验的年轻人。
核心成员之一邵智宏此前是清华大学交互式人工智能课题组博士生，主要研究自然语言处理、深度学习。他曾服务于微软研究院，加入DeepSeek团队之后，参与了多个重要项目的研发。
GRPO算法创新的另一重要贡献者是朱琪豪。这位北京大学计算机学院2024届的博士毕业生，专注于深度代码学习研究。在DeepSeek团队，他主导开发DeepSeek大模型的一个关键项目。
他的同学代达劢则在更早的时候加入这个团队，参与了DeepSeek大模型从V1到V3每一代的研发。
▲朱琪豪 图/北京大学计算机学院公众号
▲代达劢 图/北京大学计算机学院公众号
负责DeepSeek大模型训练及推理基础架构的，是同样刚毕业的工程师赵成钢。加入DeepSeek之前，他曾在英伟达公司实习。在清华大学读大二时，他成为学生超算团队正式成员，三次获得世界大学生超算竞赛冠军。
DeepSeek团队规模并不大，不到140人，工程师和研发人员几乎都来自清华大学、北京大学、中山大学、北京邮电大学等国内顶尖高校，鲜有“海归”，而且工作时间都不长，不少还是在读博士。即便是团队的管理者，也非常年轻。
吴俣是DeepSeek后训练团队的负责人，在进入深度求索之前，只有4年工作经验。他曾在微软亚洲研究院工作，是北京航空航天大学计算机学院博士。
“我们的核心技术岗位，基本以应届和毕业一两年的人为主。”深度求索创始人梁文锋此前向媒体表示，做一件长期的事，经验其实没那么重要，相比之下基础能力、创造性和热爱等更重要。
便宜的大模型
DeepSeek大模型发布之后，便如同一头年轻的野兽，冲入公众视野，搅动整个AI圈。
2024年5月，Deepseek-V2推出后，不仅一鸣惊人，还掀起了一场AI大模型价格战。这款开源模型的推理成本极低，只有Llama3的1/7，GPT-4 Turbo的1/70。
面对如此巨大的成本差，国内主流大模型不得不“忍痛”降价，包括腾讯、百度、阿里巴巴、字节跳动等公司相继更新了价格。半年之后，Deepseek-V3模型发布，输入价格再度下调，又推动了新一轮的国产大模型降价潮。
DeepSeek因此有“价格屠夫”之称。
Deepseek大模型的“便宜”源于技术的突破。深度求索公布的信息显示，DeepSeek-V3模型全程训练只用了不到280万个GPU小时，而Meta公司的Llama3 405B模型训练时长是3080万GPU小时。
训练效率的大幅提升，来自于DeepSeek团队在模型架构和训练方法上的创新。
2024年，高华佐和曾旺丁等人用新的MLA替代了传统的多头注意力机制，压缩数据，把推理显存降至此前架构的5%-13%；还借助自研的DeepSeekMoE结构，在保持性能的前提下，极大减少了计算量。
与此同时，DeepSeek利用算法，把数据进行总结和分类，经过选择性处理之后，输送给大模型，提高了训练效率，降低了成本。
深度求索官方信息显示，DeepSeek-V3大模型训练仅耗时不到两个月，花费了557.6万美元和2048块GPU。而相比之下，国外同类大模型的训练成本和算力消耗则高出数倍。
DeepSeek-V3的实现，给大模型发展提供了新的可能性。
也有学术专家认为不宜过高评价DeepSeek-V3的创新，因为其成功更多得益于整合前人已有的技术，缺乏底层原理的创新。
站在“巨人”的肩膀上，DeepSeek团队也乐意将自己的创新共享给更多人。DeepSeek-V3上线时，深度求索同步开放源代码，并发布论文，将模型的关键技术和训练细节全部分享给外界。
在新技术浪潮中成为创新贡献者
2023年5月，梁文锋成立了新公司“深度求索”。他对外宣布，要做“真正人类级别的人工智能”。在此之前，他是私募基金“幻方量化”的创始人。
那时候，网上已有传闻称，中国持有高性能GPU最多的机构不是人工智能公司，而是一家量化私募。持续多年在量化投资领域的探索，让他对技术驱动型创新越发有了信心。
2015年，他与校友徐进成立“幻方量化”，开始尝试借助AI技术构建投资策略。2019年，他们成立了AI公司，投资超过10亿元，先后研发了AI超级计算机“萤火一号”和“萤火二号”。
2022年底，ChatGPT的横空出世让梁文峰下定决心做通用人工智能。“我们建了一个名为深度求索的新公司，从语言大模型开始，后边也会有视觉等。”
不过，直到第三代大模型发布，DeepSeek团队依然没有上线相应的应用，尚未全面考虑商业化，而且与多数国产大模型不同，他们选择了开源路线。
梁文峰向媒体透露，他和团队的目标并不是做一个应用，而是进行基础研究，只负责基础模型和前沿的创新。
在互联网时代，很多人都会有一种惯性思维，认为欧美科技圈擅长从0到1的技术创新，而中国人更习惯从1到N，在应用层面发力。梁文峰认为，过去30年，这些企业更强调赚钱，忽视了创新。
他相信中国AI不会永远处于跟随的位置，希望深度求索以创新贡献者的身份加入新技术浪潮之中。“创新首先需要自信。”他说。
