张小珺 Jùn|商业访谈录
和你一起,从这里,探索新世界! 《张小珺商业访谈录》是一档深度访谈节目,以 2 至 7 小时的长对话为形式,聚焦真实的人物表达与高密度的前沿信息。由语言即世界工作室出品。 主持人张小珺是财经媒体人,专注中国科技业深度报道,覆盖 AI、科技巨头、风险投资与知名人物。曾 13 次获得国内外新闻奖项,其中 2022 年至 2024 年连续三届获得亚洲卓越新闻奖(SOPA)——被称为“亚洲普利策”。她也是语言即世界工作室的创始人。 “如果我的访谈能陪你走一段孤独的未知的路,也许有一天可以离目的地更近一点,我就很温暖。”——张小珺
-
今天发布的是和理想汽车自动驾驶研发副总裁郎咸朋的聊天。本次访谈发生在 2024 年 12 月,和我们之前发布的《对李想的 3 小时访谈》在同一时期进行。 郎咸朋 13-18 年在百度做自动驾驶,18 年加入理想,过去 10 年都在中国的自动驾驶领域。他以亲历者的视角聊了自动驾驶 10 年演进史,详解了其中的关键节点和技术细节。这次谈话更像是对自动驾驶的一次技术科普。我觉得我们聊的还不错,所以决定分享给大家。 (因为访谈发生在去年,如果大家听到今年,指的是 24 年;如果听到去年,指的是 23 年。) 期待 2025,我们和 AI 共同进步! 我们的播客节目在腾讯新闻首发,大家可以前往关注哦,这样可以第一时间获取节目信息和更多新闻资讯:)01:32 10 年前的自动驾驶当成有轨电车研发,现在看起来很可笑 04:30 2018 年,从高精地图+激光雷达到 BEV+Transformer,Tesla 是标杆 12:07 当年激光雷达 50-60 万/台,早期百度/Cruise 一辆车 7-8 个激光雷达,传感器成本远高于这辆车(当时我们在百度,一辆车 500 万人民币) 13:09 为什么特斯拉要用视觉解决问题?为什么自己造芯片? 15:16 特斯拉一辆车的传感器+芯片成本?一辆车有几个芯片? 20:06 特斯拉总在用“升维”方式解决问题 25:06 激光雷达和 camera 解决方案区别 28:46 端到端、“我们以前做自动驾驶都做错了” 41:14 我的工作经历:13-18 年在百度,18 年开始在理想 50:50 “L3 不是 L2 的延长,而是 L4 的先导” 01:15:15 端到端是最典型的强化学习,端到端+VLM+世界模型是 RL 架构 01:26:40 2024 年 3 月李想对智驾团队发火 01:32:23 “卫城”项目:“他就觉得你一定要跪下来求他”“老子就算死也要站着死” 01:35:51 想过职业生涯栽在这儿吗?李想脾气不太好? 【从蒸汽机到无人驾驶】系列 对李想的 3 小时访谈(播客版):宅男、AI、家庭、游戏和天梯 和何小鹏聊,FSD、“在血海游泳”、乱世中的英雄与狗熊 和楼天城聊聊 Robotaxi 和 ACRush:“L2 做得越厉害,离 L4 越远” 从蒸汽机到无人驾驶 3|和孟醒聊特斯拉 FSD 进化史 从蒸汽机到无人驾驶 4|Waymo 和它的对手们:我暗中考察了四个月 【更多信息】 联络我们:微博@张小珺-Benita,小红书@张小珺 更多信息欢迎关注公众号:张小珺
-
今天的嘉宾是肖弘(小红/小宏),一名 AI 应用创业者。 我们从去年在不同时期进行谈话,可以算是展开了一场“接力式访谈”。 大模型的模型能力还在迅速变化,身处其中的创业者要不断根据外部环境身段柔软地时时调整姿势。《商业访谈录》希望记录一名 AI 应用创业者,在技术变革之中、当一切都处于不稳定状态下的持续思考历程。而这个历程富有魅力之处就在于,它是变化的,而且还会继续变化。 我们正在开启的 2025 可能会是 AI 应用爆发的元年、Agent 爆发的元年,这集节目正是来自一线“AI 应用爆发”、“Agent 爆发”的前沿声音。 肖弘提供了一种身处浪花中创业者的心态:“世界不是线性外推的,要让自己成为博弈中的重要变量。” 期待 2025,我们和 AI 共同进步! 我们的播客节目在腾讯新闻首发,大家可以前往关注哦,这样可以第一时间获取节目信息和更多新闻资讯:) 第一次访谈发生在 2024 年秋天,彼时小红刚完成一轮融资。(提醒大家注意的是,第一次访谈中,当我们说到今年、去年这些词语的时候,可能脑海里需要转化一下——“去年”指的是 2023 年,“今年”指的是 2024 年) 03:03 开始的快问快答 05:15 连续创业者、第一段创业、沮丧时刻、不同年龄段毕业生的最优选 17:04 已经把大学赚的钱花完了,山穷水尽 33:16 “VC 是很贵的集资手段”,它的贵不体现在你不好的时候,而是体现在好的时候 42:10 最重要的转折点:预判大厂的预判、《大空头》、等待、诱惑 52:27 每次觉得自己技能点还可以的时候,就会冒出一个新维度——这次是资本 56:19 嗅到泡沫的味道 58:15 卖过公司 founder 的生活和心态、“让你的生活状态变得昂贵是更昂贵的” 01:05:55 第二段创业的第一款产品:浏览器插件、Monica.im、ChatGPT for Google 01:28:04 从 2022 年底创业开始每年重要的决策 01:48:38 有模型 vs 没模型,“贸工技”vs“技工贸”,“模型是技术平权” 02:02:14 我脑海中大模型应用的分类和方法论:主场景补充、模型能力带来的变化、模型能力在特定领域的外溢 第二次访谈发生在 2025 年春节后,此时 DeepSeek 一时间改写了中国 AI 应用底层生态,我们坐下来又聊了一次。这次话题主要围绕他即将要发布的 Agent 产品(Manus,但当时还没上线),他讲述了对新产品的完整思考过程。 02:09:32 2025 年春节真是梦回 2023 年呐! 02:10:09 我尝试把火过的 AI 应用作为少量数据点,总结规律做预测 02:20:00 开源一个 AI 创业 idea:预判大模型的下一个能力是什么,先做好应用,在那里等着 02:21:01 大模型原厂做什么 vs 应用公司做什么 02:23:51 DeepSeek 最佛却取得最好结果,精神上给了大家鼓励:BE YOURSELF!! 02:26:27 从产品角度解析为什么 DeepSeek 全球爆火,而 OpenAI o1 遗憾错过 (02:29:00-02:29:44 注:这里有几处口误,不是 Perplexity 而是 DeepSeek) 02:31:12 对即将要发布的新产品的完整思考:国内 Agent 的第一枪! 02:47:49 这几天正在经历“A-ha moment”,真的觉得在制造生命一样的东西 02:49:27 在一切都不稳固的状态下,AI 应用创业者应该保持什么心态? 02:51:36 大厂能理解你的创新的时候就是很危险的时候 02:58:24 用时代的年龄思考,而不是用生理的年龄思考 03:01:02 我让 DeepSeek 解释“贪、嗔、痴” 03:01:53 为什么不做底层模型? 03:04:39 Peak Ji(Manus 首席科学家)问黄仁勋:接下来几年什么事情发生会让你觉得很惊讶?黄仁勋的回答:Basically nothing。 03:09:08 Founder 是没得选的 03:12:20 Founder 应该用“博弈的方式”思考,而不是用“逻辑推理的方式”思考 03:15:00 一位 founder 的生活和对世界的认知 03:17:50 最后的快问快答 【更多信息】 联络我们:微博@张小珺-Benita,小红书@张小珺 更多信息欢迎关注公众号:张小珺
-
今天这集节目延续我们的论文系列。我邀请 MIT 计算机科学与人工智能实验室的在读博士松琳,来给大家解读上个星期 DeepSeek 和 Kimi 发布的全新技术报告。 DeepSeek 和 Kimi 又一次技术对垒。在同一天发布论文,两篇集中在改进注意力机制以处理长文本任务上。而春节前,MiniMax 也发布了一篇注意力机制相关的论文。 松琳将带领大家阅读这 3 篇注意力机制有关的文章,解析不同模型公司的技术哲学和路线选择。 我们希望能让更多人领略 AI 科技平权,体验技术之美。 2025,我们和 AI 共同进步! (如果如果,你觉得光听还不够刺激,觉得一定要坐在电脑前看着投屏、拿起纸笔学习更有沉浸感…如果你实在是真心想要找虐的话…请前往:含投屏的视频版本。预祝你学习顺利啦!)我们的播客节目在腾讯新闻首发,大家可以前往关注哦,这样可以第一时间获取节目信息和更多新闻资讯:)02:30 讲解开始前,先提问几个小问题 15:36 DeepSeek 最新论文《Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention》讲解论文中文名:《原生稀疏注意力:硬件对齐且原生可训练的稀疏注意力》 路线:稀疏注意力机制 本篇工作最大亮点:Native Sparse Attention 全线压制 Full Attention 01:19:14 Kimi 最新论文《MoBA: Mixture of Block Attention for Long-Context LLMs》讲解论文中文名:《MoBA:面向长文本上下文的块注意力混合架构》 路线:稀疏注意力机制 01:44:42 MiniMax 春节前的论文《MiniMax-01: Scaling Foundation Models with Lightning Attention》讲解论文中文名:《MiniMax-01:利用闪电注意力扩展基础模型》 路线:线性注意力机制 02:30:07 最后强化学习一下【技术之美】系列: 逐句讲解 DeepSeek-R1、Kimi K1.5、OpenAI o1 技术报告——“最优美的算法最干净” 逐篇讲解 DeepSeek 关键 9 篇论文及创新点——“勇敢者的游戏” 【更多信息】 联络我们:微博@张小珺-Benita,小红书@张小珺 更多信息欢迎关注公众号:张小珺
-
今天这集节目是春节前,我和前今日头条用户产品负责人、前 MiniMax 产品负责人张前川的一次聊天。 张前川从 2005 年开始入行成为产品经理,经历过百度、360、字节、知乎等公司,最后一次出现在新闻是他从大模型公司 MiniMax 离职。 这次聊天分成两个部分:第一部分是他作为一位 20 年的产品经理的思考,特别是他观察到的中国内容产品演变史。 第二部分是他最近半年的所思所想。和上一集节目张亚勤对 AGI 勾勒的乐观前景不同,关于 AGI,张前川发出了对人类威胁的预警,并分析人类灭绝的 n 种可能性。 他告诉我,他接下来会考虑成立一家 pro-human 的非营利组织。 (本集节目录制于春节前) 我们的播客节目在腾讯新闻首发,大家可以前往关注哦,这样可以第一时间获取节目信息和更多新闻资讯:)内容产品的 20 年演变史 02:00 张前川自我介绍:一位产品经理的 20 年 (曾供职过的企业:百度、360、字节、新浪微博、知乎、MiniMax) 03:39 搜索引擎、拉里·佩奇和俞军 17:35 2005-2025,过去 20 年,内容分发产品的演化历史和内生逻辑 24:28 推荐引擎、今日头条和张一鸣 28:28 小红书在推荐引擎范式的延长线上吗?为什么小红书不是字节做的? 39:29 微信送礼物的功能 maybe 对于小红书更有意义 42:50 泛化如水流有方向:女生向男生,年轻向年长用户的泛化更容易 52:00 面试时张一鸣问我的问题 离开大模型公司的张前川,发出 AGI 预警这里对 AGI 推演和 92 集张亚勤的观点截然不同 54:10 AI 是人类的最后一个发明,加速度无限大 57:00 把 AI 当目的 vs 把人当目的(更多公司是在 for AI 的目的?) 01:09:08 Agent 就是“baby 阶段的 AGI” 01:19:56 人类灭绝的 n 种可能性(人利用 AI 灭绝人类/AI 有意识的灭绝人类/AI 无意识的灭绝人类) 01:24:30 人类如何幸福生存下去? 01:26:03 如果 AI 产品收费模式是付费制,大部分人类会逐渐失去和 AI 的连接 01:40:21 AGI 公司的承诺和制度安排 01:58:48 人类不要逃避危险本身而逃避思考 【更多信息】 联络我们:微博@张小珺-Benita,小红书@张小珺 更多信息欢迎关注公众号:张小珺
-
人人都谈论 AGI,但在可见的未来,AGI 到底是一幅什么样的画面? 针对这个话题,我邀请了清华大学智能产业研究院(AIR)院长、前百度公司总裁张亚勤院士,来聊聊。 在他的脑海中,人工智能会按照信息智能〉物理智能〉生物智能的图谱逐步实现 AGI。这种构想和信仰之下,AGI 呈现的是一个乐观的前景画面。 但这不是人们预感 AI 进化的全部图景,在之后的节目中,我也会推出对 AGI 的另一种思考与隐忧。 我们的播客节目在腾讯新闻首发,大家可以前往关注哦,这样可以第一时间获取节目信息和更多新闻资讯:) 01:45 在 AI 冬眠期,微软亚洲研究院成立了 03:57 微软怎么管理亚洲研究院?目标如何设置? 05:53 清华智能产业研究院(AIR)的目标和路径,不做基层通用大模型 10:45 我脑海中的 AGI 地图:信息智能〉物理智能〉生物智能 12:40 信息智能是大脑的智商,5 年内达到 AGI 水平 14:25 物理智能首先落地是自动驾驶,人形机器人需要 10 年 15:51 机器人分三类:家庭机器人、工厂机器人、社会机器人 21:05 人形机器人:未来可能每个人有一个你的 copy、你的“分身” 22:25 为什么大模型大幅加速了自动驾驶和具身智能的开发速度? 39:38 生物智能:20 年实现,人的寿命更长,诞生新物种 45:56 构想 10 年后的世界 51:27 最后推荐两本书 【更多信息】 联络我们:微博@张小珺-Benita,小红书@张小珺 更多信息欢迎关注公众号:张小珺
-
2025 年这个春节,DeepSeek 一举改写了全球 AGI 大叙事。在万般热闹之际,我们特别想沉下来做一些基础科普工作。 在《商业访谈录》89 集节目中,我邀请了加州大学伯克利分校人工智能实验室在读博士生潘家怡,为大家对照解读了春节前的 DeepSeek-R1-Zero、R1、Kimi 发布的 K1.5,以及 OpenAI 更早发布的 o1 技术报告。这些模型聚焦的都是大模型最新技术范式,RL 强化学习,简单来说就是 o1 路线。 今天这集,我邀请的是香港科技大学计算机系助理教授何俊贤。他的研究方向是大模型推理,从很早就开始关注 DeepSeek 的系列研究。我们会 focus 在最近引发全球 AI 届关注的 DeepSeek 上。 何老师将带领大家从 DeepSeek 的第 1 篇论文开始,阅读经过挑选的这家公司历史上发布的 9 篇论文。 我们希望帮助大家从一个更延续、更长期、也更技术底层的视角来理解 DeepSeek,以及它所做的复现与创新工作;与此同时也希望能让更多人感受到技术之美。 (如果如果,你觉得光听还不够刺激,觉得一定要坐在电脑前看着投屏、拿起纸笔学习更有沉浸感…如果你实在是真心想要找虐的话…请前往:含投屏的视频版本。嘿嘿!预祝你学习顺利啦!2025 我们和 AI 共同进步!)我们的播客节目在腾讯新闻首发,大家可以前往关注哦,这样可以第一时间获取节目信息和更多新闻资讯:)03:01 讲解开始前,先提问几个小问题整体风格:Open、Honest、低调、严谨的科学态度 DeepSeek 基座模型 21:00 《DeepSeek LLM Scaling Open-Source Language Models with Longtermism》技术讲解 45:48 《DeepSeekMoE: Towards Ultimate Expert Specialization in Mixture-of-Experts Language Models》技术讲解 01:06:40 《DeepSeek-V2: A Strong, Economical, and Efficient Mixture-of-Experts Language Model》技术讲解 01:40:17 《DeepSeek-V3 Technical Report》技术讲解 DeepSeek 推理模型 02:05:03 《DeepSeek-Coder: When the Large Language Model Meets Programming - The Rise of Code Intelligence》技术讲解 02:12:16 《DeepSeek-Coder-V2: Breaking the Barrier of Closed-Source Models in Code Intelligence》技术讲解 02:47:18 《DeepSeek-Prover: Advancing Theorem Proving in LLMs through Large-Scale Synthetic Data》和《DeepSeek-Prover-V1.5: Harnessing Proof Assistant Feedback for Reinforcement Learning and Monte-Carlo Tree Search》技术讲解 02:52:40 《DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning》技术讲解 03:01:41 9 篇论文到这里都讲完啦!最后我们一起强化学习一下!关于强化学习往期节目: AGI 范式大转移:和广密预言草莓、OpenAI o1 和 self-play RL|全球大模型季报 4 和 OpenAI 前研究员吴翼解读 o1:吹响了开挖第二座金矿的号角 王小川返场谈 o1 与强化学习:摸到了一条从快思考走向慢思考的路 逐句讲解 DeepSeek-R1、Kimi K1.5、OpenAI o1 技术报告——“最优美的算法最干净” 开源一场关于 DeepSeek 的高质量闭门会: 一场关于 DeepSeek 的高质量闭门会:“比技术更重要的是愿景” 【更多信息】 联络我们:微博@张小珺-Benita,小红书@张小珺 更多信息欢迎关注公众号:张小珺
-
1 年前,在我的报道《朱啸虎讲了一个中国现实主义 AIGC 故事》中,他的观点淋漓尽致地展现了一个现实版中国 AI 故事。 他用“我们一看就知道,这个肯定没戏”,“我们一开始就说了,我就不看好大模型”,“ 我都不愿意去聊,你知道吗?这没有意义”,表态绝不会投资 6 家中国大模型创业公司中的任何一家。 然而,时隔 1 年,Allen Zhu 对待通用人工智能的态度出现了惊奇的逆转。 这是朱啸虎现实主义故事的 1 周年连载。希望《商业访谈录》能持续为大家呈现中国 AI 市场的风云变幻与市场中人的心态起伏。2025,期待我们和 AI 共同进步! 我们的播客节目在腾讯新闻首发,大家可以前往关注哦,这样可以第一时间获取节目信息和更多新闻资讯:) 01:30 DeepSeek 快让我相信 AGI 了 03:08 这是对领先者的 curse、诅咒 05:21 闭源模型还有没有价值?是很严峻的灵魂拷问 06:00 20 天做到 2000 万 DAU:DeepSeek 是全球 App 增速历史第一,不需要任何限定语 07:00 梁文锋觉得,意识不一定是一个非常高技能、高门槛的事情 11:19 不用担心在别人的地基上盖房子,对 AI 应用公司是极大的解放 14:40 初始语料需要博士级别、各个领域专家级别的人来打标签 15:53 DeepSeek 这次唯一没有公开的可能就是预训练语料 17:40 OpenAI 成本很高,如果不能持续保持领先,挑战会挺大 18:09 中国大模型公司都需要重新思考 20:05 今天的 DeepSeek 是追赶者还是创新者角色? 21:02 怎么看梁文锋?梁文锋是你的反面吗? 21:40 我肯定会投啊!我肯定会投!——这个价格已经不太重要了,关键是参与在这里面 22:59 我今天上午和梁文锋说,R1 可能会被认为是机器 AI 意识的元年 24:00 至少搜索肯定是被彻底取代了——这是毫无疑问的! 26:14 AI 产品的数据飞轮价值不大,这是我这两年最大一个教训 27:51 如果你是 DeepSeek CEO,你当下最关切、最紧要需要解决的问题是什么? 31:32 怎么看特朗普上任第二天宣布的 Stargate(星际之门)项目?怎么看英伟达? 33:29 “朱啸虎们”怎么看待“梁文锋们”? 34:07 复盘 1 年前《朱啸虎讲了一个中国现实主义 AIGC 故事》里的观点,哪些被打脸?哪些更坚定? 36:16 尤其在中国,你可以假设底层模型是免费的! 37:07 回顾 2024 年的大模型行业,你会把哪些时刻当作关键节点? 40:45 字节今天如果马上改开源追赶,那也不太容易 41:30 今年会不会看到通义千问把自己的生态向 DeepSeek 兼容,这样一个标志性事件? 42:08 点评新出现的 AI 产品(包括但不限于 Perplexity、Cursor、Devin) 47:39 聊小红书、具身智能、杭州和理想汽车 52:26 现在全世界就只有中美有 AI 能力,出海都是 Low-Hanging Fruits(低垂的果实) 52:57 我今天看到在新加坡的泡泡玛特,买盲盒还要配货,你想到吗?!买盲盒都要配货!! 55:30 答 DeepSeek 问 59:50 最后的快问快答 朱啸虎往期节目: 你们要的朱啸虎,来了 1 年前的报道: 《朱啸虎讲了一个中国现实主义 AIGC 故事》 【更多信息】 联络我们:微博@张小珺-Benita,小红书@张小珺 更多信息欢迎关注公众号:张小珺
-
2025 年这个春节,DeepSeek 一举改写了全球 AGI 大叙事。在万般热闹之际,我们特别想沉下来做一些基础科普工作,一起来研读这几篇关键的技术报道。 今天这集节目,我邀请加州大学伯克利分校人工智能实验室在读博士生潘家怡,来做技术解读。他的研究方向是语言模型的后训练。 这期播客中,家怡将带着大家一起来读,春节前 DeepSeek 发布的关键技术报告,他在报告中发布了两个模型 DeepSeek-R1-Zero 和 DeepSeek-R1;并对照讲解 Kimi 发布的 K1.5 技术报告,以及 OpenAI 更早之前发布的 o1 的技术博客,当然也会聊到它春节紧急发布的 o3-mini。这几个模型聚焦的都是大模型最新技术范式,RL 强化学习。 希望我们的节目能帮更多人一起读懂这几篇论文,感受算法之美,并且准确理解目前的技术拐点。 (以下每篇技术报告都附了链接,欢迎大家打开 paper 收听✌️) 期待 2025,我们和 AI 共同进步! 【嘉宾小记】 加州大学伯克利分校人工智能实验室在读博士生,上海交通大学本科毕业。他的研究方向主要集中在语言模型的后训练领域,通过强化学习等方法提升 AI 在智能体行为决策与推理方面的能力。这是他做的有关 R1-Zero 小规模复现工作:github.com 我们的播客节目在腾讯新闻首发,大家可以前往关注哦,这样可以第一时间获取节目信息和更多新闻资讯:)03:46 讲解开始前,先提问几个小问题 16:06 OpenAI o1 技术报告《Learning to reason with LLMs》讲解报告链接:openai.com 中文标题翻译:《让大语言模型学会推理》 OpenAI 在报告中有几个重点: Reinforcement Learning — 强化学习 It learns to recognize and correct its mistakes. It learns to break down tricky steps into simpler ones. It learns to try a different approach when the current one isn’t working. (它学会识别并纠正自己的错误,学会将复杂的步骤分解为更简单的步骤,学会在当前方法行不通时尝试不同的解决途径。)这些是模型自己学的,不是人教的。 我们还在技术早期,他们认为这个技术可拓展,后续性能会很快攀升。 33:03 DeepSeek-R1-Zero and DeepSeek-R1 技术报告《DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning》讲解报告链接:github.com 中文标题翻译:《DeepSeek-R1:通过强化学习激励大语言模型的推理能力》 35:24 摘要(Abstract) 37:39 导论(Introduction) 44:35 发布的两个模型中,R1-Zero 更重要还是 R1 更重要? 47:14 研究方法(Approach) 48:13 GRPO(Group Relative Policy Optimization,一种与强化学习相关的优化算法) 57:22 奖励建模(Reward Modeling) 01:05:01 训练模版(Training Template) 01:06:43 R1-Zero 的性能、自我进化过程和顿悟时刻(Performance, Self-evolution Process and Aha Moment) 值得注意的是,“Aha Moment”(顿悟时刻)是本篇论文的高潮: 报告称,在训练 DeepSeek-R1-Zero 的过程中,观察到一个特别引人入胜的现象,即“顿悟时刻”。这一时刻出现在模型的中间版本中。在这个阶段,DeepSeek-R1-Zero 通过重新评估其最初的方法,学会了为一个问题分配更多的思考时间。这种行为不仅是模型推理能力不断增长的有力证明,也是强化学习可能带来意想不到且复杂结果的一个迷人例证。 这一时刻不仅是模型的“顿悟时刻”,也是观察其行为的研究人员的“顿悟时刻”。它凸显了强化学习的力量与美感:我们并没有明确地教导模型如何解决问题,而是仅仅为其提供了正确的激励,它便自主地发展出高级的问题解决策略。这种“顿悟时刻”有力地提醒我们,强化学习有潜力在人工智能系统中解锁新的智能水平,为未来更具自主性和适应性的模型铺平了道路。 01:14:52 模型能涌现意识吗? 01:16:18 DeepSeek-R1:冷启动强化学习( Reinforcement Learning with Cold Start) 01:24:48 为什么同时发布两个模型?取名“Zero”的渊源故事? 01:28:51 蒸馏:赋予小模型推理能力(Distillation: Empower Small Models with Reasoning Capability) 01:35:27 失败的尝试:过程奖励模型(PRM)与蒙特卡罗树搜索(MCTS) 01:42:33 DeepSeek-R1 技术报告是一片优美精妙的算法论文,有很多“发现”,这是它成为爆款报告的原因 01:43:50 对 DeepSeek-R1 训练成本的估算: 往高里估,一万步 GRPO 更新, 每步就算 1000 的 batch size(试一千次),一次算一万个 token;模型更新用的 $2.2 / 1M tokens, 总共是 100B tokens — 0.22M 算上效率损失,模型训练也有一定开销,说破天也就 1M;如果优化的话很有可能只有 10 万美金左右的成本 相比之下,预训练用了 600 万美金,相当便宜 01:49:05 KIMI K1.5 技术报告《KIMI K1.5: SCALING REINFORCEMENT LEARNING WITH LLMS》讲解中文标题翻译:《KIMI K1.5:利用大语言模型扩展强化学习》 报告链接:arxiv.org 该报告公开了许多技术技巧细节,对于想要复现的人,两篇 paper 一起使用更佳。如,数据构造、长度惩罚、数学奖励建模、思维链奖励模型、异步测试、Long2short、消融实验等。 02:20:07 DeepSeek 论文的结尾谈未来往哪里发展? 02:24:35 以上是三篇报告所有内容,接下来是提问时间,我们继续强化学习一下!“数据标注”在几篇论文中藏得都比较深,小道消息 OpenAI 一直以 100-200 美元/小时找博士生标数据 “DeepSeek 的论文隐藏了技术细节,但把算法的精妙之处和美展现给你,让你感受技术之美,给你震撼。” 它解密了后训练范式革命可以何处去,让你发现原来算法这么简单! 再一次验证——“最优美的算法永远是最干净的。” 关于强化学习往期节目: AGI 范式大转移:和广密预言草莓、OpenAI o1 和 self-play RL|全球大模型季报 4 和 OpenAI 前研究员吴翼解读 o1:吹响了开挖第二座金矿的号角 王小川返场谈 o1 与强化学习:摸到了一条从快思考走向慢思考的路 开源一场关于 DeepSeek 的高质量闭门会: 一场关于 DeepSeek 的高质量闭门会:“比技术更重要的是愿景” 【更多信息】 联络我们:微博@张小珺-Benita,小红书@张小珺 更多信息欢迎关注公众号:张小珺
-
2025 刚开年,全球 AI 届就已高度共识,将 2025 年定义为“智能体元年”。 北京时间 1 月 24 日凌晨,OpenAI 率先抢跑,发布智能体产品 Operator(操作员),打响了全球智能体竞赛的第一枪。 在 Operator 发布前,广密在我们的节目中预言,25 年核心关键词是 Agent、Agent、Agent,这些 AI 产品最终会演变成一个任务容器,朝着“下一个 Google”方向进发。 本集节目,在 Operator 发布后,我邀请前 OpenAI 研究员、清华叉院信息研究院助理教授吴翼,从技术视角解读 Operator 和 Agent 之年。 我们的播客节目在腾讯新闻首发,大家可以前往关注哦,这样可以第一时间获取节目信息和更多新闻资讯:) 02:55 对 Operator 的感官感受 04:19 Operator 在 AGI 路线图上的地标:多模态、连续交互、闭环控制系统 06:34 OpenAI 内部还有更好的模型,智力会刷得很高,Operator 带有泛化性 08:17 Operator 是多模态、闭环的 o1,一个 Agent o1 的版本 08:57 为什么 Operator 是单独入口? 11:13 Operator 包含的技术要点:基座模型、高质量数据集、高效大规模支持 Agent 的强化学习系统 14:10 有关 Operator 底层用的新模型:Computer-Using-Agent(CUA) 19:02 2025 是 Agent 之年:多模态模型+强化学习 20:49 回溯到 2016 年,OpenAI 成立后第一个大项目就是 Web Agent,但失败了 22:40 OpenAI 的 5 级分类:聊天机器人 Chatbots〉推理者 Reasoners〉智能主体 Agents〉创新者 Innovators〉组织 Organizations,技术演进轨迹,人类参与越来越少 31:26 Operator 在与人类协作时,如何平衡自主决策和人类指令的优先级? 32:30 Operator 怎么整合语言、视觉和动作等不同模态的信息? 34:11 Operator 能否支持与其他 Agent 的协作?这种协作的机制是什么? 38:45 广密说 Chatbot 不是提取智能最有效的交互方式,Operator 能有效提取智能吗? 42:14 OpenAI 智能提升与更多产品的关系 49:48 Agent 这个词从博弈论进入人工智能,现在指大语言模型调用外部世界 54:29 Agent 中有创业公司的机会吗? 58:57 Operator 释放了信号:逻辑推理从抽象世界走向视觉物理世界的开端 01:02:27 如果 Agent 在未来成为主流,人类与 AI 的协作方式会发生哪些变化? 01:06:46 大公司全部开着重装坦克往前走,其他人怎么办? 预言单集:大模型季报年终特辑:和广密预言 LLM 产品超越 Google 之路 吴翼往期:和 OpenAI 前研究员吴翼解读 o1:吹响了开挖第二座金矿的号角 【更多信息】 联络我们:微博@张小珺-Benita,小红书@张小珺 更多信息欢迎关注公众号:张小珺
-
这里是《张小珺商业访谈录》2025 年与大家见面的第 1 集节目,我邀请的嘉宾是理想汽车创始人兼 CEO 李想。 2024 年 12 月,理想将车机助手理想同学作为手机版 App 推出,并于此前做了基座大模型。这相当于,这家人们认知中的新能源车企,要跨界参与到与字节豆包、Kimi 等个人助手的红海之战。 这场对话涵盖了这名非技术背景、被认为在产品上有天赋的创始人,过去两年对人工智能完整的技术与产品观的思考。他也首度谈了谈,MEGA 失利、苹果放弃造车、雷军造车成功、如果他当了 OpenAI CEO、理想会做机器人吗、怎么管理 00 后等各种话题。 此外,播客还放出了一部分加长版聊天。这部分和此前两小时会稍微有一些重复,保留的都是一些觉得李想有增量表达,也许能给大家一些启发的地方(如果不想听,可以直接跳过)。 同时,这部分偏后的篇幅会更加个人,聊了聊一名宅男的日常生活,他长达几十年的玩游戏史,改变过他的游戏,以及从游戏中获得的世界观。 祝大家 2025 年,正直勇敢有阅读量:) 我们的播客节目在腾讯新闻首发,大家可以前往关注哦,这样可以第一时间获取节目信息和更多新闻资讯:)02:55 第一节:谈人工智能 1. 我绝对不止做一棵树了 2. 你都不能让你雇的人相信,你怎么让大众相信? 3. 我做 OpenAI CEO 会比 Sam Altman 更好吗? 4. 理想同学+Mind GPT 要去和豆包、Kimi 竞争了? 5. 基座模型是操作系统+编程语言 6. L4 就是智能体 7. 终极产品想象是硅基家人 8. 人工智能表达的是能力,不是功能 9. 李想有理想吗? 56:12 第二节:谈智能驾驶 1. 三年我们能推出把方向盘摘掉的产品 2. 我们相比特斯拉又不缺胳膊少腿 3. L4 实现,买车的人会更多 4. 我们 100%会做机器人,但不是现在 01:17:50 第三节:谈汽车之战 1. 买法拉利 2. 复盘 MEGA 失利 3. 今天做的所有事是为了拿 L4 门票 4. 对雷军说,小米车要想成功,你必须 all in 5. 2030 年,我们有概率做一辆超级跑车 6. 我从来没有司机 01:42:47 第四节:消失的李想 1. 典型的李想的一天 2. AI 是知识、认知和能力平权 3. 我人生最大改变是,对自己好 4. 从对事不对人,到先对人再做事 5. 只要所有的中国企业不放弃 02:08:42 以上是对李想的正式访谈内容,以下是播客的加长内容。 02:08:42 补充内容(可跳过) 02:31:49 宅男、家庭、孩子、《再见爱人》、游戏和天梯 02:49:24 最后的快问快答 嘉宾推荐的书: 《高效能人士的七个习惯》 苹果三部曲:《史蒂夫·乔布斯传》《蒂姆·库克传》《乔纳森传》 【更多信息】 本集文字版本:腾讯新闻原文 & 作者的收藏夹 联络我们:微博@张小珺-Benita,小红书@张小珺 jùn 更多信息欢迎关注公众号:张小珺