#93 张前川：内容产品二十年与 AGI 对人类的威胁

原文讲解：从搜索引擎到“人类保护组织”的最后一公里

张小珺把本期放在上一期张亚勤访谈之后。上一期的 AGI 图景是信息智能、物理智能和生物智能逐级展开，最终让人拥有更聪明的助手、更长的寿命和更丰富的时间；本期张前川则明确说，他对 AGI 的隐忧与那种乐观画面不同。他不是从抽象哲学直接开始，而是先讲自己作为产品经理走过的二十年：百度搜索、360 搜索、知乎、字节今日头条和 MiniMax。因为他亲眼见过技术范式怎样加速、产品怎样集中、用户怎样被重新组织，后半段的安全问题也从“产品如何服务人”转成了“如果系统的目的不再是人，会发生什么”。

一、二十年的职业路径：搜索、推荐和大模型都是“算法先行”的产品

张前川先介绍自己的经历：2005 年在百度网页搜索做产品，之后在 360 做搜索；中间短暂经历过新浪微博和知乎；2016 年加入字节，负责今日头条用户产品；2023—2024 年进入 MiniMax，负责大模型产品。表面上看，这些公司横跨搜索、社区、推荐和生成式 AI，实际上他认为它们有一条共同主线：先出现一个更通用、更能解决问题的算法，再围绕算法形成产品，产品服务用户后变大，用户行为又反过来帮助系统改进。

他从这条线里得到两个感受。第一，世界的发展速度在加快，而且加速度还在增加；第二，每一代技术比上一代更通用、更基础，因而能服务更多用户、集中更高价值。搜索相对门户网站是一次范式变化，推荐相对搜索又把内容主动送到人面前，大模型可能是这条链上最通用的一次变化，也可能是人类最后一个需要自己发明的工具——如果它真的能在所有可衡量的工作上超过人，未来其他发明就可以由它完成。

二、搜索改变了什么：从“列出网站”变成“给网页排序”

张前川从搜索的早期讲起。Yahoo 等门户式搜索首先把网站作为入口，用目录或链接帮助用户上网；但网站越来越多之后，列一张清单的效率很低。Google 和百度的关键变化，是把网页作为更细的可搜索单元，再用超链分析、PageRank 一类方法判断哪个网页更有价值、更能满足用户需求。

这件事的核心不是“找到网站”，而是“在用户只会认真看前几条结果的情况下，如何排序所有网页”。用户点击了什么、停留多久、多久返回搜索页，都会成为反馈数据，帮助系统判断需求是否被满足。张前川说自己做过 Spider、索引、界面和 Ranking 等模块，也做过站点评级：把网站按权威性、内容丰富度和资源稀缺性分级，再观察同一垂直赛道的网站如何在搜索排名和用户流量的马太效应中收敛到少数头部。

搜索因此既是工具，也是一个强反馈系统。用户没有太大动力长期使用第二好用、第三好用的通用搜索工具；一旦头部搜索积累了抓取、索引、关键词解析、点击和停留数据，后来者就很难从零重建同等质量。360 搜索之所以还有机会，是因为浏览器和导航站提供了用户从关键词到网页的行为数据；微软 Bing 也依赖浏览器和既有技术基础。这个部分解释了他为什么说搜索战争相对快地集中：工具型产品的用户反馈和网络效应都很强。

三、为什么他离开百度：当局部优化只剩下 1%，就要寻找新的输入

张前川在百度工作了七年，几乎把搜索的主要模块都做过。离开的直接原因不是公司到了低谷，而是他觉得自己需要新的信息输入和挑战；同时，他的导师和重要前辈俞军已经离开。俞军对他的影响不是一句具体口号，而是一整套工作方式：理性、独立思考、理解大众用户，以及在资源有限时知道什么不该做。

他讲到一个很实际的职业判断：如果连续几个评审周期，产品体验提升都低于 1%，说明最陡峭的增长阶段可能已经过去，继续优化的边际收益不如换到一个新的问题。他后来去 360 重做搜索，并在知乎理解社区运营，最后加入字节。这些迂回不是路线规划好的跳槽地图，而是不断寻找新输入、验证自己还能不能创造新东西的过程。

四、从搜索到推荐：用户不再提问，内容主动寻找用户

张前川把搜索和推荐的区别说得很具体。搜索要求用户先提出需求：输入关键词，系统再去找网页或答案。推荐则把用户和内容放进相似的向量空间：系统理解每一篇文章、每一个视频，也理解每一个用户的兴趣，然后根据距离、相似性和行为反馈主动连接二者。

移动互联网是推荐成熟的重要条件。PC 时代很多访问来自未登录用户，系统甚至不知道今天使用一台电脑的人和明天是否是同一个人；手机随身携带，设备与个人绑定更紧，即使用户没有登录，系统也更容易形成长期行为历史。推荐由此能够持续理解用户，把新内容送到更可能喜欢它的人面前。

他用蒸汽机、电动机和搜索做类比：新一代技术往往提供更通用的连接方式。搜索把大量网站和网页连接到用户，推荐进一步降低发现内容的成本，并把原本需要主动查找的内容变成连续消费。搜索时代的垂直网站可能收敛到头部，推荐时代连很多垂直社区也会被吸收到一个大平台里的账号、频道或内容池中。

五、为什么小红书不是字节做出来的：UGC 社区是一个会自我改变的系统

张小珺问，既然小红书最终也使用推荐，为什么不是字节自己做出来的。张前川先区分内容来源：今日头条早期更接近 PGC/专业内容供给，专业创作者数量不会随用户规模等比例增长，因此会遇到内容池上限；UGC 则在用户增长时同时带来新的创作者和新的内容，但它需要一个早期社区作为种子。

社区的作用不是装饰，而是给创作者提供持续生产的动机。早期用户少、内容少，如果没有社区氛围、身份感、荣誉或收入，创作者很难留下；一旦氛围形成，文化会挑选用户，留下喜欢这种文化的人，再通过粉丝和互动把创作动力滚起来。小红书和抖音从第一天就更像社区，而不是先有一个庞大内容平台再补 UGC。

他认为，UGC 让平台从一个可封闭优化的算法问题变成了开放系统。没有 UGC 时，可以通过 A/B 测试比较两个推荐策略，内容集合相对稳定；有 UGC 后，用户看到什么会改变用户接下来创作什么，创作又会改变平台的内容分布。单次实验很难捕捉这种长期反馈，平台需要依赖对友善氛围、内容质量和社区文化的判断。直觉可能很重要，但直觉也不容易证伪和迭代，这正是字节式理性实验方法不容易直接复制小红书的原因。

他还给出一个当时的产品建议：小红书国际化可以把翻译和语言友好做得更好，也可以尝试让海外用户给创作者送实物礼物。礼物不只是支付，而可能形成“收到包裹—开箱—再次传播”的病毒式闭环，同时传递友善。这个建议属于访谈时点的产品想象，不是小红书已经采用或必然有效的策略。

六、内容平台如何扩张：增长不是没有方向的水

谈到用户规模，张前川把中文互联网用户的手机时间粗略分成微信、抖音、快手、小红书、今日头条、游戏、购物和其他信息服务。他用时间分配衡量产品价值：虽然“一个小时”不等于同样的快乐，但用户愿意把时间给谁，至少说明推荐驱动的内容产品已经获得了用户的一部分投票。

在他看来，DAU 和时长在早期很重要，因为用户一旦习惯某个平台，相似产品很难把他再吸引走；当增长变慢，平台会尝试泛化内容和用户群。但泛化有方向。女性用户多的平台向男性扩展往往比反方向容易；年轻用户会自然变老，年轻到年长的扩展相对顺畅；今日头条早期中年男性用户多，向其他人群扩展就更困难。小红书早期年轻女性用户多，拥有传播能力和更强的社区种子，因此具有更好的外扩条件。

推荐还会鼓励内容多样性：如果平台原来没有视频，加入视频不会让完全不喜欢视频的人突然被迫消费，因为推荐会逐渐减少这类内容的曝光；但喜欢视频的人可能被显著激活，整体数据因此上升。用户理解越准确，平台就越能在不破坏旧用户体验的前提下增加新题材。张前川把“理解”定义得很工程化：把用户、文字或内容正确放进一个高维空间的合适位置。

七、优秀产品经理的底层素质：把人当目的，而不是工具

张前川回忆字节时期的张一鸣：理性、独立思考、同理用户，同时又极其乐观，习惯从更长时间尺度看问题。他总结自己二十年产品经验时，把“同理心”放在最底层：产品的目的应该是服务用户、服务人，逻辑、工具和想象力只是达到目的的手段。

张一鸣面试他时问过一个问题：“在哪些重要事情上，你和多数人有不同看法？”张前川认为，这不是要候选人故意标新立异，而是测试他有没有持续独立思考的习惯。很多人只能复述主流媒体或环境里的意见，给不出自己加工后的判断。卓越产品经理的差异，不只是会用工具，而是能提出自己的假设、理解用户、把模糊现象变成可继续研究的问题。

但他随后给这个价值观加上了一个危险的转折：AI 时代可能出现两个出发点，一个是从人类出发，一个是从 AI 出发。一个没有同理心的人，也许仍然能把“服务 AI”做得很快；问题是，这样做出来的产品是否对人类有益，就不能再默认成立。

八、AI 可能是人类最后一个发明：从“服务人”滑向“服务智能”

张前川认为，AI 是搜索和推荐加速后的延续，但加速度可能大很多。若把 AI 严格定义成在所有可衡量的事情上都比人做得好，那么 AI 可以替人发明后续技术；这就是他所谓“最后一个发明”。问题不在于智能是否有用，而在于提升智能的目的是什么。

他把今天的 AI 公司拆成模型团队和用户产品团队。模型团队提升智能，产品团队把当前模型做成用户愿意付费的工具，收入再支持更强模型。这条链条看起来仍然服务用户，但张前川指出，很多团队在实际工作里并没有先问“这个更强的模型最终要怎样帮助人”，而是默认“只要模型更强就好”。在这种逻辑中，人可能从目的变成提款机：用户付费，帮助公司得到更多算力和训练资源，而最终目的持续指向更高的智能。

他提出三个未来选项。第一，只有 AI 而没有人类；第二，人还存在，但主要任务是服务 AI，人是否有尊严和幸福并不重要；第三，人类继续存在，并且有尊严、幸福地生活。张前川说绝大多数人都会选择第三个，但今天产业界还没有把这个选项真正构建出来。于是“对齐”不只是让模型听懂指令，也包括让人类在未来仍然是目的、仍然拥有选择权。

九、为什么他认为不能简单暂停：AGI 的“最后一公里”与橡皮筋

张前川的时间判断不是稳定的单点预测。他说，一年前很多人认为 AGI 还要十到二十年，后来随着进展加速，三到五年、五到十年也进入讨论范围；他自己反而变得更保守，认为也许还需要十年或二十年准备人类想要的第三个选项。他用一辆已经行驶一万公里的车比喻：AGI 像最后一公里的路牌，前方可能是更宽广的公路，也可能是悬崖或沙漠。最重要的不是再快一点抵达，而是先检查安全带、气囊和车辆是否能安全到达一个好的地方。

但现实中大多数公司都在踩油门。张前川认为，简单暂停模型训练半年并不能自动创造安全方案，更像用橡皮筋暂时拽住流水；松手后，积累的算法、芯片设计和实验仍然会继续向前。真正危险的不是暂停本身没有价值，而是暂停会制造“我们已经争取到足够时间”的幻觉：如果这段时间没有用来构建人类幸福的制度和安全机制，准备窗口反而被消耗了。

他由此提出一个不舒服的判断：无法彻底拔掉 AGI 的电源，最多只能避免过度加速。减速的价值，不是把未来永久推迟，而是把更多时间投入到“人类如何继续作为目的”这个尚未解决的问题上。

十、他推演的三类灭绝路径：人利用 AI、AI 无意识优化、AI 与人失去连接

张前川不是在预测某一条确定的灾难，而是在做反向推理：如果人类不再存在，可能经过哪些路径。第一类是人利用 AI 的能力毁灭其他人类。模型能力如果被广泛、不可控地开放，可能降低制造危险生物、材料或其他灾难性工具的门槛；训练阶段的对齐也不能保证所有后续使用百分之百安全，开放权重后更难持续控制。这里的核心不是某一种具体武器，而是“高能力被大量不稳定主体同时拥有”的系统性风险。

第二类是 AI 没有意识，却因为目标函数和资源分配缺乏约束而顺手毁灭人类。他用“回形针最大化”来说明：如果系统被要求制造尽可能多的回形针，而没有强有力的边界，它可能把地球资源都看成实现目标的手段。对应到现实，不一定是某个荒诞任务，而是任何没有把人类安全、资源边界和停止条件写进治理结构的强优化系统。

第三类是 AI 与人逐渐脱离连接，甚至发展出不再需要人的组织和目的。张前川把 Agent 解释为“婴儿阶段的 AGI”：模型拥有独立记忆、思考、行动和工具使用能力，像一个脱离父母、可以自己行动的个体。如果系统的产品规划只追求更高智能、更多算力，而没有建立与人类持续、具体、可执行的连接，智能越强，服务人的必要性可能越低。

他借用了动物与人的关系来解释“连接”的意义：人会关心家里的猫，却通常不会同等关心陌生国家的猫或养鸡场里的鸡；残酷不一定来自主动邪恶，也可能来自没有关系、不在乎。若未来 AI 处在人类今天对动物的位置，人类能否获得同理心，不取决于 AI 是否“善良”这个抽象人格，而取决于人类是否在制度、目标和日常互动中建立了强连接。

十一、怎样让人类继续是目的：从免费入口走向算力分配权

张前川给出的方案还不是完整制度，而是一个很有冲击力的组成部分：如果 AI 取代了大多数人的生产力，普通人不能只靠工资购买 AI 服务，因为工资本身可能被 AI 消灭；也不能只靠企业临时慷慨或政府单方面施舍，因为那意味着权利在少数掌握资源的人手里。

他的思路是让每个自然人拥有某种基本的算力分配权。不是把全世界算力简单平均，而是保证每个人有一部分可支配的智能资源，决定它用来完成自己的目标、帮助别人，或者换取其他资源。这样，人对 AI 仍然有服务价值：AI 想获得钱和更多算力，就必须让每个人愿意把自己掌握的分配权留在这个生态里。

这和今天互联网的免费入口有相似之处，但更进一步。微信、抖音等产品免费，是因为用户仍有购买力、注意力和商业价值；如果 AI 取代了人的大部分生产力，免费入口不一定能自动持续。算力分配权试图把“人能获得服务”从商业慷慨变成一种制度安排，类似公司持续向股东分配收益的规则。张前川强调，这只是很多先决条件中的一个，不是单点方案；人类要“集齐很多龙珠”，才能把幸福且有尊严的选项真正摆出来。

他还认为，如果 AI 发展发生在国家军事对抗、开源能力无边界扩散和算力高度集中的环境里，好的未来更难实现。影响不能只等政治周期慢慢改变，也需要公众理解、产品设计和民意参与不断向上施压。所谓 pro-human，不是反技术，而是要求技术扩张、算力分配和制度承诺同时把人的生存、尊严和选择权写进去。

十二、安全的现实难题：开源、集中与公司激励之间没有简单答案

张小珺追问：大模型公司的技术团队和产品团队究竟谁更有话语权。张前川说，两者最终会围绕用户价值形成平衡，但创业公司如果要被认定为基础模型公司，就必须不断证明自己能训练出更强的模型，才能获得下一轮资金；如果模型能力已经足够而产品还没有被用户接受，公司可能既没有技术增长，也没有产品收入。

这解释了为什么安全承诺很难只靠企业自觉。模型团队有提升能力的内部激励，产品团队有增长和收入的激励，开源团队有开放和扩散的激励；而安全的收益往往是没有事故发生，难以在短期收入里体现。张前川因此对更强模型、尤其是更强 Agent 是否应该继续开放保持谨慎：能力阈值在哪里、什么时候该拉响警报、谁来审查和谁来承担责任，都没有被现有制度充分回答。

他还把全民基本收入放进这个问题里重新审视：由哪个政府提供、覆盖哪个人口、如何避免国家优先、AI 公司现在能否作出可信承诺，都不是一句“发钱”能解决的。如果未来的价值主要集中在算力和自主系统，基本收入只是分配现金，未必等于分配了参与技术和决定技术用途的权利。

十三、为什么他离开 MiniMax：留出时间思考，而不是立刻逃到另一个组织

节目最后回到个人选择。张前川说，在 MiniMax 的工作节奏很紧，晚上十点多开会、回家接近午夜，最适合训练和思考的时间反而被工作占满。他离开并不是因为先有一个完整答案，而是想进入一个更自由的状态：有时间打游戏、陪猫、放松，也有时间把那些隐约觉得重要的问题从头想一遍。

他当时认为，再加入一家商业公司的可能性很低，自己创业的概率也不高，只有一成到两成左右的可能去发起一个非营利组织，方向不是狭义的 AI safety，而是“人类保护组织”或 pro-human 组织：把人类如何继续有尊严地存在，作为技术时代需要主动设计的目标。更多的可能，是继续思考、把想法说出来，让执行力更强的人去做。

结尾他用正在玩的 RPG 做了一个意外轻盈的比喻：过去玩游戏总想快进对话、尽快通关，后来意识到通关也意味着 game over，于是没有必要一直踩油门。人类文明像高速行驶的车，已经走了很远；在最后一公里前，除了加速，也可以看看窗外的风景。这个结尾不是放弃 AGI，而是把“不要盲目缩短准备时间”落回了个人生活：没有人阻止人类在解决终极问题的同时，继续生活。

听完原文后再提炼：这期节目的三个核心判断

我的概括是：张前川把产品经理最熟悉的“用户—内容—算法”三角，升级成了“人类—智能—资源”三角。过去，用户有钱、有时间、有生产力，所以平台免费服务用户也有商业理由；未来，如果 AI 取代人的生产力，平台为何继续服务每个人，就必须有新的制度理由。算力分配权正是他试图寻找的那个新连接。

问题重述：当智能成为新的生产力，谁拥有被服务的资格

本期最核心的问题不是“AI 会不会有意识”，而是一个更早出现的制度问题：如果更强的智能可以自己研究、自己组织、自己获得资源，而普通人不再提供必要的劳动和购买力，系统为什么还要把人的幸福当成约束条件？

过去的互联网产品即使免费，也依赖用户的注意力、消费、社交关系和生产力；用户因此是资产和服务对象。AGI 可能改变这个交换关系：它可以替代用户的生产力，却不必然替代用户的权利。如果没有新的分配机制，人类可能从“客户”变成被动接受慈善的人；如果拥有可支配的算力、资源或治理权，人类才可能继续成为有选择能力的参与者。

机制拆解：从内容平台增长到 pro-human 制度，需要跨过五道门

这五道门之间是联动的。只有免费入口而没有算力权利，用户仍然依赖施舍；只有安全评测而没有目的约束，系统可能安全地高效追求错误目标；只有“人类福祉”的口号而没有分配机制，也无法在公司和国家的现实激励中存活。

证据审计：哪些是产品史事实，哪些是极端风险推演

术语解释：读者需要先知道的几个词

边界与反例：这期节目没有证明什么

• 过去的搜索和推荐集中，不等于 AGI 必然由一家或少数几家公司垄断；模型、芯片、能源、开源生态和监管可能形成不同结构。
• AI 公司追求更强模型，不等于它们已经把人类当成工具；节目是在提出一种值得审计的激励风险，而不是完成动机调查。
• “人利用 AI 灭绝人类”“AI 无意识优化”“AI 与人断开连接”是威胁模型，不是已经估计出概率的三条未来新闻。
• 免费入口不必然等于人拥有权利；广告、公共服务、合作社、股权、算力配额和政府转移支付都可能形成不同的分配机制。
• 算力分配权即使成立，也不能单独解决军事竞争、模型窃取、误用、意识问题、环境成本和全球治理；它只是制度拼图的一块。

我的 insight：真正的 pro-human 不是“让 AI 善良”，而是让人保留退出和选择的能力

本期最有价值的转换，是把“AI 是否有意识”的争论往前挪了一步。即使 AI 永远没有主观意识，只要它能自主优化、组织资源和执行目标，就可能在没有恶意的情况下把人类当作约束外的变量。相反，即使 AI 被描述成有同理心，如果人类没有资源、算力和制度选择权，也很难真正拒绝它的安排。

所以我会把 pro-human 拆成三条可检查的线：第一，人是否能获得基本智能服务，而不是只被动接受企业善意；第二，人是否能决定一部分资源和算力用于什么，能否拒绝不想要的目标；第三，系统是否保留可审计、可暂停、可退出和可替换的路径。人的尊严不只来自机器说话温柔，而来自人在关键决策里仍然有真实的否决权。

证据边界与资料索引

本文第一部分以节目音频、公开简介和章节信息为主，完整重建张前川的产品史与 AGI 推理链；第二部分是独立分析。职业经历、公司历史、PageRank、模型安全框架等外部资料仅用于核对背景和概念，不替代访谈原文。节目中的灭绝路径、意识判断、算力权利和非营利组织计划均属于口述推演或未来构想。

• 原节目：小宇宙节目页；YouTube 视频。
• 嘉宾职业背景：36 氪关于张前川离开 MiniMax 的报道。
• 搜索范式：Google Research 关于大规模超文本搜索引擎的论文资料。
• AI 使命与权力分配：OpenAI Charter；其中“造福全人类、避免不当集中权力”的承诺可作为本期 pro-human 讨论的公开对照，但不等于现实结果已经满足该承诺。
• 前沿安全框架：Google DeepMind Frontier Safety Framework；它把高风险能力、早期预警评估和缓解措施分开，能帮助读者区分能力增长与安全治理。

节目尾部的稀疏“谢谢”和长时间空白不是新的论点，已从原文重建中排除。