未完待续 …
1 前言
今天是 2026 年 9 月 26 日，中秋节的第二天。午饭后静等晚上毛不易的只在今夜演唱会。闲来无事，就想写一些最近的一些思考。
文章的主题，顾名思义，就是想谈谈 AI 时代人类的未来。这个主题很宏大，宏大到 GPT-6 Astra 的答案都显得浅薄无力。因此，我就顺着最近发生的一些事情，一些感悟，自底向上地进行叙述。最近给我带来冲击的要点如下：
- ICLR 投稿量突破 6w；
- Jev 发布不到一周，arxiv 上就贴满了名为 / *Jev* / 的东西；
- DeepSeek 研究员 刘胜与 发表了一篇名为 我不得不把才华埋葬在昨天 的文章；
- Navier-Stokes 方程在 AI 的帮助下取得进展，AI-assisted 成果的著作权也成为议论的焦点；
- 秋招小年，身边几乎没人有 offer；
作为局中人，我认为这是再适合不过的思考人类未来发展的时刻了。我想知道，有什么是可以未雨绸缪的，即便是调整好心态也以。这篇文章既包括对过去的反思，也包括当前人们的思考，以及对未来世界的畅想。其中第 2 节啰嗦了一些对往昔的不舍与感慨，第 3 节结合了一些社会学、人类学、哲学等人文社科的理论对未来社会进行了简单的预测，第 4 节则是分享一些最近看到的能够带来启发的观点。
动笔时，我的电脑正在播放拉赫玛尼诺夫第二钢琴协奏曲的第二乐章，是b站某博主毕业前的最后一场演出（here）。拉二真不愧是人类音乐史上最为杰出的作品之一，masterpiece！向人类的才华致敬。
2 谈谈“被埋葬的才华”
2.1 老一辈的感受
事实上，类似的感受，自 2022 年底 ChatGPT 发布的那天开始就出现了。实验室此前一直在做 NLP 领域下的 dialogue 方向的工作。具体来说，主要是 Task-oriented dialogue 即任务型对话，以及 Open-domain dialogue 即开放域对话，后者的子领域 persona dialogue 也是我大三申请研究生期间跟随实验室师姐做的课题。任务型对话主要面向的是订酒店、订机票这些客服场景，在大模型席卷 NLP 领域之前是一个单独的 research area，当然放到现在已经基本没有人关注了。大三下学期（2023 年春），王小捷老师在自然语言处理的课上曾提到一篇有关大模型在任务型对话中的应用的综述（Are LLMs All You Need for Task-Oriented Dialogue?），或许也暗示了这个领域下的学者对大模型“吞噬”自己研究方向的担忧。事实也如此，很多学者在这一节骨点，都面临着转型的困境。有些人尝试找出 LLM 的弱点，力求警醒大家理智看待大模型；有些人坚守自己的研究方向，朝着“大模型+ xxx”的方向努力；有些人则会“壮士断腕”，立刻投入新方向…这一点我们实验室做得不错。
2025 年实验室元旦聚餐，我们研一的去给老师们敬酒，王老师打趣地说：“…我们这一代人还背负着历史的重担…未来是你们年轻人的…”，当时我也理解“重担”背后的意思，只不过这种感觉现在到了自己身上尤为强烈。对于王老师、袁老师等国内早期做 NLP 的学者而言，前 LLM 时代的 NLP 领域太过惊艳，以致于他们很难割舍那些历史记忆。说一些大家可能不是很熟悉的术语：NER（命名实体识别）、POS Tagging（词性标注）、成分句法分析、依存分析…以及可能一部分人听说过的：Skip-Gram、CBOW、GloVe、HMM、Topic Model…对于现在的本科生而言，能讲清 BPE、LSTM 这些便很了不起了。并不是说这些东西放到现在还有什么实际用途，只是说它们是 NLP 发展史上的里程碑，或许在未来的某一天能为新算法的提出贡献指导性意义。不过往大里说，他们已经完成了各自的任务，躺在功劳簿里足矣。
2.2 我的感受
而我自己身上的“重担”，则包含了两方面：对往昔纯粹研究的怀念与不舍，以及对将来何去何从的迷茫。不知是不幸还是幸运，我的本科是不存在 Vibe Coding 的，大家都是吭哧吭哧自己写代码，是真正意义上的码农。遇到不会的，就会去知乎、CSDN 上翻看大神们的教学。还记得大二下学期，有门实践课叫程序设计，要求按照软件工程的要求，从需求分析、概要设计到详细设计，自己写文档，然后再写代码实现。和写作文一样，这种作业对我来说都是一开始抵触，而一旦投入便一发不可收拾。当时我设计了一款叫速扫微恙的微信小程序，其实就是很简单的前端加上一点数据库，但是第一次接触这些，从零开始学习 JavaScipt、Html 和 CSS，一直到最后成品的调试和打磨，用了大概两周的时间，而这两周里的每一天对我来说都好似一周，那种困难接踵而至又不断柳暗花明的刺激感和满足感，是我本科阶段最难忘的回忆之一。
还有个印象很深的例子，是大三下学期的多媒体建模与仿真，要求用 Matlab 实现一些多媒体编解码的算法，其中一项是 JPEG 编解码算法的实现。老师当时给了一个灰度图像编码的代码，而我希望在此基础上实现彩色图像的编解码。虽然只是把单色通道拓展为 RGB，但需要考虑的点却多了很多，包括宏块划分、亮度和色度分离、色度采样等，真正实现起来会遇到很多算法中没有提及的工程挑战。整套代码写下来，虽然运行很慢且仅仅为 JEPA 的粗糙实现，但我也把它当成自己的亲孩子一样对待，实验报告也很用心地去写，还用了当时生化危机4重置版的 Ashley 头像作为实验用图。
Figure 1: JEPG 实验报告中的展示图我真的觉得手搓代码会让人对知识的理解会更加深刻。例如在对 attention 的输入输出进行各种分析时，必定会遇上矩阵相乘和形状变换的问题。如果自己慢慢写一遍，虽然烧脑，但是捋顺之后，会对 attention 的计算过程拥有自己的理解，同时还能复习一遍线性代数，以后在进行数学推导的时候会更加得心应手。再比如，当你自己写了一个算法，亲自运行后发现速度很慢，一点一点 debug 后发现是没有考虑缓存复用，之后再设计类似的算法时便能够记得考虑工程实践的合理性。总之，我们会发现古法编程很像对人进行的强化学习：第一次写未必能写对，经过不断尝试，在跌倒中找到正确的方向，纠正自己的错误观念，从而实现人类的自我进化。
但现在的科研环境，似乎容不下那些“认真思考”的学者。因为一点点手搓，便意味着科研速度的落后。我之前的想法是：如果完全依靠 AI，会因为缺乏知识和经验而很难用得好 AI。但是现在看来，基模能力的提升使得“昏君”也能治理好国家。就比如前端开发，即使不懂任何技术栈，也没有基本的审美能力，仍然能在 codex 的帮助下迅速拿到一个精美的网页。再比如，我之前刷到过一个 AI 动画，故事是自己编的，风格一看就是皮克斯动画工作室的。评论区有人说“作者得吃了多少个皮克斯？”，意在感叹动画专业的创作者对皮克斯动画风格精髓的领悟。而我觉得，“皮克斯”三个字便足矣让 agent 生成如此完美的动画。这么说或许有点悲哀，但不得不承认，AI 确实在以无法阻挡的速度剥夺我们创作的快感。那么，人类还剩下些什么呢？
2.3 其他人的感受
3 预测未来
3.1 以史为鉴
回顾一下过去三百年来的技术爆炸。18 世纪 60 年代，英国手工业发展十分迅速，资产阶级为了提高产能，鼓励熟练工进行发明创造，由此诞生了珍妮纺纱机、蒸汽机等机器，开启了第一次工业革命，也因此导致大批工人下岗。为了反抗机器生产，工人开始捣毁机器，也即持续多年的卢德运动。但同时蒸汽机的普及也催生了煤矿开采和交通运输等行业，这些行业吸引了大量劳动力。
再往后，电力、化工和内燃机的诞生和发展进一步改变了产业结构，引来了第二次工业革命。虽说一些传统行业如马车夫被替代，但新技术也催生了大批全新的就业岗位，包括电力、化工、能源、钢铁等产业的工人岗位，以及城市服务业的白领岗位。伴随着技术的突飞猛进，垄断资本产生，资本家对利益的追逐使得流水线上的工人受到压迫，劳动者的福利引起社会重视。
到了第三次工业革命，信息化使得各行各业的自动化水平得到提升，一些重复性的人力劳动被机器替代，越来越多的人开始从事脑力劳动，白领工人占据多数。根据维基百科的定义，白领工人是指“从事知识密集型、能力密集型、管理型或行政型工作的人员“，知识和经验仍是人们的核心竞争力。
到了第四次工业革命，AI 发展导致各行各业在做数字化转型，生产效率进一步提升。但随着智能化的提升，人们发现越来越不对劲：从 CG 原画师面对 AIGC 时的焦虑，到 AIGC 的学者和算法工程师发现 RSI（Recursive Self-Improvement） 有可能明天就取代他们自己，这中间也就是三两年的时间。今年三月北邮人论坛还在讨论 AI 是“码奸”方向，殊不知半年后但凡研究方向跟计算机沾边的人都应该好好想想自己的价值了。DAMN！这一次技术革命到底与之前有什么区别？
区别在于“劳动主体”开始由人转向 AI。以前的工作，无论是体力活儿还是脑力劳动，都需要人作为“劳动主体”去控制。然而当 AI 发展到一定阶段，我们有理由相信老板会把下属一层一层替换为 agent，此时极少数掌握资源的人利用 AI 创造价值，而大多数被裁掉的人确找不到足够的就业岗位，至少当前并没有产生且并没有希望产生能够吸纳如此之多的被 AI 替代的人口的岗位。从政治经济学的视角来看，这其实冲击着 劳动价值论，其大致思想如下：
- 商品具有二因素：使用价值 和 价值。
- 使用价值 是指 商品能满足人的某种需要的有用性，反映的是人与自然之间的物质关系，是商品的自然属性，是一切劳动产品所共有的属性，离开了商品它就不复存在。使用价值构成了社会财富的物质内容，是交换价值的物质承担者。
- 价值 是指 凝结在商品中的无差别的一般人类劳动，即人的脑力和体力的耗费。价值是商品所特有的社会属性。任何有用物品都具有使用价值，但只有这种有用物品是劳动产品并作为商品时才具有价值。价值是交换价值的基础，交换价值是价值的表现形式。商品的价值在本质上体现了生产者之间一定的社会关系。
- 劳动具有二重性：具体劳动 和 抽象劳动。
- 具体劳动 是指生产一定使用价值的具体形式的劳动。具体劳动创造商品的使用价值。
- 抽象劳动 是指撇开一切具体形式的、无差别的一般人类劳动，即人的脑力和体力的耗费。抽象劳动形成商品的价值。
- 商品价值量由社会必要劳动时间决定，商品交换本质是等量社会必要劳动时间的交换。
倘若大多数人因 AI 替代而失去工资收入，那么他们也就失去了消费能力，导致商品与服务的价值将无法实现。这样看来，假如“资本雇佣劳动”变为“资本雇佣 AI”，那么劳动价值论的基础便不存在了。另一方面，如果生产活动主要由 AI 完成，那么剩余价值由谁创造？利润是归属于 AI 的所有者，还是 AI 的开发者？这会动摇整个资本主义分配体系的合法性基础。
我们现在都生活在劳动社会（work society）中，想要维护劳动价值论的基础，就需要人类继续劳动。那 AGI 到来后，人类劳动是否还会存在？若不存在，人类社会将会如何演进？若存在，或想要其存在，我们又该如何应对？这些问题我们在下面进行讨论。
3.2 AGI 到来后的社会形态
劳动社会的未来会是什么？
这个问题在学术界也是个老话题了，大多数学者都会假设一个极端，例如当 AI 完全替代人类后会怎么怎么样。例如经济学家 Jeremy Rifkin 在《工作的终结》一书中认为未来社会的财富会掌握在少数精英手里，大多数人会处于“斩杀线”边缘，而后者也被历史学家 Yuval Noah Harari 称为“无用阶级（The Useless Class）”，即在经济和政治系统中彻底丧失价值的群体，代表了绝大多数因技术变革而失去工作的人。社会学家 Ulrich Beck 在《美丽新工作世界》（The Brave New World of Work）中提出“巴西化”的概念，即全球化、技术革命和福特制崩塌导致的包括贫富差距加剧在内的社会分层。这种事情一旦发生，若国家不去主动干预，现有的社会福利体系便会失效，随之而来的便是社会动荡。
为了更好地从经济学和社会学角度理解上述逻辑，我就顺着《美丽新工作世界》这本书里的论证思路来讲述。我们大多数都认为一个成年人要想在社会上立足，就必须找到工作，通过劳动来换取报酬。我们都说“劳动最光荣”，无业游民反而会遭人讥讽。但以劳动换取薪酬只是当下的社会形态。早在古希腊时期，工作的人被认为是不自由的，甚至不算社会成员。社会里的人是自由的，不用工作，每天就是社交娱乐。中世纪的教会和贵族也用《圣经》中“不劳动者，不得食”（He who does not work, neither shall he eat）这样的话来 PUA 老百姓从而实现剥削。直到后来文艺复兴推动了人文主义思想的传播，后面宗教改革和资产阶级崛起，民主的思想深入人心，人们开始为努力工作摆脱贫困而感到骄傲。逐渐，自由民主开始与有偿劳动挂钩，社会也因此飞速发展，但出现一个悖论：人们努力工作以证明自己的价值，但努力工作是为了尽可能省去工作。这句话在对于搞 AI 的人来说应该深有体会：学界和业界的 AI 研究员没日没夜地工作，努力提升大模型的 agentic 能力来“解放人们的双手”，直到发现 RSI 有可能把自己的工作搞没。人们也因此开始恐惧“自由”，因为在劳动社会里，没了饭碗的自由等于触碰了社会的“斩杀线”。
假如说有偿劳动不复存在的话，社会能否靠无偿劳动或不劳动（e.g. 靠 AI 替代人工劳动）来运转呢？首先，无偿劳动意味着国家无法征收劳动所得税，也就很难维持社会保障体系，导致人民生活水平不断下降（除非政府会对 AI 使用进行征税）。其次，如果劳动不能反映一个人的价值，人们的基本生存和社会地位不再取决于工作表现，那社会规范又该如何制定呢？如果走向乌托邦，靠精英设计理想社会，那人性的不完美性就是最大的 bug，除非统治者强行压制人性从而走向极权（e.g.《1984》），或者用药物和娱乐麻痹神经（e.g.《美丽新世界》），否则很难维持社会稳定。如果走向共产主义，则需要保证生产力高度发达，物质极大丰富，阶级和国家消亡，但这在短期内根本无法实现。所以最终得出的结论是：有偿劳动还是必要的。
既然有偿劳动的必要性仍然存在，那劳动社会再往后会演变成什么样子呢？Ulrich 提出了风险社会（risk society）的概念。简单来说，当前大多数国家都采用福特主义（Fordism），即一种以大规模生产、标准化产品和刚性生产组织为核心的工业生产模式，以及与之联动的大规模消费。福特主义给人带来的是安全感和确定性，而风险社会则以不安全感和不确定性为主要特征。例如福特主义追求充分就业，而风险社会中灵活就业则会成为常态。除了风险社会，学术界有关工作结构变化的理论还有很多，例如后福特主义认为资本积累从大规模生产转向柔性生产和弹性积累，临时工、外包成为常态。不过不可否认的是，福特主义所追求的充分就业就目前看来早已受到严重冲击。比如在美国，尽管就业率说着比欧洲要好，但贫富差距严重，且低收入者占大多数，所以这种表面上的“高就业率”并不意味着多么好的生活质量。其他国家或许具体政策不同，但或多或少也有类似的问题。当下比较明智的选择不是继续为旧体制缝缝补补，而是探索新的就业模式。可以想象，未来的就业将会向个体化和多元化演变，但是短期内社会福利的缩减和民众对个人价值的怀疑，都是需要严肃面对的问题。
面对失业的恐惧，国内外尤其是欧美国家的社会中产生了很多反抗技术变革的群体。例如 AI 安全与对齐领域的研究者 David Krueger，他曾是我 ICLR 2026 某篇论文的审稿人，我很感谢在 AI 审稿大行其道的时代他能够耐心写出很详细的 review，但由于那篇论文真的很糟糕，他只给了我 2 分（reject, not good enough）。后来我去看了他的主页和X，发现他十分热衷于 AI 威胁论的宣传（参见他组织的 Evitable）。说到这不得不提有效利他主义（Effective Altruism, EA）。EA 本来的主张是以最有效的方式来做慈善，因为其中一个奉行长期主义的分支认为降低人类灭绝的风险是当代最重要的事情之一（见此文），而 AGI 在他们眼里又正好是头号风险，所以 AI safety & alignment 备受推崇。专门探讨 AI alignment 相关问题的 AI alignment forum 也能看到有关 EA 的讨论，只不过前者更理性一些。2024 年我在研究 Anthropic 可解释性工作的时候，也发现很多研究者多多少少都受到 EA 思想的影响，例如 Neel Nanda，他的研究目标是通过机制可解释性理解模型运作的机理，进而更好地实现 AI alignment；再比如 Jan Leike 选择在 Anthropic 做好 AI alignment，努力保证前沿大模型能够在人类掌控的范围之内。当然这些人的研究重心还都放在 AI safety 上，而 David 则是更近一步，他极力反对 AI 公司开发先进模型来取代人类，认为这样做是自取灭亡，为此他还曾在 Anthropic 公司门口聚众抗议，感兴趣的可以去看他的演讲原稿。不过现在看来，反抗的群体还是太势单力薄了，在资本和国际竞争加剧的作用下，除非全人类达成 AI 减速的共识，政府积极干预，否则 AGI 还是会很快到来。
Figure 2: David Krueger 在 2026 年 3 月 21 日 “停止人工智能竞赛” 抗议活动上发表演讲两种可能的结局
如果按 good ending 和 bad ending 来分，各自走到极端的话，AGI 到来后的未来社会形态大概率有两种：福利社会 和 赛博朋克。下面我们来详细讨论一下。
首先我们来研究赛博朋克（Cyberpunk）的合理性。赛博朋克以“高科技与低生活（High Tech & Low Life）”为典型特征，是人们对未来科技极度发达的社会形态的幻想。在这种社会中，巨型企业（例如赛博朋克 2077 中的荒坂公司）垄断生产资料和财富，法国经济学家 Cédric Durand 将此称为技术封建主义（technofeudalism）。这会导致更严重的贫富分化和阶层固化。可以想象，大多数普通人都会生活在阴暗潮湿的地下城里，人们的精神生活空虚而匮乏，这也是大多数影视文学作品对未来生活的描绘。例如《头号玩家》里贫民窟里的人们整日整夜地沉迷于一个叫绿洲的 VR 游戏里以躲避现实世界的残酷，而游戏的发明者则坐拥了市值五千亿的财产和绿洲的控制权。影片的主旨也是想告诉我们“现实才是唯一真实的东西”。
这是一个很悲观的 idea，它意味着在这种社会形态下，政府并没有保障好社会福利，大多数人都是垫底的分母，即之前所说的“无用阶级”。虽然听起来天马行空，但我觉得这种情况还真有可能发生，因为在我的世界观里，我是相信“人性本恶”的（关于人性本善 or 人性本恶这个议题，感兴趣的可以看一下这场辩论赛）。人类生下来以后最基本的需求就是活着。当社会稳定时，人们乐意去追求更高层次的文明；而当原有的社会秩序被打破，社会动荡不安时，原有的文明社会就会退化为弱肉强食的野蛮社会。大多数人的需求就又会降级为最基本的生存，且为了生存可以不择手段。五代十国那会儿的人吃人现象算是一个典型例子，当时因为唐朝中央官僚系统崩溃，导致高度发达的盛唐沦为藩镇割据的乱世，社会毫无秩序可言，暴力完全不受控制，“贼掠人为粮，生投于碓，并骨食之，号给粮处，曰’舂磨寨’”，为人不如为鬼，可谓人间地狱。当然“无用阶级”的处境究竟会是什么样的，也是众说纷纭，相关讨论请移步至知乎上的这个话题。
更好的结局是福利社会。刚才提到的“无用阶级”，可能不可避免地成为未来社会中的一个庞大群体，然而与其让这个群体真的沦为“被上层社会抛弃的没有利用价值的群体”，不如说让国家政府宏观调控一下，通过社会福利保障这个群体的基本生存条件，然后鼓励每个社会成员勇敢探索自己感兴趣的方向，找到自身的价值所在，变成“有用阶级”。这听起来是一个 happy ending，但实现起来却要面临前所未有的挑战，至少需要重新定义工作和就业。
目前来说，在发展相对较好的国家比如欧美、中国等，正规工作是更被看好和支持的有偿工作，非正规工作还没有健全的管理方法。尤其在大城市如北京，摆摊的人很少，主要是政府管得严，刚摆好摊就要被城管赶走。政府觉得大城市以正规工作为主，摆摊这种非正规工作会影响市容市貌。疫情时期李克强总理鼓励的“地摊经济”，也只是缓解经济下行的应急举措，并没有顺利推行下去。Ulrich 进一步将目光转向巴西。由于历史原因，巴西的个体经营者占比很高，“做自己的老板（Being your own boss）”的理念较为流行，其中一个原因在于巴西并没有为常规意义上的失业人口提供福利国家那样好的基础保障，导致失业的人们不得不自力更生，逐渐也改变了他们对工作的理解。
总结
福利社会和赛博朋克，究竟哪个才是未来社会的形态，跟一个国家的意识形态和发展情况息息相关。我最近也阅读了一些围绕这个问题所展开的争论，发现大家各执一词，更多的是在维护自己的立场。这些争论大多都会变成资产阶级与无产阶级、资本主义与共产主义之间的冲突，且这种争论往往也会与政治立场绑定，因此也会存在很多脱离实际或带有个人偏见的前提假设，我不愿对此做过多评论。其实相对于从宏观角度预测未来的社会形态，大多数人更感兴趣的是：在 AGI 到来之前我们自己到底可以做些什么？这也是我们后面要讨论的内容。
3.3 老生常谈：AI 会取代什么？
这是一个非常庞大的问题，可以从很多角度来分析，我把我想到的说一说。
从 AI 技术发展的角度来看
AI 能取代什么，其必要条件为 AI 能够做到什么。以及，我们只能假设一段时间内 AI 能取代什么，因为理论上在无限的将来，AI 总能做到任何事情。就目前来看，前沿模型大多数是基于自然语言的。当模型的参数量越大，训练数据的数量和质量不断提升，模型所能学到的知识就越多。所以首先，跟模型拼知识量是没有用的，以往人们还认为模型缺少必要的上下文，需要 RAG 来为模型提供未见知识，但放到现在，除了精细化、规范化的知识（e.g. 法律条文），绝大多数知识已经内化在模型参数里了。其次，语言模型的能力不仅体现在知识量，还体现在 tool calling 加持下的执行力。例如现在的模型已经能够自己操作 blender 建模，使用 CAD 绘图，以及视频制作等。例如给 Claude 一本强化学习的教科书，它能够在一小时内做出一段 5 分种左右的科普视频，且质量不输 3Blue1Brown。所以这样来看，但凡需要死记硬背和跟电脑打交道的事情，基本上都能够让 AI 来干。模型干不好、需要人来引导、缺乏想象力只是时间的问题，当 scaling 和 agent system 做到极致的时候，模型的知识缺陷、用户的提示词水平、任务是否需要创造力这些问题都没有意义了。
所以这就引出了 AI 目前的第一个缺陷：跟现实世界的交互能力差。现在做具身智能的，一部分人让人形机器人跳舞打拳，且不说有没有实用价值，但从技术角度来看，机器人只需要考虑自己的动作即可，无需考虑外界环境。而对于扫地、叠被子、给小猫梳毛这样的事情，人形机器人还差得很远。首先，算法层面，当前的机器人在与物理世界的交互上还处于 demo 阶段。物理世界是复杂多变的，机器人需要充分与世界交互并将经验内化在参数之中，才能逐渐建立起对世界的认知。当前的算法只能让机器人应付某个小场景下的任务（e.g. 搬重物，搭积木），其泛化性很难保证。其次，机器人需要大量人类示范的数据，而这种数据收集起来不是很容易。人也不是生下来什么都会，比如擀面皮包饺子，或者维修家电，场景繁多且步骤复杂，模型无法通过自己尝试来学会，这就需要人来教学，而收集这些教学数据需要花费很多时间和人力成本，因此像清洁地板这种家务，人们更愿意让扫地机器人来干。再次，人形机器人的结构本身就有缺陷，导致其与世界交互的上限很低。人有视觉、听觉、嗅觉、味觉和触觉，多路信息统一输入神经系统，做出反应，再接收外界反馈。所以真正具身智能的软件层一定是个能够实现多信息源复杂感知和快速决策的 omni model，硬件层一定比宇树的 Unitree G1 复杂很多，而这需要在多模态感知和决策算法以及机械、材料、化学等领域进行更深入的探索，不是一两年内能完成的。
第二个当前 AI 的缺乏的能力，我认为是持续学习（continual learning）。人类从出生到成人，再到死亡，在不断与世界交互的过程中刺激神经系统，不断在神经元之间产生新的连接，外化出来就是不断增长的经验。类比到深度学习，就要求模型不断更新自己的参数，然而现有的神经网络缺乏这种不断更新参数的能力。现在 frontier models 的基础能力已经十分强大，因此无论开源还是闭源，大多数人的选择是直接用 api 去掉用，而非自己去微调。这就导致模型只能通过上下文来获取新的知识和技能，也就是为什么今年出现了很多关于 memory、skill 等等的 harness engineering。这些上下文工程只能解燃眉之急，因为当经验不断累积时，模型输入的上下文会越来越长，这无论在显存还是计算上都不如参数化更 efficient。如果持续学习的问题没有得到很好的解决，那 RSI 就很难实现，因为 RSI 就是要求模型在不断试错中总结经验，归纳出一般规律。举个例子，一位资深的外科专家能够花费数十年的时间从几百甚至几千台手术中总结出临床经验，且这种经验能够非常稳定地内化在其大脑和肌肉记忆中。当遇到新的病情时，人类专家能够在极短的时间内做出反应，而依赖上下文的 AI 则需要从庞大的资料库中寻找有用信息，不但耗时长，而且检索结果很难跟人类专家形成的稳定记忆相媲美。目前来看，基于参数更新的持续学习相关研究目前只集中在学界，且停留在 demo 阶段，在算法创新和工程化方面都有很长的路要走。甚至说，现有的神经网络的架构和训练方式是否能够允许持续学习，以及如何在认知科学层面解释人脑的持续学习，都是需要认真思考的问题。
从人文主义的角度来看
人文主义诞生于 14 世纪的文艺复兴，强调以人为本。中世纪的人们受到教会统治，人们没有思考过的自己的价值，是文艺复兴让民众开始解放自己的灵魂。而在生产力快速发展的今天，人们的精神开始被资本裹挟。尤其是在亚洲国家（e.g. 中国、日本）的城市中，小孩子因教育内卷而不得不把美好的青春年华放在无休止的学业上，成人因工作内卷而不得不用健康、时间和自由换取薪水。我到现在仍记得余秋雨在《行者无疆》里说过的一段话：“中国人刻苦耐劳，偶尔也休息，但那只是为了更好地工作；欧洲人反过来，认为平日辛苦工作，大半倒是为了休假，因为只有在休假中，总能使杂务中断，使焦灼凝冻，使肢体回归，使亲伦重视，亦即使人暂别异化状态，恢复人性”。
如果你问我什么人身上的什么是 AI 不可替代的，我认为可以援引天主教中的七罪宗，即人类道德堕落根源的七种精神性罪恶，包含色欲、暴食、贪婪、懒惰、暴怒、嫉妒和傲慢。这个排列顺序，越往右罪行越重。说白了，越是人类最原始的需求，越不可替代。从人本主义心理学的角度，马斯洛需求层次理论（Maslow’s Hierarchy of Needs）也可以用来描述人类的需求层次，即：生理需要（吃喝、性、睡眠）→ 安全需要 → 爱与归属需要 → 尊重需要 → 认知需要 → 审美需要 → 自我实现需要 → 超越性需要。
Claude 是否会有情感体验。
3.4 AGI 到来后，人们最需要怎么做？
AI 在重塑既有的社会秩序之时，还冲击着人们对自我价值的判断，这也是这篇文章最想探讨的问题。当寒窗苦读十几年的高材生们发现自己引以为豪的专业技能在 AI 面前不值一提，很难不质疑自己存在的价值。类似的观点在网络上已经铺天盖地了，例如 seed 研究员丁博的小红书主页全是这些。但说实话，大家除了发牢骚和散播焦虑，没有什么人认真思考过我们如何在未来生存，无论是职业发展还是个人生活。能看到的只有唉声叹气，而没有什么实质性的解决方案。包括我在内的大多数人都被这个剧烈变化的世界裹挟着，没人知道第二天会发生什么，所以也因无从准备而感到无力。
面对这样的现实，我们很难改变社会现状，或者等到 AI 时代的福利社会到来以后再做准备。至少在 10 到 20 年内，人们还是需要为了生活而操劳，为了高薪去内卷。这其中大致可以分为两拨人：一类人并不喜欢自己的工作，工作只是为了谋生，为了有个安稳的小家，过着平凡的生活，亦或是去见识更广阔的世界；另一类人在从事自己喜欢的工作，可能不追求优越的生活条件，也可能工作与生活兼顾。不管对于哪种人来说，我认为至少有两个问题需要解决：
- 基本的生存如何保障？即如何保证自己还有工作和收入？
- 在此之上，如何获取个人价值？对于第一类人来说，他们倾向于从日常爱好中获取，例如在电子游戏中获得竞技快感，或者从攀岩或骑行中获取征服困难的乐趣。对于第二类人来说，他们倾向于从工作中获取满足，例如艺术家在创作过程中收获愉悦，并在他人的认可中收获个人价值；或是科研工作者在攻克一个艰难课题后感受到成就感。
以上两个问题都在被 AI 冲击。AI 不但会替代人类工作，还会剥夺人类创作或克服难关的乐趣。前者会剥危及人们的生存，而后者会让人感到空虚。所以我们首先讨论如何在这个糟糕的充满未知的世界中站稳脚跟，然后讨论如何在 AI 时代找回自我价值。在讨论这些问题时，我们排除那些佛系躺平、超然物外、不在意他人眼光或是本身家庭赋予的人群，因为这些人的情况不具备代表性。我希望尽量避免犬儒主义以及幸存者偏差，为千千万万拥有正常人性和欲望的普通人提供一些建议。
回归物理世界
刚才讨论到具身智能的局限性，这就意味着至少在很长一段时间，复杂的手工劳动还是不容易被 AI 替代的。例如当我家需要装马桶或者疏通管道时，宇树机器人还是不可能亲自上门服务。当然，这并不是鼓励大家都去当水电工。首先每个人的爱好是不同的，其次这些工作也不会因为不可替代性而涨薪。因此，
丰富自己的生活
对抗虚无：存在与虚无
积极参与公民社会
主动性，用 AI 创造自己想要的东西。
拥抱变化。
保持独立思考的习惯
需要复杂上下文的工作，需要随机应变的工作
教育的意义 大学教育，不要做小镇做题家，要学会独立思考。
创作性 人类创作会被替代吗？抵抗高仿
未被淘汰的职业，并不意味着薪资会长 从房地产看未来行业：需求是什么？ 日本70年代失落的一代
有关人类价值的进一步探讨
有关人类存在的价值这个问题，从古希腊时期开始一直有人在探讨，虽然没有定论，但总能给我们带来一些启发。我很喜欢的一位作家是加缪，最为人熟知的是他的《西西弗神话》。一个被老天爷惩罚的人，做着荒诞的劳动，却能够赋予其意义并感受到快乐，这种对抗虚无的英雄主义值得我们学习。再比如，苏轼是我最喜欢的词人，《定风波》也是我最喜欢的词，有的人从“一蓑烟雨任平生”中读出了他的乐观旷达，但除此之外，我更欣赏的是他对生命和世界的珍惜和热爱，他能够从自然界的点点滴滴获取快乐，让生活不再平淡，这本身就值得我们借鉴。人生的价值是什么？可能就是这精彩的一瞬间。这需要我们有一种“不认命”的气概，不相信自己的宿命。
《指环王》的世界观中，精灵是伊露维塔的首生子女，是最美丽的生灵，他们的命运与阿尔达世界绑定在一起，直至世界结束。除非肉身消亡或在悲痛中耗尽，他们的灵魂才会离开肉身，但也不会离开阿尔达，而是飞向维林诺的曼督斯殿堂接受审判，最后留在殿堂或重获肉身。而人类是次生子女，他们的归宿是死亡，这也是伊露维塔给人类的礼物。人类的命运是不可知的。当人类死亡后，灵魂会离开阿尔达，至于去往何方，众神都不清楚，只有伊露维塔知道。 这份礼物连诸神都十分羡慕，因为他们对世界的爱恋会随着时间的流逝而衰减，但无法解脱。正因为人类的命运没有和世界绑定，所以他们的心灵会寻求超脱这个世界，命运才会迸发出前所未有的力量，这也是托尔金对人类最大的歌颂。
4 何去何从？众说纷纭
4.1 学术界的下一站
John Hewwit 与机器对话，AI 数学证明，weak to strong generalization
CS 以外的需要动手的，比如 farming
具身
AI for science
On the Value of Doing a PhD in the Age of AI
In the hall of the mountain king
Human expertise is safety infrastructure
Curiosity
David Bau
Live for ourselves
邓昱：如果 AI 替代了人类数学界，那他将会去撰写百合小说
society
philip torr: https://x.com/philiptorr/status/2108265481371009119