大模型最朴素的技术起点,可以压缩成一句话:根据已有上下文,预测下一个 token。
这句话并不低估大模型。过去几年里,Transformer、大规模预训练、数据扩展和算力扩展共同证明了一个事实:next-token prediction 这个看似简单的目标,可以涌现出翻译、写作、代码、问答、规划和多模态理解等一系列能力。
但如果把目光从「会回答」移到「能长期可靠地执行任务」,另一个问题会越来越清楚:一个以逐步生成 token 为基本推进方式的系统,天然更擅长在语言空间里延展答案,却不一定擅长在复杂任务空间里稳定保持状态、记忆、约束和目标。
智能体真正难的地方,往往不在第一步。难的是第 50 步、第 200 步之后,它还知不知道自己是谁、在做什么、已经做过什么、哪些条件不能破坏、哪些经验应该沉淀为下一次行动的能力。
打个最朴素的比方。今天大多数 AI,像一个嘴皮子很利索、但容易忘事的临时工——你说一句它做一句,做着做着,把你最开始交代的要求忘了。而我们想做的,是一个心里始终有谱的老师傅:他知道这趟活干到哪了、目标是什么、哪条红线不能碰,每做一步都对着心里那张进度图往前推。
这正是我们做羲悉智能时真正关心的问题:下一代智能体的基座,不应该只建立在「预测下一个词」上,还应该具备对任务状态、记忆结构和行动轨迹的多尺度建模能力。
大模型的边界,正在从「会不会说」转向「能不能持续做」
Transformer 的成功,让模型能够在序列中不同位置之间建立关联。Scaling laws 和 Chinchilla 等研究,进一步说明模型规模、数据规模和计算预算之间存在可观察的缩放关系。换成通俗语言,就是过去几年我们看到的主线:模型更大、训练更充分、上下文窗口更长。
可是,长上下文并不等于长期记忆。
更大的上下文窗口可以让模型「看见」更多文本,但它并不自动形成稳定的内部任务状态。许多长任务失败,不是因为模型不知道下一句该怎么写,而是因为它在多轮执行中逐渐丢失了全局约束:目标漂移、步骤重复,或者把临时上下文误当成长期经验。
这不是个别现象,而是有系统性证据的结构性问题。Sierra 的 τ²-bench 显示,即便是顶级模型,在同一个零售任务上重复执行 8 次,全部通过的比例不足 25%;一项关于目标漂移的研究(arXiv 2505.02709)发现,所有被测智能体在持续工具调用与竞争性目标下,都会发生不同程度的目标漂移。问题不在某个模型不够聪明,而在「以语言生成为中心」这套范式本身。
标准自注意力机制在序列长度上还有平方级复杂度。FlashAttention、线性注意力、状态空间模型等方向都在缓解这个问题,但如果系统主要依赖「把越来越多上下文塞回模型」来维持任务状态,长任务仍会受到成本、缓存和稳定性的压力。
稳定任务状态需要独立的结构承载。核心判断 · 当前大模型边界
类脑给我们的启发,是系统原则
谈类脑智能,很容易走向两个误区。第一个误区,是把「类脑」理解成直接复制神经元结构。第二个误区,是把人脑当成一个神秘隐喻,只要说「像人一样思考」就够了。
我们更关心的是第三条路:从认知科学和神经科学中抽取可工程化的系统原则。
预测编码和自由能原理相关研究提示我们,大脑并不是被动接收世界,而是在不断生成预测、用误差修正自身。互补学习系统理论提示我们,快速经验、长期知识、技能沉淀和任务回放,应该有不同层级的承载方式。快慢系统框架也提醒我们:执行系统需要快,记忆与审查系统需要稳。
这些研究给我们的不是现成答案,而是一组设计原则:智能不是简单地把输入翻译成输出,而是在内部建立可更新的状态、记忆和行动约束。
这就是我们提出多尺度类脑智能的原因。
微观尺度:模型不只生成词,而要预测状态
在羲悉智能的模型层,我们关注的不是再做一个「更会聊天」的大模型。
我们的目标,是构建一种更适合智能体执行的类脑预测模型:输入进入系统后,先被投射到隐空间形成压缩理解;任务推进时,不是简单逐字生成,而是在隐空间中对任务轨迹进行约束性推演;最后,再高效解码为动作、文本或工具调用。
这和 Yann LeCun 近年强调的世界模型、联合嵌入预测架构(JEPA)方向有一个重要共识:世界建模不一定要生成每一个像素、每一个词,而可以在表示空间里学习抽象状态之间的关系。
用更通俗的话说,智能体不应该每一步都像临时写作文,而应该先知道「我当前处在什么任务状态里,下一步状态应该怎样变化,哪些轨迹是被允许的,哪些轨迹会偏离目标」。
在我们的研发路径里,类脑预测模型已经完成 1B 和 8B 两个版本的阶段验证,正在向更大规模推进。需要坦诚说明的是,这条路仍需要在真实任务流程中持续验证,我们也不认为线性注意力在所有方面都优于 Transformer——它在长程状态传递和低成本执行上有结构性优势,在精确召回上则需要混合架构补强。但方向本身很明确:如果智能体的瓶颈发生在长期执行,就不能只在「语言生成」这一层继续加码。
介观尺度:系统不是提示词堆叠,而是快慢协同
今天很多智能体系统,本质上还在依赖提示词维持秩序。
每次任务开始,告诉模型角色、目标、约束、工具和步骤;执行过程中,如果模型偏了,再补充提醒。提示词当然有用,但它不是稳定的系统记忆,更不是可持续演化的能力结构。
多尺度类脑智能的第二层,是双系统协同的类脑智能体基座。
System 1 是快系统,由类脑预测模型组承担,负责快速理解、决策和执行。System 2 是慢系统,由层级记忆层承担,负责沉淀知识、经验、技能和回放机制,在后台约束、校正和调控快系统,让智能体不是每次从零开始。
在这套系统里,记忆、技能、工具、知识图谱、本体关系和内部向量,都参与调控模型的执行轨迹。这样,智能体才能从一次任务中留下可复用的经验,从多次任务中形成自己的能力结构。
真正有价值的不是某一次调用了哪个大模型,而是用户长期积累下来的知识、流程、偏好和技能资产。它们不应该每次都被消耗成模型上下文,也不应该变成大模型训练数据里的燃料。
宏观尺度:智能生态不是模型中心,而是用户主权
如果智能体只是一个调用大模型的界面,用户最终拥有的东西就很少。
今天你把工作流程交给一个模型,明天换一个模型,很多经验无法迁移;今天你教会一个智能体处理任务,明天系统升级后,沉淀的能力可能又被平台重新定义。
所以,多尺度类脑智能的宏观层,是用户主权的智能自体网络。
我们希望用户沉淀下来的经验、技能和流程,能够形成独特的智能资产,成为用户自身能力的延伸。
更进一步,当每个人的能力都能被结构化地沉淀下来,它就有了流通的可能。技能的演化不会让会计师长出架构师的脑子,但一个技能市场(Skill Marketplace)可以让不同的能力被交易、被复用——你的智能自体携带的,是真实可验证、可流通的能力,而不只是一份数据画像。
这也是我们和市面上「数字分身」类产品的根本差异。它们解决的是「你是谁」——记住你的偏好和思维方式;我们解决的是「你能做什么」——让你的执行能力可积累、可迁移、可交易。一个是身份层,一个是能力层。
如果智能体的经验只存在于某个中心模型的黑箱里,用户主权就很难成立。只有当记忆、技能、工具和执行轨迹能够被组织、迁移和复用,用户才真正拥有自己的 AI 能力。
从这个角度看,羲悉智能不是在做一个「更聪明的聊天窗口」,而是在构建一个模型、系统和生态三层协同的智能体基座:模型层解决状态预测与轻量执行,系统层解决快慢协同与长期记忆,生态层解决用户智能资产的归属、复用和交易。
让 AI 从回答走向进化
我们不认为 next-token prediction 会消失。它仍然是表达、交互和内容生成的重要能力。但下一代智能体不能只依赖它。
真实任务是长程的、多尺度的、可积累的。一个智能体如果每次执行完都没有留下更好的能力结构,它就不是伙伴,只是一次性工具。
更大的机会在于:让 AI 从「会说」走向「会做」,从「能回答」走向「能进化」,从「调用模型」走向「拥有自己的智能资产」。
这就是羲悉智能正在做的事。
如果 ChatGPT 时代让人第一次感受到 AI 的生产力,那么下一个阶段,我们更关心的问题是:AI 能不能成为真正可靠、可积累、可演化,并且属于用户自己的智能系统。
构建人与 AI 共生的智能文明。
- Sierra, τ²-bench: Evaluating Conversational Agents in a Dual-Control Environment
- Evaluating Goal Drift in LLM Agent Systems (arXiv 2505.02709)
- Kaplan et al., Scaling Laws for Neural Language Models · Hoffmann et al., Chinchilla
- Dao et al., FlashAttention · 线性注意力与状态空间模型相关工作
- LeCun, A Path Towards Autonomous Machine Intelligence (JEPA / 世界模型)
- McClelland et al., Complementary Learning Systems(互补学习系统理论)
- Friston, The Free-Energy Principle(预测编码与自由能原理)