XiuchengWu
e782ef4db1
基于第一性原理 + Anthropic 2026 J-space 论文实现的具身智慧系统。 核心架构： - ODE 动力系统 + 并行专家 + J-space 工作空间广播 - 12 个异构专家（视觉/屏幕/听觉/语言/鼠标/跨模态） - workspace 256 维 + LayerNorm + RK4 积分 自主心智（最重要的能力）： - 好奇心驱动探索（内在奖励 + 世界模型） - 跨会话状态持久化（海洋不蒸发） - 自我模型（知道自己会什么不会什么） - 元学习（自适应学习率 + 策略选择） 具身 Agent（完整神经系统）： - 感知层：摄像头 + 麦克风 + 屏幕 + 键盘 + 鼠标 - 大脑皮层（workspace）+ 小脑（运动控制）+ 中枢神经（门控） - 海马体（情景记忆）+ 基底神经节（动作选择） - 执行器：鼠标控制 + 键盘输出 + 音频播放 + 屏幕绘制 多模态支持： - 原生图像/音频/视频/文本/键盘/鼠标 6 种模态 - 跨平台（macOS/Windows/Linux） 外挂模块系统： - 可热插拔的外部能力（小模型/知识库/工具） - 核心心智不依赖外挂，断开后继续工作 守护进程： - 用户主动 start/stop（不自启） - 后台静默运行，持续感知学习 - 状态自动保存，跨会话继续 J-lens 可解释性： - 观测模型内部每个 ODE 子步的想法 - Directed Modulation 验证 workspace 因果作用 - Selectivity 验证（ablate workspace） 小模型蒸馏： - 接 GPT-2/Qwen 等迁移理解能力 - 蒸馏完成后小模型可断开 验证结果： - 连续序列：JSpace 胜 Flat 39.7% - 语言进化：loss 3.95→2.40 - workspace ||w||：v1 0.05 → v2 16.0 - 实时五通道感知 + 具身闭环运行
42 lines
1.4 KiB
Python
42 lines
1.4 KiB
Python
"""
|
||
对比基线：扁平网络（无工作空间、无专家分块、无动力学）
|
||
|
||
用同样的参数量预算，验证"工作空间 + J-space 广播"架构比扁平 MLP 好。
|
||
这是关键对比——如果工作空间架构赢不了同样大小的 MLP，那架构本身没意义。
|
||
"""
|
||
from __future__ import annotations
|
||
|
||
import torch
|
||
import torch.nn as nn
|
||
|
||
|
||
class FlatBaseline(nn.Module):
|
||
"""
|
||
扁平 MLP 基线：参数量与 JSpaceModel 相当，但无结构。
|
||
|
||
- 无专家分块（单一隐层）
|
||
- 无工作空间（无广播机制）
|
||
- 无动力学（每步独立预测，无状态传递）
|
||
- 无 J-space 路由
|
||
|
||
这代表"用同样算力做暴力拟合"的路线。
|
||
"""
|
||
|
||
def __init__(self, input_dim: int = 8, hidden_dim: int = 90, num_layers: int = 2):
|
||
super().__init__()
|
||
layers = []
|
||
in_dim = input_dim
|
||
for _ in range(num_layers):
|
||
layers.extend([nn.Linear(in_dim, hidden_dim), nn.Tanh()])
|
||
in_dim = hidden_dim
|
||
layers.append(nn.Linear(in_dim, input_dim))
|
||
self.net = nn.Sequential(*layers)
|
||
|
||
def forward(self, xs: torch.Tensor, state=None) -> tuple[torch.Tensor, dict]:
|
||
"""
|
||
xs: (batch, T, input_dim)
|
||
returns: preds (batch, T, input_dim), info (空)
|
||
"""
|
||
preds = self.net(xs) # (batch, T, input_dim)
|
||
return preds, {}
|