17比特到2MB:隐空间直连让4B爆分

admin5小时前3
17比特到2MB:隐空间直连让4B爆分
本文解读一种跨模型隐空间桥接方案:用大模型隐藏状态直连小模型,跳出仅17比特的token瓶颈,将2MB级深层计算直接传递。实测4B在ARC-AGI 3爆分,逼近753B;并探讨表示空间对齐、安全与效率...