大模型行业过去两年一直在跟“遗忘”较劲。主流方案就两条：要么每次推理把完整历史重新读一遍，要么在外部挂一个检索库现场翻资料。前者烧存储、烧算力，后者烧检索基础设施。10月20日，上海记忆张量团队发布并开源的MemT-1.0系列，给出了第三条路——把“记忆”直接做进Transformer的前向传播，让模型带着一个可持续更新、固定大小的内部记忆状态跑推理。这不是一次参数量的堆高，而是一次成本结构的重新切分。
MemT-1.0-Flash 288B参数、Nano 36B参数，在动辄万亿参数的军备竞赛里不算激进。真正值得关注的是官方公布的测试结果。根据网易和凤凰网转述的数据，256K历史长度下，传统完整上下文方案每条会话要占用约5.06 GiB存储，MemT-1.0的记忆状态只占约40 MiB，缩减约130倍；首字延迟从约445毫秒压到104至112毫秒，端到端推理速度在256K历史下提升约3.99倍。存储和速度这两张账单同时改写了，这在过去两年的大模型成本叙事里是罕见的。