【KV Cache的终结与LSTM的复兴】Francois Chaubard近期提出一个激进观点：基于LSTM的架构将在两三年内取代Transformer。核心逻辑是将“事实记忆”从模型权重中剥离，转而使用类似“笔记本”的外部存储银行（如Mem0或RAG）。在这种设想下，模型不再需要通过增加参数量来死记硬背世界知识，而是学习如何操作、写入和检索事实的函数。这将彻底改变硬件需求，让模型核心运行在SRAM上，而记忆存在低成本的内存或硬盘中，从而绕过KV Cache带来的显存瓶颈。这件事的深层意义在于挑战了“大模型必须博学”的共识。反对者认为涌现能力源于海量事实训练出的逻辑关联，如果不认识“凯文·科斯特纳”，模型可能也无法理解复杂的社会逻辑。但从效率看，让推理引擎保持轻量、让知识库外挂，更符合人类大脑海马体与皮层的分工。如果这一路径跑通，AI芯片的投资逻辑将从追求大带宽DRAM转向大容量SRAM。这不仅是算法的回归，更是对通用人工智能实现路径的一次减法运算。 x.com/FrancoisChauba1/status/2082858605477552417