美股存储板块走低,美光科技跌超4%,闪迪跌6.5%,西部数据跌超4%,希捷科技跌超5%。此前Google Research推出了TurboQuant,这是一种全新的KV缓存压缩方法。据称,该方法可在不损失准确性的前提下,将大语言模型(LLM)的缓存内存占用至少减少6倍,并实现最高8倍的加速,旨在解决人工智能推理和向量搜索中的内存瓶颈问题。
⚠️ 声明:本站数据来自AI数据整合,不做任何投资参考依据,如何侵犯了您的版权权益,请联系我们立即删除!