相关标签
倾覆,NVIDIA创造新手艺KVTC:内存使用量缩减20倍
3月22日消息,NVIDIA研究人员推出一项全新技术KVTC(KV快取转换编码),能把大型语言模型(LLM)追踪对话历史的内存用量,最高缩减20倍,而
2026-03-22
热门新闻
热门百科
回顶部