MPCache: MPC-Friendly KV Cache Eviction for Efficient Private LLM Inference

Wenxuan Zeng, Ye Dong, Jinjin Zhou, Jin Tan, Lei Wang, Tao Wei, Runsheng Wang, 李萌
十二月, 2025
论文
类型
会议文章
出版物
In Conference on Neural Information Processing Systems
Algorithm/Software Private AI
Wenxuan Zeng
Tencent Inc (Talent Program)

5+ first-author papers; recipient of 北京大学优秀毕业论文

李萌
李萌
助理教授

我通过算法—硬件协同设计，研究高效且保护隐私的人工智能系统，并将其应用于大语言模型、具身智能和多模态智能。