UniCAIM: A Unified CAM/CIM Architecture with Static-Dynamic KV Cache Pruning for Efficient Long-Context LLM Inference

Weikai Xu, Wenxuan Zeng, Qianqian Huang, 李萌, Ru Huang
二月, 2025
论文 演示文稿
类型
会议文章
出版物
In Design Automation Conference (DAC)
Hardware Hardware Acc Efficient AI
Weikai Xu
Postdoctoral Fellow

10+ first-author papers; recipient of 北京大学五四奖章, 北京市优秀毕业生, 北京市优秀毕业论文等

Wenxuan Zeng
Tencent Inc (Talent Program)

5+ first-author papers; recipient of 北京大学优秀毕业论文

李萌
李萌
助理教授

我通过算法—硬件协同设计，研究高效且保护隐私的人工智能系统，并将其应用于大语言模型、具身智能和多模态智能。