FastQuery: Communication-efficient Embedding Table Query for Private LLMs inference

Chenqi Lin

PhD Student (2024)

Tianshi Xu

PhD Student (2023)

Zebin Yang

PhD Student (2024)

李萌

助理教授

我通过算法—硬件协同设计，研究高效且保护隐私的人工智能系统，并将其应用于大语言模型、具身智能和多模态智能。