FastQuery: Communication-efficient Embedding Table Query for Private LLMs inference

Chenqi Lin

PhD Student (2024)

Tianshi Xu

PhD Student (2023)

Zebin Yang

PhD Student (2024)

李萌

助理教授、研究员、博雅青年学者

李萌，北京大学人工智能研究院和集成电路双聘助理教授、研究员、博雅青年学者。他的研究兴趣集中于高效、安全的多模态人工智能加速算法和芯片，旨在通过算法到芯片的跨层次协同设计和优化，为人工智能构建高能效、高可靠、高安全的算力基础。