HybriMoE: Hybrid CPU-GPU Scheduling and Cache Management for Efficient MoE Inference

Shuzhang Zhong, Yanfan Sun, Ling Liang, Runsheng Wang, Ru Huang, 李萌
二月, 2025
论文 项目 演示文稿
类型
会议文章
出版物
In Design Automation Conference (DAC)
Algorithm/Software Hardware Acc Efficient AI
Shuzhang Zhong
PhD Student (2023)
李萌
李萌
助理教授

我通过算法—硬件协同设计，研究高效且保护隐私的人工智能系统，并将其应用于大语言模型、具身智能和多模态智能。