HD-MoE: Hybrid and Dynamic Parallelism for Mixture-of-Expert LLMs with 3D Near-Memory Processing

Haochen Huang, Shuzhang Zhong, Zhe Zhang, Shuangchen Li, Dimin Niu, Hongzhong Zheng, Runsheng Wang, 李萌
十月, 2025
论文
类型
会议文章
出版物
In International Conference on Computer-Aided Design (ICCAD)
Hardware Efficient AI
Haochen Huang
PhD Student (2026)
Shuzhang Zhong
PhD Student (2023)
李萌
李萌
助理教授

我通过算法—硬件协同设计，研究高效且保护隐私的人工智能系统，并将其应用于大语言模型、具身智能和多模态智能。