SEC团队获得AICAS大语言模型硬件系统设计挑战赛第一名

由博士生Qingyu Guo、Linfeng Zhong、Songqiang Xu和Renjie Wei组成的SEC团队获得AICAS大语言模型系统设计挑战赛第一名。Prof. Yuan Wang和我担任团队指导教师。比赛中，SEC团队在轻量级KV260 FPGA上成功部署Qwen-0.5B大语言模型，解码吞吐率达到35 tokens/s，是第二名的4倍。