随着模型规模的扩大,如何在保持高性能的同时优化资源消耗成为一个关键挑战。为了应对这一挑战,我们研究了混合专家(MoE)模型,当前亮相的Hunyuan-Large(Hunyuan-MoE-A50B)模型,这是目前业界待开源的基于Transformer的最大MoE模型,拥有3890亿总参数和520亿激活参数。
最近更新: 1年多前RunnerGo致力于打造成一款全栈式测试平台,采用了较为宽松的Apache-2.0 license开源协议,方便志同道合的朋友一起为开源贡献力量💪💪目前实现了接口测试、场景自动化测试、性能测试等测试能力。随着不断的迭代,我们将会推出更多的测试功能。我们的目的是为研发赋能,让测试更简单❤ 你的 ⭐️ Star ⭐️,是作者生发的动力!
最近更新: 2年前『飞桨』预训练模型应用工具 Awesome pre-trained models toolkit based on PaddlePaddle
最近更新: 3年前