【蚂蚁集团推出新款MoE大语言模型 使用国产AI芯片训练成本进一步降低】财联社3月24日电,近日,蚂蚁集团Ling团队发表了一篇技术成果论文。论文显示,蚂蚁集团推出了两款不同规模的MoE大语言模型——百灵轻量版(Ling-Lite)与百灵增强版(Ling-Plus),前者参数规模为168亿(激活参数27.5亿),Plus基座模型参数规模高达2900亿(激活参数288亿),两者性能均达到行业领先水平。除了自研性能领先的大模型以外,该技术论文最大的突破在于提出了一系列创新方法,以提升资源受限环境下AI开发的效率与可及性。实验表明,其3000亿参数的MoE(混合专家)大模型可在使用国产GPU的低性能设备上完成高效训练,性能与完全使用英伟达芯片、同规模的稠密模型及MoE模型相当。

相关文章:
无端却被春风误:孟南汐宋祁钰小说 无端却被春风误:全文目录畅读04-30
五一”期间,儋州交警将严查→04-30
此去经年人未还沈青禾:+后续+结局(霍沉洲沈青禾)全文免费阅读无弹窗大结局_霍沉洲沈青禾最新章节列表_笔趣阁(此去经年人未还沈青禾:+后续+结局)04-30
王子联主持召开2025年度市政府第4次常务会议 调度部署全市安全生产等工作04-30
外媒:美物流巨头拟在全球裁员2万人04-30
当爱恨如潮生内容精选最新小说(乔若梨裴叙白)全文阅读04-30
@广大消费者 认证赋码帮你买到遵义好酱酒04-30
冷市镇中学:以总结促提升 以榜样激斗志04-30