腾讯发布开源MoE大语言模型Hunyuan-large，总参数398B为业内最大
创始人
2024-11-08 12:58:08
0次
11月5日消息，腾讯发布开源MoE大语言模型Hunyuan-large，总参数398B为业内最大，激活参数量52B。公开测评结果显示，腾讯混元Large在CMMLU、MMLU、CEval、MATH等多学科综合评测集以及中英文NLP任务、代码和数学等9大维度全面领先，超过Llama3.1、Mixtral等一流的开源大模型。据了解，该模型在技术创新上可实现高质量合成数据，通过使用合成数据增强训练，有效应对自然数据的不足。在上下文处理能力方面，预训练模型支持高达256K的文本序列，显著增强了处理长上下文任务的能力。
同时，腾讯混元宣布，为填补行业真实长文评测集不足，腾讯混元即将开源企鹅卷轴评测集助力业界应用研究。自研企鹅卷轴(PenguinScrolls)基于公开金融、法律、学术论文等多种自然长文本，长度范围达1K-128K，覆盖各种深度阅读理解、长文推理任务。
下一篇：发起即时零售价格战？京东回应
相关内容
热门资讯
北方华创，巨额商誉压力突然高悬...
文丨詹詹编辑丨百进来源丨新商悟（本文约为 1300字）当国内半导体设备龙头北方华创交出一份“营收创历...
长城华西银行原女掌门已回老东家...
湘财Plus注意到，四川银行入主长城华西银行后，该行核心管理人员调整基本落定，法定代表人已正式变更为...
立案，跌停！这家“童年记忆”，...
沉浮多年，方向何在？最近被立案的上市公司，着实有些多，就在上周末，又有一家上市公司及原董事长被立案调...
加码生态环境监测！生态环境部：...
本文来源：时代周报 作者：李杭4月27日，生态环境部举行4月例行新闻发布会。 生态环境部4月例行新...
东方甄选主播“离职潮”持续发酵...
红星资本局4月27日消息，东方甄选（01797.HK）主播“离职潮”事件仍在发酵。在社交平台上，有部...
SpaceX万亿IPO前夜：马...
从20亿美元收购，到万亿IPO前的最后叙事。2026年4月23日深夜，特斯拉向SEC提交了一份季报文...
前董事长陆宏达“闪电辞职”牵扯...
紧急澄清前董事长性侵指控后，智度股份仍难挡股价大跌。4月27日，智度股份早盘一度重挫逾9%，逼近6....
高盛：一场全球性化工危机正在爆...
霍尔木兹海峡通行受阻，正在引发一场史无前例的全球化工供应冲击。高盛最新报告表示，基础化工品价格近几周...
这笔400亿，谷歌买的不是友谊...
4月25日，Anthropic宣布谷歌将向其投资最高400亿美元——先期注入100亿美元现金，估值3...
粪坑，爬出来了 粪坑，爬出来了...
图：Simon Bailly 读者说：“有人发现吗？2019年蚂蚁的大热基金鹏华快回本了，当年最高回...