通义千问开源千亿级参数模型

资金流向 > 今天股市最新消息 >来源:互联网 时间:2024年04月28日14:48来源:界面新闻

  4月28日消息,通义千问开源1100亿参数模型Qwen1.5-110B,成为全系列首个千亿级参数开源模型。

  通义千问1100亿参数模型延续了Qwen1.5系列的Transformer解码器架构,采用了分组查询注意力方法(GQA),使得模型在推理时更加高效。110B模型支持32K上下文长度,具备优秀的多语言能力,支持中、英、法、德、西、俄、日、韩、越、阿拉伯等多种语言。

(文章来源:界面新闻)

声明:本篇文章来源于网络,不代表本站观点,只提供信息参考,涉及资金炒股投资,请慎重在做投资判断,据此操作盈亏自负、风险自担。

文章标题:通义千问开源千亿级参数模型

链接地址:http://www.xiaosayihui.com/gushi/202404283062561098.shtml