腾讯发布新一代开源大语言模型"混元",英特尔通过酷睿Ultra平台实现该模型的Day0部署与优化。基于OpenVINO工具套件,英特尔助力ISV生态伙伴快速完成模型适配,加速AI应用落地。混元模型包含0.5B至7B四种参数规模,支持消费级显卡运行,适用于PC、手机等低功耗场景。在酷睿Ultra平台上,7B模型INT4精度下吞吐量达20.93token/s,0.5B模型FP16精度达68.92token/s。英特尔通过"硬件+模型+生态"协同,实现新模型发布当日即完成硬件适配,推动AI技术快速转化应用。...
特别声明:本页面标签名称与页面内容,系网站系统为资讯内容分类自动生成,仅提供资讯内容索引使用,旨在方便用户索引相关资讯报道。如标签名称涉及商标信息,请访问商标品牌官方了解详情,请勿以本站标签页面内容为参考信息,本站与可能出现的商标名称信息不存在任何关联关系,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任。(反馈错误)