AI大模型驱动"智慧涌现",为千行百业带来了全新发展机遇。然而企业在接入、训练、部署和应用大语言模型时面临着训练成本高昂、数据安全、专业知识不足等现实挑战。大模型应用,产业场景已经成为最 佳练兵场,选择具有一站式行业大模型服务能力的云厂商合作,或许是企业探索大模型应用实践的可行路径。
6 月 19 日,腾讯云在国家科技传播中心召开行业大模型及智能应用技术峰会,首 次公布腾讯云行业大模型研发进展,依托腾讯云TI平台打造行业大模型精选商店,为客户提供MaaS(Model-as-a-Service)一站式服务,助力客户构建专属大模型及智能应用。
会上,腾讯云联合 22 家客户正式启动行业大模型共建合作,并携手 17 家生态伙伴共同发起了“腾讯云行业大模型生态计划”,致力于共同推进大模型在产业领域的创新和落地。基于腾讯HCC高性能计算集群和大模型能力,腾讯云已经为传媒、文旅、政务、金融等 10 余个行业提供了超过 50 个大模型行业解决方案。
腾讯集团高 级执行副总裁、云与智慧产业事业群CEO汤道生表示,生态共建是AI发展的有效路径,腾讯将坚持生态开放,为企业提供高质量模型服务,同时支持客户多模型训练任务,加速大模型在产业场景的创新探索。
腾讯集团高 级执行副总裁、云与智慧产业事业群CEO 汤道生
腾讯云公布MaaS全景图,提供一站式行业大模型服务
如何将大模型能力应用到自身的行业和场景里?如何解决成本、数据、安全等大模型实际落地难题?依据企业实际需求,进而"量体裁衣"定制一个专属大模型,或许是解决这些问题的最 佳答案。
当前,通用大语言模型在应对产业场景落地时存在一定的局限性。首先,通用大模型的训练数据主要来自公开数据集或网络数据,对于特定行业的专业领域知识了解有限。此外,通用大语言模型的训练需要大量计算资源和漫长的训练周期,这对企业来说可能昂贵且耗时。同时,安全和合规也是必要考量因素。因此,选择与具备一站式行业大模型服务能力的云厂商合作,打造企业专属的行业大模型至关重要,好用、易用的同时还能降低企业的成本和时间投入。
基于客户实际痛点和需求,腾讯云全新公布MaaS全景图,依托腾讯云TI平台打造行业大模型精选商店,为企业客户提供涵盖模型预训练、模型精调、智能应用开发等一站式行业大模型解决方案。在TI平台内置高质量行业大模型基础上,企业加入自己独有的场景数据,就可以快速生成自己的专属模型;同时,也可根据自身业务场景需求,“量体裁衣、按需定制”不同参数、不同规格的模型服务。
腾讯云MaaS全景图
拥有充沛算力是大模型训练的基础,腾讯云在大模型算力方面处于领先地位。今年 4 月,腾讯云发布了专为大模型训练设计的新一代HCC高性能计算集群,采用最 新一代的腾讯云星星海自研服务器,具备业界最 高的3.2Tbps互联带宽,算力性能提升了 3 倍。此外,腾讯云即将推出向量数据库(Tencent Cloud VectorDB),源自腾讯集团每日处理千亿次检索的向量引擎(OLAMA),单索引支持 10 亿级向量规模,更适用于AI运算、检索,数据接入AI的效率也比传统方案提升 10 倍。这些创新将为客户的模型训练提供强大的支持和动力。
在平台层面,依托TI平台,腾讯云将为客户提供一站式模型服务,涵盖完善的模型工具、成熟的流程方法、全面的配套服务、领先的安全保障能力。
首先,腾讯云TI平台内置多个高质量行业大模型,涵盖金融、传媒、文旅、政务、工业等多个行业场景,企业可以结合自身场景数据可按需定制精调,也可以根据自身需求开展多模型训练任务,大幅降低大模型应用门槛。
其次,TI平台提供完善的大模型工具链,包括数据标注、训练、评估、测试和部署等全套工具。同时,由TI-ACC升级的"太极Angel"提供更优的训练和推理加速能力。在传统CV、NLP算法模型的基础上,新增了对大模型的训练和推理加速能力,通过异步调度优化、显存优化、计算优化等方式,相比行业常用方案性能提升30%+。
再次,TI平台沉淀了从“业务分析、数据处理、大模型选择”到“模型评测”的一体化完整方法论,同时支持MLOps的体系及工具,保障客户需求的顺利交付。
在配套服务和安全保障方面,腾讯云提供本地化的训练、落地及陪跑优化服务,为客户扫清落地障碍;依托二十余年的安全经验和风控能力,提供AIGC全链路内容合规解决方案;针对客户对数据安全需求,提供私有化部署等多种灵活交付方案,加速企业快速创建和部署AI应用。
启动行业大模型生态计划,协同共建推进产业落地
会上,中国科技新闻学会党委副书记、副理事长兼秘书长陈锐表示,加速AI大模型技术在产业领域的创新和实践,推动国家人工智能技术发展,更需要全行业人员共同关注传播科技服务创新。以腾讯云为代表的行业大模型,代表基础设施数字化可以更好地服务于场景的创新。
峰会现场,来自金融、文旅、传媒、政务、教育等数十个行业的 22 家客户,与腾讯云共同宣布启动行业大模型共建合作,未来将依托腾讯云领先的行业大模型能力,构建垂直行业模型及应用。
与此同时,峰会上腾讯云携手 17 家来自不同行业的生态伙伴,共同发起“腾讯云行业大模型生态计划”,致力于共同加速推进大模型在产业领域的创新和落地。
在行业大模型标准体系方面,中国信通院云计算与大数据研究所副所长魏凯,腾讯法务副总裁江波,腾讯云副总裁、腾讯云智能负责人、优图实验室负责人吴运声共同启动了“行业大模型标准体系及能力架构”研究,该研究涵盖模型行业能力、模型工程化性能、模型算力网络、模型安全可靠等方面,未来将为行业大模型的建设和应用提供完备的能力和标准体系。
依托在高性能算力及大模型能力方面的积累,腾讯云已经携手央视总台、福建大数据集团、上海大学等行业头部企业,在大模型行业应用方面共创了 50 多个行业解决方案,在智能客服、OCR、跨模态检索等领域有广泛实践。
在智能客服应用方面,某文旅客户利用腾讯云自然语言模型实现了个性化的定制旅行服务。用户只需提供自己的偏好、预算和大致路线,即可生成详细的旅行方案,并提前安排好每天的行程;在政务领域,福建大数据集团携手腾讯云打造了互动式大模型应用"小闽助手",为市民提供智能咨询服务;在教育领域,上海大学借助腾讯云TI平台将大模型探索应用在咨询和问答场景,帮助学生解答选课、就业指导、创业政策等问题,应对就业压力。
在跨模态检索方面,央视总台则通过腾讯云TI平台原生模型构建了智能媒体AI中台,集成了修复、标签、智能翻译等 30 多种底层算法能力,实现了低分辨率视频素材转换、智能剪辑和快速输出,提升了产出和分发效率;在智能OCR应用方面,某头部银行利用腾讯云TI-OCR实现了95%以上准确率的文件智能识别和关键词提取,将文件数据转化为结构化数据,全面提升运营效率。
模型助力效率倍增,腾讯三大SaaS应用全面智能升级
加速产业场景探索的同时,腾讯云行业大模型能力已在腾讯企点、腾讯会议、腾讯云AI代码助手等多款头部SaaS产品中率先应用,为客户带来更智能的产品体验。
腾讯企点基于大模型能力研发探索全新一代智能客服和企点分析AI助手,旨在全面提升企业的客服和数据分析能力。新一代智能客服解决了传统智能机器人的覆盖率低、接待上限低和知识维护量大等难题,具备快速学习和智能回答的能力,可提供准确回复和丰富回答,并辅助人工操作以提高客服效率。而企点分析AI助手则是基于行业大模型能力的全面升级,通过标准化数据采集和治理,以业务视角提出问题并快速获得可视化图表结果,大幅提升数据分析效率。
会上,腾讯会议宣布即将推出覆盖会议全流程场景的AI小助手,只需通过简单自然的会议指令,基于对会议内容的理解,就可以完成信息提取、内容分析、会管会控等多种复杂任务。会后可以自动生成智能总结摘要,还能基于智能录制的能力,帮助用户有效回顾,提升用户开会和信息流转效率。目前,智能录制已面向会员、商业版和企业版用户全量开放,其他更多能力将陆续上线。
另外,腾讯云将推出新一代AI代码助手,用AI加持来重塑开发体验和团队能力,让开发者通过全新的人机协作,达到有效创作。AI代码助手支持多种编程语言和主流开发框架、以及常用开发环境;覆盖开发关键流程,包括沟通、编码、排错、评审和调优,有效承接机械性工作,释放开发者时间和精力来专注代码创作,实现开发全面加速。同时也可以基于正负反馈,不断训练调优代码生成过程,实现工具持续改进。
“今天,我们再一次站在数字科技革命的奇点上,大模型只是开端,AI与产业的融合,将绽放出创造力的未来。”汤道生表示,生态共建是AI发展的有效路径,在这个过程中,腾讯愿意贡献自己的能力,与行业伙伴携手,用智能照亮行业,让AI普惠生活。