大厂正在大模型战场激战,而腾讯却认为不能操之过急。在百度、阿里、商汤等互联网和人工智能厂商们发布大模型后,腾讯终于公布了其大模型进展,但与通用大模型不同的是,腾讯此次打算将自己擅长的事情做到极致。
6 月 19 日,腾讯云在国家科技传播中心召开行业大模型及智能应用技术峰会上,首次公布腾讯云行业大模型研发进展,依托腾讯云 TI 平台打造行业大模型精选商店,为客户提供 MaaS 一站式服务,助力客户构建专属大模型及智能应用。
(资料图)
腾讯集团高级执行副总裁、云与智慧产业事业群 CEO 汤道生表示:" 就模型而言,比起通用大模型,企业更需要针对具体行业的大模型,并结合企业自身的数据进行训练和精调,以打造出更实用的智能服务。"大模型掀起 AI 浪潮,行业参与者也在不断探索其商业化可能性。腾讯云发现产业场景则是大模型的最佳练兵场。腾讯云副总裁、腾讯云智能负责人、优图实验室负责人吴运声认为,依托腾讯云的高性能计算、行业大模型能力,以及腾讯多年深耕产业互联网积累的行业经验,腾讯希望为客户和伙伴,打造一站式的行业大模型精选商店,加速大模型在产业领域的创新实践。
基于各个产业场景的多样性和复杂程度,具体的行业大模型最终将展现出丰富的个性。腾讯 MaaS 服务也将催生出行业大模型生态。
大模型的普惠应用
大模型的发展,对数据和算力产生了巨大的挑战,也加大了企业应用大模型的成本。AI 新纪元下,比起通用大模型,企业更需要针对具体行业的大模型,并结合企业自身的数据进行训练和精调,以打造出更实用的智能服务。企业对提供的专业服务要求高且容错性低,因此使用的大模型必须具备可控、可追溯和可修正的特点,并经过反复充分地测试。
企业在应用大模型时,常常面临计算资源少、数据质量差、投入成本高、专业经验少等挑战。对企业在大模型应用实践的路径探索,吴运声表示,腾讯云将通过 TI 平台,面向客户全面输出 MaaS 能力,可以满足客户模型预训练、模型精调、智能应用开发等多样化需求,让客户可根据自身业务场景需求,定制不同参数、不同规格的专属模型。
此外,汤道生称,大模型最终要在真实场景落地,要达到理想的服务效果,往往需要把企业自身的数据也用起来。因此,腾讯云推出了推出基于 TI 平台的行业大模型精调解决方案。
据了解,腾讯云 TI 平台行业大模型精调解决方案,具备完整大模型精调工具链,支持客户加入自己独有的场景数据,进行精调训练,客户可根据自身业务场景需求,定制不同参数、不同规格的专属模型。
值得注意的是,腾讯云打造了一站式行业大模型精选商店,内置多个高质量行业大模型,涵盖金融、传媒、文旅、政务、教育等多个行业场景。兼容支持多模型训练任务,企业可以按需取用。
腾讯云以文旅场景为例进行现场演示:通过加入文旅行业垂直场景数据、接入文旅客户 API 接口后,大模型不仅可以为用户制订细致的旅行攻略,提供非常人性化的服务体验,也让智能客服系统,实现服务商业化的闭环。未来,随着更多高质量数据的增加,模型的精调效果还会更好。
目前,腾讯云已经携手传媒、文旅、金融、政务、教育等行业的头部企业,在十余个行业探索了超 50 个行业大模型的应用解决方案。在此基础上,企业不仅可以加入独有的场景、数据,快速精调生成专属模型;也可根据业务场景需求,按需定制不同参数、规格的模型服务。
汤道生认为,企业所需要的是在实际场景中真正解决了某个问题,而不是在 100 个场景中解决了 70%-80% 的问题。有行业针对性的行业大模型,对与企业智能化升级更具有普惠价值。
腾讯云 MaaS 加速行业大模型落地
与发布通用大模型产品相比,腾讯云则直接跨越至大模型的行业应用环节。主要是通用大模型的训练数据主要来自公开数据集或网络数据,对于特定行业的专业领域知识了解有限。此外,通用大语言模型的训练需要大量计算资源和漫长的训练周期,同时,安全和合规也是必要的考量因素。
从腾讯云 MaaS 全景图可以看到,腾讯云加大了大模型基础设施建设。
在技术底座方面,今年 4 月 14 日,腾讯云发布新一代 HCC 高性能计算集群,采用最新一代星星海自研服务器,搭载 NVIDIA H800 TensorCoreGPU,基于自研网络、存储架构,带来 3.2T 超高互联带宽、TB 级吞吐能力和千万级 IOPS。实测结果显示,新一代集群算力性能较前代提升 3 倍。此外,腾讯云即将推出向量数据库(Tencent Cloud VectorDB),源自腾讯集团每日处理千亿次检索的向量引擎(OLAMA),单索引支持 10 亿级向量规模,更适用于 AI 运算、检索,数据接入 AI 的效率也比传统方案提升 10 倍。
在平台层面,腾讯云 TI 平台内置多个高质量行业大模型,涵盖金融、传媒、文旅、政务、工业等多个行业场景,企业可以结合自身场景数据可按需定制精调,也可以根据自身需求开展多模型训练任务,大幅降低大模型应用门槛。用户也可以通过 TI 平台以及模型的私有化部署、权限管控和数据加密等方式,让企业用户在打造模型与使用模型时都更放心。
同时,腾讯云 TI 平台提供完善的大模型工具链,包括数据标注、训练、评估、测试和部署等全套工具。同时,由 TI-ACC 升级的 " 太极 Angel" 提供更优的训练和推理加速能力。在传统 CV、NLP 算法模型的基础上,新增了对大模型的训练和推理加速能力,通过异步调度优化、显存优化、计算优化等方式,相比行业常用方案性能提升 30%+。
再次,TI 平台沉淀了从 " 业务分析、数据处理、大模型选择 " 到 " 模型评测 " 的一体化完整方法论,同时支持 MLOps 的体系及工具,保障客户需求的顺利交付。
腾讯 ToB 新引擎
在腾讯一季度财报电话会上,腾讯公司总裁刘炽平就表示,腾讯对 AI 一直有所布局,AI 及大模型对于腾讯整个业务来说是一个增长的扩大器。如今,腾讯云 MaaS 将成为腾讯 ToB 业务的新增长极。
基于腾讯云 MaaS 的能力,腾讯的腾讯企点、腾讯会议、腾讯云 AI 代码助手等三大 SaaS 应用全面智能升级。
新一代的腾讯企点智能客服,基于行业模型,结合客户业务需求进行训练与精调,客服机器人可以提供更精准、更详细的回答,甚至调用业务系统来提供实时数据。对比上一代智能客服的机械回答,用户体验有很大的提升。
腾讯会议即将推出覆盖会议全流程场景的智能小助手。通过简单自然的会议指令,协助用户进行日程安排、会管、会控等一系列操作。会后可以自动生成智能总结摘要,还能基于智能录制的能力,帮助用户高效回顾,提升用户开会和信息流转效率。值得注意的是,腾讯会议基于行业大模型的智能录制功能,已经以付费的形式面向会员、商业版和企业版用户全量开放。
新一代 AI 代码助手,用 AI 加持来重塑开发体验和团队能力,让开发者通过全新的人机协作,达到高效创作。AI 代码助手支持多种编程语言和主流开发框架、以及常用开发环境;覆盖开发关键流程,包括沟通、编码、排错、评审和调优,高效承接机械性工作,释放开发者时间和精力来专注代码创作,实现开发全面加速。同时也可以基于正负反馈,不断训练调优代码生成过程,实现工具持续改进。
不过,行业大模型需要 " 大模型 " 更懂行业,才能更易落地。未来要拓展更多行业大模型的应用时,行业生态不可避免。
在 6 月 19 日的发布会上,腾讯云联合来自金融、文旅、传媒、政务、教育等数十个行业的 22 家客户正式启动行业大模型共建合作,未来将依托腾讯云领先的行业大模型能力,构建垂直行业模型及应用。并携手 17 家生态伙伴共同发起了 " 腾讯云行业大模型生态计划 ",致力于共同推进大模型在产业领域的创新和落地。在行业大模型标准体系方面,腾讯云联合中国信通院共同启动了 " 行业大模型标准体系及能力架构 " 研究,该研究涵盖模型行业能力、模型工程化性能、模型算力网络、模型安全可靠等方面,未来将为行业大模型的建设和应用提供完备的能力和标准体系。
生态共建是 AI 发展的有效路径。汤道生表示," 今天,我们再一次站在数字科技革命的奇点上,大模型只是开端,AI 与产业的融合,将绽放出创造力的未来。"
标签:
滚动