腾讯云晋级AI全家桶,混元对标GPT-4o

09-05 139阅读 0评论
腾讯云晋级AI全家桶,混元对标GPT-4o摘要

内卷包围三方向:「以数提效、顺势而为、扬帆出海。」

9月5日,2024腾讯全球数字生态大会在深圳世界会展中心举办。

在大会上,腾讯集团高档履行副总裁、云与才智工业作业群CEO汤道生披露了腾讯云曩昔一年的成果:与同伴一起服务的客户数超越200万家,百万级订单的合作同伴数量完结两位数增加,很多SaaS同伴收入翻倍,世界事务增速也坚持在两位数以上。

此外,在AI方面,腾讯云这次也发布了一系列展开。首先是发布了新一代大模型“混元Turbo”,相较前代,混元Turbo功用大幅前进:练习功率前进108%,推理功率前进100%,推理本钱下降50%,现在,混元Turbo已在腾讯云上线,供给多个版别供企业和开发者运用。

一起,在大会上,腾讯云还发布了AI infra品牌“腾讯云智算”,一个集核算、存储、网络为一体的高功用智能核算渠道,供给了抢先的AI核算才能;并推出了RAG解决计划,支撑企业用多种技能“量身定制”AI大模型运用,进一步拓宽了AI运用的灵敏性和适用范围。

而面对国内企业所面对的更遍及的“内卷式竞赛”的窘境,汤道生在会上还提出了「破局增加」的三个方向:以数提效、顺势而为、扬帆出海,主张企业应聚集中心场景前进功率、捉住新工业时机、开辟全球商场,探究工业新的展开时机。

对标GPT-4o,腾讯混元再晋级

在这次大会上,腾讯发布了新一代大模型“混元Turbo”,相较前代,混元Turbo功用大幅前进:练习功率前进108%,推理功率前进100%,推理本钱下降50%。作用在多个基准测验上对标GPT-4o,且第三方测评居国内榜首。

现在,混元Turbo已在腾讯云上线,供给Turbo、Pro、Standard、Lite等多个版别,企业和开发者能够直接在云上接入运用,输入和输出价格仅为前代模型的一半。混元Turbo还开放了代码生成、角色扮演、Functioncall等功用,企业可经过腾讯云TI渠道对模型进行精密调整,完结定制化运用。

汤道生表明,跟着大模型与生成式AI的技能打破,图片、视频、言语的了解与生成现已有很大前进,人与人的交流、人与体系的交互办法,都可能会被重塑。最近半年,工业界的关注点也从模型技能的本身转向了智能运用的落地。

据了解,腾讯现已构建起了全链路的大模型产品矩阵,包含根底设施、专属模型练习渠道TI、职业大模型解决计划、自研混元大模型,以及一系列依据大模型的智能运用。

会上,腾讯AI运用“元宝”品牌智能体专区正式上线,榜首批约请11家合作同伴入驻,包含作业提效和日子文娱等多个场景,用户可在“腾讯元宝”APP上直接进行体会。

“面向场景发明价值才是大模型展开的含义。”腾讯云副总裁、腾讯云智能负责人、优图实验室负责人吴运声表明,大模型现已在全球展开了两年,一方面,模型功用不断前进,围绕着模型的产品运用门槛变得更低、愈加易用;另一方面,企业积极探究大模型与本身事务场景的结合,大模型的落地场景变得更丰厚、更纵深。

现在,腾讯现已有700多款产品接入混元大模型,包含腾讯元宝、腾讯云、QQ、微信读书、腾讯新闻、腾讯客服等。此前,腾讯旗下协作SaaS(软件即服务)产品已全面接入腾讯混元大模型。

一起,腾讯全矩阵的大模型产品现在现已在常识办理、智能客服、研制提效、智能营销、内容生成、工作协同、危险管控等落地。

新发布AI infra品牌“腾讯云智算”RAG解决计划

在大会上,腾讯云还发布了AI infra品牌“腾讯云智算”,并推出了RAG解决计划,进一步展现了其在AI核算根底设施和大模型运用定制上的才能。

“腾讯云智算”是腾讯云打造的集核算、存储、网络为一体的高功用智能核算渠道。该渠道整合了腾讯云高功用核算HCC、高功用网络IHN星脉、高功用云存储、加快结构、容器、向量数据库等多项腾讯云的优势产品,供给了功用抢先、多芯兼容、灵敏布置的AI核算才能。

在稳定性和功用上,腾讯云的集群千卡单日毛病数现已刷新到0.16,是职业水平的1/3;1分钟就能完结万卡checkpoint写入,数据读写功率是业界10倍;千卡集群的通讯时刻缩短到6%,是业界一半。

一起,经过整合软硬件技能才能,腾讯云智算集群从机器上架到开端练习能够做到只需1天,比较业界以月为单位也大为缩短。

腾讯云智算的灵敏性也表现在其支撑多种云布置办法,包含公有云、私有云和分布式云,使其成为国内大模型厂商的优选解决计划,一起也协助很多IDC厂商向AIDC转型。

除了“腾讯云智算”,腾讯云这次还发布了RAG解决计划,支撑企业用多种技能“量身定制”AI大模型运用。

该计划包含兼容Elastic开源生态的腾讯云智能查找(腾讯云Elasticsearch Service)以及腾讯云自研的向量数据库,协助企业依据架构、数据类型和技能生态灵敏挑选适宜的组件。

腾讯云智能查找供给了从模型办理、向量生成、向量存储、混合查找、成果重排到大模型集成的全链路RAG才能。企业仅需运用Elastic的技能栈,就能快速建立AI运用。

该技能现已成功支撑了微信读书的“AI问书”功用,为亿级用户供给毫秒级的检索服务,一起比较传统解决计划大幅下降了90%的机器本钱。

针对数据规划大、数据类型多样的企业,腾讯云的向量数据库供给2倍于职业平均水平的吞吐才能和毫秒级呼应推迟,支撑千亿级的单表存储规划,为企业构建强壮的AI数据中台,打造RAG运用根底设施。

汤道生:怎么打破企业内卷

汤道生在会上指出,现在国内企业面对着内外部多重应战,乃至堕入“内卷式竞赛”的窘境,但假如蛋糕不增加,成果便是“零和”游戏。

他以为,企业要想完结增加,关键在于打破常规,探究工业的新展开。

为此,他提出了企业破局增加的三个方向:以数提效、顺势而为、扬帆出海。

具体来说,榜首个增加办法是以数提效,聚集中心场景。汤道生着重,盼望大模型在短期内给企业带来巨大革新并不实际,企业更应该凭借AI在现有事务场景中前进功率、下降本钱,这种稳健的途径更能够为企业带来久远的竞赛力。

现在,腾讯的混元大模型现已落地到腾讯700多个事务场景中,一起,依据国内大模型评测组织SuperCLUE前天发布的最新陈述,腾讯混元Turbo总分位列国内榜首,在11个才能项测评中,8项中心使命排名国内榜首,中文场景作用对标GPT-4o。

第二个增加思路是顺势而为,捉住新工业时机。汤道生表明,国家正大力推进新质生产力的展开,新能源、电动车、消费电子等新兴工业繁荣鼓起。

在数字工业范畴,国产软件企业也迎来了史无前例的展开时机。腾讯云积极呼应国家方针,深耕根底软件、云核算、大数据、人工智能等中心技能范畴,助力国产软件工业兴起,为企业增加开辟新的时机。

第三个增加时机是扬帆出海,开辟全球商场。当时,越来越多的我国企业将海外商场列为战略重点。相关组织调研显现,90%的企业有意拓宽世界事务,四分之一的企业计划在未来1到3年内优先布局海外商场。谈及企业出海的新时机,汤道生表明,以“云”为载体的我国工业经历和科技优势,正在成为企业出海开辟全球商场的有力支撑。

汤道生指出,当时,企业出海形式现已产生改变,从本来“产品出海”展开到“渠道出海”,供应链和商业形式向海外搬迁,需求考虑体系、产品、数据和服务的打通,完结“全球一盘棋”办理,这对数字化根底设施和办理手法有很高的要求。

自2016年开端,腾讯云展开海外事务,也一直注重技能研制范畴投入,自2018年至今6年多研制投入累计超越3000亿元,到现在,腾讯云现已打造了遍及全球的云根底设施,掩盖五大洲21个区域,运营着58个可用区、3200多个全球加快节点。

现在,腾讯云现已成功服务10000多家海外客户,世界事务接连三年坚持双位数高速增加。到现在,腾讯云在全球范围内具有超越11000家合作同伴,这些同伴贡献了世界事务80%的收入。

头图来历:腾讯

发表评论

快捷回复: 表情:
评论列表 (暂无评论,139人围观)

还没有评论,来说两句吧...

目录[+]