会员登录 - 用户注册 - 设为首页 - 加入收藏 - 网站地图 大模型,能改动火山引擎在云牌桌上的方位吗?!

大模型,能改动火山引擎在云牌桌上的方位吗?

时间:2025-05-23 01:47:05 来源:锐评时讯 作者:咨询 阅读:114次

“本来我并不看好火山引擎,但现在有些改观了。”在云职业现已干了8年的张坤表明。

大模型大战两年后,雷峰网(大众号:雷峰网)再次和许多从业者聊起火山引擎这位“后进生”时,一些人对火山引擎的观点有了很大改变。

云牌桌上的后来者。

火山引擎在2021年12月正式宣告开端参加云核算商场的竞赛。与其他几家云厂商比较,这个入局时刻显得有些缓不济急。

回忆其他几家云厂商,阿里云归于最早迈出脚步的人,2009年建立阿里云,并开端自主研制大规划分布式核算操作体系“飞天”。

而腾讯云是2013年3月正式上线运营,2018年930之后,腾讯建立CSIG,转型工业互联网。

华为云在集团中的位置阅历了屡次调整和提高。开端,华为云作为二级部分存在,但在短短半年内敏捷提高为一级部分,战略位置仅次于华为的三大BG(运营商BG、企业BG和顾客BG),后来又重回集团事务体系。

到2021年末,火山引擎入局时,云商场现已呈现四强竞赛格式,以阿里云为首,占有国内四成云服务商场规划,其次是华为云、腾讯云与百度智能云。火山引擎作为后来者,想要在这个商场上争得一席之地,有一场适当难的攻坚战要打。

当年,以Ucloud、青云为代表的独立云厂商即使占有先发优势,但在这四家云厂商进入云商场后,开端以投入10-20倍的人力,不计本钱、不计收益的快速占领商场,后来独立云厂商不得不退出了舞台中心,站在独立云厂商的视角来看,这个故事确实听起来适当哀痛,但这也暗含了云商场厮杀的剧烈程度。

半年曾经,雷峰网曾与数十名云从业者沟经过火山引擎能否走出不同的命运轨道,逆袭进入云职业前三甲时,其大多给出的答复:很难,入局太晚了。

面对微弱的对手,火山引擎怎么撬开云核算商场?雷峰网以为,中心战略之一便是价格。这种战略在云商场上掀起了不小的波涛,火山引擎连续拿下了不少的泛互、游戏、消费电子等职业客户,取得了高速添加。据业内助士泄漏,本年火山引擎的营收方针是要前一年根底上翻倍。

火山引擎这种开展态势,也让其成为了现在云商场里仅有一家还在大规划招聘的公司。“其他几家云厂商这几年招聘需求缩减了至少30%,而火山引擎不只招聘岗位多,并且给略有涨幅的薪资待遇。”猎头刘赟表明。

不过,这种高速添加昌盛并未掩盖住忧虑,不少从业者以为,短期内,火山引擎在有资源时,天然能够大力投入,但贱价弹药并非无穷尽,长时刻仍是需求靠产品驱动,而现在大部分以为,火山引擎在产品上还很难追逐上友商。

不过,这是半年前大多数人的结论,近半年,一些业内助对火山引擎的点评又发生了一些改变,以为,这一波大模型正在给了火山引擎一个极佳时机,提高产品竞赛力,一起也给了火山引擎出售,摆开一个新的打破口。

AI infra,云厂商们站在了同一起跑线上。

为何说大模型正在让火山引擎赶超老牌云厂商?

中心原因是,跟着大模型练习推理需求的不断增多,客户在云底座的选用上,除了重视以往云的根底才能外,还会进一步关怀在AI infra方面的才能。而在AI infra上,一切云厂商都在同一起跑线,并且火山引擎的迭代速度简直是厂商里边最快的。

前不久,火山引擎Force冬天大会上新晋级了以GPU为中心的AI infra分布式事务体系,经过 vRDMA 网络支撑大规划并行核算及 P/D 别离推理架构,提高练习和推理功率,下降企业运用本钱;EIC 弹性极速缓存处理方案,完成 GPU 直连,使大模型推理时延下降至五十分之一,本钱下降 20%。

火山引擎在AI infra上能快速迭代的原因,这要追溯到2021年火山引擎拟定的产品战略。

“从2021年起,咱们就确立了两手抓的产品思路,一边抓存量,一边做增量。”火山引擎云根底产品负责人罗浩表明。

火山引擎云根底产品负责人罗浩。

罗浩所言的存量是指传统云核算的需求,包含ECS、存储、数据库、网络、安全等一些云根底产品。不可否认,作为后来者,火山引擎在这些根底云产品上与其他厂商还存在距离,所以罗浩以为,在这一块他们的中心便是要快速补齐短板。

不过,光是补齐短板远远不够,怎么能在产品上有所差异,才是赢得商场竞赛的要害。而跟着生成式AI浪潮的到来,火山引擎随即决议要从算力上做包围,也便是罗浩所说的增量,来服务比方两年前迸发的练习需求,今日大规划的推理需求。

“早在2021年,咱们就开端大规划投入AI和GPU了。”。

这一战略判别,从曩昔一年火山引擎在AI infra上的出售体现,现已能够验证正确性,大模型公司简直都是火山引擎AI infra 的收购者。

如果说4年前“两手抓”的产品战略是火山引擎在AI infra上完成追逐的根基,那曩昔几年的内外部实践则是AI infra迭代的要害驱动力,一切产品稳定性和才能往往是在一次次事务场景中淬炼重生。

在这些实践中,让火山引擎AI infra加快狂奔的是豆包大模型。前不久,火山引擎总裁谭待在火山引擎Force冬天大会上发布了一个数据,2024年豆包的日均token数据从5月15日的1200亿,到12月18日添加到了4万亿。

要承载33倍的添加,这简直其他厂商都没有遇到过的,背面关于底层AI infra 的功能、本钱简直是一次大考。

罗浩谈到,本年5月份之前,那时豆包体量还小,为了让豆包大模型能够杰出地运转,他们经过添加更多的GPU资源来确保大模型能够快速呼应很多的查询恳求,以提高客户的运用体会。

但他们很快发现,“堆量”这种办法行不通了,跟着用户量的添加,持续这样做本钱就变得难以承受。

优化推理本钱火烧眉毛,他们团队开端很多剖析哪些地方是“本钱暴发户”,经过他们细心的核算发现,缓存和存储部分是拉高核算本钱的重要部分。

“传统的缓存技能有一个问题,便是它处理数据时会绕一大圈,经过CPU再到内存,这会导致延时添加,功能下降。”罗浩说。

为处理这个问题,他们决议重写整个缓存体系。新的体系彻底环绕GPU翻开,不再依靠传统的CPU架构。这意味着,数据能够经过一种更高效的方法直接从GPU传输到远端内存,运用一种叫做GDR,GPU Direct RDMA(GPU直接长途内存访问)技能,这样不只减少了延时,还提高了全体功能。

这个数据传递进程就像是送信,本来需求经过邮局,既慢又简单犯错。而现在,体系就像给数据装上了直通车,直接从一个人手中快速送到另一个人,省去了中间环节,速度更快,准确性更高。

“这些内外部事务,对咱们的含义便是,让咱们比他人早踩坑,也早发现问题,早处理。”。

本年5月火山引擎Force春季大会上,豆包主力模型在企业商场的定价比职业价格下降了99.3%,“这个降价99.3%并非是咱们拍脑袋想的,而是建构在之前对AI infra的优化上算出来的。”。

罗浩表明,核算范式当时正在从云原生进入“AI云原生”的新时代,火山引擎以GPU为中心从头优化核算、存储与网络架构。GPU能够直接访问存储和数据库,来显着下降IO的推迟。一起,整个体系供给高速互联和端到端的安全维护。

这是国内初次有云厂商喊出“AI云原生”的理念。现在,新架构仍在支撑着豆包大模型完成快速的指数级事务添加。

除有豆包大模型“倒逼”外,火山引擎AI infra能够在较短时刻内晋级,也与火山引擎共同的安排架构有关。

国内其他几家云厂商的产研团队基本是和集团事务是分隔的,但火山引擎并不是,做火山引擎的这一批人马,便是来自字节中台,像罗浩自己,就有两个身份,一个是火山引擎云根底产品负责人,另一个是字节跳动根底架构云产品负责人,而吴迪也相同如此,他榜首个身份是火山引擎的算法负责人,另一个也是字节机器学习中台的一位负责人。

这种安排的优点有两个:榜首火山资源和字节的资源都在一个人手上办理,这样也能完成资源的充分利用;第二是人才才能上的复用。

为商业化撕开了新打破口。

大模型到来,除缩小火山引擎与其他厂商产品之间的距离外,其带来更显着的作用便是,为火山引擎商业化带来了一个新的打破口。

上文也说到,作为后进生的火山引擎进入云商场时,面对很大的一个问题便是怎么翻开商场,曩昔火山引擎用了一些价格战略确实也取得了一些效果,但这究竟不是长久之计。

而这一波大模型,关于火山引擎来说,其最重要的便是手上多了一张撬动客户的“主力”——豆包大模型。

一名火山引擎出售曾对雷峰网说过他的出售阅历:曾经常常找访问客户由头一般要费尽心机,并且因为火山引擎在云商场是后来者,一些客户往往会提出魂灵拷问,为什么选你?但自从大模型呈现后,越来越多的客户有了大模型练习需求,一些客户还会自动找上来问,怎么去建立自己的大模型。

趁着大模型这一波热度,火山引擎在加快推动商业化,据资深猎头王帆泄漏,本年年中,火山引擎独自建立了一个10人不到的大模型商业化小组,这也是云厂商中仅有一家独自建立大模型出售团队的,其他云厂商的大模型出售人马仍然是卖云的出售、途径。

云出售卖大模型有一个问题是在于,技能有壁垒,一般的云出售纷歧定有才能跟客户讲清楚大模型的价值、技能,而火山引擎也在寄希望于经过豆包大模型,打入更多现已跟友商协作的客户中去,而这也是这个小组建立的重要原因。

曩昔一年,能够看到火山引擎凭借大模型在商业化的打破,据了解,现在豆包大模型现已使用到了轿车、手机、金融、消费、互娱等30多个职业,尤为值得一提的是轿车职业,火山引擎确实拿下了不少的轿车大单。

早在上一年,火山引擎先后与吉祥、长城、蔚来、广汽等多家车企达到深度协作,为车企供给了数字化营销、智能座舱、车载聚合音视频内容等一系列服务。

本年5月,火山引擎建立了轿车大模型生态联盟,一汽红旗、春风乘用车、吉祥轿车、长城轿车、广汽乘用车、宇通客车在内的24家整车厂、官方组织、出行生态公司等参加其间。下半年,火山引擎在轿车范畴有一个重要的打破客户,那便是奔驰。8月13日,火山引擎与奔驰签署战略协作备忘录,两边宣告将在大模型、生成式人工智能和大数据技能范畴翻开协作。

不过,也有很多人会有疑问,卖大模型是否能为火山引擎增收,究竟眼下,OpenAI和Gemini都在不断降价。本年5月豆包在国内首先掀起大模型的降级潮,豆包主力模型在企业商场的定价为0.0008元/千Tokens,随即几个月其他厂商也敏捷跟进,而12月底,火山引擎再次将视觉模型价格打下来,定价为0.003元/千Tokens。

火山引擎总裁谭待揭露表明,豆包大模型的定价一步到位,有合理毛利。不过,一切厂商现在大模型API收入规划都不大。结合雷峰网调研制现,月消费1万,适当于公有云消费1000万的客户体量,是很大客户了。

确实,眼下大模型带来的收益远远小于投入,不过大模型的生意还要是要拉长时刻维度来看,大模型使用规划上去之后,一定会带动云的用量,据IDC陈述,未来5年国内的练习、推理算力别离以超50%、190%的年复合增速开展,并在2028年推理算力会超越练习算力。而到那个时候,首先在大模型上重兵投入的火山引擎,也许也更新了自己在云牌桌上的排名。

内容来源:https://sh.tanphatexpress.com.vn/app-1/kèo bóng rung,http://chatbotjud-teste.saude.mg.gov.br/app-1/687-bet

(责任编辑:社会)

    系统发生错误

    系统发生错误

    您可以选择 [ 重试 ] [ 返回 ] 或者 [ 回到首页 ]

    [ 错误信息 ]

    页面发生异常错误,系统设置开启调试模式后,刷新本页查看具体错误!