接棒DeepSeek,百度智能云再给大模型降降价
文 / 一灯 。
近期,DeepSeek的火爆出圈,直接撬动了本钱商场对AI+工业链的出资热心。不只在2月5日开工第一天,DeepSeek概念指数大涨14.73%,AI运用端和科技全线拉升,2月6日早盘仍显现,A股TMT科技板块连续强势,DeepSeek、AI算力概念继续活泼。
而就在新年开工、DeepSeek概念指数大涨的同一天,我国大模型商场又传出重磅新闻:百度智能云成功点亮昆仑芯三代万卡集群,成为国内首个正式点亮的自研万卡集群。模型上线首日,已有超1.5万家客户经过千帆渠道进行模型调用。
这不只标志着百度在自研芯片与大规划AI算力布局上的又一次重大打破,也预示着AI模型的练习本钱将迎来新一轮下调,整个职业的开展再次被注入新动能。
那么,在各大科技巨子都加快推进AI算力基建的当下,万卡集群终究是什么?为何我们都在活跃推进自研、自建万卡集群?国产万卡集群的不断演进,又将给智算工业带来怎样的改动?
01 国产万卡集群,我国AI新打破。
近年来,跟着AI大模型的不断涌现,模型规划和数据参数都呈现出指数级增加。
例如在前期练习,据了解,2018年OpenAI发布的GPT-1模型参数量为1.17亿;到2020年,GPT-3的参数量已到达1750亿;2023年,GPT-4的参数量进一步增加到约1.8万亿。
参数量的快速增加推进了AI模型功能的大幅进步,使其在自然语言处理、图像识别等范畴的体现越来越好。但一起,模型参数量的增加也让AI 模型练习的算力需求每3.5个月翻一番,每年所需算力增幅高达10倍,增速远远超出了芯片工业长期存在的摩尔定律(功能每18个月翻一番)。
以具有16个专家模型、约1.8万亿参数的GPT-4为例,其练习约运用了 25000个英伟达(NVIDIA )的A100 GPU ,继续时间长达90至100天,对算力的耗费非常大。
而且,除了练习时的算力需求,跟着大模型及运用越来越多地布置到企业实践事务场景中,后期推理的算力需求也水涨船高。因而,大规划 GPU 算力集群成为必然挑选。这也是为什么近年来国内外科技厂商纷繁布局 AI 算力根底设施,死磕万卡甚至10万卡集群。
而“万卡集群”,望文生义,是指由超越一万张加快卡(如GPU、TPU或其他专用AI加快芯片)组成的高功能核算体系,用以加快人工智能模型的练习和推理进程。 。
比较于练习周期长、本钱高的传统千亿参数模型,万卡集群首先在核算才能、数据处理速度和存储容量等方面都有着质的腾跃。它能够经过并行核算和分布式处理,将巨大的数据和模型有用地组织起来,明显缩短模型的练习周期,进步研制功率。
其次,作为一种灵敏的核算根底设施,万卡集群能够根据不同的运用需求进行定制化的装备和优化,一起支撑更大规划模型和更杂乱的多模态使命,比方智能医疗确诊、主动驾驶技能、自然语言处理等范畴。这既为AI技能的立异和开展供给了更宽广的空间和或许,也为企业在AI范畴的比赛中赢得先机。
此外,万卡集群经过进步算力利用率、简化用户布置流程,也下降了AI技能的运用门槛,从而推进其在各个范畴的广泛运用。
但在《节点财经》看来,万卡集群虽好,但想要成功建立也不是易事。
据了解,要想建造万卡集群规划的算力中心,一般要面对几大应战:
● 算力运用功率:集群规划进步不等于算力线性进步,关键在于互联网络和软硬件适配调优。需运用体系工程办法,精细化规划网络和软硬件整合优化,以进步集群算力运用功率。
● 海量数据处理:未来万亿模型的练习对checkpoint的读写吞吐功能更是要求高达10TB/s,需经过协议交融、主动分级等技能手法进步数据同享和处理才能。
● 多芯混训难题:受限于芯片厂商的产能,AI企业常常选用不同类型、不同厂商的芯片来组成算力集群。这些芯片在功能、架构、指令集等方面都存在差异,怎么让它们在同一个集群中协同作业,而且保证混部练习的功率,是一个亟待处理的问题。
● 智算中心规划:高能耗、高密度的智算中心关于空间和动力的需求,远远超越了传统机房布置方法的承载才能。这就要求在建造之初,提早对智算中心的供电制冷、承重等进行配套规划,以便更好支撑超万卡集群的快速建造、快捷布置。
● 安稳性与运维:万卡集群中的核算卡数量巨大,网络连接杂乱,且当单卡可靠性为99.99%时,万卡集群全体可靠性仅36.7%。一旦呈现毛病或推迟,将直接影响整个集群的核算功率和安稳性。
正如此前我国工程院院士、清华大学核算机系教授郑纬民所言,当下构建国产自主万卡体系充溢应战,但“至关重要”。
02 百舸渠道赋能,让我国AI工业首先“跑”起来。
现在,国内智算中心的建立有国内外芯片“混搭”和悉数国产化两种集群形式,而后者关乎一国在迈向通用智能征途中的中心比赛力。
正是意识到这样的重要性,百度一向探究用自研芯片建立自主可控的算力生态体系,始终将助力完成 AI 根底设施国产化作为中心方针。
据了解,此次万卡集群的成功点亮,得益于百度在硬件和软件方面的技能立异。
在硬件层面,自研芯片保证了在生成式AI年代的技能主权。此次支撑万卡集群高效运转的昆仑芯三代,连续并优化了前代产品的规划,在算力、能效、安稳性等方面全面晋级。
一起,百度也打破了卡间互联拓扑约束,防止通讯带宽成为瓶颈,并选用立异性散热方案,有用处理了能效与散热问题,以保证集群高效、安稳地运转。
而在软件层面,百舸AI异构核算渠道4.0则在构建高功能网络、优化分布式练习、多芯混训、毛病确诊手法等方面发挥了至关重要的效果:
● 在分布式练习优化上,百舸4.0选用高效并行化使命切分战略,将练习干流开源模型的集群MFU进步至58%,大幅进步模型练习速度和资源利用率;
● 针对机间通讯带宽需求,百舸4.0构建超大规划 HPN 高功能网络并优化拓扑结构,明显下降了通讯瓶颈,使带宽有用性到达90%以上;
● 在多芯混训方面,百舸4.0可主动进行芯片选型,根据集群剩下资源挑选性价比最高的芯片运转使命,完成高达 95% 的万卡多芯混合练习效能。
● 在集群安稳性上,百舸4.0供给全面毛病确诊手法,能快速主动侦测节点毛病,并将毛病恢复时间从小时级缩短到分钟级,防止因为单卡毛病率随规划指数上升而构成的万卡集群有用性大幅下降,保证有用练习率到达98%。
由此,《节点财经》以为,构建万卡集群不只是芯片的堆砌整合,更要依托强壮的AI核算渠道来支撑整个集群的分配规划。而百度智能云依托百舸AI异构核算渠道4.0,完成了从集群创立到开发试验,再到模型练习、推理的全链路优化。不只进步了本身的智算实力,也为智算职业供给新的开展思路。
值得一提的是,凭借着自研昆仑芯的技能优势以及百舸渠道的有力加持,百度智能云已为很多企业供给了“多、快、稳、省”的AI根底设施。
例如,生数科技依托百度百舸高效、安稳、混合多芯的才能,得以在短时间内完成了Vidu大模型的上线和敞开API,其资料烘托加快功率进步3倍,数据拉取功率进步51倍;长安轿车经过与百度智能云的深度协作,让主动驾驶模型练习的算力整体均匀运用率进步到90%以上,归纳资源利用率进步了50%;教育场景先行者好未来教育集团则凭借百舸渠道自研出“九章大模型(MathGPT)”,现在现已广泛运用于好未来的智能硬件、学而思旗舰学习机及多个事务场景中......。
能够预见,未来一年,将是各种AI原生运用迸发的黄金时期。而百度智能云自研万卡集群的建成,不只带来了强壮的算力支撑,让我国工业首先“跑”起来,也推进了模型降本的趋势,为各行各业的AI运用和立异供给了实实在在的价值。
02 花小钱办大事,我国AI再引全球注目。
百度智能云自研万卡集群的成功点亮,不只在国内引发广泛重视,也在国际商场掀起热议。
日前,花旗银行在研报中指出,百度、DeepSeek等我国模型展现出高效和低本钱优势,将有助于加快全球AI运用开发,并在全球引发更多技能立异,推进2025年人工智能运用的拐点。
而本钱商场上,百度在港股、美股的双双上涨,好像也印证了这一点。
《节点财经》以为,关于科技公司来说,具有强壮的万卡集群意味着在AI年代奠定了坚实的根底和比赛力。
一方面,万卡集群能够为公司内部的各类AI项目和事务供给安稳且高效的核算支撑;另一方面,万卡集群的建造不只反映了企业在技能水平、资金投入和战略规划上的决议方案和才能,还能进步其在职业中的名誉和影响力,招引更多的人才、协作伙伴和资金,从而构成一个杰出的工业生态,为企业的继续开展供给坚实的支撑。
而从全球AI比赛来看,继DeepSeek从算法优化视点“狙击”大模型本钱后,百度智能云再次证明了我国科技“花小钱办大事”的才智。国产万卡集群的呈现,不只再显我国硬科技实力,也能处理曩昔价格高和无法安稳运用等问题,进一步下降企业进行运用开发与工业立异的门槛。
据了解,百度智能云还方案点亮3万卡集群,探究更高功能与扩展性的算力鸿沟。能够预见,跟着3万卡集群的进一步落地,百度智能云甚至我国AI工业,都将在全球范围内赢得更大的商场话语权。
总归,在生成式AI浪潮下,我国科技企业正在重新技能的追随者向新航路的拓荒者跨进。而跟着智算需求的不断增加和算力中心的规划演进,万卡集群将成为未来智能算力范畴的新赛场。
当下,百度智能云在AI算力赛道上的继续领跑,有望界说新一代集群架构,重构全球AI算力格式,一起催化新质生产力,充沛开释AI在各职业场景落地,助力我国工业跑出真实的开展加快度。
特别声明:本文为协作媒体授权DoNews专栏转载,文章版权归原作者及原出处一切。文章系作者个人观点,不代表DoNews专栏的态度,转载请联络原作者及原出处获取授权。(有任何疑问都请联络idonewsdonews.com)。
内容来源:https://sonybravia.xyz/app-1/poker chơi như nào,http://chatbotjud.saude.mg.gov.br/app-1/morena-gostosa
(责任编辑:女性)