Intel全线进入AI PC年代!软硬一体 三大优势无敌
时间:2025-05-24 16:52:30 出处:生活阅读(143)
2023年末,伴跟着代号Meteor Lake的一代酷睿Ultra处理器的发布,Intel正式提出了AI PC的新概念。
彼时,乃至之后很长一段时刻内,许多人都存在相同的疑问:AI PC和传统PC到底有何不同?它能替我的作业/日子/学习做什么?值得晋级吗?
事实上,不仅仅是广阔顾客,从业者在AI PC鼓起之初也有相似的苍茫。
可是,困难的事总是要有人去做的,不知道的路总是要有人去走的。
作为AI PC的发起者,Intel凭仗继续的路线图、厚实的技能、广泛的影响力、强壮的号召力,联合整个业界一同,不断从软硬件各个视点推进AI PC,尤其是推进更多的运用开发、场景落地。
令人欢喜的是,AI PC诞生还不到一年半,就现已取得了长足的前进:
跟着Intel酷睿Ultra 200系列全线布局结束、锐炫B系列显卡锋芒毕露、至强6宗族各系列连续上台,AI PC不管硬件产品仍是运用场景,都越来越丰厚、越来越深化。尽管距离彻底老练为时尚早,但确确实实现已迈入了全新的、有用的阶段。
尤其是这个新年,咱们不止有“DeepFeed”、“DeepSleep”这些传统的吃吃喝喝、休闲放松,更有DeepSeek。
DeepSeek的重大意义,一方面是我国AI一次革命性的打破,另一方面是经过开源、免费,加快了AI普惠,不管是政企学科等各种单位组织,仍是个人,都能够灵敏地布置自己的大模型,不管是满血版、蒸馏版,仍是微调、再练习。
DeepSeek的迸裂体现,无疑是AI历史上里程碑的一幕,掀起了一股新的浪潮,带来了更多的考虑,也带来了更多的机会。
【软硬全栈:Intel的大模型一体机布置计划】。
跟着AI大模型布置需求的高涨,尤其是DeepSeek的火爆,AI通用一体机逐步为更多人所熟知。,商场上也敏捷呈现了许多产品,不少都直接打出了“DeepSeek一体机”的标签。
Intel天然没有错失这一波机会,充分发挥了自己共同的软硬件“全家桶”优势。
AI一体机包含训推一体、模型推理、模型运用等不同类型,首要面向政务、金融、医疗、教育、制作等笔直职业范畴。
它的长处有三:
一是。开箱即用。:硬件、模型、算法、软件等悉数集成,无需再独自收购、装备、装置、调优,买回来就能用,大大下降运用门槛,并且由于是本地化布置,推迟更低,呼应更快,体会更流通。
二是。隐私安全。:许多企业组织的数据是不能对外的,本地化布置一体机后,能够集成本地常识库、高效智能体,全部处理都能够在本地进行,不会别传。
三是。高效优化。:软硬件适配优化更深化,可大大提高AI模型的运转功率,然后提高作业功率。
不过,DeepSeek等大模型的本地布置,也不是彻底那么简略,要要点考虑多个要素,才干到达功率和经济的最优化。
比方。模型巨细。,是满血?仍是蒸馏?
比方。数据精度。,是更准确但更好资源的FP16/BF16?仍是比较均衡的FP8?抑或速度更快的INT4/FP4?乃至更低比特?
比方。上下文长度。,16K-128K怎么挑选?
比方。吞吐才能。,能否满意时延要求?
比方。呼应才能。,TTFT(首个token)生成时刻有没有超越5秒?TPOT(token生成时刻距离)是否控制在100毫秒之内?
Intel AI全家桶的优势恰恰就在于,不管你想布置什么样的模型,取得什么样的输出作用,不管是在边际侧仍是在端侧(当然也有云侧),都能够找到最合适自己的产品组合。
其间,至强一体机合适满血大模型,锐炫GPU显卡合适蒸馏模型,酷睿Ultra 200系列则合适蒸馏量化模型。
酷睿Ultra系列的全新命名,当然不彻底是改个姓名那么简略,更是标志着开端真实进入AI的新时代。
第一代酷睿Ultra 100H系列(代号Meteor Lake),最高可供给36 TOPS算力,算是开端入门。
第二代酷睿Ultra 200系列直接提高了一个层次,200V系列(代号Lunar Lake)、200H系列(代号Arrow Lake-H)别离可供给最高120 TOPS、99 TOPS的算力,不光能够彻底满意Windows 11 AI+ PC的需求,还为布置更大规划模型供给了支撑,14B蒸馏模型都能够直接搞定,确保流通体会。
除了根底的硬件算力,Intel还有着。老练的AI东西链和生态支撑。,总能得到最早支撑与最好用优化,这是竞品无法比拟的。
迄今为止,仅仅是在国内,Intel AI PC就现已得到了40多家ISV软件开发生的适配支撑。
Intel的锐炫GPU显卡尽管在游戏商场占比不高,可是凭仗先进的架构、大容量的显存、完善的东西链支撑,也悄然成为AI布置的上佳之选。
最新发布的锐炫B系列,调配酷睿Ultra 200系列处理器,单用户单卡即可布置14B模型(FP8/INT4),双卡的话能够支撑32B+模型(INT4)。
上一代的锐炫A系列仍然宝刀不老,调配至强处理器能够组成四卡、八卡一体机,最高能够支撑70B模型(FP8/INT4)。,这也是个十分盛行的计划。
不过留意,体系内存容量也是个关键要素,主张不少于64GB。
这是运用根据酷睿Ultra 200V系列处理器、32GB内存的轻浮本,本地布置DeepSeek 14B模型根底版,能够流通履行常识问答、代码编写等使命,输出速度能到达每秒10 tokens左右。
这儿展现了两个俄罗斯方块游戏的生成,左边是正常的根底版,右侧则是进阶版,每隔20秒左右就会呈现两个新的随机方块,或许生成在恣意落点,然后大大增加了游戏难度。
应战本地布置DeepSeek R1 32B模型,内存也增加到64GB,能够分配大约36GB作为核显的显存,生成速度能够到达每秒14 Tokens。
用它开发小游戏,比方打砖块、五子棋这种等级的,尽管速度说不上飞快,但仍然彻底在可接受程度内,生成的小游戏也都能正常运转。