国产GPU景嘉微完结DeepSeek R1系列模型适配
快科技2月12日音讯,国产GPU厂商景嘉微今日宣告,JM系列、景宏系列与DeepSeek R1系列的成功适配,进一步推进DeepSeek在云边端等各类场景的运用。
其间,景嘉微JM系列完成了DeepSeek-R1-Distill-Qwen-1.5B模型和DeepSeek-R1-Distill-Qwen-7B模型的适配。
一起,景宏系列已全面兼容并适配DeepSeek R1全系列模型,掩盖从1.5B至70B参数规划的LLaMA及千问模型架构。
根据vLLM推理结构的布置计划,完成了高效推理性能与经济性的两层优势,为开发者供给了快捷的开发支撑。
该计划支撑快速发动和运用,无需杂乱装备,助力AI技能的规划化落地运用。
景嘉微官方还表明,向我国AI开发者问候,这次国产GPU与国产大模型结合,也算是梦境联动了。
值得一提的是,近期摩尔线程相同完成了对DeepSeek蒸馏模型推理服务的高效布置,开发者能够根据摩尔线程全功能GPU,进行AI运用立异。
此外,用户也能够根据摩尔线程MTT S80、MTT S4000显卡,进行DeepSeek-R1蒸馏模型的推理布置。
内容来源:https://nlsngoisaoviet.com/app-1/tại b52 club,http://chatbotjud-teste.saude.mg.gov.br/app-1/mundo-aplicativos
本文地址:http://w.21nx.com/article/13426636-68b35799574.html
版权声明
本文仅代表作者观点,不代表本站立场。
本文系作者授权发表,未经许可,不得转载。