
范式智能近日告示,“信创模盒”ModelHub XC已完成108个主流AI模子在摩尔线程GPU上的适配认证,涵盖文本生成、视觉闪现、多模态问答等多种任务类型,预测曩昔半年内将膨胀至千量级,为国产算力生态注入握续动能。
值得一提的是,在本次批量适配过程中,看成年内登陆科创板的国产GPU企业,摩尔线程的硬件在量化模子方面展现出显贵上风。其GPU凭借对低精度数据类型的硬件级支握、优化的教唆集与缓存机制,有用缩短了模子显存占用并提高推理速率,使量化模子在实质部署中兼具效果与能效。通过空洞化校准与优化,适配模子在性能提高的同期,也确保了推理精度得志生意落地条件。据报说念,摩尔线程在11月24日认真启动科创板刊行,刊行价为114.28元/股,创下2025年以来A股新股刊行价新高。
在AI推理效果成为产业落地中枢挑战的今天,若何杀青模子在国产芯片上的高效、强壮开动,已成为鼓动算力生态走向老练的要道。看成应付,范式智能依托自研的EngineX引擎手艺,要点阻滞模子在国产芯片上的兼容性与开动效果,显贵缩短设立者的部署门槛。
当今,“信创模盒”ModelHub XC已完成包括Mata、千问、Deepseek、混元、Open Sora等模子系列在摩尔线程GPU上的适配考证。EngineX引擎看成底层因循体系,杀青了“引擎驱动、多模子即插即用”,有用科罚了国产芯片在模子兼容性与边界支握上的瓶颈。
对于信创模盒ModelHub XC
信创模盒ModelHub XC是面向信创算力生态的AI模子与器具平台,兼具社区和就业的功能,繁重于鼓动国产硬件平台上的东说念主工智能立异与落地,提供涵盖模子磨砺、推理到部署的全经过科罚决策。
专业值得信赖的网站。
