12月25日,浪潮信息与智源研究院达成战略合作协议,双方将紧密协作共建大模型多元算力开源创新生态,提升大模型创新研发的算力效率,降低大模型应用开发的算力门槛。目前,智源Triton算子库FlagGems已正式接入浪潮信息的元脑企智EPAI企业大模型开发平台,助力企业实现更快速、更广泛、更高效的多元算力适配与使用。
面向应用,携手共建多元算力系统生态
人工智能的持续进步推动了算力多元化与模型多样化,在为产业注入创新活力的同时,也带来了较高的大模型应用开发技术门槛。元脑企智EPAI(Enterprise Platform of AI) 是浪潮信息为企业AI大模型落地应用打造的高效、易用、安全的端到端开发平台,支持主流开源与闭源大模型的应用快速开发,可实现大模型应用在跨算力平台上的无感迁移,降低多元、多模的适配与试错成本。
FlagGems是由智源研究院于2024年6月推出的面向多元算力的开源大模型通用算子库,在Triton生态开源开放的基础上,面向多元算力,遵循统一的中间语言、统一的算子接口和统一的开源算子库实现路径,以大模型需求为导向,为多元算力提供开源、统一、高效的算子层生态接入方案。截止12月,FlagGems已提供超过130个大模型算子,是目前提供算子数量最多、覆盖广度最大的开源算子库。
此次,智源研究院携手浪潮信息,将FlagGems算子库与元脑企智EPAI内置的核心计算框架进行深度融合,旨在确保大模型应用开发能够使用高性能、跨硬件、多框架兼容的算子集合,顺利跨越各类硬件架构,满足多种开发框架的需求。现在,基于元脑企智EPAI大模型开发平台,企业可以利用针对大模型应用开发场景优化的先进算子集合,在多种算力平台上高效构建、优化和执行复杂的行业应用算法。在复杂的训练任务及实时性要求严苛的推理场景中,均能实现稳定且高效的运算性能。此外,企业也无需关心多元异构加速卡之间的软硬件差异,真正实现大模型应用在跨算力平台上的无缝开发与迁移。
浪潮信息 × 智源研究院:开源开放,产业协作破解多元多模挑战
算力产业在大模型技术趋势的推动下飞速发展,但硬件架构、指令集的差异及算子库的独立实现却形成了生态藩篱,显著提高了企业应用大模型的算力门槛,构建一个开源、统一、高效的多元算力系统生态显得尤为迫切。
智源研究院副院长兼总工程师林咏华表示:“元脑企智EPAI为企业提供从底层算力到上层应用的一站式支撑,而智源FlagGems提供了高性能、跨硬件、多框架兼容的大模型算子,二者如同精密的‘齿轮组’,确保模型在各类硬件架构中顺滑运转,适配多种开发框架需求,让主流大模型跨越硬件藩篱,无论是复杂的训练任务,还是实时性要求严苛的推理场景,均能稳定、高效运行,性能表现媲美原生模型。”
浪潮信息高级副总裁刘军表示:“在多元多模的产业格局下,AI的产业化落地本质上是推动人工智能与百行千业的深度融合,浪潮信息元脑企智EPAI企业大模型开发平台与智源通用算子库FlagGems的全面对接,是双方解决生态离散,化解大模型产业化落地的算力转化和开发复杂等高门槛难题的重要举措,将为AI应用创新注入更强大、多元的算力支持,助力构建协同共生、开放共赢的多元算力系统生态,充分释放智能生产力。”
未来,浪潮信息将与智源研究院携手并进,持续推进硬件开放与软件开源,以开源开放、多元多模激发创新活力,以多元算力系统生态加速创新落地,协力共建一个更加高效、灵活、开放的人工智能应用生态。