中国信通院正式启动AI大模型算子适配生态建设工作

7月23日，据中国信息通信研究院消息，为加速大模型软硬件协同生态构建，推动不同尺寸、类型模型与芯片软件栈、Triton等第三方中间件以及开发框架等多路线兼容适配，中国信通院与人工智能关键技术和应用评测工业和信息化部重点实验室依托AISHPerf基准体系，联合业界伙伴共同开展面向大模型的算子级适配生态构建工作。第一批大模型算子级适配测试主要围绕大语言模型算子的丰富度、功能、性能开展，现已正式启动报名。后续将迭代更新算子列表，分类分批持续开展。中国信通院在工作推进过程中，将组织系列研讨及工作会，首期闭门工作会已于2024年7月17日召开。会上，硬件芯片与Triton开源算子适配测试工作启动。