2026RISC-V中国峰会期间，武汉元石智算科技有限公司（以下简称“元石智算”）在“数据中心与高性能计算”分论坛发表主题演讲，分享了RISC-V服务器级全栈AI推理的最新技术成果与工程实践。
武汉元石智算科技有限公司CTO 席宏海
作为以RISC-V为基础的AI异构集群方案提供商，元石智算始终围绕RISMA®（RISC-V Multi-Architecture）核心产品战略，推进RISC-V与多元算力技术融合。
本次演讲主要向大家汇报了公司在RISC-V服务器级AI计算领域取得的技术进展:打通从底层硬件、驱动、编译器到大模型推理服务的完整技术链路，进一步验证了RISC-V作为AI计算系统主处理器的可行性。
1.打通全栈链路，验证RISC-V高性能AI推理能力
当前，RISC-V服务器硬件日趋成熟，但在GPU驱动、运行时、编译器及AI推理框架等方面，仍面临软件生态适配的挑战。
针对这一问题，元石智算研发RVOCs（RISC-V Open Computing System）开放异构计算系统，采用双路80核RISC-V服务器，支持最多8张双宽AI加速卡，并以AMD ROCm作为参考软件栈，完成Linux内核驱动、ROCm运行时、LLVM/Triton编译器、PyTorch、vLLM及MaaS模型服务等关键组件的适配，实现从硬件到大模型推理服务的端到端贯通。
元石智算展台针对RVOCs系统进行动态展示
北京RISC-V创新中心展出元石智算最新款RISC-V AI服务器
（基于RVOCs系统）
在采用AMD Radeon AI PRO R9700GPU的对比测试中，RISC-V平台32并发推理吞吐达到x86对照平台的95.8%，并完成了12小时压力稳定性验证。
测试结果表明，经过全栈适配，RISC-V已能够承担GPU设备管理与推理任务调度，支撑大模型推理服务运行。
2.深耕RISMA战略，完善AI异构算力体系
RISMA是元石智算的核心产品战略，该战略以RISC-V为基础，融合国产及先进多元算力，涵盖算力硬件、智算软件与系统级解决方案。
此次RVOCs项目践行RISMA战略，聚焦RISC-V服务器与GPU的底层协同，验证了服务器级AI推理能力。
公司由此积累的全栈适配经验，也将为RISMA产品体系的技术演进提供参考，支持公司进一步完善软硬协同的AI异构算力解决方案。
3.沉淀跨架构经验，推动开放计算生态发展
在RVOCs研发过程中，元石智算围绕不同处理器架构在内存模型、同步机制、编译目标等方面的差异，逐层解决软件兼容性问题，形成了一套可复用的全栈适配方法。
相关技术成果为RISC-V与多元AI加速器的协同提供了工程参考，也为后续国产AI芯片适配积累了实践经验。
下一阶段，项目将继续推进多卡互联、RISC-V向量化优化及软件生态建设，拓展开放异构计算系统的应用能力。
4.结语
面向Token经济时代，元石智算始终围绕RISMA产品战略，提升多元算力资源的整合与服务能力，助力企业建设高效能、低成本的Token工厂，朝着“成为AIDC算力系统领域最受人尊敬的企业，赋能千行百业”的愿景稳步前进。
通讯作者:李梦竹