站长之家用户 - 传媒 2026-09-28 16:51

江波龙存储智能体赋能,优化MoE模型端侧AI运行体验

2026年端侧AI产业进入持续落地,AI PC、AI智能体主机等终端设备承载越来越多本地大模型运行需求。但行业普遍面临同质化硬件堆砌问题,多数设备依靠扩容高额DRAM内存支撑AI推理运转,面对MoE架构模型参数庞大、KVCache缓存持续膨胀的特性,极易出现内存占用过高、推理卡顿、硬件成本飙升等问题,成为端侧AI下沉普及的核心阻碍。作为深耕存储领域多年的半导体存储品牌企业,江波龙跳出传统硬件扩容思路,依托自研全套核心技术,推出AI SSD™专用AI固态硬盘,以软硬件协同架构优化资源调度,高效解决端侧AI落地的资源损耗与成本痛点。

iSA™存储智能体:智能调度重构端侧AI资源逻辑

区别于传统固态被动存储数据的模式,江波龙iSA™作为核心存储智能体,是适配端侧AI推理场景的专属调度引擎,也是AI SSD™实现高效运转的软件核心。针对MoE架构大模型运行痛点,iSA™搭载动态专家卸载机制,不再将全部模型参数留存于内存中,而是将低频使用的专家参数下放至AI SSD™存储空间,仅保留高频活跃参数在DRAM运行,大幅降低内存常驻占用。针对多轮对话、长文本生成产生的KVCache冗余问题,该引擎可实时分层清理、智能缓存调度,避免缓存堆积拖累AI推理速度。搭配SPU(存储处理单元),整套调度过程无需占用主机CPU算力,全程后台静默运行,从软件层面打通存储与内存的协同壁垒,适配多种轻量化端侧设备的算力调度需求。

SPU™硬件赋能落地,全场景适配端侧AI终端

为将智能调度能力落地实处,江波龙搭配自研SPU™存储处理单元,形成“软件调度+硬件执行”的闭环方案,集成于AISSD™产品之中。SPU™内置硬件级无损压缩技术,可在芯片内部完成模型文件与缓存数据的压缩处理,平均压缩比可达2:1,提升存储利用率,进一步缓解内存压力。同时依托HLC高级缓存技术,智能区分端侧AI运行的冷热数据,将非实时运算数据下沉存储,精准释放内存算力资源。

在场景落地与生态适配方面,江波龙与AMD基于锐龙 AI Max+395处理器的智能体主机开展联合调优,实现397B超大模型本地部署;在256K超长上下文(122B)场景下,DRAM占用大幅降低。目前AI SSD™主要面向AIPC、AI Agent Host等主流终端,既满足消费级设备的日常智能运算需求,也可为行业终端量产提供标准化存储解决方案。

当下端侧AI的竞争,已从单纯算力比拼转向存算协同的全链路优化。江波龙凭借成熟的技术积淀,以AISSD™为核心,联动iSA™、SPU™全套自研技术,有效破解DRAM依赖、缓存冗余、推理低效等行业难题。未来品牌将持续迭代调度算法与硬件架构,拓展更多芯片平台适配场景,持续降低端侧AI部署门槛,助力终端人工智能产业高效规模化发展。

相关话题

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,相关信息仅供参考。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

推荐关键词

24小时热搜

查看更多内容

大家正在看