10 月 22 日- 25 日， 2024 安博会在北京举行。本届安博会以“数智世界 全域安全”为主题，全面展示近年来人工智能与警务结合应用的比较新技术成果。
在本次安博会上，云天励飞全面展示利用边缘AI技术和产品打造“大模型+警务”创新应用的成果。
1个边缘AI技术底座
云天励飞自主研发了两大技术平台——多模态大模型“云天天书”、NPU加速计算平台，这两大技术平台为云天励飞边缘AI构筑起了一个坚实的技术底座。
“云天天书”系列大模型使用自研训练框架，全栈适配国产算力，在可伸缩训练、断点续训等业界难点问题上屡次取得创新突破。采用首创SPACE高性能推理引擎，同等条件下推理速度提升超80%，做到“算得快、算得多、算得精”。具备边缘端硬件在线微调学习能力，通过能力蒸馏研发的1.8B轻量化模型和MoE大模型，边缘应用性能普遍优于同等参数模型，可支撑大模型在边缘设备的广泛落地。“云天天书”大模型已于 2023 年底正式通过中央网信办备案。
基于NPU加速计算平台，云天励飞从成立至今已完成 3 代指令集架构、 4 代神经网络处理器架构的研发，且已陆续商用。 2023 年底比较新推出的 AI 芯片 DeepEdge10 基于自主可控的先进国产工艺打造，支持Chiplet技术，可实现单芯片算力的灵活扩展，满足不同场景的算力需求。目前DeepEdge10 已在摄像头、边缘服务器、机器人、汽车等边缘设备落地应用。
2款面向警务的边缘AI产品
本次安博会上，云天励飞带来两款全新的“天舟”大模型推理一体机产品D222B和D228B。
“天舟”是云天励飞基于自研芯片、加速卡和大模型打造的面向大模型应用的软硬一体化产品，可实现大模型低成本部署、开箱即用。
本次展出的两款新品内置云天励飞自研IPU-X2000 加速卡。IPU-X2000 基于DeepEdge10 打造，峰值算力达32Tops@int8，单卡支持 40 路 1080P 视频解析，单路比较大支持 800W 像素视频流，适配Transformer模型、BEV模型等各类不同架构的主流模型。
D222B和D228B分别支持 80 路和 320 路视频算法分析，实现大模型在监所、督查、交管、治安等场景的快速赋能。
3项创新智慧警务功能
基于“云天天书”大模型，云天励飞针对警务的行业特性，打造了“云天天书警务大模型”，并结合云天励飞 10 年来沉淀的丰富警务行业知识，为各类警务应用提供智能支撑。
本次展会上，云天励飞重点展示 3 项创新功能——视频巡逻、语义搜和视图增强。
视频巡逻:智能识别危险动作、风险行为，有效预防风险、降低警情、节约警力。
语义搜:将VQA(Visual Question Answering)与TSG(Temporal Sentence Grounding)技术巧妙融合，实现“一句话就是一个技战法”。
视图增强:实现图像超分辨率、夜景增强、智能去噪、素描转换图像、图像着色，以及年龄变化模拟(加龄减龄)等。
N项创新警务应用
本次展会上，云天励飞还全面展示了多项行业与大模型结合的创新解决方案，包括“深海”警务多维大数据应用解决方案、电动自行车综合治理解决方案、智慧监所解决方案、智慧安防社区解决方案、AIGC视图增强解决方案等。