构建覆盖全国的端—边—云 AI 运行与算力控制平面
随着 AI 业务扩展至 31省及下属 N 个地市，模型需要同时运行在摄像机等端侧设备、区域边缘节点和集团云侧算力中心。不同地区的设备规模、网络质量、资源供给和数据合规要求并不相同。
底层并存简云、息壤、星河等多套操作平台，以及 NVIDIA A10/A100/T4、华为 Atlas 300 系列和沐曦等异构芯片资源。模型能否运行，不仅取决于是否有空闲算力，还取决于芯片适配、运行框架、资源规格和业务权限。
AI Infras 因此不是另一套资源后台，而是向上承接模型合作平台与 AI MaaS、向下统一编排端边云算力的 AI 运行中枢。
外部模型提交、验证与上架
数据、训练、测评与工程适配
实例、任务、路由、容灾与回流
模型引入、训练、测评、适配与发布
提交场景、设备范围、任务规则与 SLA
统一承接模型供给与业务需求，完成资源、任务、编排和运营闭环。
模型、版本、镜像、能力标签、发布范围与运行画像
异构芯片、端边云调度、实例管理、容灾与底层适配
抽帧、视频分析、AI 分析、抓拍 1400 与运行轨迹
模型编排、大模型研判、结果过滤、业务路由与回调
全链路日志、异常定位、运维工单、处置反馈与审计
对下统一资源、实例、服务、监控与故障接口
| 能力域 | 关键功能 | 解决的问题 |
|---|---|---|
| AI 模型管理 | 模型/镜像版本、能力标签、芯片兼容矩阵、发布范围 | 把模型文件转化为可验证、可调度的运行资产 |
| 算力管理 | 异构适配、端边云调度、AI 实例、弹性、容灾、底层平台对接 | 统一管理容量、负载、芯片差异、服务范围与资源缺口 |
| 任务管理 | 抽帧、视频分析、AI 分析、抓拍 1400、全链路轨迹 | 统一追踪设备、视频流、实例、节点和回调状态 |
| 业务编排 | 模型编排、大模型研判、结果过滤、路由与业务回调 | 把单模型推理升级为可配置、可运营的场景化 AI 流程 |
| 任务日志与工单 | 全链路日志、异常定位、自动工单、处置反馈与审计 | 将任务异常转化为可跟踪、可协同、可闭环的运营流程 |
先校验权限与硬性运行条件，再在可用位置中平衡时延、负载、成本与稳定性。
两阶段策略避免将“有空闲卡”错认为“可运行模型”。
从单实例到算力中心逐级隔离故障，回切策略避免任务在节点间反复震荡。
AI Infras 负责发现、筛选与安全回流问题样本；AI MaaS 负责将样本生产为新的可部署版本。
覆盖31省，62分布式节点 + 3核心节点。
涵盖纳管六款主流推理芯片，统一适配与调度。
沉淀标准、行业、省份自研与客制化模型。
支撑全国多类视频与 AI 分析任务稳定运行。
各省业务无需重复对接底层算力平台和自建调度系统。
打通模型、实例、任务、告警、反馈与回流全链路。
以端边优先、云侧授权兜底和多级容灾支撑业务连续性。
将现场问题样本安全反馈至 MaaS，形成模型迭代闭环。
基于实际平台能力重新设计的脱敏概念界面，重点呈现算力、模型、编排和任务运营的核心逻辑。
