某银行算力池管理平台项目
当前,AI Agent(智能体)正经历从“概念验证”迈向“规模化应用”的关键拐点,AI业务创新对大规模、多元化算力的需求呈现爆发式增长。然而,某银行的算力资源往往呈现分散、异构的状态,存在资源利用率不均衡、管理运维复杂、成本居高不下,以及难以快速响应业务需求等诸多痛点。为应对复杂模型训练及高并发推理服务带来的挑战,行内亟须构建一个集中、高效、弹性且自主可控的算力基础设施。为此,提出建设新一代统一算力池管理平台,旨在实现对全域异构算力资源的融合纳管与智能调度,为数字化转型提供坚实、敏捷的底层支撑。
平台构建智能调度引擎,支持优先级调度保障高优业务算力供给,提供紧凑调度与分散调度策略适应不同负载特性,引入组调度满足多卡训练任务的同步资源需求。同时实现全域拓扑感知调度,感知节点间、节点内NUMA及卡间通信拓扑,进行亲和性绑定与通信路径优化,并配合负载均衡调度动态平衡集群压力,替代低效的人工分配,充分释放高性能算力。
针对近300张H200显卡利用率偏低的问题,平台集成GPU虚拟化与算力切分技术,支持以1%算力粒度、MB级显存粒度进行精细化切分,实现资源的超分与弹性复用。不同负载(如模型推理、开发测试)可按需分配适当比例的算力,在不新增物理卡的前提下大幅提升卡级利用率,有效避免宝贵算力资源的浪费。
为兼容未来引入的国产GPU卡并消除厂商绑定风险,平台采用异构算力适配架构,通过标准化设备插件与驱动封装层,实现对NVIDIA、昇腾、寒武纪、海光等不同厂商、不同型号GPU的统一纳管。业务无需感知底层硬件差异,即可在异构算力池中获得统一调度与混合部署能力,满足政策合规与供应链安全要求。
平台作为OpenShift(OCP)的智算扩展组件,通过Operator模式无缝集成至现有OCP环境,复用其统一认证、监控日志、服务网格等能力。GPU容器化作业可直接通过OCP界面或API提交,底层算力由统一算力池透明调度,从而保持基础设施架构统一,避免形成新的技术孤岛,降低运维复杂度。
平台配套建设智算运维运营子系统,提供GPU专业监控与故障预测能力,实时采集温度、功耗、显存带宽等核心指标。同时实现以vGPU、核时、显存时为粒度的精细化计量计费,支持按项目、部门等多维成本分摊,通过运营看板展示利用率趋势与配额消耗排名,助力成本核算与精细化管控,推动AI基础设施从“重建设”转向“重运营”。
自统一算力池管理平台上线以来,该银行在AI基础设施的调度效率、资源利用率及运维精细化等方面取得了显著成效:
1. 调度效率大幅提升,算力性能充分释放
智能调度引擎投入使用后,GPU资源分配从人工模式升级为全自动策略化调度,作业平均等待时间降低70%。全域拓扑感知调度使多卡训练任务的跨节点通信延迟减少40%,单卡实际有效算力提升30%以上,高性能H200设备的算力潜能得到充分释放。
2. GPU利用率显著提高,硬件成本有效节约
通过GPU虚拟化与1%粒度精细切分,近300张H200显卡的平均利用率从原先不足20%提升至65%以上,峰值时段可达80%。在不增购新卡的情况下,可并行支撑的推理服务数量提升3倍,开发测试环境资源供给周期从天级缩短至分钟级,预计每年节省硬件采购成本超千万元。
3. 异构算力统一纳管,成功实现国产化替代
平台已成功接入昇腾、寒武纪等国产GPU卡共计50余张,与现有NVIDIA卡池实现混合部署与统一调度。业务层无需修改代码即可按需调度不同厂商算力,顺利完成首批国产化试点应用迁移,彻底消除单一厂商绑定风险,满足信创合规要求。
4. 云原生架构全面统一,消除技术孤岛
平台以Operator模式无缝集成至行内标准OpenShift(OCP)集群,GPU容器化作业直接通过OCP界面提交,底层算力统一调度。基础设施架构实现完全统一,运维团队不再维护多套管理面,整体运维复杂度降低50%,版本升级与故障排查效率提升60%。
5. 精细化运营体系落地,实现“重建设”向“重运营”转型
运维运营子系统上线后,实现了GPU核心指标的秒级监控与故障自动预警,累计提前发现并规避多起潜在硬件故障。精细化计量计费功能覆盖全部AI项目组,每月自动生成部门级算力账单,成本核算准确率大幅提升。运营看板支撑下,资源配额平均回收效率提升80%,闲置资源得到及时释放,真正推动智算基础设施从“重建设”向“重运营”转变。
中电金信鲸Bot RPA是一款面向金融行业客户的机器人流程自动化的开发平台。
-
鲸Bot设计器
鲸Bot设计器集成了浏览器自动化组件,office办公自动化组件,数据库组件,文件处理组件、邮件组件等多种类型组件,通过全栈自动识别技术,自动识别目标元素,使开发过程所见即所得,降低了RPA开发门槛,让业务人员也可以方便地进行业务流程的开发。
-
鲸Bot机器人
通过手动执行、定时执行、控制台远程调用的方式运行自动化流程,配合控制台对外提供API接口,供外部程序调用。通过特有的视觉反馈技术提供统一的异常处理机制,极大降低开发和运维成本,让RPA流程运行更加稳定,而解决金融行业因技术人员产能不足难以支持其业务发展的问题。




