AI利用开发平台系统

先进技术

788878 (1).jpg

基于 K8s的算力调度引擎：平台选取容器化部署方式，基于云原生K8S容器封装算法代码、推理代码、依赖库及硬件库，在容器环境中运行推理服务。平台支持动态资源配额调整和推理专用资源规划，同时通过削峰填谷、工作列队和失败沉试机造，使推算资源达到最大化利用。