您好,欢迎来到南京仲子路科技有限公司!

用我们的专业打造智慧的城市

Create Smarter Cities via Our Expertise

4001-868-111

025-83690378

AI火了,但数据分析模型管理难、部署难的问题,应该怎么解决?

发表时间:2023-11-18 人气:403

AI火了,但数据分析模型管理难、部署难的问题,应该怎么解决?

近年来,随着数字化基础设施建设不断完善,企业产业智能升级的需求不断增长,人工智能产业发展进入快车道。随着人工智能和机器学习在各个行业的应用逐渐深入,AI模型数量将呈现几何级数增长,而这也带来了一些问题:
    ▶管理难:不同模型之间的框架、部署方式不尽相同,导致异构模型很难统一管理和维护;
    ▶部署难:模型部署缺少统一的流程规范,模型部署周期过长,运维成本高。
为解决AI模型难以统一管理、无法快速部署及模型落地难等问题,美林数据AI团队倾力研发了一套基于Fass框架实现的三方模型管理平台。

三方模型管理平台

三方模型是基于开源项目OpenFaas,为数据科学家构建的一套模型的在线开发、统一管理、部署和运维的管理平台,可以让AI模型的工程化部署应用更加简单、便捷和高效。平台采用Serverless的服务模式构建,具备高扩展、高可用和高性能等特点,用户无需再关注底层服务构建和资源分配等细节问题,可以更聚焦于业务模型代码的开发。

▶ 异构AI模型统一管理,运维更省心

对于不同AI模型的框架(TensorflowPMMLKerasPyTorch等)构建一个Docker基础镜像,在三方模型平台上进行统一的上传和管理;在模型开发时,平台提供了统一的模板,进行在线开发和在线调试,同时支持模型的版本管理,确保每个模型具有可追溯性。
▶ 一键发布AI模型,部署更快捷
    模型上线部署可通过界面式参数进行配置,配置好模型的相关参数后,即可一键发布模型,还能生成标准API,供后续服务调用,降低部署难度和复杂度。另外,平台还支持多种函数触发器创建同步服务、异步服务、Kafka服务和调度任务等,满足工程化的部署应用需求。 

      ▶AI模型横向扩张,运行更智能
三方模型所管理的AI模型是运行在K8s集群上,K8s集群可以横向扩展、根据并发请求数、CPU、内存等指标实现自动扩缩容,当服务空闲时,实例副本能自动缩减到零,确保资源的合理利用。
      ▶AI模型在线写代码,开发更高效
平台内嵌编辑器,可提供统一的开发环境,无需用户在本地搭建环境,实现模型的在线开发与封装,降低维护成本,提升模型的开发效率。
      ▶一站式建模,流程更完整
三方模型管理平台在实践操作中,涵盖了从模型接入、模型管理、模型运维到模型应用的全流程。 

通过平台,能实现AI算法模型的快速部署,让整体效率提升4.5倍,即使同时在线上百个模型预测服务,单条数据也可实现毫秒级响应。
总结
       三方模型能让数据科学家无需关注底层运行环境,只专注于业务模型代码的开发,在线编码、快速进行模型部署,并成功解决了异构模型统一管理和运维的问题,三方模型采用函数即服务(Fass)架构实现,具备资源易扩展、高可用和高性能等特点,帮助企业快速进行AI模型部署和应用。

 

声明:本文只做技术研究讨论,请勿用于非法目的,如果恶意使用造成任何法律责任本站概不负责!

logo

专业承接弱电工程和机房建设项目!

全国统一电话 4001-868-111

回到顶部