发挥GPU优秀的并行计算能力,使用容器可以快速获得需要的应用环境,是目前推荐的深度学习与数据科学开展研究的方式。它便于资源的分配与调度,优化异构资源调度:提供弹性、高效、细粒度(支持GPU共享)、简化异构资源管理复杂性;提升可观测性和使用效率, 可移植、可组装、可重现的AI流程;可加载多种深度学习预训练模型模块,预安装pytorch、tensoflow等深度学习框架与相关计算库。
随着人工智能与边缘计算的发展,各种数据科学的应用落地,在在线教育行业中部署相关的服务去支持业务开展已成为大势所趋——深度学习下的图像识别、NLP等技术给行业带来新发展空间。
数据规模在不断增长,使用公有云部署业务是一种便捷的模式。但越来越多企业用户发现,大规模使用公有云基础及其深度学习API服务,已成为每年开支中的大头。混合云部署的模式业务的模式可能成为更合理的选择,把部分重要业务部署在企业私有云中,不仅可获得对业务与数据安全的全面控制,据第三方测评,对中小型规模集群、私有部署甚至可能降低高达70%的运维服务费用。把部分业务私有部署,已成为在线教育行业中稳健的选择。
在混合云部署中,云原生计算成为先行崛起的理念。云原生计算依靠资源云化(虚拟化),应用云化(标准化、自动化、可拓展、高可用),云原生(互联网规模、敏捷,弹性)的优势,逐渐成为人工智能深度学习、数据科学等应用及服务的载体。