部署架构图: 场景描述
本方案适用于使用GPU进行AI在线推理的场景。在推理之前,模型已经训练完成。例如,刷脸
支付中,我们在刷脸的时候,就是推理的一个过程。再比如图像分类,目标检测,语音识别,语
义分析等返回结果的过程。
解决问题
l 使用GPU云服务器搭建推理环境
l 使用容器服务Kubernetes版构建推理
环境
l 使用NAS存储模型数据
l 使用飞天AI加速推理工具加速推理
产品列表
l GPU云服务器
l 容器服务Kubernetes版
l NAS共享存储
查看更多:https://www.aliyun.com/acts/best-practice/preview?id=62246
上云就看云栖号:更多云资讯,上云案例,最佳实践,产品入门,访问:https://yqh.aliyun.com/
本文系本站编辑转载,文章版权归原作者所有,内容为作者个人观点,转载目的在于传递更多信息,并不代表本站赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题,请与本站联系,本站将在第一时间删除内容!