计世网

GPU 推进阿里巴巴业务突破 为AI推理应用强势赋能
来源:计算机世界
2018-09-19
作为NVIDIA 在中国重要的合作伙伴,阿里巴巴正在将GPU大规模的应用于诸多业务的AI 推理应用中,借助GPU 带来的强大算力为AI 应用赋能,助力多个业务实现突破。

 

      杭州2018云栖大会,展现了云计算、大数据、人工智能蓬勃发展的技术生态。作为人工智能计算平台领导厂商,NVIDIA展示了最新GPU平台和基于GPU计算平台阿里巴巴在诸多业务上的创新应用。作为NVIDIA 在中国重要的合作伙伴,阿里巴巴正在将GPU大规模的应用于诸多业务的AI 推理应用中,借助GPU 带来的强大算力为AI 应用赋能,助力多个业务实现突破。

优酷视频:通过AI实现视频自动化审核、质量分级和聚类选品

优酷视频内容理解是阿里巴巴应用NVIDIA GPU做推理端AI应用的一个代表,借助AI技术,优酷还可以生成视频审核,聚类选品等。

在优酷平台上,每天就有大量上传视频,涉及种类繁多,内容多元,并且热点内容层出不穷。但内容处理的时效性要求也特别强。在具体输出内容理解时,还会涉及到多个维度,如镜头、标题、OCR、音频、图像、光流,因此需要多种AI算法同时运行处理。为了更快速实现视频审核、内容理解、聚类选品等,把更加优质、时效性的内容推荐给用户,优酷需要有强大计算力的支撑。目前优酷基于NVIDIA Tesla GPU来实现视频的自动化处理。

NVIDIA也专门针对优酷业务做了定制化的框架,支持优酷全线业务。该计算框架可以实现全流程管理,并通过软硬件混合解码优化,图像处理CUDA加速,图像批量计算,TensorRT 模型加速等手段进行全链路优化。以视频分类为例,当一个视频上传到优酷平台后,在GPU的支持下,机器在特定时间内抽帧,并从中提取特征,通过分类网络形成内容标签,就可以对视频进行分类。

目前优酷机器分类结果的准确率已经接近或达到人工分类水平。在处理效率上,人工处理约为每分钟6个视频,而NVIDIA Tesla P100处理速度达到每分钟300个视频,是人工效率的50倍。

Alimama :AI为用户实时推荐最感兴趣的产品

在互联网广告中,点击率的预测起着至关重要的作用。将深度学习技术广泛应用到点击率预测中,极大地提高了预测的准确性。阿里妈妈机器学习平台使用大数据训练DNN(深度神经网络)模型,通过推理平台实时为用户提供其最感兴趣的产品。

阿里妈妈训练XDL平台,支持多种算法,XDL能够从1000亿种特征和示例中学习,在整个训练过程中,因为GPU的作用,XDL的运行速率得到了10倍提升。

阿里妈妈大规模在在线预测平台RTPlus上,支持各种深度学习模型的推理。为应对高吞吐量和低延迟的需求,阿里妈妈通过使用NVIDIA Tesla P100,优化批处理和内核融合,将性能提高大约10倍。

蚂蚁金服定损宝 :借助 AI 技术,实现自动化图片定损

定损宝是蚂蚁金服推出的“全自动汽车定损解决方案”,截至2018年8月,已经有超过5家保险公司采用了这个方案。

日常的车辆定损中存在等待响应时间长、定损流程繁琐、骗保或者定损过高等情况。而定损宝则选择用全自动化的方式,来为车主进行定损、维修一条龙服务。车主只需要在事故现场用自己的手机拍下图片就能够完成整个流程。

随后图片就将被上传至云端,进行相关损害的分析,在确定损害程度之后,计算机就会直接给出定损金额。并且为车主直接提供最近的维修地点指示,全程不需要保险公司线下人员的介入,正是有了GPU在AI推理端的助力,使得定损宝借助AI技术得以实现自动化图片定损,大大方便了人们的出行。

一抵十万的阿里巴巴安全内容审核

网络图片内容体量庞杂,仅凭人工审核不仅耗时耗力,而且很难保证准确度。阿里巴巴采用基于NVIDIA Tesla P100的鉴黄技术正在将人工鉴黄师逐渐解放出来,目前阿里巴巴AI鉴黄师可以一天处理10亿张图片,完胜10万人的审核量。同时,AI鉴黄师每天识别准确率高于99.5%。举个例子,一天要审核4亿张图片的话,单纯由人工来审,一人一天审1万张,需要4万人,而AI鉴黄只需将其中20万张可疑的图片筛出来,由人工再审一次,这样只需要20人即可。

除了图片之外,阿里巴巴AI鉴黄师连带有情色信息的语音内容都能识别,并且可以支持中文、日文、英文等多国语言,还支持东北、四川、广东等地方言。

2017年10月,阿里巴巴安全还公布了一个名为“云盾·实人认证”的全新产品,包含实人认证、人脸验证、人脸检索、离线授权认证SDK等4项服务。主要依托活体检测、人脸比对等生物识别技术、证件 OCR 识别技术、阿里巴巴实人可信模型等进行的自然人真实身份的核验服务,这也创新的应用都是基于NVIDIA Tesla P100 GPU加速器在AI推理端的助力。

 

责任编辑:李丽