您好、欢迎来到现金彩票网!
当前位置:刘伯温四肖中特料 > 推理网络 >

阿里开源首个移动AI项目:淘宝同款推理引擎

发布时间:2019-05-27 01:26 来源:未知 编辑:admin

  刚刚,阿里巴巴宣布,开源自家轻量级的深度神经网络推理引擎MNN(Mobile Neural Network),用于在智能手机、IoT设备等端侧加载深度神经网络模型,进行推理预测。

  这是阿里开源的首个移动AI项目,已经用于阿里手机淘宝、手机天猫、优酷等20多个应用之中。覆盖直播、短视频、搜索推荐、商品图像搜索、互动营销、权益发放、安全风控等场景。在IoT等移动设备场景下,也有若干应用。

  阿里表示,在iOS、Android的CPU、GPU性能上,MNN已经普遍领先业界。

  淘宝端智能无线技术专家离青说,MNN开源之后,每隔两个月都会进行一次更新,发布经过淘宝应用验证的版本。

  基于淘宝和达摩院的研究成果,阿里巴巴在2017年10月正式组建了MNN团队。

  经过淘宝技术部、搜索工程团队、达摩院团队、优酷等各方力量的打磨,以及双11和集五福等重大业务项目的考验,在离青看来,MNN已经是一个成熟的推理引擎了。

  当前,MNN已经支持Tensorflow(Lite)、Caffe和ONNX,PyTorch/MXNet的模型可先转为ONNX模型再转到MNN。而且,也能通过算子融合、算子替代、布局调整等方式优化图。

  为了更好地完成对模型的加载、计算图的调度,以及各计算设备下的内存分配、Op实现等任务。

  他们在MNN中应用了多种优化方案,包括在卷积和反卷积中应用Winograd算法、在矩阵乘法中应用Strassen算法、低精度计算、多线程优化、内存复用、异构计算等。

  轻量性:针对端侧设备特点深度定制和裁剪,无任何依赖,可以方便地部署到移动设备和各种嵌入式设备中。

  高性能:不依赖任何第三方计算库,依靠大量手写汇编实现核心运算,充分发挥ARM CPU的算力。比如,在iOS设备上,可以开启GPU加速(Metal),常用模型上快于苹果原生的CoreML。

  易用性:有高效的图像处理模块,覆盖常见的形变、转换等需求,一般情况下,无需额外引入libyuv或opencv库处理图像。

  MNN不仅支持回调机制,可以在网络运行中插入回调,提取数据或者控制运行走向;还支持只运行网络中的一部分,或者指定CPU和GPU间并行运行。

  离青介绍,这一项目的核心目标,就是进一步降低开发工程师和算法工程师在移动环境中使用深度学习技术的门槛。

  2019年春节期间,淘宝通过扫年货的方式加入到了阿里“集五福”活动之中。

  具体的使用场景是,通过扫一扫商品识别能力,来识别红色年货,并分析照片中有年货的概率,根据概率来发放相关权益。

  首先,为了扫描年货,淘宝在服务端用百万张年货图片训练出了一个可以鉴别年货的深度神经网络模型。

  用户通过相机扫描年货时,淘宝会获取相机中的照片数据。然后,对照片做预处理,包括图片的缩放、颜色空间的转换等。

  离青说,扫年货是一个基于相机的应用场景,使用云端AI会消耗用户大量的流量去传输逐帧照片、服务端的计算资源,同时响应速度也会取决于网络状况。

  它能够结合训练好的模型和经过处理的数据,快速做出相应的计算处理,分析出照片中有年货的概率。

  如果照片中有年货的概率达到淘宝设定的标准,就可以认定用户扫描到了年货,进而发放相关的权益。

  这只是阿里将移动AI应用到自身业务之中的一个场景;MNN,也只是阿里众多移动AI项目中的一个。

  在离青看来,移动AI领域的应用、框架/引擎、硬件方面都有着很多的可能性。

  接下来,他们将会在维持MNN轻量、通用、易用、高性能等方面特点的情况下,进一步加强在端侧核心算法的投入,降低开发者使用门槛,探索如何在云+端结合的情况下,发挥出更强的AI能力。

  在这个项目中,阿里巴巴提供了使用说明文档和基于图片、视频流的示例应用等等。

  他们也发出呼吁,希望大家多多进行体验、反馈,用MNN构建出不同的人工智能应用~

  今年3月份正式宣布加入阿里的框架大牛贾扬清,在MNN项目开源评审时也给出了自己的建议。

  在贾扬清看来,与Tensorflow、Caffe2等同时覆盖训练和推理的通用框架相比,MNN更注重在推理时的加速和优化,解决在模型部署的阶段的效率问题,从而在移动端更高效地实现模型背后的业务。

  离青说,这样的转变,让MNN有了更切合使用场景的定位,对于其进一步发展,和为开发者服务,都有很大的帮助。

  【TechWeb】5月21日,近日, 自动驾驶创业企业禾多科技创始人兼CEO倪凯出席第三届世界智能大会世界智能驾驶...

  IT之家5月21日消息 在月初的2019年谷歌I/O开发者大会上,谷歌宣称其研发的人工智能技术可以比医生早一年查...

  新浪科技讯 北京时间5月21日消息,据彭博社报道,尽管Facebook不销售机器人,但该公司研究人员在大量使用机...

  【TechWeb】未来的人机交互会是什么形态?从复杂难用的Dos到方便快捷的个人电脑,从九宫格键盘再到智能手...

  Spotify即将开始公开测试其第一款硬件:一款语音控制的智能汽车助手,旨在帮助Spotify了解人们在开车时是如...

http://mojdzwonek.com/tuiliwangluo/101.html
锟斤拷锟斤拷锟斤拷QQ微锟斤拷锟斤拷锟斤拷锟斤拷锟斤拷锟斤拷微锟斤拷
关于我们|联系我们|版权声明|网站地图|
Copyright © 2002-2019 现金彩票 版权所有