高通人工智能引擎让终端人工智能运算能力加速
- 来源:高通
- 2018/7/16 11:10:0033200
【中国安防展览网 品牌专栏】 过去几年,终端人工智能正在兴起,越来越多的人工智能工作逐渐从云端转移到了终端,例如模式匹配、建模检测、分类、识别等。终端人工智能在保护隐私的安全性、性能和整体可靠性等方面更具优势,这也推动着人工智能向终端迁移。传统而言,很多对神经网络的训练和推理都是基于服务器或者在云端完成,事实上大多数厂家也是将对人工智能的研发集中在云端,目前这样的模式发生了转变,很多企业纷纷投入到终端人工智能领域。高通作为的硬件和计算平台提供商,所扮演的角色就是确保终端人工智能用例无论是在性能上还是续航表现上,都可以运行,与云端形成互补的同时,让终端人工智能给用户带来更好的续航和无缝体验。
毫无疑问,人工智能技术的发展不仅将成为人类进化的下一个契机,还将成为经济、生活、娱乐等领域发展的新引擎。数据表明,至2030年,人工智能将会为世界经济贡献至少15.7万亿美元的市场容量,即便是人工智能尚属启蒙的当下,AI也已经是所有科技从业者无法逃避的话题。如果说时至今日在人工智能领域还尚未有所建树,那可以说是已经无法跟上业界乃至时代科技进步脚步,终将会被市场淘汰。
30多年来,高通一直移动的创新,无论是通信技术还是人工智能,都有着强大优势。高通对人工智能研究已有十余年,基于智能终端的人工智能平台,已经演进了三代。并且推出了还推出了人工智能引擎AIE。人工智能引擎硬件上是通过Adreno GPU、Kryo CPU和 Hexagon DSP三种单元,可以智能灵活地执行各种AI运算,每个内核架构各不相同,在处理不同AI工作负载时有各自的角色和独特价值。人工智能引擎的软件方面,提供了骁龙神经处理SDK、Android NN API(Android O/P都支持)、Hexagon NN,而且同时支持Caffe、Caffe 2、TensorFlow、TensorFlow Lite、ONNX等各种框架。
此前人工智能助手都需要通过网络上传语音或是图像以实现功能,这就意味着智能终端只能作为媒介存在,终的结果仍然是服务器云端向终端的发送。因此,高通的人工智能引擎就是希望能够在智能终端上完成更多的人工智能运算,让终端人工智能运算能力加速。
如今高通骁龙835、骁龙845以及高通骁龙710和骁龙660移动平台中,都已经搭载有AI Engine,这使得高通骁龙移动平台已经成为当前应用为广泛、影响力大的移动人工智能平台,其在拍照和语音交互的突破给用户带来一项又一项激动人心的突破。比如在vivo Nex手机中,相机已经能根据用户所拍摄的画面为用户提供更为的构图建议,而自动HDR、智能场景识别等功能也足够帮助拍照苦手们,拍下一张更为出色的照片。终端人工智能的应用,使得它已经不再是一项单纯冰冷的技术,而是赋予世间万物感知需求的能力。
随着5G到来,不一定非要在云端完成人工智能的训练、推理等任务,这些都可以在靠近数据源的边缘设备上完成,从而起到终端与云端互补的作用,更好的保护用户隐私,带来更高的效率。
而越来越强的终端运算能力虽然可以在本地完成诸多任务,但对于自动驾驶、路况测算等实际应用场景,终端仍然需要取得云端数据来确保功能的实现,因此人工智能与网络发展依旧息息相关。而移动通信领域同样是高通的强项,5G、万物互联的时代即将到来,高通已经做好准备在移动行业中继续5G和人工智能并行向前。
以5G超高速和低时延的特点,可以为人工智能提供更高的运算性能。根据相关数据2018到2022年,智能手机累计出货量将超过86亿部,移动终端的规模将为构建人工智能平台带来巨大潜能,而5G网络可以说是为其添砖加瓦。
当然,人工智能的发展不再是任意厂商的独舞,越来越多和平台寄希望高通这样的大厂能搭建统一的性能和开发门槛,构筑和谐繁荣的生态环境。高通通过广泛的生态系统合作来推动人工智能的发展,目前多家的OEM厂商、以及云供应商等生态系统厂商已采用或宣布支持Qualcomm人工智能引擎AI Engine,以优化和加速人工智能应用。