7月11-13日,2019英特尔人工智能开发者大会(AIDC)深圳站和全球人工智能与机器人大会(CCF-GAIR),相继在深举行。英特尔在两场大会上重点强调AI技术必须要从实验室转换成可以商业落地项目,同时展示了他们的AI战略布局以及与生态伙伴的合作进展。
在2019英特尔人工智能开发者大会(AIDC)上,英特尔的工程师和AI专家们帮助180名开发者找到适合的软硬件工具,现场操作、解答AI实践难题,并介绍了如何通过英特尔神经计算棒、统一的大数据分析+人工智能平台Analytics Zoo和专门针对深度学习应用推理场景开发的开源工具包OpenVINO等软硬件平台快速构建部署AI模型。
在全球人工智能与机器人大会上,英特尔分享了如何通过在大数据分析和AI上统一的创新,来帮助用户更好、更方便的将人工智能应用在现实的应用场景中。英特尔专家认为,传统的异构计算已经不能满足产业应用对AI计算的需求。面向未来,他们正在试图全方位引领‘超异构计算’时代,以制程和封装、架构、内存和存储、互连、安全、软件六大技术支柱为支撑,全方位推动基于软硬件协同的人工智能创新。具体来看英特尔的AI战略布局,主要有三个方面:硬件、软件以及生态。
在硬件方面,英特尔仍然坚持在集成度最好的X86平台上进行数据处理、数据传输、数据存储以整个数据链条的无缝连接。针对设备终端、边缘端、云端均有全面的通用芯片产品线。比如,英特尔凌动处理器、酷睿处理器和至强可扩展处理器产品家族。
当然,英特尔坦承没有一个解决方案可以包打天下。AI计算不仅仅需要通用芯片,也需要专用芯片。比如,针对自动驾驶,英特尔Mobileye可提供EyeQ芯片和算法;在视频图像分析方面,英特尔可提供Movidius VPU,不仅低功耗还具备Deep Learning的推理能力;英特尔将推出Nervana NNP神经网络处理器,其中NNP-T专门做训练,NNP-I专门做推理;如果对开发时间和灵活性要求很高,英特尔提供支持底层硬件语言编程技术的FPGA 推理加速卡。未来,针对媒体、图形和分析,英特尔还将推出自己的GPU,与市场同行一较高下。以上这些,仅仅是英特尔在计算力上的产品阵列,还不包括存储、网络等系列硬件产品。
在软件方面,英特尔最近一两年花了很大精力,从下到上对开源的人工智能软件框架做优化,并提供一系列通用工具集,帮助用户最大化利用硬件,持续优化和提升深度学习性能。简单来说,分为三个层面。在软件核心层,英特尔主要通过MKL-DNN的数据核心函数库发挥底层AVX-512以及DLBoost的深度学习加速指令集的性能。在软件库层,最贴近开发者的框架集中于此,英特尔对TensorFlow、MXNet、Caffe等主流框架进行优化,让他们可以调用MKL-DNN核心层。在工具套件层,重在加快应用的部署和提升推理的性能,英特尔提供OpenVINO、Analytics Zoo等软件。
据英特尔专家透露,未来英特尔还将构建一个统一的API——被称为One API,这可以说是英特尔软件大一统的愿景,也是实现超异构的要素之一。One API主要解决深度学习开发API软件分散问题,用一个统一的软件接口,让客户编程即可扩展到CPU、GPU、FPGA和AI芯片等硬件平台。避免不同拓扑,不同底层硬件需要不同软件去部署,将大大降低开发难度和开发周期,加快实际生产领域的部署。事实上,One API愿景可以在OpenVINO身上找到影子。英特尔专家表示,开发工具套件OpenVINO的经验将会用于One API。
在生态系统方面,英特尔还推动与产、学、研的深度合作,打造AI生态,探索更多的AI应用场景。不久前,英特尔宣布在中国成立大数据分析和人工智能创新院。该创新院整合了英特尔多个部门的技术资源,集中了多位分析专家、人工智能专家和技术工程师,共同帮助合作伙伴在各垂直行业开发、优化和扩展新的AI应用,并让用户及时了解到英特尔的创新产品组合以及相关优化的库、软件与工具组合。当然,召开2019英特尔人工智能大会(AIDC)也是一种方式。英特尔正在努力向开发人员、向客户宣传英特尔的AI产品和技术,让大家能够快速进行上手、开发和落地。
当先进的AI技术准备妥当,到底要去哪里练兵验证?在当下生产中遇到的问题究竟能否用AI解决?在纷杂的物联网世界里,AI应用场景无处不在的判断是否正确?这些都需要AI走出实验室,接接地气才有人气。
不难发现,在这两个AI大会上,英特尔一直以与生态伙伴紧密合作,健培科技、赛特斯、触景无限和鲲云科技都应用了英特尔AI软硬件产品和技术。据合作伙伴反馈,英特尔秉承了客户至上的理念,相互协作解决了不少合作中遇到的各种技术难题。
专注于医疗影像识别分析的健培科技,他们推出的阅片机器人“啄医生”可以高效帮助医生进行X 射线、CT、MRI 和其他医疗成像来源的识别和诊断。目前,他们在肺结节筛查、糖网筛查、口腔全景片初步诊断、两癌筛查等方面取得卓越成效。为加速图像分析,健培科技将平台迁移至英特尔至强金牌 6140 处理器,并使用面向 TensorFlow 的英特尔优化(包括英特尔 MKL-DNN 库)对模型和底层数学算子进行优化。
健培科技有限公司董事长程国华在接受采访时表示,“啄医生”在与英特尔合作之前也用过其他方案,但他们发现,一些GPU方案虽然用起来不错,但在批量使用时,昂贵的价格和过长的供货时间逼迫他们去找替代方案。“英特尔提供的CPU方案,它的内存最高可以达到384GB,这很好的解决了像我们这样的云计算的要求,以及对高通量图像3D计算的要求。包括我们成立联合实验室,关于下一代产品升级到英特尔至强第二代可扩展处理器,我们双方正在试验。”
医疗影像数据存在多样性,不同医院数据不能共享也是现实问题,那么训练出来的模型精准度如何保障呢?健培科技有限公司董事长程国华回答:“这是一个好问题。实际上数据的多样性是普遍存在的。我们一直在探索如何提升我们的泛化能力。首先,练好的模型送到医院之前还要用该医院的数据进行微调,大医院,小医院,公立医院,民营医院的确不一样。其次,我们要尽量扩充测试集和训练集,尽可能的包含国内的采集设备以及采集商的采集实践。与各个医院合作,做分布式标注工具供医生下载使用,再反馈给我们,形成泛化库来训练我的模型,大幅度的提升产品的能力。第三,除了训练单个疾病,我们还用并发症样本来训练它,大大提升它的泛化能力。”
赛特斯与英特尔的合作主要是在电网行业和海事领域。在电网行业,赛特斯信息科技方案架构师蔡旭阳向记者分享了一组惊人数据:据某市电网公司统计,每年触电事故有300多起,其中因钓鱼触电占100多起,且钓鱼多数触碰高压线,死亡率高达80%以上!尽管该市电网公司也设立了很多“禁止钓鱼”的告示牌,也派遣了很多巡逻人员不定期去各个河岸边进行巡逻告警,但是效果并不是很好。因此,英特尔协助赛特斯在原有方案上导入OpenVINO 视觉推理加速工具包,轻松实现钓鱼监控系统的轻松部署和推理性能的大幅提升。
防钓鱼触电隐患监控系统主要由前端智能摄像头、中心分析平台、桌面及移动显示端和声光报警设备共同组成。利用OpenVINO工具包,对前端智能摄像头上深度学习算法进行加速,减少前端智能摄像头的成本,同时利用分布式的方式部署深度学习算法,减轻中心分析平台的计算压力,使得中心分析平台能支持更多路设备的接入。蔡旭阳表示,“系统自2019年4月份部署上线,到目前为止一共驱离了280余起电线下面钓鱼的事件,到目前为止没有发生过任何一起钓鱼触电事件。未来该方案可能会向省级,甚至全国适用地区推广。”
在海事领域,由于各类涉水活动日趋频繁,港口吞吐量不断增长,船舶流量趋于饱和,且逐年上升;船舶大型化趋势明显,危险品船舶数量不断加大,区域内通航环境更加复杂,海事监管的任务更加繁重且面临严峻挑战。赛特斯采用intel架构前端智能摄像头,搭配中心分析平台的方案,利用OpenVINO工具包解决前端智能摄像头检测速度慢及分智能算法布式部署的问题。蔡旭阳表示,“使用Open VINO工具包,使得在intel架构的CPU上,深度学习目标检测的速度与英伟达带GPU的智能设备速度相同,节省前端智能摄像头的采购成本;同时使用算法分布式部署的方案,减轻中心分析平台的计算压力,使中心分析平台支持更多路设备的接入。”目前,两家正在就下一代至强可扩展处理器方案进行磋商,高性能的新系统未来可期。