为了AI能落地，英特尔真的很努力 

英特尔中国 2020-05-25 

2020年，在人工智能圈

有句调侃

行业大客户都在忙着「 推理」

推理是啥？从哪里来的？

快速讲一个层级关系

你就瞬间明白「推理」

在人工智能中所处的位置

↓

深度学习是机器学习的一个分支

而机器学习是人工智能的一个分支

三者层层包含

当下最热的深度学习

可以让机器模拟人类的思考方式

包含两个步骤

1、训练 2、推理

深度学习

1、什么是训练？

训练的最终目的是输出一个算法模型

就是用海量数据，训练出一个“大脑”

2、什么是推理？

有了脑子，就要活学活用

把这个“大脑”，安装在实际应用场景中

来了新数据，抛给大脑判断一下

输出答案

推理离应用场景更近

甚至，推理无需训练也能发生

在AI项目落地的进程中

训练和推理的比例，正在发生改变

👇

以前，训练：推理=1:1

现在，训练：推理=1:5

推理比重飙升

说明2个趋势

↓

❶说明人工智能的应用变多了

意味着，人工智能越来越 落地了

❷说明人工智能的买单用户发生改变

对训练需求比较大的客户

一般是算法公司、大型互联网公司

这类公司是制造“算法模型”

赋能给行业客户使用

对推理需求比较大的客户

一般是「 传统行业用户」

比如公安、金融、医疗..

他们在意的是“应用层面”

有些甚至跳过训练这个阶段

直接购买算法模型

直接进行推理应用

比如

现在医院AI落地最多的就是“读片”

读片的算法模型

已经有专业算法公司做出来了

医院客户直接把这套算法模型软件买过来

稍加优化，然后推理应用

而不要从零开始，训练模型

随着推理落地应用范围扩大

客户越来越理智，也琢磨出了门道

前两年，行业客户尝鲜人工智能项目时

往往会掉入了一个“大坑”

一上来

↓

然后再浅一脚深一脚地

把深度学习流程全跑一趟

整个过程经历九九八十难

数据不够，硬件不熟，框架欠优化，场景不具体

最终，训出一个不成熟的模型

达不到“实战”要求

真成了“实验室”产品

后来，精明的客户逐渐发现

在推理场景大行其道的时代

通用处理器拿过来做AI

效果更好，过渡更平滑

比如

新一代英特尔® 至强® 可扩展处理器

内置了“AI加速”能力

尤其在推理领域，速度最高能提升30倍！

客户不需要颠覆式重建

只需在自家原有的机房设备上

“升级”出一套「人工智能计算平台」

他们采用的就是

英特尔® 人工智能全栈解决方案

为了让AI能够更好落地

英特尔®可算操碎了心

这套方案，包括

丨硬件“全家桶”：计算、存储、网络

丨软件“全家桶”：深度学习框架、工具套件

这个“全家桶”，没有短板

先看内置深度学习加速的

新一代英特尔® 至强® 可扩展处理器

有四大系列

↓

2017和2019先后发布了两代

今年即将推出第三代

AI加速能力进一步飙升

具体的加速黑科技，在这里

↓

利用矢量神经网络指令(VNNI)

提升卷积神经网络 (CNN)

和深度神经网络 (DNN) 的计算速度

在大规模推理应用时，计算速度更快

这个加速技术，说白了就是

一个指令，能完成以前三个指令的工作

在实时性应用推理场景中

速度变得更快

比如：医疗影像秒读、语言翻译瞬间

第二，英特尔® 傲腾™ 技术

要想AI算得快，存储不能拖后腿

傲腾一直是英特尔引以为傲的存储技术

目前有两大类产品

①傲腾持久内存

②傲腾固态盘

即拥有逼近传统内存的时延和速度

又保持了硬盘的容量和非易失性

断电后不需要重新加载数据

大幅提升数据密集型应用的性能

是深度学习训练和推理的最佳伴侣

第三是，软件、工具

英特尔为大力扶持AI发展

与各类主流深度学习框架合作

对框架进行全面优化

性能因此得到不断提升

客户也可以选择使用适合自身需求的深度学习框架做模型训练，而无需购买或者设置不同的硬件基础设施

工具套件也是满满诚意

Analytics Zoo工具包

可以快速高效进行零碎的数据预处理工作

↓

   OpenVINO™工具包

可快速部署模拟人类视觉的应用

人工智能落地，并不是一蹴而就的

推理能不能用好，至关重要

英特尔这种软硬件协同优化方案

处理器、存储、框架、工具

极致算力，极致存储，极致优化

提供了一种捷径，让我们少走弯路

举个例子，国内AI独角兽企业

第四范式

在Intel×第四范式AI联合实验室的

合作开发下，第四范式推出了

企业级软硬一体AI算力平台

4Paradigm SageOne Advanced

第四范式这套“AI算力平台”

采用了软硬优化一体设计理念，包含：

第二代英特尔®至强®可扩展处理器

英特尔®傲腾™持久内存

英特尔®FPGA以及第四范式自主研发的

人工智能平台、分布式AI框架、自动深度学习算法

…….

这套软硬一体AI算力平台

与非一体化设计相比

性能提升幅度，最高可达10倍

第四范式通过其“1+N”的企业AI方案

为金融、零售、能源、医疗等8000多家客户服务

比如用于预测3年后糖尿病患病概率

其准确率比临床金标预测高2-3倍

目前在30多个省市500多家医院投入使用

如今，各行各业都在应对全新AI挑战

这其中，都有“Intel inside”

而且，他们都不需要彻底改造数据中心