您的位置首页>硬件>

英特尔DNNL 1.2库提示Xe GPU中的Int8数据类型支持

导读 英特尔已经发布了DNNL的1 2版,这是该公司针对CPU及其GPU进行高性能深度学习操作的优化库。新版本引入了对GPU上int8的支持,这表明这将是Xe

英特尔已经发布了DNNL的1.2版,这是该公司针对CPU及其GPU进行高性能深度学习操作的优化库。新版本引入了对GPU上int8的支持,这表明这将是Xe架构的标准功能。

Phoronix已经报道了DNNL 1.2的发布,该版本以前称为MKL-DNN:该公司用于深度神经网络(DNN)的数学内核库(MKL)的变体。该网站称,此版本的新功能是在GPU上支持int8(我们找不到补丁说明)。

考虑到性能是低精度数据类型支持的主要目的,DNNL仅针对具有硬件加速这些数据类型的平台来实现此功能。”

换句话说,英特尔以前不支持GPU上的int8,因为到目前为止,其集成显卡本身还不支持数据类型。因此,这提供了证据,表明英特尔正在准备对其即将推出的Xe架构进行int8支持。

英特尔已经透露,采用Xe HPC架构的Ponte Vecchio具有矩阵引擎(类似于Nvidia的张量内核),其int8加速度为32倍。英特尔现在已经为此添加了int8支持,这强烈表明DG1的Xe LP架构也已经具有int8支持,即使它可能没有Xe HPC架构中成熟的矩阵引擎也是如此。

在常规优化中,DNNL 1.2包括对AVX-512和Cascade Lake的DLBoost的支持,它们改进了int8操作的性能(因为在深度学习推理应用程序中经常使用这些性能)。在DNNL 1.2中,改进了AVX-512之前的硬件和3D空间数据的int8性能。一维后向卷积的性能也得到了提高,并且引入了多种原语。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。