新闻中心

EEPW首页 > 智能计算 > 编辑观点 > 赛灵思用“软”实力加速自适应计算平台的推广

赛灵思用“软”实力加速自适应计算平台的推广

—— 祭出Vitis统一软件平台,Vitis AI免费下载,吸引百万软件工程师
作者:迎九时间:2020-02-21来源:电子产品世界收藏

不久前,赛灵思推出了Vitis统一软件平台,并宣布其重要组件Vitis 开放下载,使人工智能()和机器学习开发者将可以利用赛灵思的高性能计算平台的加速度。一家硬件平台公司,为何重磅推出软件平台?为此,电子产品世界等媒体采访了赛灵思软件与 产品市场营销副总裁Ramine Roane(罗明)。

本文引用地址:http://www.sprlobby.com/article/202002/410142.htm

1582252029551228.png

赛灵思 软件与 AI 产品市场营销副总裁 Ramine Roane

1 赛灵思整体的业务战略及对计算的看法

所有的电子系统应该是的,就像是有机物种一样,这样才能跟上创新的速度。同样,“所有的硬件和计算应该是”的观点,也得到越来越多的行业认可。

直到2000年之前,根据摩尔定律,业界还接受着芯片或硅工艺的密度每18个月翻一番的速度,当时所有的应用开发人员和软件开发人员不用做什么,就等着新芯片出现。直到2000年时候,工艺方面的登纳德缩放比例定律(Dennard scaling)走到尽头,认为随着工艺密度的进一步翻番,频率不可能再进一步提高了,所有的CPU和计算机最多也就到(2~4) GHz的速度,而且一直维持了20年没有进一步提升。为了提升所有的应用性能,要进一步扩展,后来使用多核CPU,这个问题从硬件转向软件(如下图)。

1582250226659669.png

之后出现了向异构CPU和的转移,到目前为止,这种方向是可行的。问题在于所有这些架构包括CPU都是固定的,这样就很难跟上AI的创新速度。

赛灵思的思路是打造自适应的平台,非常灵活多变,而且赛灵思的芯片也可针对不同的应用进一步进行硬件的优化。所以现在开发者就不用等着新的芯片出来,就可以建立一些特定架构的应用。

赛灵思提供的解决方案,如何追赶上像AI这样的创新速度?从下图可见,AI的CNN在2012年到2018年发展的趋势,可看出每3个月会出现新的AI模型,会取代之前的模型,一般是1年半到2年的时间来构造1个全新的ASIC或GPU。

1582250279974542.png

从上图可见,蓝色的,之前最主流的是GoogLeNet,1年半到2年后是ResNet,现在ResNet是最尖端的技术,但是没有办法在原有的架构上运行。赛灵思的器件以及可自适应的硬件,就可以来构建这种特有的架构。

2 FPGA的成功案例

第1个例子illumina,是一家生命科学公司,利用FPGA技术可以加速医疗诊断。例如得了重症的新生儿,可以通过加快它的基因组的分析,以前是用1天,现在20分钟就可以进行诊断的判定。

在汽车行业的应用,戴姆勒汽车公司利用赛灵思的技术可以加速实现AI的决策。包括通过赛灵思FPGA的I/O,从不同的传感器(包括摄像头、雷达和激光)获取信息,还可以使用赛灵思的自适应器件,帮助其更快地决策,而且是低延时的。

第3个例子是CERN,是位于瑞士的欧洲核子研究院,它们通过粒子碰撞机、质子碰撞碎片的分析,发现了希格斯的玻色子。这个发现后来夺得诺贝尔奖。需要对碎片进行快速分析得出结论。

1582252207399158.png

3 Vitis和Vitis AI的特点

Vitis的名字来自于法语,意思是生命力,解释到中文也有“至关重要”的意思。

Vitis和Vitis AI开发工具可以助力软件开发人员和AI科学家,用他们选择的语言,例如C++进行开发,也可以使用相关的架构和库进行开发。

1)Vitis针对软件/AI软件的开发人员

不过,对于软件人员和AI人员,赛灵思并不是那么知名,因为过去长久以来,赛灵思的开发工具主要面向硬件的开发人员。随着赛灵思推出Vitis和Vitis AI,想要改变人们对于赛灵思的认识——现在也针对软件开发人员。

1582250397114543.png

而且软件开发人员的机会更多,因为软件人员的倍数大大高于硬件开发人员。现在全球硬件开发者可能是一二十万的规模,而软件开发人员是数以几百万计的。而且现在大学里学硬件开发的已经很少了,大部分人选择学习软件开发。赛灵思的Vivado是针对硬件开发人员的平台,新推出的Vitis和Vitis AI是针对软件开发者以及AI科学家的。

2)Vitis统一了所有应用平台的开发

包括:① 把AI和传统的软件开发统一起来了。②把云和边缘也都统一起来,包括终端计算以及边缘和云计算,不同的架构全都统一起来。③可以使用统一的语言进行异构的加速。

为此,赛灵思已进行了六七年的实践,从最开始的硬件开发平台Vivado,到后面的OS和固件SDK,包括一些嵌入式的软件开发环境,到不同的云计算的开发。亚马逊云计算服务(AWS)成为第1个使用FPGA云服务的提供商,后来BAT(百度、阿里、腾讯)也紧随其后。可见,所有的环境、语言、库不同,针对包括云和边缘,Vitis就是要把所有的这些统一到一个整体的平台上来。

3)Vitis的堆栈

如下图,最下面是基础的硬件的平台,从端点的平台到边缘计算,一直到云。往上的第2层是赛灵思运行时库(XRT),主要管理CPU和FPGA之间的通讯。再上面一层是不同的工具,包括编译器、分析器和调试器,它使用软件语言编译成为FPGA所用的加速语言。

1582250430774386.png

赛灵思建立了很多库,来进行一些加速,包括有OpenCV、金融、BLAS等库。而且这些都是业界标准的加速。这些库当中,很多传统的软件开发人员可能是使用C++或者python语言进行编写的,新的开发人员使用的是一些新的架构和DS的语言。

在AI方面,TensorFlow和python torch是首选的。对于Vitis AI,主要用的是TensorFlow(如上图)。另外,还有视频转码,主要用FFmpeg语言。

赛灵思支持很多库,这对于开发者来说是非常关键的。众所周知,软件开发人员不愿意每次写程序的时候重新开始,他们可以利用现成业界标准的库,利用现成的材料,包括CPU、GPU等,现在还有Vitis来支持他们的工作。

赛灵思现在也在进行一个战略转型:从传统硬件公司转型成为软件的平台公司。赛灵思的理念是拥抱开源,把免费工具贡献给大家。

作为赛灵思转型战略的一部分,赛灵思致力于开源,现在参与了多个开源的项目,赛灵思从2001年时就开始是使用者,2007年的时候成为革新者,2018年是头号的贡献者,第2名是谷歌。

现在赛灵思还有开源库,例如Github,赛灵思还有SRT的运行库,有AI模型的例子,都是经过优化的,可以在FPGA上运行,还有赛灵思收购深鉴科技公司获得的技术。未来赛灵思还会宣布使用和贡献更多的开源项目。

1582250460601048.png

    另外,赛灵思还推出了Developer.xilinx.com网站,主要将Vitis专家和相关的开发人员建立起联系,这也是赛灵思转型战略的一部分。2019年11月推出该网站的时候,网站有30多篇文章,现在达到了50多篇,这些文章来自于不同领域的开发人员的专家,在编写应用程序中所提供的一些经验。这些不同的领域,包括汽车行业,还有智慧城市等。

    4 Vitis AI的应用案例

    一个典型的传统软件开发人员和AI结合的例子。例如对视频的数据进行预处理,然后通过AI进行输出,再进行后处理,预处理和后处理都是软件,中间通过AI。

例如假设开发人员要通过这一条流线以6 FPS(每秒帧)的速度进行显示。如果在CPU上运行,是6 FPS。如果在Vitis数据流流水线中,可以达到80 FPS(如下图)。

1582250523427519.png

具体地,在FPGA或1个GPU上,要对AI进行加速,可以看到从6激增到30这么大的提升。如果是用GPU也就到这么多了,不可能再有更多的改善了。在FPGA上你可以决定对预处理部分加速,还是对后处理部分进行加速。这样就达到了40 FPS。 最下面一行,可以进行流水线的优化处理,不用等着这一帧处理完毕就可以进行下一帧的处理,这样就可以达到80 FPS的速度,而软件层面的开发人员完全没有必要了解这些硬件的技能,就可以达到这样的效果。

早期Vitis和Vitis AI试用的客户,有从事自动驾驶的北京小马智行、汽车一级供应商日立公司的摄像头识别,韩国三星的5G部署等。

5 如何降低FPGA的开发门槛

赛灵思和多个FPGA平台合作,包括AWS,中国有BAT。基本上有两个方法解决这个问题。①通过Vivado,这个比较难,因为涉及到硬件的设计和模拟。②几年前赛灵思推出了SDAccel,它算是Vitis的鼻祖。赛灵思的FaaS(FPGA即服务)合作伙伴现在没有更新它们的系统,预计2020年上半年会全部更新。因为赛灵思的Vitis和Vitis AI库容量非常丰富,所以会帮助他们大幅加速FPGA应用。

1582250562244517.png

实际上,Vitis和Vitis AI是抛砖引玉——采用免费的模式,主要从硬件那边赚取利润。    

一个问题是:在深度学习做加速这方面,虽然现在FPGA成长快,但是在AI培训方面,比较主流的还是GPU居多,一方面是因为GPU硬件性能高,另一方面,英伟达在软件工具方面针对各个垂直领域做了很多工作。那么,Xilinx推出Vitis平台之后,是不是有助于加速到各个垂直应用的进程?

Ramine Roane解释道,GPU在AI培训上的市场份额很大,但在AI的推断上面效率并不是很高。AI推断最大的市场份额还是由CPU占据的,不过现在CPU加速的效率还不是很高,例如在边缘的一个案例是北京小马智行公司的自动驾驶,时延是一个很大的问题,GPU最大的问题是时延太高了。不过,过去人们认为FPGA有点难用,需要用硬件开发,所以Vitis、Vitis AI的推出,就是为了降低这个难度。



关键词: AI 加速器 自适应

评论


相关推荐

技术专区

关闭
三亚月确装饰设计工程有限公司 传奇私服 银河极速赛车注册官网 江苏快3二同号复遗漏 江苏11选5 河北11选5 北京11选5 <开阳县>| <咸阳市>| <丰台区>| <纳雍县>| <财经>| <信阳市>| <勐海县>| <和林格尔县>| <林口县>| <康乐县>| <临江市>| <济阳县>| <勐海县>| <镇平县>| <南靖县>| <绩溪县>| <乌兰浩特市>| <甘孜>| <绥阳县>| <肇东市>| <宁强县>| <南宁市>| <庆元县>| <晴隆县>| <潜江市>| <常宁市>| <满城县>| <当雄县>| <陆良县>| <云安县>| <柳林县>| <历史>| <延寿县>| 传奇私服||www.mygayzette.com 传奇私服||www.8e86.net 传奇私服||www.szxdljk.com 传奇私服||www.cdfeipinhuishou.com 传奇私服||www.abo4.com 传奇私服||www.fishfinderswithgps.com 传奇私服||www.fskdzs.com 传奇私服||www.fcgccl.com 传奇私服||www.loveqqt.com 传奇私服||www.zgzckj.com 传奇私服||www.shen-zhou.com 传奇私服||www.hsingmaw.com 传奇私服||www.jinfengcheng.com 传奇私服||www.cychemical.com 传奇私服||www.liao126.com 传奇私服||www.gzsndm.com 传奇私服||www.xatrtz.com 传奇私服||www.meihaoguoji.com 传奇私服||www.huizhouyl.com 传奇私服||www.xinkeyazhu.com 传奇私服||www.hbzswj.com 传奇私服www.nanhaixuelang.com 传奇私服www.diancw.com 传奇私服www.etkxw.com 传奇私服www.hsysgs.com <文本链> <文本链> <文本链> <文本链> <文本链>