上周,在GTC19大会期间,NVIDIA加速计算产品管理总监Paresh Kharya对关于GPU相比FPGA的优势的问题时回答表示,GPU在可编程上具备明显优势,整个开发时间更短。

他表示称目前做好一个FPGA,整个编程时间就要几个月,而且还要在硬件层面对它进行编程。然而现在AI变化速度非常快,甚至更新是以分钟来计算的,所以必须要在软件端实现高度灵活的可编程。恰恰GPU是AI领域的专用芯片,他的指令集是非常有优势的,是全可编程,并且是软件定义的。

GPU的另一个优势在于架构向前兼容,如果未来需要使用新硬件,可以使开发周期得到大大缩短,整个硬件可以随着软件不断更新适应,在软件库中可直接进行更新。同时NVIDIA的平台可以在任何设备上使用,包括台式机、笔记本、服务器、数据中心、边缘和物联网。

而在GTC19大会的主题演讲中,黄仁勋也不断强调了GPU在各种应用领域中相比于CPU的明显优势,例如阿里的边缘系统在GPU上跑,每秒可以做780次查询,但是如果说用CPU,每秒只能做3次查询;而在baidu采用NVIDIA AI推荐系统的表现来看,以往对于baidu庞大的用户潜在兴趣数据包的模型训练在CPU上成本高昂且速度慢,而GPU训练成本只有CPU的1/10,并且支持更大规模的模型训练。