手机贤集

极速大发时时彩技术服务平台欢迎您

登录 注册

英伟达发布GPUDirect储存的资料传输技术,最高频宽可达215GB/s

文章来源: IT情报局菊长       发布时间:2019-08-13

8月12日消息,英伟达发展了名为GPUDirect储存(GPUDirect Storage)的资料传输技术,加快位在各种储存的资料,传输到GPU內存的速度,可以将频宽增加至原本的2到8倍,而且还能降低端到端的延迟达3.8倍。


英伟达发布GPUDirect储存的资料传输技术,最高频宽可达215GB/s


由于人工智能以及高效能运算的资料集规模不断的增加,应用程式载入资料花费的时间越来越长,进而影响了应用程式的性能,而且特别是端到端架构,会因为缓慢的I/ O使得运算速度日益提升的GPU无用武之地。


英伟达发布GPUDirect储存的资料传输技术,最高频宽可达215GB/s


英伟达提到,将资料从储存器载入到GPU,过去都是由CPU负责,而这将会成为硬件性能的瓶颈。 资料从NVMe磁盘传输到GPU內存的标准路径,是使用系统內存中的反弹缓冲区(Bounce Buffer),而GPUDirect储存技术避免使用反弹缓冲区,以减少额外的资料副本,并使用直接內存存取引擎(Direct Memory Access,DMA)将资料直接放到GPU內存中,为远端或是本地储存,诸如NVMe或NVMe over Fabric,和GPU內存之间,建立一个直接传输资料的路径,而这能有效减轻CPU I/O的瓶颈,提升I/O频宽和传输资料的量。


英伟达提到,GPUDirect储存技术的主要功能,就是透过这个新的档案系统,以直接內存存取的方式,将资料传输至GPU內存上。无论资源原本存放在什么位置,都能使用GPUDirect储存技术,这些储存可能位在机箱内、机架上什至通过网络连接都可以。


英伟达在GPU资料科学平台RAPIDS中的GPU资料影格(GPU DataFrame,GDF)函数库cuDF上进行实验,发现使用GPUDirect存储技术,比起原始cuDF CSV读取程序,将资料传输到GPU內存的吞吐速度快了8.8倍。cuDF是让使用者在GPU上,用来载入、过滤、排序和探索资料集的函数库。


英伟达表示,应用这项新技术,远端储存、本机端储存以及CPU內存到GPU內存的频宽,可以在互相组合后加乘,以人工智能超级电脑DGX-2为例,从CPU系统內存到GPU內存的频宽限制为50 GB/s,但综合从系统內存、本机端硬盘以及NIC(Network Interface Card)的资料,最高频宽甚至可以达215 GB/s。


文章来源:IT情报局菊长

注:文章内的所有配图皆为网络转载图片,侵权即删!

声明:“极速大发时时彩”的所有作品,版权均属于极速大发时时彩,如需转载,请注明出处;本网站转载的内容版权归原网站所有,如有侵权或其他问题, 请及时通过电子邮或者电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失

我来说几句


获取验证码
最新评论

还没有人评论哦,抢沙发吧~