按照老黄的介绍,TensorRT 4是一条目应用平台,而且TensorRT 4应用平台是可以或许进行可编程的,年夜年夜给开辟者带来了便当。
据悉,操纵TensorRT 4可编程平台来进行编程操作,就可以或许快捷地将已经练习好的神经收集快速摆设到NVIDIA的GPU上,便利快捷。
新版的TensorRT 4应用平台也同时可以或许撑持INT8以及FP16精度运算,而且对于数据中间的功耗可以降低到70%。
此外,NVIDIA还会和谷歌进行相关的深度合作,旨在要想TensorRT 4整合到此刻AI开源框架中去,而且加快AI应用的推广实施。
0 篇文章
如果觉得我的文章对您有用,请随意打赏。你的支持将鼓励我继续创作!