文档章节

Tensor RT使用记录

o
 osc_y8yehimr
发布于 2019/03/20 15:17
字数 378
阅读 0
收藏 0

Tensor RT的介绍在此不做赘述。

自己在服务器上本打算装Tensor RT来着,不过过程很艰辛,最后发现服务器的cudnn版本偏低了,还需要升级cudnn的版本。故,在自己的电脑上了装了下Tensor RT,同时给自己的电脑将cudnn的版本从7.4升级到了7.5,并跑通了基本的例程。

下面对于Tensor RT的学习进行介绍。

在英伟达的官网上,有几个文档,

第一个是支持的Matrix运算,就是各种已经支持的层,对于不同的开发框架如Caffe、ONNX等,支持的层可能会有不同。

https://developer.download.nvidia.cn/compute/machine-learning/tensorrt/docs/5.1/rc/TensorRT-Support-Matrix-Guide.pdf

第二个安装的文档,第三个是版本记录,第四个是开发手册,第五个是如何去优化TensorRT的表现,第六个是配套的各种example的使用教程。

开发文档主要内容

现在看的是TensorRT5,几个文档中最重要的是开发文档。

在Windows下,现在是用不了Python API的,所以主要看的是C++的API。C++ API部分主要讲的内容有:

1、创建网络定义(可以自己定义,可以从Caffe、TF、ONNX导入模型)

2、Building An Engine

3、序列化该模型

4、执行前向

5、内存管理

6、Refitting An Engine

 

其余的部分是:扩展Tnesor RT 用自定义(Custom) layer、混合精度使用。

 

视频:https://yq.aliyun.com/video/play/1381?utm_content=m_45632&do=login

o
粉丝 0
博文 500
码字总数 0
作品 0
私信 提问
加载中
请先登录后再评论。

暂无文章

github的正确搜索方式

wc_飞豆
24分钟前
12
0
交叉编译-如何编译Android平台的可执行程序

首先来看看Linux平台下如何使用gcc编译出当下平台的可执行程序。 我们先来准备一个main.c文件 #include<stdio.h>int main(){ printf("Hello Gcc!"); return 0;} 上面是...

shzwork
27分钟前
15
0
Java 获取资源文件路径

1 问题描述 通过源码运行时,一般使用如下方式读取资源文件: String str = "1.jpg"; 资源文件与源码文件放在同一目录下,或者拥有同一父级目录: String str = "a/b/1.jpg"; 这样直接编译...

氷泠
59分钟前
12
0
git 为项目设置用户名/邮箱/密码

1.找到项目所在目录下的 .git,进入.git文件夹,然后执行如下命令分别设置用户名和邮箱 git config user.name "Affandi" git config user.email "123333333@qq.com" 然后执行命令查看con......

有时很滑稽
今天
13
0
如何从int转换为String? - How do I convert from int to String?

问题: I'm working on a project where all conversions from int to String are done like this: 我正在一个项目中,所有从int到String转换都是这样完成的: int i = 5;String strI = "" ......

javail
今天
19
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部