TensorRT如何加速人脸识别

其中绿色粗线左边的 PRelu 是 mxnet 中支持运行的模式，这是 mxnet 导出 onnx 的默认 PRelu 模式。绿色粗线右边带有 Reshape 的 PRelu 则是 TensorRT 中支持的模式。为此我们通过手动修改 mxnet 的对应 onnx 转换的源码，将导出的 onnx 文件的 Prelu 修改为图右边的模式。除此外，团队里有其他深度学习的任务在转 onnx 格式时还碰到过如 softmaxactivation、upsampling、crop 等算子的支持问题。除了修改 mxnet 的源码的解决方式以外，还可以通过修改原始的神经网络结构为支持 TensorRT 的，然后重新进行模型的训练，但重新调参训练模型在部分业务场景下所消耗的时间和精力成本比较大。也可以通过 TensorRT 提供的 plugin 功能来自行实现有些尚未支持的算子和网络层的解析。

③ 不同的显卡对计算模式的支持度不同 

（编辑：开发网_开封站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!