39 lines
906 B
Markdown
39 lines
906 B
Markdown
|
# TensorRT Engine 生成
|
||
|
|
# 使用 trtexec 命令行工具
|
||
|
|
|
||
|
|
# 1. 导出 ONNX 模型
|
||
|
|
trtexec \
|
||
|
|
--onnx=yolo11n_480.onnx \
|
||
|
|
--saveEngine=yolo11n_fp16_480.engine \
|
||
|
|
--fp16 \
|
||
|
|
--minShapes=input:1x3x480x480 \
|
||
|
|
--optShapes=input:4x3x480x480 \
|
||
|
|
--maxShapes=input:8x3x480x480 \
|
||
|
|
--workspace=4096 \
|
||
|
|
--verbose
|
||
|
|
|
||
|
|
# 或者使用优化器设置
|
||
|
|
trtexec \
|
||
|
|
--onnx=yolo11n_480.onnx \
|
||
|
|
--saveEngine=yolo11n_fp16_480.engine \
|
||
|
|
--fp16 \
|
||
|
|
--optShapes=input:4x3x480x480 \
|
||
|
|
--workspace=4096 \
|
||
|
|
--builderOptimizationLevel=5 \
|
||
|
|
--refit=False \
|
||
|
|
--sparsity=False
|
||
|
|
|
||
|
|
# INT8 量化（需要校准数据）
|
||
|
|
trtexec \
|
||
|
|
--onnx=yolo11n_480.onnx \
|
||
|
|
--saveEngine=yolo11n_int8_480.engine \
|
||
|
|
--int8 \
|
||
|
|
--calib=calibration.bin \
|
||
|
|
--minShapes=input:1x3x480x480 \
|
||
|
|
--optShapes=input:4x3x480x480 \
|
||
|
|
--maxShapes=input:8x3x480x480 \
|
||
|
|
--workspace=4096
|
||
|
|
|
||
|
|
# 验证引擎
|
||
|
|
trtexec --loadEngine=yolo11n_fp16_480.engine --dumpOutput
|