Security_AI_integrated/TRT_BUILD.md

TensorRT Engine 生成

使用 trtexec 命令行工具

1. 导出 ONNX 模型

trtexec
--onnx=yolo11n_480.onnx
--saveEngine=yolo11n_fp16_480.engine
--fp16
--minShapes=input:1x3x480x480
--optShapes=input:4x3x480x480
--maxShapes=input:8x3x480x480
--workspace=4096
--verbose

或者使用优化器设置

trtexec
--onnx=yolo11n_480.onnx
--saveEngine=yolo11n_fp16_480.engine
--fp16
--optShapes=input:4x3x480x480
--workspace=4096
--builderOptimizationLevel=5
--refit=False
--sparsity=False

INT8 量化（需要校准数据）

trtexec
--onnx=yolo11n_480.onnx
--saveEngine=yolo11n_int8_480.engine
--int8
--calib=calibration.bin
--minShapes=input:1x3x480x480
--optShapes=input:4x3x480x480
--maxShapes=input:8x3x480x480
--workspace=4096

验证引擎

trtexec --loadEngine=yolo11n_fp16_480.engine --dumpOutput