File size: 3,139 Bytes
127e10d
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
#!/bin/sh

#/usr/src/tensorrt/bin/trtexec --onnx=yolo_nas_pose_n_fp32.onnx        --avgRuns=100 --duration=15 --saveEngine=yolo_nas_pose_n_fp32.onnx.fp32.engine > yolo_nas_pose_n_fp32.onnx.fp32.engine.log 2> yolo_nas_pose_n_fp32.onnx.fp32.engine.err
#/usr/src/tensorrt/bin/trtexec --onnx=yolo_nas_pose_n_fp32.onnx --fp16 --avgRuns=100 --duration=15 --saveEngine=yolo_nas_pose_n_fp32.onnx.fp16.engine > yolo_nas_pose_n_fp32.onnx.fp16.engine.log 2> yolo_nas_pose_n_fp32.onnx.fp16.engine.err
#/usr/src/tensorrt/bin/trtexec --onnx=yolo_nas_pose_n_fp32.onnx --best --avgRuns=100 --duration=15 --saveEngine=yolo_nas_pose_n_fp32.onnx.best.engine > yolo_nas_pose_n_fp32.onnx.best.engine.log 2> yolo_nas_pose_n_fp32.onnx.best.engine.err
#/usr/src/tensorrt/bin/trtexec --onnx=yolo_nas_pose_n_fp32.onnx --int8 --avgRuns=100 --duration=15 --saveEngine=yolo_nas_pose_n_fp32.onnx.int8.engine > yolo_nas_pose_n_fp32.onnx.int8.engine.log 2> yolo_nas_pose_n_fp32.onnx.int8.engine.err
#/usr/src/tensorrt/bin/trtexec --onnx=yolo_nas_pose_n_int8.onnx --int8 --avgRuns=100 --duration=15 --saveEngine=yolo_nas_pose_n_int8.onnx.int8.engine > yolo_nas_pose_n_int8.onnx.int8.engine.log 2> yolo_nas_pose_n_int8.onnx.int8.engine.err
#/usr/src/tensorrt/bin/trtexec --onnx=yolo_nas_pose_s_fp32.onnx        --avgRuns=100 --duration=15 --saveEngine=yolo_nas_pose_s_fp32.onnx.fp32.engine > yolo_nas_pose_s_fp32.onnx.fp32.engine.log 2> yolo_nas_pose_s_fp32.onnx.fp32.engine.err
#/usr/src/tensorrt/bin/trtexec --onnx=yolo_nas_pose_s_fp32.onnx --fp16 --avgRuns=100 --duration=15 --saveEngine=yolo_nas_pose_s_fp32.onnx.fp16.engine > yolo_nas_pose_s_fp32.onnx.fp16.engine.log 2> yolo_nas_pose_s_fp32.onnx.fp16.engine.err
#/usr/src/tensorrt/bin/trtexec --onnx=yolo_nas_pose_s_fp32.onnx --best --avgRuns=100 --duration=15 --saveEngine=yolo_nas_pose_s_fp32.onnx.best.engine > yolo_nas_pose_s_fp32.onnx.best.engine.log 2> yolo_nas_pose_s_fp32.onnx.best.engine.err
#/usr/src/tensorrt/bin/trtexec --onnx=yolo_nas_pose_s_fp32.onnx --int8 --avgRuns=100 --duration=15 --saveEngine=yolo_nas_pose_s_fp32.onnx.int8.engine > yolo_nas_pose_s_fp32.onnx.int8.engine.log 2> yolo_nas_pose_s_fp32.onnx.int8.engine.err
#/usr/src/tensorrt/bin/trtexec --onnx=yolo_nas_pose_s_int8.onnx --int8 --avgRuns=100 --duration=15 --saveEngine=yolo_nas_pose_s_int8.onnx.int8.engine > yolo_nas_pose_s_int8.onnx.int8.engine.log 2> yolo_nas_pose_s_int8.onnx.int8.engine.err

onnx_models=(
    "yolo_nas_pose_n_fp32"
    "yolo_nas_pose_n_fp16"
    "yolo_nas_pose_n_int8"
    "yolo_nas_pose_s_fp32"
    "yolo_nas_pose_s_fp16"
    "yolo_nas_pose_s_int8"
    "yolo_nas_pose_m_fp32"
    "yolo_nas_pose_m_fp16"
    "yolo_nas_pose_m_int8"
    "yolo_nas_pose_l_fp32"
    "yolo_nas_pose_l_fp16"
    "yolo_nas_pose_l_int8"
)

for onnx in "${onnx_models[@]}"; do
    for opt in "" "--fp16" "--best" "--int8"; do
        suffix=""
        if [ ! -z "$opt" ]; then
            suffix=".${opt:2}"
        fi
        /usr/src/tensorrt/bin/trtexec --onnx=${onnx}.onnx $opt --avgRuns=100 --duration=15 --saveEngine=${onnx}.onnx${suffix}.engine > ${onnx}.onnx${suffix}.engine.log 2> ${onnx}.onnx${suffix}.engine.err
    done
done