|
|
@@ -31,4 +31,13 @@ trtexec --onnx=resnet.onnx --saveEngine=resnet.engine --fp16 --verbose
|
|
|
bool ok = cpmi.start([] { return resnet::load("resnet.engine"); }, max_infer_batch);
|
|
|
|
|
|
cpmi.commit(cvimg(image)).get();
|
|
|
- ```
|
|
|
+ ```
|
|
|
+
|
|
|
+#### 推理时间
|
|
|
+| 模型 | 精度 | 时间 |
|
|
|
+| --- | --- | ---|
|
|
|
+| resnet34 | fp16 | 0.49488ms |
|
|
|
+
|
|
|
+
|
|
|
+## Reference
|
|
|
+- [🌻shouxieai/infer](https://github.com/shouxieai/infer)
|
