Jetson orin에 YOLOv8 적용 with DeepStream SDK, Docker

젯슨 오린에 YOLOv8을 적용하려다가 개 뚜드러 맞고 암것도 못했었음,

 

RuntimeError: CUDA error: no kerenl image is available for execution on the device
CUDA Kernel errors might be asynchronously reported at some other API call,so the stacktrace below might be For debugging consider passing CUDA_LAUNCH_BLOCKING=1.

왜 이러가 뜨는지 찾아봤더니,, 파이토치 문제라고 알려줘서 젯슨에다가 파이토치를 얼마나 많이 깔고 지우고를 반복했지만 결국 실패함..

 

 

그러다가..

---

Deploy YOLOv8 with TensorRT and DeepStream SDK | Seeed Studio Wiki

Deploy YOLOv8 with TensorRT and DeepStream SDK | Seeed Studio Wiki

요 녀석을 찾았음. 내 구세주. 이거하나면 TensorRT랑 DeepStream SDK로 AI model 맘껏 쓸 수 있음.

 

DeepStream Version	JetPack Version
6.2	5.1.1
	5.1
6.1.1	5.0.2
6.1	5.0.1 DP
6.0.1	4.6.3
	4.6.2
	4.6.1
6.0	4.6

내 경우 Jetson orin에 설치되어 있는 JetPack 5.1.1이라서 DeepStream 6.2로 설치

 

그냥 깔려다가 괜히 잘못되면 다시 깔아야하길래 도커로 깔았음. 도커도 있더라

 

marcoslucianops/DeepStream-Yolo: NVIDIA DeepStream SDK 6.2 / 6.1.1 / 6.1 / 6.0.1 / 6.0 / 5.1 implementation for YOLO models (github.com)

GitHub - marcoslucianops/DeepStream-Yolo: NVIDIA DeepStream SDK 6.2 / 6.1.1 / 6.1 / 6.0.1 / 6.0 / 5.1 implementation for YOLO mo

nvcr.io/nvidia/deepstream-l4t:6.2-triton

도커 파일 이걸로 가져오면 됨(triton, sample 두개있는데 뭔지 몰라서 앞에걸로 가져옴)

docker pull nvcr.io/nvidia/deepstream-l4t:6.2-triton

나머지 yolov8이나 pytorch버전은 밑에 맞춰서 도커 컨테이너 내에 설치하면 됨.

 

https://wiki.seeedstudio.com/YOLOv8-DeepStream-TRT-Jetson/#install-necessary-packages

Deploy YOLOv8 with TensorRT and DeepStream SDK | Seeed Studio Wiki

https://wiki.seeedstudio.com/YOLOv8-DeepStream-TRT-Jetson/#install-pytorch-and-torchvision

Deploy YOLOv8 with TensorRT and DeepStream SDK | Seeed Studio Wiki

 

난 욜로로 트래킹때문에 설치한건데 잘 되더라.

뻘짓하지말고 있는거 잘 쓰자.