[Tech]TDS, NVIDIA DeepStream 쉽게 사용하는 방법

2024-05-30

NVIDIA DeepStream 이란

NVIDIA DeepStream 란, AI 기반의 다중 센서 처리, 비디오, 오디오 및 이미지 인식을 위한 GStreamer 기반의 완벽한 스트리밍 분석 툴킷으로, IVA 앱과 서비스를 구축하는 비전 AI 개발자와 소프트웨어 파트너, 스타트업 및 OEM에게 적합한 제품입니다. 이제 개발자는 신경망을 비롯해 추적, 비디오 인코딩/디코딩, 비디오 렌더링 등의 복잡한 처리 태스크가 모두 포함된 스트림 처리 파이프라인을 생성할 수 있습니다. DeepStream 파이프라인에서는 비디오, 이미지 및 센서 데이터를 실시간으로 분석할 수 있습니다.



DeepStream 의 장점

강력하면서, 유연하여 광범위한 분야에서 사용가능하며, 다중프로그래밍 옵션, 실시간 인사이트, 관리형 서비스가  효과적이며, 개발자와 기업 모두를 위해 개발된 DeepStream은 최첨단 SSD, YOLO, FasterRCNN, MaskRCNN 등 인기 있는 물체 감지 및 세분화 모델에서 광범위한 AI 모델을 지원합니다. 맞춤형 함수와 라이브러리를 통합할 수도 있습니다. NVIDIA Metropolis로 총체적인 비전 AI 시스템을 구축하면 개발 작업 전반의 속도를 높이고 실시간 성능을 개선할 수 있습니다. 프로덕션급의 비전 AI 모델로 시작하여 TAO Toolkit을 통해 조정 및 최적화하고, DeepStream을 사용해 배포할 수 있습니다.



DeepStream 을 Jetson 시리즈에서 사용할 때의 유의점

DeepStream 이 기본적으로는 gstreamer 를 기반으로 하는 툴이기에 개발자는 gstreamer 의 pipeline 구성등에 대한 이해와 사용법을 자세히 알아야 한다는 것입니다. 물론, 그냥 샘플코드나 예제대로 실행하고 사용한다면 문제가 안될 수 있습니다. 하지만, 실제 어플리케이션에 적용하는 과정중에는 파이프라인의 변경과 조정, 최적화등이 일정과 성능에 치명적인 부분이 되며, 이를 학습하는데는 많은 시간이 소요되는 부분입니다. 특히, 이를 Jetson 시리즈의 프랫폼에서 제한된 하드웨어와 특화된 블럭들을 사용하는데에는 또 다른 시나리오가 준비되어 있게됩니다.


TDS, Telelian DeepStream, 모듈의 편리성

텔레리안은 gstreamer 와 deepStream 를 Jetson 플랫폼을 이용한 다양한 어플리케이션에서 사용해오면서 아래의 코드와 같은 방법으로 TDS 모듈을 사용하여 개발자가 개발에 집중할 수 있는 방법들을 제공합니다. 이는 개발자가 하드웨어적인 부분이나 파이프라인의 구성에 대한 이해가 없이도, model 개발이나 구성들을 쉽게 변경할 수 있도록 도움으로써, 개발 시간을 절약할 뿐 아니라, DeepStream 의 장점들은 그대로 사용할 수 있기 때문에 개발 및 성능 최적화도 가능하게 됩니다.




TELELIAN

B207, IT College, 1342, Seongnam-daero, Sujeong-gu, Seongnam-si, Gyeonggi-do, Republic of Korea
sales@telelian.com

Copyright ⓒ Telelian Inc.