이 사례 연구에서는 NXP의 확장 가능한 ‘ AI ’ 솔루션과 ‘ Sonatus ’AI Director가 차량 내에서 실시간 엣지 기반 의사 결정을 어떻게 가능하게 하는지 살펴봅니다.
클라우드 기반 AI 의 도입이 확대되고 있는 반면, 차량 내 AI 는 주로 ADAS 및 자율주행 분야로 제한되어 있어, 온보드 AI 컴퓨팅이 지연 시간 단축, 데이터 전송 비용 절감, 개인정보 보호 강화, 지적재산권 보호 등의 이점을 통해 차량 기능을 향상시킬 수 있는 기회를 제공하고 있습니다. 이종 컴퓨팅 및 가속기를 탑재한 NXP의 S32 자동차 플랫폼은 안전하고 확장 가능한 AI 애플리케이션을 구현합니다.
Sonatus AI Director는 NXP의 하드웨어 및 소프트웨어 생태계와 통합된, AI 모델의 개발, 배포 및 원격 모니터링을 위한 엔드투엔드 툴체인을 제공합니다.
클라우드 기반 AI 는 강력한 기능을 제공하지만, 차량 내 “엣지 AI ”는 실시간 및 보안이 중요한 애플리케이션에 결정적인 이점을 제공합니다.
- 지연 시간 단축: 데이터를 로컬에서 처리함으로써 즉각적인 응답을 보장하며, 이는 클라우드 통신을 기다릴 수 없는 안전이 중요한 기능에 필수적입니다.
- 비용 절감: 대량의 차량 데이터를 클라우드로 전송하는 데 드는 비용을 대폭 절감합니다.
- 개인정보 보호 및 보안: 데이터를 차량 내에 보관함으로써 독점 알고리즘(IP)을 보호하고, 데이터 노출을 최소화하여 사용자 개인정보를 강화합니다.
이전에는 복잡한 MLOps 워크플로우와 특정 하드웨어에 맞춰 모델을 최적화하기 어려운 점 때문에 차량에 딥러닝( AI )을 적용하는 데 어려움이 있었습니다. 이번 공동 솔루션은 Sonatus 의 ‘AI Director’를 NXP의 eIQ® Auto ML 소프트웨어 및 S32 처리 플랫폼과 사전 통합함으로써 이러한 문제를 해결합니다.
- 엔드투엔드 툴체인: 모델 훈련, 검증, 최적화 및 배포를 위한 통합 워크플로를 제공하여, 서로 다른 도구를 조합해야 하는 번거로움을 없애줍니다.
- 자동화된 최적화: 이 솔루션은 NXP의 특정 하드웨어 가속기(NPU 및 DSP 등)에 맞게 모델을 자동으로 최적화하여, 수동 튜닝 없이도 효율적인 실행을 보장합니다.
표준 Python 기반 모델과 C++/eIQ® Auto ML로 최적화된 모델을 비교한 벤치마킹 연구 결과, 효율성이 획기적으로 향상된 것으로 나타났습니다.
- 더 빠른 추론: Glow로 컴파일했을 때 평균 추론 소요 시간이 8배 단축되었습니다.
- 자원 사용량 감소: CPU 사용률이 4.25배 감소했고, 가상 메모리 사용량은 144배나 줄어들어 다른 차량 기능을 위해 귀중한 컴퓨팅 자원을 확보할 수 있게 되었습니다.
