차량 내 엣지 컴퓨팅의 잠재력 발굴 AI

0:00 자동차 혁신 개요

자동차 소프트웨어 혁신과 ‘ AI ’의 접점을 탐구하고, 이것이 모빌리티의 미래를 어떻게 이끌어가는지 살펴보는 팟캐스트, 《 Driving Innovation 》의 또 다른 에피소드에 오신 것을 환영합니다.

오늘은 소프트웨어 정의 차량(SDV) 기술과 솔루션이 어떻게 엣지 컴퓨팅( AI )을 통해 차량을 단순한 기계에서 지능적이고 적응력 있는 플랫폼으로 변화시킬 수 있는지 자세히 살펴보겠습니다. 이 주제는 당사의 최신 백서인 ‘차량 내 엣지 컴퓨팅의 잠재력 발굴(Unlocking the Potential of In-Vehicle Edge AI )’에서 다루고 있으며, 당사 웹사이트에서 다운로드하실 수 있습니다.

0:31 클라우드 기반 시스템의 과제 AI

이번 글에서는 클라우드 기반 ‘ AI ’만으로는 왜 부족한지, OEM 업체들의 발목을 묶고 있는 요인은 무엇인지, 그리고 SDV가 예측 정비부터 에너지 최적화 및 그 이상을 아우르는 차량 내 실시간 지능을 어떻게 실현하는지 자세히 살펴보겠습니다.

회사의 디지털 로드맵을 수립하는 경영진이든, 배후에서 변화를 주도하는 기술 전문가이든, 이 글은 바로 여러분을 위한 것입니다. 그럼 시작해 봅시다.

1:04 게스트 소개

오늘 차량 내 에지 컴퓨팅 AI 에 대해 이야기를 나누기 위해, Sonatus 의 제품 매니저인 스티브 스토다드 씨를 모셨습니다. 스티브, 팟캐스트에 오신 것을 환영합니다. 감사합니다, 산제이. 자, 그럼 시작해 볼까요.

오늘날 자동차 업계에서 엣지 AI 에 대한 화제는 무엇인가요?

네. 지금 여러 가지 트렌드가 서로 수렴되고 있는 것 같아요. 그중 하나는 지난 10년 정도에 걸쳐 이곳에서 발전해 온 자율 기술인데, 드디어 본격적인 결실을 맺기 시작하고 있어요. 그래서 그 주위에 많은 관심이 쏠리고 있죠.

하지만 한편으로는, 정말 빠르게 성장하고 있는 이러한 전통적인 대규모 언어 모델(LLM)들이 결합되는 현상도 있습니다. 비록 대부분 클라우드 기반이긴 하지만, 이로 인해 엣지 컴퓨팅( AI )에 대한 인지도가 크게 높아지고 있으며, 고객들 사이에서도 현재 차량에 엣지 AI( AI )를 탑재하는 것에 대한 관심과 기대가 크게 높아지고 있습니다. 문제점 중 하나는 클라우드 기반 엣지 컴퓨팅( AI )이 차량에서 클라우드로 데이터를 전송하는 데 따르는 데이터 비용 때문에 일종의 한계가 있다는 점입니다. 또한 연결 문제도 항상 발생할 가능성이 있습니다.

게다가 PII 데이터, 즉 개인 식별 정보와 관련된 우려는 물론이고, 고객 기밀 정보의 유출 가능성에 대한 우려도 있습니다.

EU의 GDPR이나 개인 데이터 관리에 있어 좀 더 세심한 주의가 요구되는 기타 지역별 규정들은 모두, AI 모델을 클라우드가 아닌 차량 내에서 직접 실행하고자 하는 경향을 부추기고 있습니다.

2:24 클라우드 기반에서 엣지로의 전환 AI

요즘 ‘ AI ’가 대세라는 건 저도 잘 알고 있습니다.

과거의 전통적인 기존 차량 아키텍처에서는 찾아보기 어려웠던 엣지 AI 를 오늘날 자동차 산업에서 더욱 실현 가능하게 만드는 요인은 무엇일까요?

네, 확실히 그렇죠. 소프트웨어 정의 차량(SDV) 같은 트렌드는 분명 그 점에서 큰 요인으로 작용하고 있습니다. 물론, 소프트웨어를 통해 제어 범위가 넓어지고 특정 변수를 변경할 수 있게 되면, 이전에는 존재하지 않았을 수도 있는 다양한 기능을 갖춘 ‘ AI ’ 모델들이 가능해집니다.

게다가, 이러한 ML 모델 중 상당수가 이제 상당히 정착된 상태입니다. 따라서 전통적인 ML은 추천 모델이나 오늘날 클라우드에서 사용되는 기술들의 토대를 마련해 주었으며, 이러한 기술들은 이제 차량 내에서 볼 수 있는 제한된 하드웨어에서 실행되도록 더욱 최적화되기 시작하고 있습니다. 동시에, 차량용으로 개발되고 있는 일부 하드웨어의 경우, 특히 앞서 언급한 자율주행 기술의 부상과 함께, HPC(고성능 컴퓨팅) 및 AI 신경망 연산과 GPU에 더 적합한 컴퓨팅 성능으로의 추세가 두드러지고 있습니다. 차량에 탑재할 수 있는 이러한 유형의 반도체에 대한 관심이 훨씬 더 높아지고 있습니다.

따라서 오늘날 차량에는 이러한 유형의 모델을 실제로 구동할 수 있는 다양한 성능의 ECU가 훨씬 더 많이 탑재되어 있습니다. 따라서 SDV 기술은 엣지 컴퓨팅( AI )을 차량에 도입할 수 있는 길을 분명히 열어주고 있습니다.

그 부분에 대해 좀 더 자세히 살펴보도록 합시다.

3:52 엣지 AI 도입에 있어 OEM이 직면한 장애물

지금까지 OEM 업체들의 발목을 잡아온 요인은 무엇일까요?

가장 중요한 요소 중 하나는 차량 내 네트워크 토폴로지가 될 것입니다. 즉, 차량의 실제 아키텍처와 신호 구조는 전통적으로 다소 경직되고 정적인 성격을 띠어 왔습니다. 물론 SDV로 전환됨에 따라 이러한 유연성 덕분에 훨씬 더 많은 기능이 도입될 것입니다.

또 다른 문제는 실제 데이터 접근입니다. 따라서 AI 모델을 차량에 배포할 때 고려해야 할 사항 중 하나는, 모델 입력으로 필요한 올바른 데이터를 적절한 시점에 해당 모델로 어떻게 전송할 것인가 하는 점입니다.

그리고 이것이 바로 최신 기술들이 확실히 가능하게 만들기 시작한 것 중 하나입니다. 또한, 현재 클라우드 기반의 MLOps 유형 도구들이 많이 나와 있습니다. 클라우드에 모델을 배포하는 데는 매우 유용하지만, 이는 ML을 수행하는 보다 전통적인 방식입니다. 반면, 차량과 같은 임베디드 기기에 모델을 배포할 수 있는 리소스나 도구는 상대적으로 더 적습니다. 또한 차량은 일반적인 IoT 기기에 비해, 특히 데이터 제어 및 접근 권한 관리와 같은 측면에서 좀 더 엄격한 보안 요구 사항을 가지고 있다고 생각합니다.

4:58 자동차 전용 AI 도구

네. 그렇죠. AI 모델을 구동하려면 유연성과 정밀성이 분명히 필요합니다. 방금 언급하신, 자동차 분야에 특화된 AIML 연산 툴체인에 대해 좀 더 자세히 알아보도록 하죠. 시중에 나와 있는 모든 도구가 자동차 환경에 적합하지 않을 수 있는 이유에 대해 좀 더 자세히 설명해 주실 수 있나요?

네. 확실히요. 이 부분은 좀 까다로운데, 차량에서 수집된 데이터에 접근 권한이 있는 사람들의 경우, 일반적으로 모델을 훈련하고 배포하는 과정은 모든 데이터를 수집한 뒤 이를 바탕으로 모델을 구축하는 방식으로 진행되며, 보통 이 작업을 담당하는 것은 데이터 과학자나 머신러닝 엔지니어들이기 때문입니다.

그리고 궁극적으로 이를 차량에 적용하려면, 올바른 데이터 소스에 연결하고 모델을 최적화해야 합니다. 일반적으로 모델을 다운사이징하고, 스파스화(sparsification)와 같은 특정 기법을 적용한 뒤, 차량 내 어디에 배포할지 지정하고, 마지막으로 ‘이 모델을 승인합니다’라고 하는 승인 절차를 거쳐야 합니다. ‘이 모델이 차량 내 다른 프로세스에 해를 끼치지 않을 것임을 확인했으므로, 이제 실제로 배포할 수 있다’는 확신이 서야 합니다. 따라서 ML 툴체인은 이러한 모든 핵심 요소를 반드시 충족해야 합니다. 그렇지 않으면 그저 장애물에 불과하며, 실제 실행에 옮길 수 없게 됩니다.

맞아요. 네. 마치 대형 서버에 AI 를 배포하는 것과는 사정이 다르죠. 게다가 이 장치나 플랫폼은 그 외에도 많은 일을 수행해야 하거든요. 무엇보다도, 아시다시피 사람들과 화물을 A 지점에서 B 지점으로 수송하고, 그들의 안전을 지키며, 즐겁게 해주고 기분 좋게 만들어 줘야 하니까요.

그러니까, 고려해야 할 요소가 정말 많네요. 확실히 그렇죠.

그 외에도 고려해야 할 중요한 사항들이 많이 있습니다.

6:37 ‘ AI ’ 모델의 인프라 관련 과제

인프라에 대해 좀 더 자세히 살펴보고 싶습니다. 앞서 차량이 다양한 임무, 그것도 임무 수행에 필수적인 일들을 수행해야 한다는 점에 대해 이야기했습니다. 이는 제약이 많은 환경입니다. 여러 가지 제한 사항이 많습니다.

OEM들은 AI 모델에 적합한 환경을 조성하면서도, 차량의 주된 목적인 이동 및 교통 수단으로서의 기능을 동시에 충족시키기 위해 어떤 종류의 설계적 선택을 할 수 있을까요?

따라서 OEM 업체들이 SDV로 전환해 나가는 과정에서, 차량 내부의 CAN과 같은 저속 아키텍처 기반 네트워크에서 이더넷 기반 네트워크로 전환되는 경우가 많습니다. 따라서 전통적으로는 이더넷 백본이 더 많이 사용되는 것을 볼 수 있습니다. 그리고 분산형 ECU를 사용하는 분산형 네트워크부터 도메인 지향 아키텍처, 심지어 구역(zone) 기반 아키텍처에 이르기까지 다양한 형태를 볼 수 있습니다. 이러한 모든 경우에서 일반적으로 모델을 데이터로 가져오거나 데이터를 모델로 가져와야 하는 문제가 발생합니다.

따라서 이러한 경우에는 데이터가 있는 곳에서 실제로 모델을 실행할 수 있도록, 해당 에지 ECU 노드나 심지어 MCU에 모델을 배포할 수 있는 적절한 솔루션이 필요합니다. 반대로, 예를 들어 게이트웨이에 모델을 배치할 경우, 에지 ECU에서 데이터를 수집하여 해당 게이트웨이로 전송해 줄 일종의 에이전트가 필요합니다. 이것이 몇 가지 핵심 사항입니다. 일반적으로 서비스 지향 아키텍처(SOA)가 이러한 종류의 모델을 배포하고, 차량 내에서 모델을 실행하며 그 기능을 확인하는 데 필요한 유연성을 제공하는 데 더 적합하다고 생각합니다.

또한 이러한 모델들을 컨테이너화된 환경에서 실행해야 할 필요성도 있습니다. 앞서 언급한 안전 및 미션 크리티컬한 관점에서 볼 때, 배포된 모든 모델이 항상 차량의 안전을 보장하고, 미션 크리티컬한 기능의 실행을 방해할 정도로 과도한 리소스를 소모하지 않도록 해야 합니다.

네. 그러니까 특정 고성능 GPU 등에 의존하지 않고, 범용 ECU에 모델을 배포할 수 있는 유연한 플랫폼이 정말로 필요하죠.

그 ECU들은 파워트레인 관리나 인포테인먼트 시스템 관리 같은 다른 작업들도 수행해야 하기 때문이죠. 맞아요. 정말 흥미롭네요. 그러니 여러 가지 다양한 과제를 동시에 해결해 나가야 하죠.

그러니 차량에 엣지 AI 를 도입하기 위해서는 훨씬 더 맞춤형 솔루션이 필요하다는 점을 이해할 수 있습니다.

물론이죠. 그리고 바로 그 점에서 최적화가 정말 중요해지죠. 그렇죠? 자원이 제한되어 있으므로, 모델 성능에 필요한 정확도를 희생하지 않으면서도 모델을 최대한 최적화해야 합니다. 좋아요.

분명히 이는 기회이지만, 동시에 여러 가지 과제도 있습니다.

9:23 ADAS를 넘어선 활용 사례

그리고 설명해 주신 대로, SDV 기술은 더 많은 엣지 AI 활용 사례를 도입할 수 있는 기반을 마련해 줄 수 있습니다. 그런데, 아직 활용 사례에 대해서는 제대로 이야기해 보지 않았네요. 사람들이 ADAS나 자율 주행에 대해 이야기하는 건 알고 있는데, 그 중 상당 부분은 AI 에 의존하고 있습니다. 엣지 AI 를 통해 가능해지는 다른 활용 사례로는 어떤 것들이 있을까요? 그리고 OEM 업체들이 왜 이 기술에 관심을 가져야 할까요?

네. 확실히요. 그래서 저희가 보기에 가장 흥미로운 활용 사례 중 상당수는 사실 ADAS 영역 밖에서 찾아볼 수 있는데, ADAS는 이미 너무나도 많이 다뤄진 분야이기 때문이죠. 그 분야에서는 이미 많은 분들이 훌륭한 성과를 내어 왔으니까요.

하지만 차량에 탑재된 기존의 실리콘 칩이나 전통적인 하드웨어를 활용하면, 개인화 및 특정 유형의 기능을 처리할 수 있는 더 흥미로운 모델을 구동할 수 있을 것으로 생각합니다. 이에 대해 몇 가지 활용 사례를 들어보겠습니다. 안전 측면에서 타이어 마모 및 타이어 관리가 중요한 요소로 작용할 수 있습니다. 따라서 기존의 물리 기반 모델뿐만 아니라 다른 출처에서 수집한 데이터도 활용하게 됩니다.

따라서 특정 운전 습관에 따라 타이어 마모 분석 모델이나 수막 현상 모델 등을 개인화하여, 도로에서 충분한 접지력을 확보할 수 있도록 합니다. 이를 통해 사용자나 차량 내 다른 시스템에 조기 경고를 제공하여 트랙션 컨트롤 등을 조정할 수 있게 합니다. 또 다른 적용 분야는 개인화입니다. 예를 들어, 사용자가 ADAS 시스템과 실제로 어떻게 상호작용할지 등을 고려하는 것이죠. 이를 통해 시간이 지남에 따라 새로운 기능을 구현할 수 있게 됩니다.

차량에 새로운 모델을 지원할 수 있는 특정 하드웨어가 탑재되어 있을 수도 있지만, 시간이 없거나 해당 기능이 존재하지 않았을 수도 있습니다. 실제로 차량 양산을 시작할 당시에는 그 사실을 알지 못했습니다. 이러한 플랫폼을 통해 차량에 새로운 모델을 적용하고 더욱 세분화된 맞춤 설정을 제공할 수 있습니다. 따라서 개인화된 기능이 오히려 주의 분산이 될 수도 있습니다.

따라서 사용자에 따라, 현재 시점 직전까지 주의가 얼마나 산만해졌는지에 따라 특정 주의 산만 알림음의 주파수나 재생 방식을 변경하고 싶을 수도 있습니다. 그 외에도 몇 가지 사항이 더 있습니다. 곧 시행될 몇 가지 규정이 있습니다.

EU의 헤드라이트 자동 레벨링 및 이와 유사한 사항에 관한 특정 규정은 이러한 기능을 필수로 요구할 것입니다. 또한, 주어진 규정의 문언상 요건은 충족하면서도 그 위에 추가 기능을 더할 수도 있습니다. 예를 들어, 이제 주행 중에도 헤드라이트를 동적으로 조정할 수 있는 새로운 기능을 추가할 수 있게 되었습니다.

아시다시피, ChatGPT나 그 밖의 다양한 LLM 기반 모델들이 자동차에도 도입되기 시작하고 있죠. ChatGPT에 가장 가까운 커피숍이 어디 있는지 물어보고 그곳으로 안내받는 것 외에도, 그런 LLM 기반 모델들이 적용될 여지가 있을까요? 네.

네, 물론이죠. 그리고 이것이 확실히 이 분야에서 많은 열기를 불러일으키고 있는 요인입니다. 따라서 다양한 대규모 언어 모델(LLM)과 그에 대한 활용 사례가 존재합니다. 전통적인 채팅 비서도 있는데, 많은 사람들이 이를 활용해 보고 있으며, 성공 정도나 열의는 각기 다르겠지만 확실히 관심을 보이고 있습니다.

이러한 작업들은 종종 IVI와 충돌하곤 합니다. 따라서 LLM의 구체적인 사용 사례에 따라, 차량 내 다른 ECU에서 LLM을 실행하는 것이 바람직할 수 있습니다. 우리가 확인한 LLM의 또 다른 사용 사례 중 특히 주목할 만한 것은 사이버 보안 분야입니다. 대부분의 경우, 침입 탐지 모델은 잠재적인 침입에 대해 매우 세분화되고 수많은 규칙을 가지고 있어, 클라우드에 대량의 데이터를 전송해야 할 뿐만 아니라 많은 오탐이 발생하기도 합니다.

LLM을 통해, 우리는 이러한 오탐을 대폭 줄일 뿐만 아니라 훨씬 더 광범위한 위협 경로, 즉 위협 벡터를 포괄할 수 있는 일부 모델 공급업체들을 발견하고 있으며, 이를 이러한 모델로 단순화할 수 있습니다. 물론 한 가지 우려 사항은, 무엇이 LLM에 해당하며, 이를 차량 내에서 실행할 수 있는지 여부입니다. 바로 이 부분에서 많은 최적화 노하우가 필요하게 됩니다.

물론, SLM은 계속해서 출시되고 있습니다. SLM이란 소형 언어 모델을 말합니다.

네, 맞아요. 그 기준을 정확히 어디에 두어야 할지는 아직 미정인 문제라고 생각합니다.

하지만 결국에는, 컴퓨팅 성능이 지속적으로 향상되고, 특히 차량용 ECU 내의 신경망 컴퓨팅 및 GPU 기반 기능이 발전함에 따라, 모델 압축 기술과 기존 기초 대규모 언어 모델(LLM)의 기능을 점점 더 작은 규모의 도구로 축소해 나가는 추세가 이어지면서, 향후 몇 년 내에 차량 내 이러한 도구들의 성능이 훨씬 더 향상되는 수렴 현상이 나타날 것이라고 생각합니다.

13:54 차량 내 엣지 컴퓨팅에서 ‘ Sonatus’의 역할 AI

훌륭합니다. 이제 Sonatus 과 Sonatus가 이러한 발전 과정에서 어떤 역할을 했는지 이야기해 봅시다. 아시다시피, 저희는 SDV 기술 및 솔루션 분야의 선두주자입니다. 이 점이 방금 말씀하신 내용과 어떤 관련이 있나요?

네. 그래서 ‘ Sonatus ’에는 이러한 다양한 범주에 속하는 여러 가지 제품이 있습니다. 저희의 경우, 차량 내 EE 아키텍처에 중점을 둔 ‘Foundation’ 제품에서 시작한다고 할 수 있습니다. 이 제품은 기본적으로 네트워크 트래픽을 제어하고, 특정 사용 사례나 차량 구성의 요구 사항에 최적화하기 위해 네트워크의 여러 측면을 동적으로 변경하는 기능을 담당합니다.

또한 저희의 ‘Collector’ 제품도 있는데, 이는 기본적으로 고객이 필요할 때, 필요한 만큼 차량에서 데이터를 수집할 수 있게 해줍니다. 따라서 모든 데이터를 한꺼번에 수집하거나 아예 수집하지 못하는 방식이 아니라, 필요한 순간에 정확히 원하는 데이터만 얻을 수 있고 그 외에는 수집하지 않아도 됩니다. 이러한 기능들은 차량 내 ‘ AI ’을 도입하는 데 핵심적인 역할을 하며, 이는 고객이 차량 내에서 실제로 조치를 취하고자 할 때 필요한 다음 단계로 이어집니다. 이에 따라 저희는 ‘Automator’라는 제품을 보유하고 있는데, 이 제품은 차량 내에서 특정 트리거 조건이 충족될 때 특정 동작을 실행하거나 차량 내 다른 부분으로 신호를 전송하여 활용하도록 구성할 수 있게 해줍니다.

그리고 이는 차량 자체에 ‘ AI ’ 모델이 탑재되면서, 특정 장소와 통신하는 데 사용할 수 있는 출력 또는 차량 신호의 범위가 상당히 확대될 수 있는 사례 중 하나입니다. 따라서 차량 내 ‘ AI ’ 모델의 출력을 마치 차량 내에서 생성된 신호인 것처럼 활용하여 다른 곳에서 사용하거나, 다른 목적으로 클라우드에 다시 전송할 수도 있습니다. 마치 진정한 에이전트와도 같은 것이죠. 그렇죠?

가상이나 디지털 세계를 물리적 세계와 연결하는 것이죠. 확실히 그렇습니다. 틀림없어요. 그리고 아시다시피, 클라우드 기반의 ‘ AI ’를 활용하면, 물론 그 위에 더 많은 지능형 기능을 구동할 수 있습니다.

그런 대규모 언어 모델(LLM)들은 행동 방식이나 사고 방식 면에서 인간과 좀 더 비슷해졌죠. 이제 차량 내에서 일어나는 상황을 진단하고 더 지능적인 조치를 취할 수 있는 기능을 추가하기 시작하고 있습니다. 네. 바로 그 부분이 우리가 예상하는 발전 방향입니다.

네. 그리고 물론, 저희만의 OTA인 ‘Updater’도 있습니다. 이 기능은 차량의 수명 주기 전반에 걸쳐 모델을 업데이트하는 데 중요한 역할을 합니다.

물론입니다. 간과해서는 안 될 점은, Updater와 같은 OTA 솔루션이 해당 모델을 차량 내에서 실행되어야 하는 위치로 가져오고, 동시에 진행 중인 다른 모든 작업을 보호하기 위한 컨테이너화된 환경을 제공하는 데 정말 중요하다는 것입니다.

16:22 결론 및 향후 전망

스티브, 정말 유익한 대화가었습니다. 대화하는 내내 즐거웠습니다. 팟캐스트에 출연해 주셔서 다시 한번 감사드립니다.

고마워요, 산제이. 정말 감사합니다.

자, 그게 다입니다.

우리는 차량이 단순한 이동성 혁신의 플랫폼에 그치지 않고, ‘스마트 드라이브 차량( AI, SDV)’을 통한 혁신의 기반이 되는 미래를 기대하고 있습니다. 향후 공개될 에피소드에서는 SDV 기술과 ‘스마트 드라이브 차량( AI )’의 융합에 대해 훨씬 더 심도 있게 다루고, 이것이 이동성의 미래를 어떻게 근본적으로 변화시킬지 살펴볼 예정이니 많은 기대 부탁드립니다.