자율주행차 AI 결정, 탑승자에게 설명할 수 있을까

광주과학기술원, MIT와 공동연구···국제 학회서 논문 발표

광주과학기술원(GIST, 총장 임기철)은 융합기술학제학부 김승준 교수 연구팀과 매사추세츠공대(MIT) 연구소(CSAIL) 공동 연구팀이 자율주행차량 내 인공지능의 주행 의사결정을 탑승객 중심으로 설계 및 평가하는 기술을 개발했다고 9일 밝혔다. 자율주행 알고리즘의 결과인 인지판단 사유를 승객에게 설명하고 시각화할 수 있다. 

자율주행 등 안전성이 중요한 환경에서는 인공지능의 신뢰성을 위해 의사결정 사유를 해석하고, 설명할 수 있는 딥러닝 기술이 필요하다. 기존 알고리즘은 개발자나 AI 전문가를 중심으로 설계되어 탑승자의 도로 및 주행상황 인식을 보조하는 데 한계가 있었다.

가상현실 응용 설명가능한 자율주행 알고리즘 설계 및 평가 기술 (자료=GIST)

연구팀은 생체 센서를 통해 탑승객의 도로상황 인식 수준을 평가하고, 이에 맞춰 자율주행 상태를 시각화해 복잡한 AI 모델의 의사결정을 탑승객이 이해할 수 있도록 설명하는 기술을 개발했다.

이 연구는 차량 인터페이스를 증강해 임의의 설명 가능한 주행 알고리즘을 탑승자 중심으로 평가할 수 있다는 장점이 있다. 자율주행차량의 기술 수용도를 높이기 위한 차내 정보 시스템, 헤드업 디스플레이 등 전장 설계에 응용될 수 있으리란 기대다.

이 연구는 지난달 유비쿼터스 컴퓨팅 분야 국제 학회 UbiComp(ACM international joint conference on Pervasive and Ubiquitous Computing) 2023'에서 발표됐다.

김승준 교수는 "이번 연구는 도로 위 가상현실 환경에서 탑승객의 인지 부하, 긴장, 신뢰도, 상황인식 등 사용자 경험을 평가할 수 있다는 점에서 학회에서 많은 관심을 받았다"라고 말했다.