"표지판에 스티커만 붙여도 자율차 바보돼"

워싱턴대학교 연구팀이 도로 표지판에 스티커를 붙이는 것만으로 자율주행차를 혼란에 빠뜨릴 수 있다는 경고를 해 주목받고 있다.

자율주행차는 다양한 센서가 탑재돼 외부 정보를 인식한다. 주위의 자동차나 보행자, 도로 표지판 등을 카메라로 촬영하고 미리 준비돼 있는 기계 학습 시스템을 사용해 화상 인식 처리해 즉시 도로 상황을 파악하는 것이다.

그러나 워싱턴 대학의 타다요시 코노 박사 연구팀은 도로 표지판에 스티커를 붙이는 것만으로 자율주행차 인식 기능을 오작동하게 만드는 방법을 찾아냈다.

연구팀은 이 사이버 공격 수법을 ‘Robust Physical Perturbations(RP2)’라고 명명했다.

자율주행차의 이미지 인식 시스템은 주로 ‘물체 감지’ 기능과 ‘분류’ 기능으로 나눠져 있다.

물체감지는 자동차나 보행자 신호 등 ‘물체의 존재’를 감지하는 것이고, 분류는 감지된 물체가 무엇인지 ‘내용’을 데이터에 비춰 판단하는 것을 뜻한다.

도로 표지판이 어떤 의미를 갖는지 판단하는 것은 분류 기능이다.

그러나 코노 박사는 “이미지를 분류하는 데 이용되는 심층 신경망의 취약점을 악용할 경우 분류 기능을 담당하는 알고리즘과 이미지 인식에 문제를 일으킬 수 있다”며 “RP2와 같은 자율주행차 오인식 문제를 일으키는 ‘맞춤 이미지’가 생성될 위험이 있다”고 경고했다.

연구팀은 실제 도로 표지판과 같은 크기의 모형을 만들고 스티커를 붙여 자율주행차의 시스템을 오작동 시킬 수 있음을 입증했다.

‘우회전’을 의미하는 도로 표지판에 가공된 스티커를 붙여 ‘시속 45마일 제한'이라는 속도 제한 표지판이라고 오인식 하도록 한 것. 또 ‘일시 중지’ 표지판을 ‘시속 45 마일 제한’이라고 잘못 인식되도록 하는 것도 가능했다.

특히 이런 이미지 인식 실패는 40피트(약 12미터) 떨어진 거리의 다양한 각도에서 검증된 대다수 자율주행차 시스템을 혼란시키는 데 성공했다.

관련기사