자율차 SW 결함 누가 책임질까…업계 "제조사 몫"

SW 오사용·데이터 투명성까지 제조사 책임 확대론 커져

자율주행차 제조사가 예측 가능한 위험·오사용·데이터 투명성까지 책임져야 한다는 보고서 결과가 나왔다.

26일 소프트웨어정책연구소(SPRi)가 공개한 보고서에 따르면 자율주행차 소프트웨어(SW) 안전이 제조사의 법적·제도적 책임으로 돌아가야 한다는 주장이 나온 것으로 나타났다.

앞서 미국 플로리다 남부연방지방법원은 2019년에 발생한 테슬라 오토파일럿 주행 중 정지차량 충돌 사고에 대해 운전자 과실 67%, 테슬라 과실 33%를 인정했다. 여기에 2억 달러 규모의 징벌적 손해배상까지 부과했다. 보고서는 이 판결이 레벨 2 운전자 보조 시스템에도 제조사의 오사용 방지와 정보 투명성 의무를 적용한 첫 사례라고 설명했다.

스페인 마드리드에서 FSD 시범 주행 하는 모습 (사진=테슬라 유럽)

사고 당시 테슬라 차량은 오토파일럿 상태에서 정지 차량을 인식하지 못했고, 자동긴급제동(AEB)도 작동하지 않았다. 여기에 운전자 부주의가 겹치며 피해가 발생한 것이다. 배심원단은 운전자의 책임을 인정하면서도 시스템 설계 한계 역시 사고 원인이라고 판단했다.

보고서는 테슬라가 사고 직후 로그 데이터가 없다고 주장했다가 해커가 기록을 복구한 일이 징벌적 배상 판단의 핵심 요인으로 작용했다고 지적했다. '완전자율주행(FSD)' 명칭처럼 소비자의 과신을 유발할 수 있는 표현도 제조사 책임을 강화한 요소로 분석했다.

SPRi는 이번 판결을 자동차 기능안전(ISO 26262), 자율주행 안전성(SOTIF·ISO 21448), AI 안전(ISO/PAS 8800) 등 국제 표준 관점에서 해석했다. 기능 결함뿐 아니라 성능 한계, AI 모델의 불확실성까지 관리하는 새로운 안전 체계가 필요하다고 봤다.

또 레벨 2 보조 기능에도 유엔 유럽경제위원회 규정(UNECE R157·R171)이 적용되면서 운전자 감시 시스템(DMS), 운영 설계 영역(ODD) 고지, 시스템 한계 관리가 제조사의 필수 요건으로 떠올랐다고 설명했다. 국내도 국제 규정과 연동돼 있어 FSD 같은 기능의 도입에는 제약이 따른다는 분석이다.

SPRi는 "SW 안전이 더 이상 기술 내부의 '품질 이슈'가 아니라 제조물 책임·징벌적 손해배상·데이터 투명성·AI 안전을 아우르는 종합적 리스크 관리 대상임을 보여준다"며 "안전과 보안을 연계하는 거버넌스 검토가 필요하다"고 강조했다.