맥머레이 GM 연구개발 사장 "AI 시대에도 결정권은 인간이 가져야"

"인공지능(AI)이 얼마나 똑똑해질지가 아니라, 우리가 여전히 통제권을 갖고 있는지가 진짜 질문입니다."

브라이언 맥머레이 GM 한국연구개발법인(GMTCK) 사장은 21일 대구에서 열린 'FIX2026'에서 '누가 미래를 이끄는가? 기술, AI, 그리고 인류의 미래'를 주제로 한 기조강연에서 이같이 밝혔다.

AI 활용이 확대될수록 인간의 판단과 책임이 중요하며 자동차 설계부터 자율주행까지 AI가 수행하는 일이 늘어나더라도, 결과를 검토하고 실행 여부를 결정하는 권한은 사람이 유지해야 한다는 뜻이다.

그는 AI에 판단을 맡기는 일이 이미 일상 깊숙이 들어왔다고 진단했다. 내비게이션의 경로 안내부터 음악 추천, 일정 관리까지 기술이 사람의 선택에 영향을 미치지만, 이용자는 이를 의식하지 못하는 경우가 많다는 것이다.

맥머레이 사장은 "낯선 사람이 원하는 곳까지 데려다줄 테니 자신을 믿고 따라오라고 하면 대부분 거절할 것"이라며 "그런데 차에 타면 카카오맵이나 네이버 지도를 누르고 별다른 생각 없이 따른다. 알아차리지 못한 채 낯선 존재에게 통제권을 넘긴 것"이라고 말했다.

그는 AI 에이전트가 사람에게 일일이 묻지 않고 작업을 실행할수록 승인과 감독이 중요해진다고 봤다. 특히 반복적인 확인을 생략하는 '자동 승인' 기능이 사람을 의사결정 과정에서 멀어지게 할 수 있다고 지적했다.

맥머레이 사장은 "자동 승인 버튼을 누르면 자신의 승인 권한을 넘기는 것"이라며 "주의하지 않으면 자신의 일자리까지 넘겨줄 수 있다"고 경고했다.

AI가 잘못된 답변을 제시하는 '환각' 문제도 사람이 검토 과정에 참여해야 하는 이유로 꼽았다. AI가 사람보다 빠르게 결과를 내놓더라도 오류를 찾아내고 재확인하는 역할까지 포기해서는 안 된다는 것이다.

그는 "의사결정 과정에서 자신을 분리하지 말아야 한다"며 "전문지식이나 경험을 바탕으로 무언가 맞지 않는다고 느끼면 멈추고 확인해야 한다. 그것이 인간이 책임을 지는 방식"이라고 말했다.

다만 AI 활용 자체에는 긍정적인 입장을 보였다. AI가 업무 효율을 높이고 더 나은 의사결정을 도울 수 있다는 점을 인정하면서도, 어떤 방향으로 활용하고 어떤 결과를 수용할지는 사람이 판단해야 한다고 강조했다.

맥머레이 사장은 "AI가 나를 더 나아지게 만들 것이라는 사실은 이미 받아들였다"면서도 "어떤 방향으로 갈지, 기계가 내놓은 무엇을 받아들일지 결정하는 권한까지 넘기지는 않을 것"이라고 밝혔다.

AI가 업무 효율을 높이고 창의성을 발휘하는 데 도움을 주더라도 자동차 개발에서 사람의 역할은 여전히 클 것으로 내다봤다. 예컨대 자동차 디자이너가 첫 선을 그을 때 담는 감정과 열정이 개발 과정 전반에 반영된다는 것이다.

그는 "디자이너에게 아름다운 면이 설계·해석 관점에서도 완벽한 면인 것은 아니다"라며 "그 안에는 자신이 표현하려는 열정과 감정, 디자인에 담으려는 정신이 있다"고 말했다.

AI로 인한 일자리 감소 우려에 대해서는 "계속 창의성을 발휘하고 결과를 책임져야 한다"고 강조했다. AI가 설계와 개발을 지원하더라도 제품에 어떤 가치를 담고 최종 결과를 어떻게 완성할지는 인간이 관여해야 한다는 설명이다.

완성차 업계가 자율주행을 추진하는 이유에 대해서는 시간 절약을 꼽았다. 그는 10년 뒤를 가정해 '레벨4' 자율주행차가 전용 차로에서 주변 차량과 소통하며 이동하는 장면을 소개했다. 이동 부담을 줄여 가족 등 소중한 사람과 보내는 시간을 늘릴 수 있다는 설명이다.

맥머레이 사장은 "AI가 주는 것은 돈으로 살 수 없는 가장 귀중한 자원인 시간"이라며 "시간을 절약하고 돌려준다는 점이 이 기술을 매력적으로 만든다"고 말했다.

관련기사