"AI 사용한 거 맞아?"…'AI 워싱' 기업들, 美서 철퇴 맞았다

미국에서 인공지능(AI) 사용을 허위로 고지한 기업들이 철퇴를 맞았다. AI가 미래를 이끌 기술로 부상하면서 기업들이 홍보 효과와 함께 대규모 투자 유치 등을 노리고 'AI 워싱'에 속속 나서자 이를 막기 위한 움직임이 본격화되는 분위기다.

19일 블룸버그 통신, 월스트리트저널 등 일부 외신에 따르면 미국 증권거래위원회(SEC)는 지난 18일 델피아, 글로벌 프리딕션 등 두 곳에 'AI 워싱'과 관련해 벌금을 부과했다. 델피아는 22만5천 달러(약 3억100만원), 글로벌 프리딕션은 17만5천 달러(약 2억3천400만원)의 벌금이 매겨졌다.

SEC에 따르면 캐나다 토론토에 본사를 둔 델피아는 2019년부터 2023년까지 투자 과정에서 머신러닝을 어떻게 사용하고 있는지에 대해 허위 진술을 한 것으로 알려졌다. 미국 샌프란시스코에 본사를 둔 글로벌 프리딕션도 웹사이트, 소셜 미디어(SNS) 등에서 AI 기반 예측 등을 앞세워 '최초의 AI 금융 자문사'라고 주장했으나 입증하지 못한 것으로 드러났다.

SEC는 "두 업체가 AI 기술 사용과 관련해 거짓되고 오해의 소지가 있는 진술을 했다"고 말했다.

미국에서 인공지능(AI) 사용을 허위로 고지한 기업들이 철퇴를 맞았다. (사진=코파일럿 제작)

이번 일과 관련해 델피아는 입장을 밝히지 않았다. 글로벌 프리딕션은 "조사에 전적으로 협조했다"며 "이 문제를 해결하게 돼 기쁘다"고 언급했다.

앞서 SEC는 'AI 워싱'과 관련해 강력한 규제에 나설 것을 여러 차례 예고한 바 있다. 특히 게리 겐슬러 SEC 위원장은 지난해 12월 "AI 탈을 씌운 허위 마케팅, 절대 하지 마라"고 말하면서 AI를 내세워 혁신 상품처럼 포장한 펀드상품 단속에 나설 것을 시사했다.

'AI 워싱'은 실제로는 AI와 무관하거나 별 관련성이 없는데도 마치 AI 기업이나 AI 상품인 것처럼 거짓으로 홍보하는 행위를 일컫는다. 이는 친환경적이지 않은 기업이 마치 친환경 경영을 하는 것처럼 홍보하는 위장환경주의 '그린 워싱(Green washing)'과 유사한 개념이다.

지난 2019년 인도 스타트업 '엔지니어AI'가 "인공지능(AI) 기반의 앱 개발 플랫폼을 만들었다"는 허위 주장을 했다가 논란이 된 것은 대표적인 'AI 워싱' 사례로 꼽힌다. 앱을 개발한 것은 AI가 아닌 소프트웨어 엔지니어 팀 개발자들로 드러났으나, 엔지니어AI는 이 허위광고로 소프트뱅크 등을 비롯한 투자자들에게 3천만 달러(약 400억원)대 투자를 유치한 것으로 알려졌다.

업계 관계자는 "AI가 미래를 이끌 기술로 부상하면서 기업들은 AI 워싱의 유혹에 쉽게 빠지고 있다"며 "마케팅 과정에서 AI 기업 또는 AI 제품이라고 홍보하면 단숨에 세간의 관심을 받고 매출을 늘릴 수 있기 때문"이라고 설명했다.

이어 "AI 시장의 성장 가능성에 대한 기대감으로 대규모 투자 유치 등도 수월해지고 단숨에 회사 주가도 띄울 수 있다"며 "하지만 이같은 AI 워싱은 기업의 제품이나 서비스의 신뢰성을 크게 저해할 뿐 아니라 시장 투명성을 해칠 우려가 있다"고 덧붙였다.

하지만 다양한 산업 분야에서 기업들이 AI를 활용하는 사례가 늘어나면서 'AI 워싱' 사례는 점차 늘어나는 분위기다. 최근 블룸버그 법률 분석에 따르면 S&P 500 기업 중 40% 이상이 SEC에 제출한 연례 보고서에서 AI 기술을 언급했다. 하지만 영국 벤처캐피털 회사 MMC벤처는 AI 기업으로 분류되는 유럽 스타트업 2천830곳 중 44.1%(2019년 기준)가 AI 기술을 활용했다는 증거를 제대로 제시하지 못했다고 주장했다.