[AI는 지금] AI 위험 경고만 해선 안 된다…팔란티어, '기업 책임론' 제기

알렉스 카프 CEO "자기 행동에 책임져야"…외부 평가 방식은 부정적 평가

팔란티어가 인공지능(AI) 안전 논쟁에 '기업 책임론'을 꺼냈다. AI 개발 속도를 늦추거나 외부 감시를 강화하기에 앞서 기술을 만든 기업이 발생한 문제에 직접 법적 책임을 져야 한다는 주장이다.

알렉스 카프 팔란티어 최고경영자(CEO)는 17일(현지시간) CNBC와 인터뷰에서 "AI에는 합리적인 가이드라인이 필요하다"며 "이 문제를 막기 위한 첫 번째 단계는 자기 행동에 대해 책임지는 것"이라고 말했다.

카프 CEO는 AI를 개발한 기업과 경영진에게 민사뿐 아니라 형사 책임까지 물을 수 있어야 한다고 주장했다. 기업이 위험한 기술을 개발했다면 그로 인해 발생하는 피해에도 책임을 져야 한다고도 강조했다.

알렉스 카프 팔란티어 CEO는 "전 세계 10%를 파괴할 수 있는 기술을 만든다면 그에 따른 민사·형사 책임이 뒤따라야 한다"고 말했다. (사진=로이터, 뉴스1)

AI 기업이 안전 지침과 안전장치를 제대로 지키는지 독립적인 제3자가 평가하는 방안에는 부정적인 의견을 밝혔다. AI 안전을 평가하려면 관련 기술을 이해하는 전문가가 필요하지만 이들 상당수가 이미 기업 등에 고용돼 있어 평가자를 신뢰하기 어렵다고 지적했다.

카프 CEO는 AI 기업이 떠안을 법적 책임을 설명하면서 국유화 가능성도 언급했다. 고객사의 데이터와 사업 노하우가 AI 모델에 들어간 뒤 경쟁사 등에 활용될 경우 해당 기업들이 대규모 소송에 직면할 가능성을 제기했다.

팔란티어 고객사들도 자사 사업 노하우가 AI 모델에 흡수돼 다른 기업에 활용될 가능성을 우려하고 있다고 전했다. 카프 CEO는 AI 기업을 국유화하지 않을 경우 고객사들이 소송에 나설 수 있다며 정부 개입 가능성까지 거론했다.

카프 CEO는 "전 세계 10%를 파괴할 수 있는 기술을 만든다면 그에 따른 민사·형사 책임이 뒤따라야 한다"며 "우리는 이 문제를 진지하게 다뤄야 한다"고 말했다.