[AI는 지금] "억만장자 전유물 안 돼"…글로벌 리더 모인 인도서 번진 AI 책임론

'AI 영향 정상회의'서 허사비스·아모데이 등 자율성 위험 경고…샘 알트먼, AI 기구 제안

인도 뉴델리에서 열리고 있는 '2026 인도 인공지능 영향 정상회의(India AI Impact Summit 2026)'에서 글로벌 주요 인사들이 AI 기술 발전 속도에 상응하는 책임과 포용의 필요성을 강조하며 본격적인 논의에 돌입했다. 기술 패권 경쟁이 격화되는 가운데 AI 위험성에 대한 경고와 함께 성능 중심의 담론을 넘어 사회적 영향과 제도적 대응을 병행해야 한다는 목소리도 힘을 얻고 있다.

20일 업계에 따르면 지난 16일부터 닷새간 진행 중인 '2026 인도 AI 임팩트 서밋'에는 데미스 허사비스 구글 딥마인드 최고경영자(CEO)를 비롯해 순다르 피차이 구글 CEO, 샘 알트먼 오픈AI CEO, 다리오 아모데이 앤트로픽 CEO 등 글로벌 AI 리더들이 대거 참석했다. 또 나렌드라 모디 인도 총리와 배경훈 부총리 겸 과학기술정보통신부 장관, 안토니우 구테흐스 유엔 사무총장 등 각국 정부 대표들도 모습을 드러냈다.

배경훈 과기정통부 부총리 겸 장관 (사진=배경훈 부총리 페이스북)

인도 AI 영향 정상회의는 영국(2023년), 우리나라(2024년), 프랑스(2025년)에 이어 4번째로 개최된 AI 분야의 정상급 국제행사다. 이번 회의에선 AI가 글로벌 사우스(신흥국 및 개발도상국)로 확장되고, 국가 간 격차를 해소할 수 있도록 각국의 자발적 노력과 협력 방안을 논의했다.

자율화 속도만큼 커진 책임…국제 기준 요구 확산

이 자리에선 AI의 성능 경쟁보다 잠재적 위험과 통제 가능성 문제에 대한 논의도 많았다. 특히 데미스 허사비스 구글 딥마인드 CEO는 AI의 급속한 진화가 새로운 기회를 여는 동시에 예기치 못한 부작용을 낳을 수 있다고 경고해 눈길을 끌었다. 그는 생성형 AI가 악의적으로 활용될 경우 사이버 공격이나 허위정보 확산 등에 쓰일 가능성을 배제할 수 없다는 점을 짚었다.

동시에 허사비스 CEO는 기술 자체의 변화 속도에도 우려를 나타냈다. AI가 점점 더 자율적으로 판단하고 행동하는 단계로 나아가면서 인간의 개입과 통제 범위가 줄어들 수 있다고 지적했다.

허사비스 CEO는 "시스템이 더 자율적이고 에이전트처럼 작동할수록 유용성은 커지지만, 우리가 의도하지 않은 결과를 낳을 위험도 함께 커진다"며 "AI가 디지털 기반 기술인 만큼 국경을 넘어 영향을 미치는 특성을 고려해 국제적 협력과 공통 기준 마련이 필요하다"고 강조했다.

안토니우 구테흐스 유엔 사무총장은 AI 기술이 특정 국가나 기업에 과도하게 집중되는 현상에 우려를 나타냈다. 또 AI가 글로벌 경제와 안보, 인권 전반에 영향을 미치는 범용 기술로 자리 잡고 있는 만큼, 그 방향성과 통제 구조 역시 국제적 논의 틀 안에서 다뤄져야 한다고 강조했다.

구테흐스 사무총장은 "AI의 미래가 소수 국가나 거대 기업, 특정 억만장자의 뜻에 의해 좌우돼서는 안 된다"며 "AI가 불평등을 심화시키는 도구가 아니라 인권 보호와 격차 해소에 기여하는 방향으로 설계돼야 한다"고 밝혔다.

(왼쪽) 나렌드라 모디(Narendra Modi) 인도 총리 (사진=대한상의)

나렌드라 모디 인도 총리는 개막 연설에서 AI의 방향성을 '포용'과 '공공성'에 두겠다고 강조했다. AI가 산업 경쟁력 강화 수단을 넘어 사회 전반의 삶의 질을 끌어올리는 기반 기술이 돼야 한다는 점도 피력했다.

그는 "기술의 진보는 인간의 능력을 확대해야 하고 그 목적은 모두의 행복에 있어야 한다"며 "개발도상국을 포함한 글로벌 사우스 국가들도 AI 혜택을 공유할 수 있는 '포용적 AI 생태계' 구축이 필요하다"고 제언했다.

배경훈 부총리는 수석대표 세션에 참석해 한국의 디지털 인프라 경쟁력과 AI 전환, AI 기본법 시행 등의 경험을 공유하며 글로벌 AI 협력에 있어 한국의 기여와 국제사회의 연대의 중요성을 강조했다. 또 허사비스 CEO, 아모데이 CEO와 만나 AI 관련 협력을 논의했다.

이에 대해 배 부총리는 자신의 소셜미디어(SNS)를 통해 "AI는 경쟁의 도구를 넘어 인류 공동 번영을 위한 기술이어야 한다"며 "앞으로도 AI 안전과 신뢰 기반 거버넌스를 강화할 것"이라고 밝혔다. 이어 "글로벌 파트너들과 협력을 확대해 대한민국이 AI 강국을 넘어 'AI 책임 국가'로 도약할 수 있도록 최선을 다할 것"이라고 덧붙였다.

오픈AI·구글·앤트로픽…AI 미래 두고 엇갈린 진단

빅테크 수장들은 이번 회의에서 기술 혁신과 책임의 균형을 공통 화두로 제시했다. 생성형 AI 경쟁이 격화되는 상황에서도 산업 확산 속도에 맞는 안전 장치와 사회적 합의가 병행돼야 한다는 점을 강조했다. 또 AI가 특정 기업의 제품을 넘어 국가 인프라로 자리 잡고 있다는 점에서 기업의 역할 역시 확대되고 있다는 점도 주목했다.

특히 샘 올트먼 오픈AI CEO는 급속도로 진화하는 AI 기술에 대해 보다 적극적인 국제 규제가 필요하다고 공개적으로 언급해 눈길을 끌었다. 생성형 AI 수요 급증으로 산업 지형이 빠르게 재편되고 있지만, 그 이면에서 일자리 감소와 딥페이크, 온라인 사기 등 새로운 위험이 확산되고 있다는 점도 짚었다.

알트먼 CEO는 "AI의 민주화가 인류 번영을 보장하는 최선의 방법"이라며 "이 기술이 한 기업이나 국가에 집중되면 파멸로 이어질 수 있다"고 경고했다. 이어 "다른 강력한 기술과 마찬가지로 AI 역시 시급한 규제가 필요하다"며 국제원자력기구(IAEA)와 유사한 형태의 AI 국제조정기구 설립 필요성도 제안했다.

또 그는 "향후 몇 년은 세계가 시험대에 오르는 시기가 될 것"이라며 "우리가 사람들에게 권한을 부여할지 아니면 권력을 집중시킬지 선택해야 한다"고 덧붙였다.

다만 알트먼 CEO는 기술 발전이 일자리 전반을 붕괴시킬 것이라는 비관론에는 선을 그었다. 그는 "기술은 항상 일자리를 파괴하지만, 우리는 늘 새롭고 더 나은 일을 찾아냈다"며 구조적 전환 가능성에 무게를 뒀다.

샘 알트먼 오픈AI CEO(왼쪽)와 다리오 아모데이 앤트로픽 CEO (사진=로이터 유튜브 채널 캡처)

순다르 피차이 구글 CEO도 AI의 잠재력과 책임을 동시에 강조했다. 그는 AI를 "우리 세대의 가장 큰 플랫폼 전환"으로 규정하며 의료·교육·공공 행정 등 국민 생활과 직결된 영역에서 AI가 실질적인 변화를 만들어낼 수 있다고 밝혔다. 특히 인도와 같은 다언어·대규모 인구 구조에서는 AI가 디지털 접근성을 높이고 공공 서비스 효율을 개선하는 핵심 인프라가 될 수 있다고 평가했다. 아울러 개방형 생태계와 현지 개발자 역량 강화를 통해 기술 혜택이 보다 폭넓게 확산돼야 한다고 덧붙였다.

다리오 아모데이 앤트로픽 CEO는 이번 회의에서 AI 발전 속도가 기존 산업 혁신과는 차원이 다른 수준으로 전개되고 있다고 진단했다. 그는 최근 몇 년 사이 AI 역량이 기하급수적으로 향상되면서 인간의 인지 능력을 뛰어넘는 시스템이 현실 영역에 빠르게 진입하고 있다고 평가했다.

아모데이 CEO는 "AI가 데이터센터 안에서 수많은 천재들이 동시에 협업하는 것과 같은 수준에 근접하고 있다"며 "대부분의 업무에서 인간을 능가하고 초인간적 속도로 협업할 수 있는 AI 에이전트가 등장하고 있다"고 말했다.

이번 정상회의에서는 AI 확산이 가져올 구조적 변화에 대한 논의도 이어졌다. 노동시장 재편 가능성과 함께 대규모 연산 자원 확대에 따른 에너지 수요 증가 문제도 거론됐다. AI 발전이 반도체·데이터센터·전력·네트워크 등 산업 인프라 전반과 직결되는 만큼, 기술 전략과 산업·에너지 정책의 정합성이 중요하다고 봐서다.

업계에선 이번 회의에서의 AI에 대한 논의가 기술 성능 중심에서 사회적 영향과 거버넌스 중심으로 이동하고 있다는 점에 의미를 부여했다. 또 AI가 특정 기업의 혁신을 넘어 국가 전략과 국제 질서에 영향을 미치는 공공 의제로 자리 잡고 있다고 의미를 부여했다.

업계 관계자는 "지금은 누가 더 빠른 모델을 내놓느냐의 경쟁을 넘어 그 기술을 어떻게 안전하고 공정하게 관리하느냐의 경쟁으로 넘어가는 시점"이라며 "AI 시대의 신뢰 구축이 향후 글로벌 주도권을 가르는 핵심 변수가 될 것"이라고 말했다.