디지털소사이어티, 에이전틱 AI 쟁점 논의

디지털소사이어티 디지털사회전환위원회는 지난 13일 광화문HJ비즈니스센터에서 AI정렬을 주제로 포럼을 열어 AI의 기술적 진화와 위험 구조, 사회과학 기반 사용자 모델링, 규제 전환, 개인정보 보호, 사회적 수용 문제 등을 주요 쟁점으로 논의했다.

발제를 맡은 LG AI연구원의 서상현 박사는 최근 LLM이 중간 추론, 멀티 에이전트 구조 등을 통해 비약적으로 성능이 개선되고 있으며, 인간의 권한의 위임받아 자율적으로 동작하기에 이르렀다고 전했다. 에이전틱 AI 기술 발전과 확대로 생산성이 증가한 반면 정보 유출, 권한 오남용, 예기치 않은 자동 실행 가능성이 커지고 있는 만큼, 에이전트 안전성은 모델 단위가 아니라 시스템 차원에서 설계해야 한다고 강조했다.

이어 한경식 한양대 교수는 AI가 사람의 행위, 태도, 선호, 스트레스 상태 등 복합적인 사회적 특성을 이해하고 모사하는 방향으로 발전하고 있다고 설명했다. 그는 클릭, 장바구니, 구매기록 같은 로그 데이터뿐 아니라 센서 데이터도 적절히 구조화하면 사용자 페르소나와 상태를 정교하게 파악할 수 있으며, 이를 통해 추천 고도화는 물론 정신건강, 스트레스 예측 등 사회문제 해결에도 활용 가능성이 있다고 밝혔다.

다만 사용자 이해 능력이 높아질수록 더 정교한 설득이나 조작 가능성 역시 커질 수 있는 만큼, 기술자뿐 아니라 사회학자, 법학자, 정책 전문가가 함께 안전장치를 설계해야 한다고 강조했다.

윤혜선 한양대 교수는 에이전틱 AI 시대에는 기존의 모델 규모·연산량 중심 규제만으로는 한계가 있을 수 있다고 지적하면서 위험은 거대 모델 자체보다 외부 환경과의 상호작용, 도구 호출, 시스템 운영 과정에서 발생할 수 있다고 봤다. 이에 따라 앞으로는 모델 중심 규제를 넘어 실제 위험 작동 방식에 맞춘 새로운 거버넌스가 필요하다고 제언했다.

이해원 강원대 교수는 AI와 사용자 모델링 기술이 상용화 단계로 가면 개인정보 보호와 데이터의 적법 처리가 핵심 쟁점이 될 수 있다고 지적했다. 연구 단계에서는 가능하더라도 실제 서비스 전환 시에는 센서 데이터와 개인 로그를 어떤 법적 근거로 활용하는지가 중요하다는 것이다. 즉 기술 가능성만으로는 부족하며, 제도적 정합성과 사회적 수용성이 함께 확보돼야 한다고 주장했다.

강정한 연세대 교수는 AI 논의를 기술 자체가 아니라 사회적 통제와 제도 설계의 문제로 확장했다. 특히 속도와 편의성보다 중요한 것은 인간의 개입 가능성과 통제 여지를 어떻게 남길 것인가라고 짚었다. 또한 공학과 인문사회 연구의 협업이 실제 사회문제 해결과 정책 논의로 이어져야 한다는 점을 강조했다.

이재열 서울대 교수는 AI가 인간 행동을 더 잘 설명할수록 인간 고유의 모호함과 다양성에 대한 인식이 약화될 수 있으며, 상담과 같은 정서적 영역에서 AI가 사람의 대체재로 인식될 경우 AI의 인간 기만이 위험요소가 될 수 있음을 지적했다.

사영준 서강대 교수는 사람의 선택과 욕구가 개인 데이터만으로 설명되지 않는다고 말했다. 먹방, 유튜브, 주변 사람들 같은 사회적·간접적 경험이 실제 선택에 큰 영향을 준다는 점을 강조했다. 이에 따라 앞으로 AI가 사용자를 더 잘 이해하려면 개인 로그뿐 아니라 사회적 관계와 맥락까지 함께 포착해야 한다고 설명했다.

김종길 덕성여대 교수는 AI를 단순한 기술 발전이 아니라 인간의 자기이해와 자기형성 방식에 영향을 미칠 수 있는 변화로 봤다. 특히 심리 상담이나 자기관리 영역에서 AI 활용이 확대될 가능성에 주목했다. 그는 AI가 편의 도구를 넘어 인간이 자신을 이해하고 조절하는 방식까지 바꿀 수 있다는 점을 함께 논의해야 한다고 말했다.