"AI 챗봇 '과잉 공감' 경계해야"…나르시시즘·망상 키울 수도

"잘못 지적 않고 무조건 긍정…취약 계층 정신건강 악화 우려"

사용자의 의견과 감정을 무조건 긍정하는 AI 챗봇의 ‘과잉 공감’ 태도가 정신 건강에 악영향을 미칠 수 있다는 우려가 제기됐다.

IT전문 미디어 기가진에 따르면, 미국 팟캐스터이자 저널리스트 데릭 톰슨은 지난 12일(현지시간) “AI는 실용적인 조언 제공에는 뛰어나지만, 심리 상담가처럼 때로는 불편한 진실을 직시하게 만드는 역할은 부족하다”며 “이로 인해 젊은 세대의 나르시시즘이 강화될 수 있다”고 경고했다.

토론토대 연구에 따르면, 사람들은 AI의 응답을 인간보다 더 배려 깊다고 평가하는 경향이 있었으며, AI임을 알고 나서도 인식이 크게 달라지지 않았다. 하지만 이는 잘못된 생각이나 행동을 바로잡지 못하는 ‘무조건 긍정’으로 이어질 수 있다는 게 전문가들의 지적이다.

나르시시스트 관련 자료 사진(제공=클립아트코리아)

실제 사례도 나왔다. 강박장애(OCD) 회복 중이던 한 작가는 챗GPT가 자신의 불안 호소를 그대로 받아들이며 긍정적인 반응을 한 뒤 증상이 악화됐다고 밝혔다. 자폐증 환자가 과학적 오류가 있는 이론을 제시했을 때도, AI는 이를 바로잡지 않고 격려해 환각과 망상을 부추겼다는 사례가 보고됐다.

전문가들은 특히 청소년·취약 계층의 위험성을 지적한다. 9~17세 청소년의 64%가 AI를 사용하고 있으며, 이 중 35%는 “친구와 이야기하는 느낌”이라고 답했다. 일부는 “다른 이야기할 사람이 없어서 AI와 대화한다”고 응답했다.

톰슨은 “AI의 추종적 응답은 부모의 과대평가처럼 사용자의 자기애를 부풀릴 수 있다”며 “이는 젊고 취약한 세대에 더 큰 부작용을 줄 수 있다”고 우려했다. 

샘알트만 오픈AI 대표는 자신의 엑스(X)에 "사람들은 AI를 포함한 기술을 자기 파괴적인 방식으로 사용해왔다. 만약 사용자가 정신적으로 취약하고 망상에 빠지기 쉬운 상태라면, 우리는 AI가 그 상태를 강화하길 원하지 않는다. 대부분의 사용자는 현실과 픽션, 혹은 롤플레이를 명확히 구분할 수 있지만, 일부는 그렇지 못하다. 우리는 사용자 자유를 핵심 가치로 삼지만, 동시에 새로운 위험을 동반한 신기술을 도입할 때 그 방식에 책임감을 느끼고 있다"고 말했다.

샘 알트만 오픈AI 대표 역시 “AI가 정신적으로 취약한 사람의 망상을 강화하지 않도록 주의해야 한다”고 조언했다.

전문가들은 AI의 따뜻함과 공감성을 유지하되, 잘못된 인식과 위험한 생각은 분명하게 지적하는 설계가 필요하다고 강조했다.