디지털소사이어티, 디지털 환각 양상 논의

디지털소사이어티 분과위원회인 디지털사회전환위원회는 지난 2일 온라인 포럼을 열고 디지털 환각 양상에 대한 논의를 진행했다.

서울과학기술대학교 IT정책대학원 디지털문화정책 전공 이광석 교수가 발제를 맡아 데이터, 플랫폼, 인공지능으로 연결되는 첨단 기술이 우리 사회에 일으키고 있는 디지털 할루시네이션(환각) 양상을 들여다보고, 이들 디지털 환각을 통해 감추고 있거나 실제 그것이 의미하는 바를 발표했다.

‘할루시네이션’은 인간이 챗GPT 등 생성형 인공지능(AI)에게 의도적으로 잘못된 정보를 사실처럼 말하도록 유도하는 오류 유발 행위를 뜻한다. 이광석 교수는 발표를 통해 거꾸로 우리 사회의 디지털 과열이 인간의 의식적 판단에 오류를 유도한다는 의미에서 역전된 할루시네이션 현상을 살폈다.

이 교수는 청정한 혁신의 아이콘으로 추앙되는 ‘디지털 기술’이 실제로는 시민들의 일상 데이터 활동의 무차별 포획 문제·사회관계의 ‘소셜’ 미디어적 관계로의 왜곡, 플랫폼에 매달린 위태로운 노동의 양산, 인공지능의 허드렛일을 하는 저임금의 유령, 미세노동 양산, 희귀금속 채굴에 동원되는 남반구 노동 착취, 챗GPT 등 생성형 인공지능에 폭증하는 에너지 소비와 탄소배출 증가 등 현실 세계에 크게 연결된 점을 강조했다.

이 교수는 “결국 우리 사회가 디지털 할루시네이션 고리를 끊어낼 때 디지털 전환에서 배태되는 사회적인 병리와 데이터 인권 침해 문제와 더불어 중장기적으로 데이터 질서가 야기하는 환경 문제를 슬기롭게 대처할 수 있다고 본다”며 “디지털 첨단기술의 수면 아래 연결된 물질 인프라 조건을 드러내고 그것이 인간계와 자연계에 걸쳐 만들어내는 신생 오염과 독성의 효과를 사회적 논의를 통해 효과적으로 제어할 때 가능할 것”이라고 말했다.