오픈AI CEO의 GPT 경계령은 상술이 아니다

천지 창조설(天地創造說)을 신뢰하지는 않지만, 창조주가 인간까지 만든 것이라면, 인간을 만들어놓고 어떤 생각이 들었을까, 하는 상상을 가끔 하곤 한다. 거의 완벽에 가까운 최고의 걸작이라고 여길까, 아니면 고집스럽고 오만한 통제 불능의 실패작이라고 생각할까. 어느 쪽이든 인간은 바벨탑을 쌓기 시작할 때부터 창조(創造)에 대한 질주를 멈추지 않았고, 그것은 거의 본능처럼 여겨진다.

창조주의 창조 기법은 마술과 같아서 그 원리를 알 수 없지만, 인간의 창조는 상상과 기술을 기반으로 한다. 먼저 머릿 속에서 그림을 그리고 기술을 통해 그것을 구체화한다. 창조를 위해서는 상상과 기술이 모두 중요하지만 더 눈여겨 볼 것은 기술이다. 기술은 본질적으로 ‘과거의 상상’이다. 상상은 지성을 가진 인간의 본능이지만 기술은 그 본능이 만든 결과이고 그 점에서 역사(歷史)적이다.

과거의 상상이 현재의 기술이고 이 기술을 기반으로 한 현재의 상상이 미래의 기술을 낳는다. 창조는 그 점에서 기술과 기술을 이어가는 맥락이라고 할 수 있다. 그러나 이 맥락은 반드시 시계열(時系列)적인 것은 아니다. 인간의 역사처럼 필연이라기보다는 우연에 더 영향을 받을 수 있다는 의미다. 우연에 영향을 받는다는 것은 기술이 개발자의 의도와 계획과는 무관하게 쓰일 수 있다는 뜻이다.

바벨탑 신화가 창조주의 의도와 계획과 달리 창조를 욕망하는 인간을 경계하려는 것이라면, 그건 결국 어디로 튈지 모르는 상상에 대한 불편함을 이야기로 만든 것이라 할 수 있다. 상상은 창조의 원천이기도 하지만, 가끔 불안한 불편함이기도 한 것이다. 상상이 낳은 기술은 그 점에서 ‘문명의 이기’이기도 하지만, 누가 어떻게 쓸지 알 수 없다는 점에서 ‘불안하고 불편한 흉기’가 될 수도 있겠다.

챗GPT로 각광을 받고 있는 오픈AI의 샘 알트먼 최고경영자(CEO)가 챗GPT 출시 이후 GPT-4를 내놓으면서까지 기회 있을 때마다 인공지능(AI) 기술이 사회에 미칠 수도 있는 부정적인 영향에 대해 우려하는 발언을 계속하는 것에 관심을 두어야 하는 까닭이 여기에 있다. 그의 발언을 ‘사다리 걷어차기’와 같은 상술(商術)로 폄하하는 것은 기술에 대한 속 좁은 이해에 불과하다고 말할 수 있다.

‘과학과 기술은 가치중립적이다’는 명제도 있지만 이 말은 기술에 대한 온전한 이해를 방해하는 측면도 있다. 과학과 기술은 문명의 토대지만 인류에 대한 대량 학살과 자연 생태계를 파괴하는 협력자의 역할도 해왔다는 점을 부인할 수 없다. 인간이 창조된 뒤 인간은 창조주의 품을 벗어나 바벨탑을 쌓았듯 기술은 창조된 뒤 개발자의 품을 벗어나 우연에 맡겨진 채 자기증식 하는 경향이 있다.

과학기술사에는 개발자가 개발의 결과물이 어떻게 쓰이는 지를 목도하면서 개발을 후회하는 경우가 수두룩하다. 영향력이 큰 기술일수록 오용됨으로써 미칠 부정적인 결과도 더 치명적일 수 있다. 문제는 누가 어떻게 오용할지 예측하는 게 거의 불가능하다는 데 있다. ‘창조의 화신’인 인간이 바벨탑 이후 지금까지 만들어낸 것 가운데 GPT도 영향력 측면에서 그 어떤 기술에 뒤지지 않을 거다.

샘 알트먼이 우려하는 바는 크게 두 가지다. 첫째는 크고 작은 인간 그룹이 이를 악용하는 경우다. 허위정보를 통해 선거에 악용한다거나 컴퓨터 바이러스를 만들어 사이버 공격을 감행하는 일 따위다. 울트먼은 권위주의 국가라고 표현했지만 특정 세력이 다른 세력에 대한 혐오를 확대하는 수단으로 쓰일 수도 있다. 혐오의 확대는 국가 단위로만 이뤄지는 게 아니다. 혐오는 무차별 바이러스다.

둘째 이유는 ‘지식 노동의 재구성’ 그 자체다. GPT는 Generative Pre-trained Transformer의 약어다. 지식 노동은 현대 도시인이 사회와 관계를 맺는 존재양식이다. GPT의 등장으로 이 양식이 크게 바뀔 수 있다. 질서의 개편이 불가피하다. 질서가 바뀔 때 어떤 일이 일어날지 예상하기는 쉽지 않다. 분명한 것은 이 때문에 더 부유해지는 사람이 있고 더 가난해지는 사람이 있다는 점이다.