[시론] 완벽한 기억은 저주...AI에게 ‘망각’을 허락할 때다

오늘날 인공지능(AI) 발전 속도는 경이로움을 넘어 인류에게 근원적인 질문과 두려움을 동시에 던지고 있다. 거대언어모델(LLM)과 생성형 AI는 방대한 데이터를 학습하며 새로운 능력을 빠르게 획득하고 있고, 국가와 기업은 성능 향상과 효율성 제고를 위해 막대한 자본과 인력을 투입하고 있다. 

그러나 빛이 강렬할수록 그림자 역시 짙어지는 법이다. AI의 급속한 발전이 인간 통제와 사회적 제도 정비를 앞질러 갈 수 있다는 우려도 커지고 있다. 실제로 기술 개발 속도를 조절하고 사회적 안전장치를 먼저 마련해야 한다는 목소리도 꾸준히 제기되고 있다.

이제 우리는 단순히 AI 성능을 얼마나 끌어올릴 것인가를 넘어, AI가 무엇을 기억하고 무엇을 잊어야 하는가라는 질문을 던져야 한다. 더 많이 저장하고 더 오래 보존하는 것이 언제나 더 나은 지능을 의미하는 것은 아니기 때문이다. 완벽한 기억을 향해 질주하는 기술 앞에서 잠시 멈춰 서서, 기억과 망각이 우리 사회에 어떤 의미를 갖는지 되짚어볼 필요가 있다.

모든 정보를 끊임없이 축적하고 보존하려는 AI 방향성은 여러 사회적 문제를 낳을 수 있다.

첫째는 정보의 과잉과 편견 고착화다. 인간 사회가 만들어낸 데이터에는 사실과 지식만 존재하지 않는다. 오류와 차별, 혐오와 편견의 흔적도 함께 담겨 있다. 과거 데이터를 무비판적으로 오래 보존하고 반복적으로 활용한다면, 이미 낡았거나 잘못된 정보와 사회적 편견이 새로운 판단에까지 영향을 미칠 가능성이 있다. AI가 과거의 편향을 그대로 답습하지 않도록 데이터를 선별하고 갱신하는 일이 중요한 이유다.

둘째는 개인의 ‘잊힐 권리’와의 충돌이다. 디지털 환경에서는 한 번 기록된 정보가 오랫동안 복제되고 유통될 수 있다. 과거 실수나 사적인 정보가 현재의 삶과 무관하게 계속해서 호출된다면, 개인은 자신의 과거에서 영원히 벗어나기 어려워진다. 인간에게는 변화하고 성장할 기회가 필요하다. 과거의 기록이 현재의 정체성을 영구적으로 규정하는 사회가 과연 바람직한지에 대한 질문이 필요한 이유다.

셋째는 효율성 문제다. 데이터를 저장하고 처리하는 데에는 물리적인 자원이 필요하다. 데이터센터 확대와 연산량 증가는 전력과 냉각 자원 사용을 비롯한 다양한 비용을 수반한다. 물론 데이터 저장과 연산 자체가 곧바로 환경적 재앙을 의미하는 것은 아니다. 그러나 AI 활용이 지속적으로 확대되는 상황에서 무엇을 얼마나 오래 보존하고 처리할 것인지를 고민하는 것은 기술의 지속 가능성이라는 측면에서도 중요한 과제다.

박성준 한림대 정보과학대학 교수

무엇보다 중요한 것은 기억이 많다고 해서 반드시 지능이 더 뛰어난 것은 아니라는 사실이다. 인간의 지능 역시 모든 것을 기억하는 능력에서 비롯되지 않는다. 오히려 중요한 것과 중요하지 않은 것을 구분하고, 필요한 정보에 집중하며, 새로운 경험에 따라 기존의 판단을 수정하는 능력이 인간의 사고를 유연하게 만든다.

그렇다면 우리가 AI에서 배워야 할 것은 인간의 완벽한 기억이 아니라, 어쩌면 인간의 불완전한 망각일지도 모른다.

인간은 시간이 지나면서 자연스럽게 많은 것을 잊는다. 모든 경험과 정보를 동일한 강도로 기억하지도 않는다. 이러한 망각은 단순한 기억력 결핍이 아니라 인지 체계가 정보를 정리하고 우선순위를 부여하는 과정으로 볼 수 있다. 불필요한 정보를 모두 붙잡고 있지 않기에 우리는 새로운 정보를 받아들이고, 현재의 문제에 집중할 수 있다. 때로는 과거의 상처에서 벗어나고, 실패를 지나 다시 시작하며, 새로운 관계와 가치관을 받아들이는 데에도 망각이 일정한 역할을 한다.

결국 기억과 망각은 서로 대립하는 것이 아니라 함께 작동하는 능력이다. 무엇을 기억할 것인지를 결정하는 일만큼 무엇을 잊을 것인지를 결정하는 일도 중요하다.

이제 AI 설계에서도 이러한 원리를 진지하게 고민할 필요가 있다. AI에 단순히 더 큰 저장 공간과 더 많은 데이터를 제공하는 것을 넘어, 선택적으로 기억하고 필요에 따라 잊을 수 있는 시스템을 구상해야 한다는 것이다.

여기서 말하는 ‘AI 망각’은 데이터를 무작위로 삭제하거나 AI 성능을 의도적으로 떨어뜨리는 것을 뜻하지 않는다. 오히려 그 반대다. 정보의 중요도와 최신성, 신뢰성, 활용 목적, 개인정보 보호 필요성 등을 고려해 어떤 정보를 얼마나 오래 보존할 것인지 결정하는 선택적 망각의 기술을 의미한다.

예컨대 일정한 시간이 지나 효용이 크게 떨어진 정보는 자동으로 보존 우선순위를 낮추거나 삭제할 수 있다. 개인정보와 같이 일정한 목적을 달성한 뒤 더 이상 보존할 필요가 없는 데이터에는 명확한 보존 기간을 설정할 수도 있다. 과거에는 유효했지만 현재의 지식과 충돌하는 정보는 새로운 정보와 구분해 관리할 수도 있다. 중요한 것은 AI가 무언가를 ‘잊는다’는 행위 자체보다, 왜 기억하고 왜 잊는지에 대한 기준을 인간이 설계하고 통제하는 것이다.

따라서 AI 망각은 새로운 형태의 안전장치가 될 수 있다. 모든 정보를 무기한 보존하는 대신 목적과 필요에 따라 데이터를 정리하고 갱신한다면 개인정보 침해 위험을 줄이고, 오래된 정보나 편향된 데이터가 지속적으로 판단에 영향을 미치는 문제도 완화할 수 있다. 불필요한 데이터의 저장과 처리에 드는 자원 역시 줄일 여지가 있다.

다만 AI의 망각을 만능 해법으로 생각해서는 안 된다. 무엇을 잊게 할 것인지를 결정하는 과정 자체가 새로운 권력과 편향의 문제가 될 수 있기 때문이다. 누가 어떤 기준으로 ‘불필요한 정보’를 판단할 것인지, 삭제된 정보의 복구 가능성은 어떻게 보장할 것인지, 법적·역사적으로 보존할 필요가 있는 기록과 개인정보를 어떻게 구분할 것인지 등의 문제가 뒤따른다. 따라서 AI의 망각은 기술 하나를 추가하는 문제가 아니라 법과 제도, 윤리적 기준, 투명한 거버넌스가 함께 논의돼야 할 과제다.

그럼에도 지금 우리에게 필요한 질문은 분명하다. 우리는 AI에게 무엇을 더 기억하게 할 것인가만을 묻고 있는 것은 아닌가. 이제는 무엇을, 언제까지, 어떤 이유로 기억하게 할 것인가를 함께 물어야 한다.

인공지능 발전이 궁극적으로 인간의 삶을 풍요롭게 하는 방향으로 나아가야 한다면, 성능과 효율만을 기준으로 기술의 진보를 평가해서는 안 된다. 인간의 삶에는 정확성과 효율성만으로 설명할 수 없는 가치가 있다. 프라이버시와 존엄, 변화와 성장, 용서와 새로운 출발 역시 우리가 지켜야 할 중요한 가치다.

그런 의미에서 AI에게 망각을 허락한다는 것은 기계의 능력을 일부러 제한하자는 이야기가 아니다. 오히려 기억에도 한계와 목적이 필요하다는 인간 사회의 원칙을 AI의 설계에 반영하자는 제안이다.

완벽한 기억이 언제나 축복인 것은 아니다. 모든 것을 영원히 기억하는 사회는 과거의 오류와 상처까지 끝없이 현재로 불러올 수 있다. 반대로 적절한 망각은 불필요한 것을 덜어내고 새로운 가능성이 들어올 공간을 만든다.

AI의 미래를 결정하는 것은 단순히 얼마나 많이 기억할 수 있는가가 아닐 것이다. 무엇을 기억하고, 무엇을 갱신하며, 무엇을 잊게 할 것인가를 어떻게 결정하느냐에 달려 있을지도 모른다.

이제 우리는 AI의 ‘기억력’을 경쟁하는 데서 한 걸음 더 나아가야 한다. 기억하는 능력만큼 잊는 능력도 설계할 수 있는가. 그리고 그 망각의 기준을 누가, 어떤 원칙에 따라 정할 것인가.

이 질문에 답하는 과정이야말로 AI가 인간을 대신하는 기술을 넘어, 인간 사회와 지속적으로 공존할 수 있는 기술로 발전하기 위한 중요한 출발점이 될 것이다.

---

◆ 필자 박성준은...

현재 한림대학교 객원교수로 재직하며 AI·정보보호 및 디지털 전환 분야에 대한 연구와 교육 활동을 하고 있다. AI 보안, 사이버보안, 우주 보안, 피지컬 AI와 AI 거버넌스 등 기술 발전이 사회와 산업에 미치는 영향을 연구하고 있다. 한국사이버안보학회 고문과  한국우주안보연구소 부소장을 겸하며 대학 및 산업 현장에서 AI·정보보호 등 관련분야에 대한 강의와 자문 활동을 수행하고 있다.

*본 칼럼 내용은 본지 편집방향과 다를 수 있습니다.