뇌가 기억하는 방식, AI에 적용해 봤더니···

IBS, "뇌 NMDA 수용체 특징 도입하니 트랜스포머 모델 기억 통합 능력 향상"

뇌는 단기 기억을 효율적으로 장기 기억으로 전환하며 학습한다. 이같은 뇌의 기억 처리 방식을 모방하면 인공지능(AI)의 학습 능력을 향상시킬 수 있다는 연구 결과가 나왔다.

신경과학과 AI 연구 사이의 간격을 줄이고, 뇌에서 영감을 얻은 AI 모델 개발의 새 방향을 제시하리란 기대다.

AI 기억 통합의 미로 (자료=IBS)

30일 기초과학연구원(IBS, 원장 노도영)에 따르면, 이창준 인지 및 사회성 연구단장과 차미영 수리 및 계산 과학 연구단 데이터 사이언스 그룹 CI 공동 연구팀이 뇌 해마에서 일어나는 기억 통합의 생물학적 특징을 적용해 인공지능의 효율성을 높일 수 있음을 확인했다.

뇌 변연계에 있는 해마에서 단기 기억이 장기 기억으로 전환되는 기억 통합이 일어난다고 알려져 있다. 이 과정에서 뇌의 학슴과 기억, 공간 인식과 관련된 신경세포에 있는 NMDA 수용체가 중요한 역할을 한다. 이 수용체는 평소에 닫혀있다가 글루탐산과 결합할 때만 열려 칼슘 이온이 지나가는 통로가 된다. 이같은 방식으로 신경 연결의 강도를 조절해 기억 형성에 관여한다.

연구진은 특정 조건에서만 통로가 되는 NMDA 수용체의 비선형적 특징에 주목했다. 이를 모사한 새 활성화 함수를 개발해 AI 트랜스포머 모델에 적용했다. 트랜스포머 모델은 문장 속 단어와 같은 시계열 데이터 내 관계를 추적해 맥락과 의미를 학습하는 방식이다. 2017년 구글이 개발해 공개한 후 챗GPT 같은 초거대 언어모델의 토대가 됐다.

이어 연구진은 이 모델의 기억 통합 메커니즘을 확인하기 위해 에이전트가 2차원 격자 위에서 경로 탐색을 하도록 설계했다. 에이전트는 환경을 인식하고 그에 따라 목표를 달성하기 위해 독립적으로 결정하고 행동하는 프로그램으로, 이 연구에선 미로의 구조를 인식하고, 출구를 찾기 위해 경로를 계획하고 탐색하는 학습자 에이전트를 만들었다.

트랜스포머 모델에서 뇌 NMDA 수용체의 비선형성 활용 (자료=IBS)

이 에이전트는 무작위로 움직이며 다음 장소로 이동할 때 그곳에 놓인 물체가 무엇인지 맞혀야 한다. 에이전트가 해당 회차 실험 중 방문한 곳의 물체를 맞히면 단기 기억을, 해당 실험에서 방문하지 않았지만 이전 실험에서 탐색했던 물체를 맞히면 장기 기억을 사용한 것으로 볼 수 있다.

그 결과, NMDA 수용체 특징을 모방한 AI 모델은 마치 해마 내 장소세포처럼 위치를 인지하는 기능을 형성했다. 장소세포는 특정 장소로 이동할 때 활성화되며, 공간상 위치를 감지하는 뇌 속 내비게이션 역할을 한다.

트랜스포머 모델에 NMDA 수용체의 비선형성을 도입, 뇌와 유사하게 장기 기억과 공간 표상을 강화할 수 있음을 시사한다고 연구진은 설명했다.

향후 연구를 확장, 동물의 빠른 적응력과 유연한 행동 변화를 AI 모델에 적용하는 방법론을 개발한다는 목표다. 하나의 작업에 특화된 것이 아니라 다양한 작업에 유연하게 대응하는 AI 개발을 겨냥한다.

이창준 단장은 "이번 연구는 인공지능의 성능 향상뿐 아니라 인간 뇌와 인공지능 간 연결성에 대한 이해를 확장했다는 점에서 중요한 의미가 있다"라며 "뇌의 작동 원리를 더 깊게 이해하는 것을 바탕으로 더 발전된 인공지능 시스템을 개발할 수 있을 것"이라고 말했다.

차미영 CI는 "이번에 개발한 인공지능 모델을 통해 향후 인간과 유사한 방식으로 정보를 처리하고 기억하는 저비용 고성능 인공지능 시스템이 나올 것을 기대해본다"라고 말했다.

이 논문은 12월 미국에서 열리는 AI 학술대회 '신경정보처리시스템학회(NeurIPS)'에 채택됐다.