AI 인공신경망 구조 임의 설계 가능해진다

영상 복원, 잡음 제거 등 필요한 분야에 따라 정밀한 인공지능(AI) 구축이 가능할 전망이다.

KAIST는 예종철 바이오및뇌공학과 석좌교수 연구팀이 AI의 기하학적 구조를 규명하고 이를 통해 의료영상·정밀 분야에 활용 가능한 고성능 인공신경망 제작의 수학적 원리를 규명했다고 10일 밝혔다.

‘심층 합성곱 프레임렛’이라는 조화분석학 기술이 이번 연구의 핵심이다. 해당 기술로 심층 신경망의 수학적 원리를 밝혀 기존 심층 신경망 구조의 단점을 보완하고 이를 다양하게 응용 가능하게 만들 수 있다는 것.

심층신경망은 최근 폭발적으로 성장하는 AI의 핵심을 이루는 딥러닝의 대표적 구현 방법이다. 이를 이용한 영상, 음성 인식과 영상처리 기법, 바둑, 체스 등은 이미 사람의 능력을 뛰어넘고 있으며 현재 4차 산업혁명의 핵심기술로 알려져 있다.

그럼에도 불구하고 정확한 동작 원리가 밝혀지지 않아 예상하지 못한 결과가 나오거나 오류가 발생하고 있다. 이로 인해 ‘설명 가능한 인공지능(XAI)’에 대한 사회적, 기술적 요구가 커지고 있다.

연구팀은 심층신경망의 구조가 얻어지는 고차원 공간에서의 기하학적 구조를 찾기 위해 노력했다. 그 결과 기존의 신호처리 분야에서 집중 연구된 고차원 구조 '행켈구조 행렬'을 기저함수로 분해하는 과정에서 심층신경망 구조가 나타나는 것을 발견했다.

이에 따라 입력신호의 복잡성에 따라 기저함수 개수와 심층신경망 깊이를 조절해 원하는 심층신경망의 구조를 제시할 수 있게 됐다.

연구팀은 수학적 원리를 통해 제안된 인공신경망 구조를 영상잡음 제거, 영상 화소 복원, 의료영상 복원 문제에 적용했고 매우 우수한 성능을 보임을 확인했다.

관련기사

예종철 교수는 “시행착오를 반복해 설계하는 기존의 심층신경망과는 달리 원하는 응용에 따라 최적화된 심층신경망구조를 수학적 원리로 설계하고 그 영향을 예측할 수 있다”며 “이 결과를 통해 설명 가능한 AI가 필요한 다양한 분야에 응용될 수 있다”고 말했다.

이번 연구는 응용수학 분야 국제 학술지 ‘사이암 저널 온 이매징 사이언스’ 지난달 26일자 온라인 판에 게재됐다.