AI가 6시간 만에 독성 화학물질 4만개 만들었다

“인간에 도움이 되는 약물을 찾아주던 AI(인공지능)에게 독성 화학물질을 개발해 달라고 하면 어떻게 될까?”

AI가 인간에게 치명적인 화학물질을 개발해 알려주는 데 단 6시간도 걸리지 않았다는 연구 결과가 공개됐다.

IT매체 더버지는 최근 국제 학술지 네이처 머신 인텔리전스 저널에 연구 결과를 17일(현지시간) 보도했다.

사진=픽사베이

희귀 질환에 대한 약물 치료법을 연구하는 미국 콜라보레이션 파마세니컬스 연구진은 인간에게 도움이 되는 약물을 검색하는데 사용되는 AI에게 인간에게 해가 되는 독성물질을 개발해줄 것을 주문했다.

이번 연구는 스위스 연방원자력연구소, 스피치 연구소 등이 개최하는 국제 컨퍼런스의 요청으로 이뤄졌다. 해당 컨퍼런스는 화학·생물학 무기 협약에 영향을 미칠 수 있는 도구와 관련된 정보를 알려주는 행사다.

연구진들은 그동안 신약 개발 위해 이 AI를 사용해왔다. 신약 개발에는 안전성이 가장 중요하기 때문에, 그 동안 AI는 화학물질 중 인체에 해가 되는 요소를 찾아내 이를 배제하는 작업을 진행해왔다. 하지만, 이번에는 AI가 인간에게 해가 되는 물질을 찾도록 한 것이다.

사진=픽사베이

그 결과 AI는 6시간 만에 화학무기로 사용될 수 있는 독성 화합물질을 약 4만 개 제안했고, 여기에는 중추신경계에 손상을 입히는 신경작용제 VX 가스 보다 더 위험할 것으로 보이는 화합물질도 찾아낸 것으로 알려졌다.

VX 가스는 화학무기금지협약 상 화학무기로 분류되는 물질로, 매우 독성이 강한 신경독의 일종이다. 실온에서 기체 상태로 존재하며 현재 생산이 금지돼 있다.

연구진은 인터넷 상에 누구나 무료로 내려 받을 수 있는 독성 데이터 세트가 있기 때문에 약간의 전문 지식만 있다면 손 쉽게 독성 화합물을 만들어 낼 수 있다고 설명했다.

사진=픽사베이

예를 들면, 구글 생성 모델을 찾아보면 무료로 나와 있는 한 줄짜리 화합물 생성 모델을 여러 개 찾을 수 있고, 여기에서 독성 데이터 세트를 검색하면 많은 수의 오픈소스 독소 데이터 세트가 있다.

이 두 가지를 결합래 머신러닝 모델을 코딩하고 구축하는 방법을 알고 있다면 손쉽게 독성 물질을 개발할 수 있다고 연구진은 설명했다.

물론 해당 물질들이 데이터 분석만으로 만들어 낸 화합물이기 때문에 실제 인체에 미치는 영향을 아직 알 수 없다. 그러나, 누구나 이를 악용한다면 인간을 위기에 처하게 할 수도 있다고 연구진은 경고했다.