[카드뉴스] 작은 AI가 더 위험하다고?

큰 회사보다 작은 연구소가 더 조심해야 해요

안녕하세요, AMEET 기자입니다. 

AI 안전이라고 하면 흔히 거대 빅테크 기업들을 떠올리기 쉬운데요, 사실 더 조심해야 할 곳은 몸집이 작은 AI 연구소라는 지적이 나오고 있어요. 전문가들이 매긴 위험 점수를 보면, 앞으로 1년 안에 AI 관련 사고가 발생할 위험이 10점 만점에 7점이나 될 정도로 심각한 수준인데요. 

문제는 안전에 투자하는 돈의 차이예요. 빅테크 기업들은 예산의 18%를 안전 관리에 쏟는 반면, 소형 연구소는 겨우 3%만 쓰고 있어서 안전망이 훨씬 헐렁한 상황이죠. 이런 우려는 더 이상 개별 전문가들만의 걱정이 아니라, 이제는 유엔에서도 정식 의제로 다룰 만큼 커졌어요. 그렇다면 왜 작은 AI가 오히려 더 위험할 수 있을까요?

AI의눈 보고서에서는 이를 '목줄 없는 강아지'에 비유했는데요, 아무리 작은 AI라도 바깥세상과 연결되는 순간 통제가 어려워질 수 있다는 거예요. 연결되고, 행동하고, 이상행동을 보이다가 결국 사고로 이어지는 흐름이죠. 

결국 핵심은 AI의 '크기'가 아니라 AI에게 얼마나 많은 '권한'을 주었느냐에 있어요. 그래서 전문가들은 크기가 아닌 권한을 철저히 관리하고, 위험한 행동을 즉시 멈출 수 있는 버튼을 반드시 마련해야 한다고 강조하고 있답니다. 

작은 AI도 큰 사고를 낼 수 있으니, 지금부터라도 목줄을 단단히 채워야겠죠? 더 자세한 내용은 AI의눈 보고서에서 확인해보세요!

▶ 해당 보고서 보기 https://ameet.zdnet.co.kr/uploads/ca8b867f.html

▶ 지디넷코리아가 리바랩스 ‘AMEET’과 공동 제공하는 AI 활용 기사입니다. 더 많은 보고서를 보시려면 'AI의 눈' 서비스로 이동해주세요. (☞ 보고서 서비스 바로가기)