"AI 미세조성시 개인정보 안전하게 처리 68%" 그쳐

개보위, '오픈소스 데이'서 설문 조사 공개...주요 제약 요인 보안이 1위

인공지능(AI) 오픈소스 모델 미세조정(파인튜닝)시 개인정보보호를 안전하게 처리한 비중이 68%에 그쳤다.  

15일 개인정보보호위원회(개인정보위)는 글로벌 프라이버시 총회(GPA) 개막(16일)에 앞서 이 같은 내용의 '오픈소스 데이 설문 조사' 결과를 발표했다. 

15일 서울 하얏트 호텔에서 열린 '오픈소스 데이'에는 구글, 메타, 마이크로소프트, 오픈AI, 셀렉트스타, 에임 인텔리전스 등 글로벌 오픈소스 모델·솔루션 기업들과 국내 AI 기업·연구자, 그리고 해외 감독기구 등 120여 명이 참석해 오픈소스 AI 생태계와 프라이버시를 논의했다.

개보위가 공개한 설문 조사 결과에 따르면, 오픈소스 모델 미세조정 시 개인정보와 민감정보 제거, 비식별화 조치 등의 개인정보보호 안전장치를 시행한 곳은 68%였다. 오픈소스 모델 미세조정시 안정성을 고려한 경험이 있다는 77%였다. 반면 데이터 출처 검증은 19%로 낮았고, 레드티밍도 16%로 저조했다. 

이번 설문은 국내 AI기업 관계자와 연구자 등 70여명을 대상으로 한 것으로, 지난 8월 26일부터 9월 8일까지 14일간 진행됐다.

설문 참여자 중 약 62%가 오픈소스를 도입·활용한 경험이 있고, 도입 계획은 있지만 시작 전이라는 응답은 16%, 관심은 있지만 구체적 도입 계획이 없다는 22%였다.

활용하고 있는 오픈소스 모델 및 플랫폼은 메타의 '라마'가 압도적으로 많았다. 이어 ▲GPT-OSS 20B ▲Gemma ▲GPT-OSS 120B ▲버텍스AI ▲깃허브 코파일럿 ▲애저 AI 스튜디오 ▲클로바 스튜디오 ▲데이터 구조화 컨설팅 ▲하이퍼 클로바 X ▲Datumo eval 순으로 나타났다.

오픈소스 도입 및 활용의 주요 제약 요인은 보안(24%)이 1순위였다. 이어 라이선스 관련 법적 리스크(19%), 유지보수 불확실성(16%), 성능 문제(16%), 개인정보보호(11%), 인력부족(9%) 순이였다.

분야별 도입 활용 현황을 보면, 생성형 AI서비스와 데이터 전처리 및 가공, 자연어처리(NLP), MLOps, 컴퓨터비전(VC) 등 다양한 분야에서 활용이 확산 추세였고, 투자와 의료, 소매업 등이 포함된 기타 산업군 역시 도입 의지를 보여, 산업 전반으로 확산될 가능성이 높은 것으로 나타났다.