“인공지능(AI)이 발전하는 만큼 인간도 진화해야 합니다. 무엇을 AI에게 맡길지, 어떤 판단과 책임을 사람이 가져갈지 그 선택에 우리가 지키려는 가치가 담깁니다. 그 고민 위에 완벽하지 않더라도, 멈추지 않고 실행 체계를 만들어 가는 것이 카카오가 하려는 도전입니다.”
하진화 카카오 AI 세이프티 시니어 매니저는 13일 경기도 용인시에서 열린 개발자 컨퍼런스 ‘이프카카오(if(kakao)26)’에서 이같이 말하며 AI 서비스 전 과정에 걸쳐 리스크 검토 체계로 나아가겠다는 방향을 제시했다.
그는 앤트로픽, 마이크로소프트(MS) 등 해외 빅테크의 사례를 예로 들면서 카카오가 5가지 영역으로 구분한 AI 리스크 관리 영역을 소개했다. 통제 주도권, 목표, 권한, 참조 자원, 상호작용이 여기에 포함된다.
하 매니저는 답변 하나가 정상이어도 연결된 행동 전체에 문제가 있을 수 있다고 지적하며, 카카오 AI 윤리 기준의 출발점으로 ‘약속’을 꼽았다. 구체적으로 책임 있는 AI에 대한 약속을 의미한다.
하 매니저는 “이 약속이 서비스에서 의미를 가지려면 이용자가 AI의 행동을 이해하고 선택할 수 있어야 한다. 필요할 때 개입할 수도 있어야 한다”면서 “카카오는 인간 존엄성을 중심에 두고 기획부터 운영까지 책임을 이어가려고 한다”고 강조했다.
2018년 알고리즘 윤리 헌장에서 시작한 카카오의 AI 윤리 노력은 2022년 ‘기술윤리위원회’로 발전했고, 이후 그룹 차원의 윤리 원칙을 만드는 것으로 이어져 올해는 기준으로 자율 에이전트의 행동까지 살피는 방향으로 기준을 확대했다.
카카오는 AI 윤리와 리스크 판단을 담당자 혼자 감당하지 않도록 하는 체계를 만들어 운영하고 있다. 대표적으로 AI 기술 윤리 소위원회에서 카카오의 정책과 대응 체계를 마련하고 참여 계열사와 함께 이를 검토하고 확산하고 있다. 실행 여부를 기록으로 남겨 외부 기관과도 공유하는 방식을 채택하고 있다.
하 매니저는 “AI 윤리는 새로운 서비스와 이용 경험에 맞춰 계속 다듬어져야 한다”며 “현장에서는 작동하지 않는 기준을 고치고 예상하지 못한 피해가 보이면 점검 범위를 넓혀야 한다”고 부연했다.
특히, 그는 AI 윤리가 기획과 설계 단계부터 고려돼야 한다고 역설했다. 각 행동에 필요한 데이터와 권한, 인간 감독 지점을 정하는 것 역시 중요하다고 설명했다. 이때 정한 경계가 향후 개발과 시험의 기준이 되고 이를 통해 출시 전 점검에서 확인할 부분이 명확해지기 때문이다.
하 매니저는 카카오에서 이를 판가름하는 기준을 ‘스피릿’, 그 기준을 지켜내는 방식을 ‘노르마’라고 안내했다. 스피릿은 안전, 프라이버시, 포용, 책임, 이용자 주체성, 투명성과 신뢰성에 대한 내용을 담고 있다.
노르마는 공동의 책임을 바탕으로 복잡한 과제를 관리하고 실행할 수 있는 단계로 나뉜다. 스피릿이 제시한 기준을 업무로 이어주며, 국내 AI 윤리 원칙의 3가지 가치와 7가지 원칙을 토대로 하고 있다.
관련기사
- AI 에이전트 위험 사전에 잡는다…카카오, 세이프티 장치 마련 속도2026.10.13
- 카카오 AI 사회경제적 가치 연 5506억원…2030년 최대 1.8조원 전망2026.10.13
- "조카 신발 샀다고 내 취향으로 묶이면 안 되죠"…카카오, 맥락 이해하는 AI 만든다2026.10.13
- "말하는 중에도 맞장구 척척"…카카오, 사람처럼 대화하는 AI 개발2026.10.13
여기에 카카오는 통제와 이용이 충돌하는 상황을 살펴보고, 필요한 경우 이를 조정할 수 있도록 AI 윤리 이행 체크리스트를 마련했다. 서비스 속성과 위험에 따라 필요한 통제를 적용하고 자율 에이전트의 관리 영역을 고려해 대응할 수 있도록 했다.
하 매니저는 “스피릿과 노르마, 이행 체크리스트는 현재 내외부 검토 마무리 단계에 있다”면서 “선언을 넘어 AI 서비스 전 주기의 리스크 검토 체계로 나아가려 한다”고 강조했다.
