AI가 써준 답만 믿었다간…직원 판단력 떨어진다

가트너, 2030년 기업 30%서 핵심 직무 역량 약화 전망…검증 체계 강화해야

생성형 인공지능(AI)이 업무 생산성을 높이는 동시에 직원들의 독립적인 판단 능력을 약화시킬 수 있다는 경고가 나왔다.

단순 반복 업무를 넘어 분석과 문제 해결, 의사결정까지 AI에 맡기는 사례가 늘면서 기업들이 업무 효율성뿐 아니라 직원들의 비판적 사고 능력을 유지하는 데도 주력해야 한다는 지적이다.

11일 글로벌 시장조사기관 가트너의 '판단력을 포기하지 않는 인력 조직 구축 방법' 보고서에 따르면 2030년까지 기업의 30%가 AI 사용으로 직원들의 독립적인 판단 능력이 약화된 핵심 직무를 최소 하나 이상 확인할 것으로 전망됐다.

가트너는 생성형 AI가 기존 기술과 달리 단순 계산이나 정보 검색을 넘어 분석과 종합, 문제 해결, 의사결정 등 고차원적인 사고 활동까지 대신할 수 있다는 점에 주목했다. 직원들이 AI가 생성한 결과를 충분히 검토하지 않고 받아들이는 일이 반복되면 스스로 문제를 이해하고 판단하는 능력이 떨어질 수 있다는 분석이다.

AI 의존성이 높아지면 직원들의 판단 능력이 약화될 수 있다는 지적이 나왔다. (사진=클립아트코리아)

실제 기업들의 대응은 충분하지 않은 것으로 나타났다. 조사에 따르면 최고정보책임자(CIO)와 고위 IT 리더 가운데 AI 사용에 따른 직원들의 역량 저하를 방지하기 위한 전략을 마련했다고 응답한 비율은 40%에 그쳤다. 업무 처리량과 생산성이 높아지더라도 직원들이 결과를 설명하거나 오류를 발견하는 능력은 오히려 약화될 수 있다는 우려다.

가트너는 이러한 현상을 '인지적 항복'으로 설명했다. AI가 제시한 답변이 그럴듯하다는 이유로 별도 검증 없이 수용하면서 판단의 근거와 책임까지 AI에 넘기는 것이다. 반복적으로 만족스러운 결과를 얻을수록 직원들이 직접 검토하거나 독립적으로 사고할 필요성을 낮게 평가할 가능성도 있다고 지적했다.

특히 AI를 활용해 비슷한 수준의 결과물을 만들더라도 직원들의 실제 역량에는 큰 차이가 있을 수 있다고 분석했다. 한 직원은 AI가 작성한 결과를 그대로 받아들이는 반면, 다른 직원은 작업 조건과 평가 기준을 설정하고 결과를 검증할 수 있기 때문이다. 가트너는 이를 단순 위임부터 전문가 수준의 AI 활용, 직접 수행에 이르는 인간의 개입 방식으로 구분했다.

소프트웨어 개발 분야에서도 이러한 차이가 나타날 수 있다. 비교적 위험이 낮고 익숙한 작업에는 AI가 코드를 작성하도록 맡기는 '바이브 코딩'이 효과적일 수 있지만 복잡하고 중요한 시스템 개발에는 맥락과 제약 조건, 테스트, 피드백 체계를 설계하는 방식이 필요하다는 설명이다. 개발자가 AI가 생성한 코드의 구조와 작동 원리를 이해하지 못하면 향후 유지보수나 오류 대응 과정에서 어려움을 겪을 수 있다.

이에 가트너는 기업들이 AI 활용 수준을 업무의 위험도와 결과 검증 가능성, 직원 역량 개발의 중요성에 따라 구분해야 한다고 권고했다. 단순하고 위험이 낮은 업무는 AI에 적극적으로 맡기되 중요한 의사결정이나 전문성이 필요한 업무에선 직원이 결과를 이해하고 설명할 수 있도록 해야 한다는 것이다.

가트너는 직원이 AI 결과의 근거를 설명하고 검증하도록 유도하는 평가·검토 체계를 마련해야 한다고 강조했다.

AI 시스템 자체를 설계하는 방식에도 변화가 필요하다고 분석했다. 단순히 답변을 생성하는 데 그치지 않고 사용자에게 판단 근거와 가정을 질문하거나 다른 해석을 제시하도록 설계해야 한다는 것이다. 별도의 AI 모델이나 에이전트가 결과의 논리와 근거를 검토하도록 하는 방식도 제안했다.

가트너는 "CIO들은 위험이 낮은 업무는 AI에 쉽게 위임할 수 있도록 하면서도 판단이 중요한 업무에서는 직원들이 결과를 이해하고 설명하며 책임질 수 있는 환경을 조성해야 한다"고 강조했다.