"챗GPT 대항마는 현지화와 다양화···생성AI, 이제 시작"

이달 13일, 유럽연합(EU) 의회는 세계 처음으로 인공지능(AI) 규제법을 가결했다. 2021년 제안한 지 3년 만이다. 최종안에는 AI 서비스가 위험할 수록 더 많은 의무를 부여하는 내용을 담았다. 예를 들어 의료나 교육, 자율주행 등 가장 위험한 분야로 분류된 AI 기술은 개발 시 반드시 사람이 감독하게 했다. 제품을 출시한 이후에도 주의 깊게 관찰해야 한다.

또 법 제정 과정 중 생성형 AI 모델이 등장하면서 새로운 조항도 추가했다. 예컨대 범용 AI 모델 개발자들은 EU 저작권법을 준수해야 하며, AI 학습에 사용한 데이터도 공개해야 한다. AI가 생성한 딥페이크 사진이나 동영상, 오디오에는 인위적으로 조작했다는 내용을 반드시 표시해야 한다. 아예 사용할 수 없는 경우도 제시했다. AI 기반 원격 생체인식 시스템은 범죄 용의자를 수색할 때 등 일부 경우에만 법원 허가를 받아 사용할 수 있고 그 외에는 금지했다.

27일 이 법에 대해 조원희 법무법인 디라이트 대표변호사는 서울 드림플러스 강남 지하1층 이벤트홀에서 ‘샘 알트만도 챙겨야 할 AI 트렌드’ 무료 세미나에서 "IT 기업들의 광범위한 규제 리스크 부담이 예상된다"면서 "특히 사람과 유사한 수준 또는 그 이상의 지능을 갖춘 범용 AI를 개발하는 기업에 대한 투명성 의무로 AI 학습데이터 공개 의무가 부과되므로 EU 진출을 목표로 하는 경우 유의해야 한다"고 밝혔다.

조 변호사는 특히 자율주행, 의료장비 등에 관한 기술을 수출하는 고위험군 기업 등은 사전에 데이터를 공개하고 적합성 평가 과정을 거친다면서 "AI를 활용한 생체 정보 자동 수집 및 식별이 사실상 금지되며, 개인의 특성과 행동 데이터에 기초한 소셜 스코어링 역시 금지된다"고 덧붙였다.

■ "EU AI법안 113개 조항으로 구성...AI위험 4단계로 구분 잘 대응해야"

이 행사는 법무법인 디라이트와 한화생명이 공동으로 주관했다. 조 변호사 외에 ▲글로벌 AI 트렌드와 전망(이건복 마이크로소프트 상무) ▲Next-Gen AI 트렌드와 전망(장병탁 서울대학교 AI연구원장) ▲글로벌 AI 시장에서 한국 기업의 기회(김지섭 뤼튼테크놀로지스 전략팀 리더) ▲생성형 AI 트렌드 및 도입 전략(김동환 포티투마루 대표) ▲AI 에이전트(Agent) 시대 도래(이경전 경희대학교 빅데이터응용학과 교수)를 주제로 국내 정상급 AI전문가들이 강사로 나섰다. 사회는 문경미 더컴퍼니즈 대표가 맡았다.

조 변호사에 따르면, 이번 'EU AI법' 시작은 2018년 4월 EU가 선보인 '유럽을 위한 AI(AI for Europe) 전략'이다. 이어 EU는 2019년 4월 '신뢰할 수 있는 AI윤리 기준 권고안'을 발표했고, 2021년 4월 21일에는 'AI법안 제안(proposal for a regulatory FRAMEwork on AI) 및 AI합동계획 수정안'을 선보였고, 2022년 12월 수정안을 채택했다. 이어 마침내 올 3월 13일 유럽의회 본회의에서 압도적인 찬성표로 법안을 가결(찬성 532표, 반대 46표, 기권 49표)했다.

EU AI법은 전문과 총 113개 조항으로 이뤄졌다. 특히 AI 유형을 4단계(금지, 고위험, 투명성, 범용)로 분류해 각 단계별 규제안을 마련했고, 이외 AI시스템은 자율적으로 행동강령을 시행할 수 있게 가이드라인과 규제기관의 의무를 규정했다.

적용은 언제부터일까? 조 변호사는 "관보 게재(5~7월) 20일 후 발효한다"면서 "금지AI는 발효일로부터 6개월 후 적용하고, 행동강령은 발효일로부터 9개월 후, 거버넌스를 포함한 범용AI는 발효일로부터 12개월 후, 고위험AI는 발효일로부터 36개월 후, 나머지는 발효후 24개월 후 각각 적용한다"고 들려줬다.

조 변호사는 EU AI법의 특징에 대해 "EU 전역에 적용하는 최초의 AI규제법"이라면서 "지원보다는 규제 위주 법으로 잠재적 위험과 영향 수준에 따라 AI에 대한 의무를 규정했다"고 해석했다. 법 적용 범위는 EU 시장에 출시하거나 해당 AI시스템에서 생성한 결과물이 EU에서 사용하는 한, 소재 지역에 무관하게 AI시스템 공급자(개발자)와 활용자에게 적용된다. 단, 군사,국방, 안보 목적으로만 사용하는 AI는 제외되며 또 개인적, 비전문적 활동으로 AI시스템을 사용하는 활용자도 제외된다. 조 변호사는 "위반시 벌금은 최대 3500만 유로나 직전회계연도의 세계 연간 총 매출액의 7%까지 부과할 수 있다"고 덧붙였다. 국내도 AI 관련 법률이 발의됐지만 아직 통과되지 않은 상태다. 오는 5월까지 통과가 안되면 새로 법안을 만들어야 한다.

■ "아직 챗GPT 잘 못 이해하고 있는 곳 있어...AI에 1달러 투자하면 수익은 3.5달러"

행사에서 첫 발표를 한 이건복 한국마이크로소프트(한국MS) 상무는 "챗GPT가 나온지 꽤 됐는데도 아직 잘 못 이해하거나 잘못된 방향을 세우는 곳이 간혹 보인다"며 글로벌 생성AI 트렌드를 설명했다.

챗GPT 같은 생성AI의 가장 큰 트렌드가 검색이지만 단순히 검색과 채팅이 전부가 아니라면서 " 생성AI가 채팅을 넘어 다양한 비즈니스에 영향력을 주고 있다"고 말했다. 그 예로 파워포인트 18장을 만드는데 AI를 활용하면 1분 40초밖에 안걸린다면서 실제로 시연하며 보여줬다.

생성AI는 텍스트, 데이터, 이미지, 비디오, 사운드, 3D 이미지는 물론 코드 작성도 가능한데 개발자들이 싫어하는 테스트 코드도 짤 수 있다면서 "한달에 19달러면 이런 에이전트를 사용할 수 있다"고 덧붙였다. 그가 말한 에이전트는 MS가 만든 '코파일럿'을 말한다. 이 상무는 전세계 6만여 기업이 이를 사용하고 있다고 말했다.

특히 그는 "지금은 생성AI의 아주 초기단계"라면서 "휴대폰에 비유하면 스마트폰이 나오기 이전의 커다란 벽돌폰 시대나 마찬가지"라고 비유했다. 미국 MS가 AI스타트업(미스트랄)과 협업한 사실을 들려주며 "2024년에는 글로벌 시장에서 AI업체간 이런 합종연횡이 활발히 이뤄질 것"이라고 예상했다.

이어 AI전환(AI 트랜스포메이션)을 할때 고려 사항으로 ▲AI혁신에 집중할 곳은 어디인지 ▲어떤 직원부터 AI사용을 지원할 것이며 그 이유는 무엇인지 ▲고객과 파트너에게 더 나은 서비스를 제공하기 위해 AI를 어디에 적용할 것인지 ▲운영을 간소화하기 위해 AI를 어디에 적용할 것인지 ▲데이터는 이러한 혁신을 촉진하기 위한 것인지 ▲플랫폼은 AI개발을 간소화하도록 설계됐는 지 등을 짚어야 한다고 조언했다.

또 AI가 오늘날 모든 비즈니스를 변화시키고 있다면서 KPMG 등 AI를 도입해 성과를 거둔 기업들을 소개했다. IDC 자료를 인용해 "기업이 AI에 투자하는 1달러당 수익률은 3.50달러다. 또 조직이 AI투자로 수익을 실현하는데 걸리는 평균 시간은 14개월"이라고 들려줬다. 생성AI로 인간이 비로소 데이터와 이야기 하게 됐다면서 "대화 관점에서 보면 생성AI가 할 수 있는 부분이 너무 많다"고 짚었다.

■ "차세대 AI는 임바디드 형태...AI가 똑똑한게 아니라 사람이 그렇게 한 것"

이어 장병탁 서울대 AI연구원장은 '미래AI'를 주제로 발표했다. AI의 명확한 정의가 쉽지 않다고 운을 뗀 그는 "AI가 언어와 지각 능력은 있지만 아직 못하는 건 행동"이라면서 "앞으로 이런 방향으로 나아가야 한다"고 말했다. 현재 생성AI는 평가와 판단을 못한다면서 "기계가 스스로 똑똑해진게 아니고 사람이 그렇게 만든 것"이라면서 "머신러닝 등장으로 고전AI에서 현대AI로 넘어가는 분수령을 맞았다"고 해석했다.

특히 AI의 학습에 대해 "기본적으로 시행착오다. 실패 경험으로 부터 배우는 것이며 이를 통해 스스로 개선해 가는 것"이라고 짚었다. 또 "인공지능은 이제 시작에 불과하다"면서 그 이유로 "텍스트 외에는 데이터가 아직 턱없이 부족하다"고 해석했다.

생성AI가 놀랍지만 단점이 있다면서 그 예로 제한된 이해, 환각, 신뢰성 문제, 많은 데이터와 에너지 필요, 텍스트로만 학습해 세상과 분리된 점 등을 들며 "이걸 막으려면 세상과 상호 작용해야 한다. 사진과 텍스트로만 하면 안된다. (로봇처럼) 몸소 체험을 해야 한다. 이걸 임바디드(Embodied) AI나 임바디드 인텔리전스로 부른다. 이 것이 차세대 AI다"고 밝혔다.

■ "생성AI 시장 계속 큰 폭 성장...컴파운드 AI시스템 주목해야"

김지섭 뤼튼테크놀로지스 리더는 생성AI 시장 성장세가 앞으로도 큰 폭으로 이뤄질 것이라면서 이의 발전 방향이 1단계 모델에서 2단계 앱, 3단계 플랫폼으로 진화할 것으로 내다봤다. 특히 그는 킬러 앱의 UI와 UX가 메가 플랫폼에 흡수될 것으로 전망하며 "유저는 생성형 AI플랫폼을 통해 킬러 앱을 원 스탭으로 사용할 수 있기 때문에 독립적으로 앱을 설치해 사용할 필요가 없어진다"고 예상했다

빅테크 기업간 경쟁 양상으로 벌어지는 AI시장에 대해서는 이의 극복방안으로 현지화(로컬라이제이션)와 오픈AI의 챗GPT가 못하는 협업을 꼽았다. 오픈AI는 챗GPT를 만든 모델사이기 때문에 다른 모델을 이용하지 못하는데, 이 것이 스타트업 등이 다양한 LLM으로 무장, 챗GPT를 극복할 수 있는 부분이라는 것이다.

특히 김 리더는 AI모델이 가져야 할 네가지로 효율성, 역동성, 안정성, 다양성을 들며 뤼튼이 시행하고 있는 '컴파운드 AI 시스템'을 소개, 시선을 받았다. 효율성의 경우 특정 업무(태스크)에선 모델을 스케일링하는 것보다 시스템 디자인으로 문제를 푸는 것이 낫다는 것이고, 역동성은 AI모델은 정적 데이터셋으로 학습하기 때문에 지식 컷 오프 등의 문제가 발생하는데 이를 보완하기 위래 RAG 등을 사용한다는 것이다.

또 안정성에 대해서는 "서비스의 필수 안정성 확보를 위해 모델 아키텍처 내에 인풋/아웃풋을 관제하는 지침 기능이 LLM과 별도로 AI 애플리케이션 아키텍처내 존재해야 한다"고 강조했다.

김 리더는 '컴파운드 AI시스템'을 사용했더니 한국에서 나오기 힘든 만족도를 기록했다면서 뤼튼이 상반기중 출시를 준비하고 있는 서비스인 '모델 큐레이션'도 시연했다.

■ "언어AI 하는데 한국어가 가장 어려워...앞으론 설계도 AI가"

김동환 포티투마루 대표는 생성AI 트렌드와 도입 전략을 소개했다. 언어AI 전문기업인 포티투마루는 방대한 비정형 데이터에서 단 하나의 답을 찾아 제시하는 '앤서링 AI' 기업이다. 파이낸셜타임즈가 선정한 3년 연속 아시아태평양 고속 성장 기업에 뽑히는 등 국내외에서 여러 상을 받았다.

전자기업을 비롯해 통신, 금융, 엔지니어링, 자동차 등 다양한 기업들을 고객으로 확보했거나 파트너십을 맺었다. 이날 김 대표는 언어AI에 들어가는 기술인 MRC 독해와 패러패이징, 내츄럴 랭퀴지 투 SQL(NL2SQL) 등을 보여주며 실제 사례를 시연했다.