"범용 인공지능(AI)에게 아시아의 법률을 묻는 것은 영어만 할 줄 아는 관광객에게 현지 맛집을 물어보는 것과 같습니다. 유명한 식당은 알려줄 수 있지만 비즈니스의 성패를 가르는 진짜 정보는 얻을 수 없습니다."
김형준 BHSN 최고AI책임자(CAIO)는 최근 기자와의 인터뷰에서 이같이 말했다. 그는 법률 AI를 변호사의 보조 도구가 아닌 기업 활동 전반의 효율과 안정성을 높이는 핵심 인프라로 정의하며 시장의 판도를 바꾸고 있다고 밝혔다.
29일 업계에 따르면 생성형 인공지능(AI)의 발전에도 불구하고 실제 산업 현장에서의 가치 증명은 여전한 과제로 꼽힌다. 특히 법률 분야에서는 판례 검색과 같은 단편적인 기능에 머무는 경우가 많았다. 이런 환경 속에서 BHSN은 '리걸 AI는 곧 비즈니스에 직결된다'는 다른 노선을 택하며 주목받고 있다.

핵심은 미국 중심의 범용 거대언어모델(LLM)이 놓치고 있는 '아시아의 특수성'에 있다. 국가별로 다른 법제와 언어, 비즈니스 관행 때문에 범용 AI로는 아시아 기업이 직면한 복잡한 문제를 해결하기 어렵다는 것이다. BHSN은 바로 이 지점에서 출발한다.
BHSN의 목표는 단순한 AI 툴 개발을 넘어 변호사는 물론 법무 지식이 필요한 모든 실무자가 현장에서 실질적으로 활용할 수 있는 '아시아 리걸 인텔리전스 플랫폼'을 구축하는 것이다. 판례를 넘어 규제, 정책, 조세 등 비즈니스 전반의 법률 문서를 처리하는 독보적인 기술력을 바탕으로 국내 대기업의 신뢰를 얻었고 이제 아시아 시장을 정조준하고 있다.
빅테크 엔지니어, 법률에 뛰어들다…'모두를 위한 AI'로 리걸테크 재구성
김형준 CAIO는 SK텔레콤의 선행 연구조직 '티브레인'과 네이버에서 거대언어모델(LLM) 개발을 이끌던 AI 전문가였다. 그는 기술의 진보를 넘어 AI가 연구실 밖 실제 산업 현장에서 가치를 증명해야 한다는 갈증이 컸다. 기술의 실질적인 가치를 구현할 무대를 찾던 그에게 전환점이 된 것은 '챗GPT'의 등장이었다.
김 CAIO는 '챗GPT'가 등장하면서 AI의 유료화와 경제성이 비로소 입증됐다"고 회상했다. 더불어 막대한 서버 비용과 기술 성숙도를 고려했을 때 AI의 첫 승부처는 기업 대 소비자(B2C)가 아닌 기업간 거래(B2B) 시장이 될 것이라 확신했다. 금융, 제조, 헬스케어 등 여러 분야를 검토하던 그의 눈에 들어온 곳이 바로 '리걸(Legal)' 분야였다.
법률 분야는 계약서 검토, 규정 리서치처럼 반복적이지만 고도의 전문성이 필요한 워크플로우가 많아 AI가 기여할 여지가 무궁무진했다. 마침 변호사 출신으로 AI의 잠재력에 깊은 확신을 가진 임정근 BHSN 대표와의 만남은 그의 결정에 쐐기를 박았다. 최고의 AI 기술과 깊이 있는 법률 도메인 지식이 만났을 때의 시너지를 확신한 것이다.

김 CAIO는 "변호사를 대체하는 것이 아니라 변호사가 더 중요한 판단에 집중하도록 돕는 것이 첫 번째 목표"라며 "나아가 법률 전문가가 아니더라도 누구나 필요한 법률 정보와 서비스를 쉽게 이용하도록 만들어 정보 격차를 해소하고 싶었다"고 말했다.
다만 이러한 비전을 실현하기 위해선 과거의 접근법을 버려야 했다.
그는 "과거에는 특정 프로젝트를 위해 AI를 맞춤형으로 개발하다 보니 다른 곳에 쓰기도 어렵고 만든 사람이 퇴사하면 관리가 안 되는 문제가 비일비재했다"며 "계약 관리부터 규제 분석까지 파편화된 기능들을 하나로 묶는 하나의 '올인원 플랫폼'이 필요하다는 결론이 나왔다"고 말했다.
'데이터'와 'RAG'로 무장…범용 LLM이 못 푸는 '아시아 법률' 정복
BHSN이 마주한 첫 번째 장벽은 '데이터'였다. 김 CAIO에 따르면 한국의 법률 데이터, 특히 기업 계약서는 공개된 자료가 많은 미국과 달리 사실상 '깜깜이 시장'에 가까웠다. 고품질 데이터 없이는 어떤 AI도 똑똑해질 수 없었기에 이는 리걸테크 기업에게 넘기 힘든 장벽으로 여겨졌다.
회사는 이 문제를 기술만으로 접근하지 않았다. 사내 변호사들로 구성된 '리걸 옵스(Legal Ops)'팀이 AI 개발 과정에 참여했다. 김 CAIO는 "기술만으로는 법률 문서의 미묘한 맥락을 이해시킬 수 없다"며 "엔지니어와 변호사가 한 팀처럼 움직이며 데이터 생성부터 모델 검증까지 함께하는 구조를 만들었다"고 설명했다.
더불어 단순히 데이터를 수집하는 것을 넘어 스스로 데이터를 생성하는 단계로 나아갔다. 김 CAIO는 "데이터가 없다고 마냥 기다리는 대신 우리가 원하는 최고 품질의 데이터를 직접 만들어 AI를 가르치자는 역발상을 했다"며 "이를 위해 LLM으로 다양한 산업의 '합성 데이터'를 생성하고 변호사들이 검수하며 피드백을 주는 '데이터 파이프라인'을 통해 AI의 성능을 지속적으로 고도화했다"고 말했다.

데이터 문제 해결을 위해 회사가 내세운 또 다른 핵심 기술은 검색증강생성(RAG)이다. 김 CAIO는 "LLM이 아무리 똑똑해도 사실을 왜곡하는 '환각 현상'은 신뢰가 생명인 법률 분야에서 치명적"이라며 "RAG는 AI가 창작하는 것이 아니라 검증된 데이터를 기반으로 답변하도록 만드는 안전장치"라고 강조했다.
실제로 BHSN의 RAG 기술은 실제 기업 환경의 복잡한 비정형 문서들을 처리하는 데 초점을 맞췄다. 특히 방대한 문서를 법률적 맥락에 따라 '의미 단위'로 이해하고 분석하는 방식으로 검색 정확도를 높였다. 이는 책을 페이지 숫자로 무작정 나누는 게 아니라 '장(Chapter)' 단위로 이해하는 것과 같아 AI가 답변의 핵심 근거를 놓치지 않게 만든다.
이러한 기술적 차별성은 BHSN이 '아시아 시장'이라는 명확한 목표를 설정하는 기반이 됐다. 김 CAIO는 "미국 범용 LLM은 한중일 언어권에서 성능이 급격히 저하된다"며 "아시아의 복잡한 법률 및 규제 환경을 제대로 이해하기 위해서는 특화된 전문가 AI가 필수적"이라고 지적했다.
이를 위해 개발한 자체 LLM이 바로 '아스트로(Astro)'다. 회사는 기술력을 바탕으로, 보안에 민감한 기업들을 위해 외부와 차단된 내부망에 직접 시스템을 설치하는 '온프레미스(On-premise)' 방식까지 지원한다. 이는 데이터 유출을 경계하는 대기업과 금융권의 신뢰를 얻는 데 주효했다.
CJ·한화 업고 일본·베트남으로…'아시아 리걸 AI' 비전 현실로
BHSN의 기술력은 국내 대기업 현장에서 그 가치를 먼저 입증했다. 회사는 가장 보수적이고 까다롭기로 소문난 대기업 시장을 뚫으며 기술의 신뢰도를 쌓았다. 대표적으로 CJ제일제당과 한화솔루션은 BHSN의 솔루션을 도입해 내부 법무 및 계약 관리 프로세스를 구축했으며 애경케미칼 등 여러 기업이 계약 검토 업무 전반에 AI를 적극 활용하고 있다.
국내 시장에서의 성공은 아시아 시장으로 향하는 교두보가 됐다. BHSN은 법률 체계가 유사한 일본 시장에 지난 2023년 현지 법인을 설립하며 가장 먼저 진출했다.
더불어 베트남 시장은 '기술과 현지 전문가의 결합'이라는 독특한 방식으로 공략한다. 법제와 정치적 상황이 특수한 시장의 한계를 넘기 위해서다.

김 CAIO는 "베트남에 진출하려는 한국 기업이 현지 공장 설립 규정을 한국어로 물어보면 저희 AI가 베트남 법령을 검색해 한국어로 답변해주는 식"이라며 "리서치 시간을 획기적으로 줄여 빠른 의사결정을 돕는다"고 구체적인 사례를 들었다.
관련기사
- 공공기관 'AI 법률비서' 시대 여나…BHSN, CSAP 인증 따내 시장 선점 '시동'2025.08.20
- BHSN, 삼성생명과 '리걸AI' 공동 개발…금융 컴플라이언스 자동화 노린다2025.07.17
- BHSN, '앨리비 아스트로' 출시…리걸AI가 계약서 '1분 리뷰' 시대 연다2025.07.10
- 이해민 의원, ‘리걸테크 진흥법’·‘법원 AI 공개법’ 대표 발의2025.07.06
궁극적으로 BHSN이 그리는 궁극적인 비전은 개별 솔루션 판매를 넘어선다. 각기 다른 아시아 국가의 법률과 비즈니스 워크플로우를 하나의 시스템에서 통합 관리하는 '아시아 리걸 인텔리전스 플랫폼'을 구축하는 것이 최종 목표다.
김 CAIO는 "우리는 단순한 리걸테크 기업을 넘어 아시아를 대표하는 AI 플랫폼 기업으로 성장하겠다"고 강조했다.