브로드컴, 탄주 플랫폼에 'AI 개발자' 입혔다

브로드컴이 소프트웨어와 인공지능(AI) 개발 가속화를 위해 클라우드 네이티브 애플리케이션 플랫폼 새 버전을 출시했다. 파이썬을 몰라도 플랫폼에 사전 탑재된 AI 개발 프레임워크로 앱 구축이 가능하다.

브로드컴은 미국 라스베이거스에서 진행되는 'VM웨어 익스플로어 2024'에서 'VM웨어 탄주 플랫폼 10'을 발표했다고 28일 밝혔다.

VM웨어 탄주 플랫폼 10은 플랫폼 엔지니어링 팀에 향상된 거버넌스 및 운영 효율성을 제공한다. 이를 통해 개발 팀 부담과 복잡성을 줄일 수 있다.

브로드컴이 소프트웨어와 인공지능(AI) 개발 가속화를 위해 클라우드 네이티브 애플리케이션 플랫폼 새 버전을 출시했다. (사진=브로드컴)

브로드컴은 탄주 플랫폼 내 기능 세트 '탄주 인공지능(AI) 솔루션'도 도입했다. 이 솔루션은 애플리케이션 팀이 생성형 AI로 구동되는 지능형 애플리케이션을 빠르고 대규모로 제공하도록 돕는다. P탄주 플랫폼 10 및 VCF는 이제 에어갭(air-gapped) 환경에 대한 셀프 구성 설정 및 지원을 통해 최단 기간에 완전한 프라이빗 클라우드로 전환하는 방법을 제공한다.

VM웨어 탄주 플랫폼 10은 개발자 및 플랫폼 엔지니어 대상으로 애플리케이션 생산 환경으로의 배포에 이르는 표준화되고 성공적인 방법을 제공한다. 개발자는 간단한 운영을 통해 안전한 컨테이너 구축을 자동화하고 서비스를 앱에 연동하며 하나의 명령어로 코드를 배포하고 애플리케이션을 손쉽게 확장할 수 있다. 해당 플랫폼은 취약점 패치, 롤링 업그레이드, 광범위한 가시성 및 AI 통찰력 기반 정책 시행 등 애플리케이션 및 플랫폼 관리 작업을 자동화한다.

이 플랫폼은 개발자에게 쿠버네티스 및 애플리케이션 스페이스에 대한 클라우드 파운드리와 같은 경험을 제공한다. 이는 애플리케이션 중심 추상화 레이어를 도입해 애플리케이션을 일관된 운영 거버넌스 및 규제준수에 부합하는 방식으로 운영하도록 지원한다.

추상화 모델은 이해관계자들의 우려를 해결하도록 돕는다. 개발자는 인프라의 세부적인 부분에 대해 걱정할 필요 없이 애플리케이션에 집중할 수 있다. 플랫폼 및 운영 팀은 대규모 인프라 관리에 집중하고 구성을 규정해 조직적 거버넌스 및 규제준수 요구사항을 충족할 수 있다.

이 외에도 VM웨어 탄주 플랫폼 10은 ▲앱 투 플랫폼(app-to-platform) 가시성 ▲사전 탑재 서비스 연결 ▲새 애플리케이션 어드바이저 ▲탄주 스프링의 향상된 자바 빌드팩 ▲개선된 규제준수 시행 및 취약성 관리 기능을 갖췄다.

탄주 플랫폼, AI 애플리케이션 구축 돕는다

브로드컴은 VM웨어 탄주 애플리케이션 10에 AI 기능을 추가했다. 고객들은 생성형 AI로 구동되는 지능형 애플리케이션을 안전하게 대규모로 개발, 운영 및 최적화할 수 있다.

브로드컴은 VM웨어 탄주 애플리케이션 10에 AI 기능을 추가했다. (사진=브로드컴)

탄주 AI 솔루션은 생성형 AI 옵저버빌리티 및 모니터링 기능을 제공해 앱 및 거대언어모델(LLM)대상으로 한 근본 원인 분석으로 정확도 및 성능 이슈 해결을 지원한다.

'스프링 AI'는 자바개발자가 애플리케이션에 생성형 AI 기반 기능을 구축하는 데 사용하는 오픈소스 애플리케이션 프레임워크다. 스프링 AI는 개발자 친화적 자바 API를 통해 LLM 모델 액세스 및 보다 우수한 AI 및 앱 로직 패턴 구현을 지원한다. 스프링 AI로 자바 개발자는 파이썬 기반 교차 훈련 없이도 신규 또는 기존 애플리케이션에 생성형 AI 기능을 원활하게 통합할 수 있다.

'젠AI 온 탄주 플랫폼'은 오픈AI와 호환 가능한 API 게이트웨이로 사전 탑재된 API 추상화, 로드 밸런싱, 복원력 및 캐싱을 제공하는 탄주 플랫폼서 이용 가능하다. 이는 100 가지의 상용 또는 LLM을 안전하고 일관된 방식으로 실행 또는 연결하도록 한다.

탄주 플랫폼은 데이터베이스 및 엔터프라이즈 API 등의 서비스처럼 LLM 서비스를 중개한다. 이를 통해 플랫폼 엔지니어링 담당 팀에서 역할 기반 액세스 제어를 적용해 AI 서비스를 큐레이션하고 개발자 시크릿 관리를 자동화해 보안 및 복원력을 지원한다.

'옵저버빌리티 포 젠AI'는 앱 및 모델 응답을 모니터링 및 평가함으로써 성능 및 정확도를 향상시킨다. 이는 모델 정확도 확인을 통해 팀의 AI 앱 시각화, 테스트 및 이슈 해결을 지원한다. 또 환각 현상을 스캔하고 토큰 사용량 모니터링을 통해 LLM 호출 비용을 보다 손쉽게 통제하도록 한다.

VCF 환경서 현대적인 애플리케이션 제공 속도↑

브로드컴은 탄주 플랫폼 10 기능이 VCF 환경에서 현대적인 애플리케이션 제공 속도를 높인다고 강조했다.

에어갭 환경 지원은 외부 네트워크와 연결이 차단돼 있으며 자체적으로 관리되는 프라이빗 클라우드 환경을 구현한다. 이는 간단한 셀프 구성 설치 환경에서 VCF용 탄주 플랫폼을 사전 구성하면 가능하다. 간단한 명령어로 쿠버네티스 클러스터 생성 및 네트워크 설정을 자동화할 수 있고, 이용 가능한 프라이빗 클라우드 개발자 플랫폼을 생성한다.

탄주 플랫폼용 글로벌 서버 로드 밸런싱 및 첨단 네트워킹은 프라이빗 클라우드에 VM웨어 로드 밸런서를 활용한 새로운 개선 기능도 제공한다. 이는 로드 밸런싱 기반 라우팅 관리 및 소스-투-URL(source-to-url) 동적 네트워킹을 위한 클라우드 파운드리 배포 관련 사전 구성된 지원 및 쿠버네티스 환경을 위한 동적 DNS(Domain Name system)을 포함한다.