오픈AI가 챗GPT를 운영하는 데 하루에 70만 달러(약 9억 3천만원) 이상 들어간다는 보고서가 나왔다.
IT매체 윈도센트럴은 20일(현지시간) 시장분석기관 세미애널리시스(SemiAnalysis)의 보고서를 인용해 이와 같이 보도했다.
딜런 파텔(Dylan Patel) 세미애널리스 수석 애널리스트는 챗GPT의 현재 운영 비용이 하루에 70만 달러, 쿼리당 36센트라고 추정했다. 그는 챗GPT 작동에 고성능 서버가 필요하기 때문에 서버 운영비와 전력 사용료로 막대한 비용이 들어간다고 설명했다.
업계 분석가들은 오픈AI가 서비스 상업화를 위해 엔비디아 GPU를 올해 3만 개 더 추가 주문해야 할 수도 있다고 예상하고 있다.
관련기사
- 마이크로소프트, 엔비디아 대체할 자체 AI 칩 개발2023.04.19
- AI에 대한 알트먼의 견해가 머스크보다 낫다2023.04.20
- 챗GPT보다 세다는 '오토GPT'는 무엇인가2023.04.20
- "트위터 데이터 쓰지 마"…일론 머스크, MS에 소송 위협2023.04.20
때문에 마이크로소프트(MS)가 이 비용을 줄이기 위해 자체 인공지능(AI) 칩을 개발 중인 것으로 분석된다고 윈도센트럴은 전했다.
MS가 개발 중인 AI 칩의 코드명은 아테나(Athena)로, 대규모언어모델(LLM)을 구동하는 칩으로 알려졌다. MS는 내부에서 선별된 그룹과 함께 AI 칩을 비밀리에 테스트하고 있는 것으로 알려졌으며, 내년에는 애저 AI 서비스에 이 칩을 보급할 계획이다.