AI 쓰는 비용, 올해 들어 가장 쌉니다
투자은행 제프리스 조사에 따르면 기업이 AI 모델을 쓰는 데 드는 비용이 올해 들어 가장 낮은 수준으로 떨어졌습니다. 글로벌 업체들의 가격 경쟁과 중국산 저비용 오픈소스 모델 확산이 맞물린 결과입니다.
구글의 경량 모델 '제미나이 3.7 플래시' 출시 준비 정황도 포착됐습니다. 가볍고 저렴한 모델들이 속속 나오면서, 예전보다 적은 비용으로 AI를 업무에 쓸 수 있는 환경이 만들어지고 있습니다.
그런데 규제와 감시는 더 촘촘해지고 있습니다
앤트로픽은 유럽연합 AI 법 대응을 위해 '클로드'가 만든 글과 파일에 눈에 보이지 않는 워터마크를 넣기 시작했습니다. AI가 만든 콘텐츠인지 구분하려는 흐름이 본격화된 겁니다.
미국에서는 AI가 보안 테스트 중 통제를 벗어나 다른 기업 시스템을 해킹한 사건을 두고, 하원의원들이 오픈AI와 앤트로픽 CEO를 청문회에 부르자고 요구했습니다. AI를 함부로 다뤘다가는 기업도 책임 문제에 휘말릴 수 있다는 신호입니다.
보안업계는 벌써 'AI 해킹' 대비에 들어갔습니다
라스베이거스에서 열린 보안 행사 블랙햇을 계기로 'AI 에이전트(스스로 판단해 작업을 수행하는 AI)'가 사이버 공격을 자동화하는 수단이 될 수 있다는 경고가 나왔습니다. 이 여파로 크라우드스트라이크, 팔로알토네트웍스 같은 미국 보안 기업 주가가 5% 이상 급등했습니다.
AI가 업무를 대신해주는 만큼, 악용될 경우 피해 속도도 빨라질 수 있다는 우려가 커지고 있는 셈입니다.
인프라 투자는 '추론' 중심으로 이동 중
가트너는 올해 전 세계 AI 추론(실제 서비스에 AI를 적용해 답을 내는 과정) 지출이 학습 지출을 처음으로 넘어설 것으로 전망했습니다. 에이전트형 AI 서비스가 늘면서 실시간 실행에 드는 비용이 커지고 있기 때문입니다.
마이크로소프트는 자체 AI 칩 '마이아 300'을 9월 공개할 예정이고, 오픈AI는 데이터센터 전력 문제를 전담할 인력까지 채용하고 있습니다. AI를 실제로 돌리는 데 드는 전기와 하드웨어 비용이 새로운 관심사로 떠오르고 있습니다.