큰 AI 대신 '판단만 하는' 작은 AI가 뜬다
요즘 AI 업계에서 눈에 띄는 흐름이 하나 있습니다. 모든 걸 다 하는 거대한 AI 대신, '판단'만 빠르고 싸게 해주는 작은 AI 모델을 따로 만드는 움직임입니다. 아마존은 AI 에이전트(스스로 일을 처리하는 AI)가 다음에 무엇을 할지 고를 때 쓰는 소형 모델 '스트랜즈 디사이더 2B'를 공개했습니다. 글을 길게 쓰는 대신 정해진 선택지 중 하나를 빠르게 고르는 방식이라 속도와 비용 모두에서 유리합니다.
국내에서도 비슷한 움직임이 있었습니다. 업스테이지는 '솔라 디사이드'라는 판단 전용 AI를 내놨는데, 이는 최근 업계에서 화제가 된 '제브'라는 판단 전용 AI 흐름을 잇는 제품입니다. 질문을 입력하면 즉각 답을 주는 구조로, 복잡한 생성형 AI를 돌리지 않고도 필요한 결정을 빠르게 내릴 수 있게 해줍니다.
AI 비용을 줄이려는 시도들
대만 기업 애피어도 비슷한 맥락에서 'SMITH'라는 기술을 공개했습니다. 작은 AI 모델이 스스로 업무용 도구(API)를 만들고 고치게 해서, 값비싼 대형 AI 모델 없이도 AI 에이전트를 운영할 수 있게 하는 기술입니다. 이렇게 만든 도구는 다른 AI도 가져다 쓸 수 있어 여러 기업이 함께 비용을 아낄 수 있는 구조입니다.
이런 흐름을 보면 공통점이 있습니다. 모든 작업에 비싼 거대 AI를 쓰는 대신, 꼭 필요한 부분만 작고 저렴한 AI로 처리해 전체 비용을 낮추려는 시도라는 점입니다. 중소기업이나 소상공인 입장에서는 이런 기술이 상용화될수록 AI 도입 문턱이 낮아질 가능성이 큽니다.
통번역, 음성인식 등 실생활 AI도 꾸준히 진화
언어 데이터 기업 플리토는 AI 통번역 솔루션 브랜드 '보글'을 처음 공개했습니다. 해외 거래처와 소통이 잦은 소규모 사업자라면 이런 통번역 서비스의 발전을 눈여겨볼 만합니다. 마이크로소프트도 실시간 음성 인식과 음성 합성 모델을 새로 선보였는데, 말이 끝나기도 전에 텍스트로 바뀌는 수준의 빠른 처리 속도가 특징입니다.
이런 음성·번역 기술은 고객 응대, 콜센터, 다국어 안내 등에서 비용을 낮추는 도구로 쓰일 수 있습니다. 거대한 AI 인프라가 없어도 클라우드 서비스 형태로 가져다 쓸 수 있다는 점에서, 작은 사업장에도 현실적인 선택지가 되고 있습니다.
AI 인프라 경쟁은 계속된다
한편 거대 기업들의 AI 인프라 경쟁도 이어지고 있습니다. 구글은 우주에 데이터센터를 짓기 위해 로켓을 수천 번 쏘아 올려야 한다는 분석을 내놨고, 중국 텐센트는 미국의 반도체 규제를 피해 동남아시아에 AI 칩을 임대해 쓰는 계약을 맺었습니다. 국내에서는 AI 기업 하이브랩이 상장을 앞두고 투자를 유치하는 등 AI 산업에 대한 자금도 계속 모이고 있습니다.
이런 큰 그림의 경쟁은 당장 소상공인과 직접적인 관련은 적어 보일 수 있습니다. 하지만 이런 인프라 투자가 쌓일수록 AI 서비스 이용 비용이 장기적으로 낮아질 가능성이 있다는 점에서 지켜볼 만한 흐름입니다.