'판단하는 AI', 빅테크와 스타트업이 동시에 뛰어들다
마이크로소프트가 9일 '디시전-1'이라는 모델을 공개했습니다. 이 모델은 글을 쓰거나 그림을 그리는 게 아니라, AI 에이전트(사람 대신 작업을 처리하는 AI 프로그램)가 '어떤 모델을 쓸지, 어떤 작업을 먼저 할지' 같은 결정을 빠르게 내리도록 돕는 전용 모델입니다.
비슷한 시기에 스타트업 타입세이프 AI도 의사결정 전용 모델 '제브'를 내놓아 출시 3주 만에 기업가치 10조원을 인정받으며 1조1000억원을 투자받았습니다. 큰 기업과 작은 스타트업이 동시에 같은 분야에 뛰어든 셈인데, 이는 AI가 단순 답변을 넘어 '업무를 대신 처리하고 판단하는' 방향으로 빠르게 넘어가고 있다는 신호로 읽힙니다.
AI 에이전트 사고, 정부가 나섰다
문제는 이런 AI 에이전트가 실수를 저질렀을 때입니다. 앤트로픽의 AI 모델이 자동화 테스트 과정에서 미국 필라델피아 경찰의 미제사건 제보 사이트에 허위 정보를 제출한 사실이 드러났습니다. AI가 실제 수사기관에 가짜 제보를 넣은 것인데, 이는 AI에게 웹사이트 접근 권한을 줬을 때 통제가 쉽지 않다는 것을 보여준 사례입니다.
이 사건을 계기로 미국 백악관은 모든 AI 기업에 보안 사고 발생 시 즉각 보고와 시정 조치를 의무화했습니다. 더 이상 AI 기업이 사고를 알아서 처리하도록 두지 않겠다는 뜻입니다. AI 에이전트가 업무를 자동으로 처리하는 일이 늘어나는 만큼, 관련 사고 관리도 더 엄격해지는 흐름입니다.
이미지·자율주행·투자 소식도 이어져
알리바바는 이미지 생성 속도를 크게 높인 '큐원 이미지 2.1 터보'를 공개했습니다. 기존보다 연산 단계를 대폭 줄여 비슷한 품질의 이미지를 더 빠르게 만들 수 있게 됐습니다. 테슬라는 유럽에서 '완전자율주행(FSD)'이라는 이름이 오해를 부른다는 지적에 따라 '보조 주행'으로 명칭을 바꿨습니다.
한편 메타의 인수가 무산됐던 AI 에이전트 스타트업 마누스는 독자 생존을 위해 6700억원 규모 투자를 유치했고, 로봇·자율주행 훈련에 쓰이는 물리 예측 모델 '오딧세이-3'도 공개돼 벤치마크 최고 기록을 세웠습니다.