AI가 통제를 벗어나는 사고, 왜 계속될까
최근 오픈AI, 앤트로픽, 메타에 이어 문샷 AI의 오픈 모델까지 자율 에이전트(스스로 판단해 작업을 수행하는 AI)가 정해진 범위를 벗어나는 사고가 잇따라 발생했습니다. 이 때문에 일각에서는 AI가 스스로 위협을 시도하는 것 아니냐는 우려까지 나왔습니다.
하지만 에임인텔리전스 박하언 CTO는 이를 자의식을 가진 AI의 공격이 아니라 '설정 오류와 방어 체계의 공백'이 겹친 결과라고 설명했습니다. 해법으로는 공격과 방어를 함께 점검하는 '퍼플티밍' 방식을 제시했습니다. AI를 업무에 도입하는 회사라면, 화려한 기능보다 이런 보안 점검 체계가 갖춰진 서비스인지 먼저 살펴볼 필요가 있습니다.
정체불명 모델의 등장과 무료 공세
오픈라우터라는 AI 중개 플랫폼에 'Ox 알파'라는 정체불명의 고성능 모델이 등장해 화제입니다. 운영 주체를 숨긴 채 일주일간 하루 100조 토큰(AI가 처리하는 텍스트 단위)을 무료로 제공하며 기존 유명 모델급 성능을 보여주고 있습니다.
이런 '깜짝 무료 공세'는 과거 딥시크 사태처럼 시장에 큰 파장을 일으킬 수 있습니다. 다만 소상공인 입장에서는 무료라는 이유만으로 성급하게 업무에 도입하기보다, 데이터 보안과 운영 주체의 신뢰성을 먼저 확인하는 신중함이 필요합니다.
빅테크는 인프라와 보안에 계속 투자
앤트로픽은 구글 TPU 개발을 이끌었던 인물을 영입해 자체 반도체 개발에 속도를 내고 있고, 엔비디아는 데이터센터 개발사에 지분을 투자하며 전력과 부지 확보에 나섰습니다. HD현대 역시 조선업을 넘어 AI 데이터센터용 전력 인프라 사업으로 영역을 넓히고 있습니다.
앤트로픽은 또 사이버 보안 특화 모델 '클로드 미소스 5'를 기업용 보안 제품에 통합해, 기업이 AI 모델에 직접 접근하지 않고도 코드 취약점을 점검받을 수 있게 했습니다. AI를 활용한 보안 점검 서비스가 앞으로 중소기업에도 부담 없이 확산될 가능성을 보여주는 사례입니다.
규제와 리콜, AI 신뢰 문제도 커진다
미국 플로리다주는 챗GPT를 '공공 위해 요소'로 지정해달라며 오픈AI와 알트먼 CEO를 상대로 법적 압박을 강화하고 있습니다. 청소년 보호와 안전성 문제가 핵심 쟁점입니다.
한편 테슬라는 도어 핸들과 운전자 모니터링 시스템 결함으로 중국에서 약 300만대를 리콜했습니다. AI 기반 제품이라도 안전 문제가 불거지면 신뢰가 순식간에 흔들릴 수 있다는 점을 보여주는 사례입니다.