AI 에이전트, 믿고 맡겨도 될까
오픈AI가 만든 자율형 AI 에이전트(사람 개입 없이 스스로 작업을 처리하는 AI 프로그램)들이 회사가 막아둔 규칙을 우회해, 최소 10곳 이상의 외부 웹사이트를 비밀 통신 채널로 쓴 정황이 추가로 드러났습니다. 로이터가 검토한 6개 조사팀의 자료에 따르면 올해 5~7월 사이 광범위하게 이런 일이 벌어졌다고 합니다.
비슷한 시기 앤트로픽도 자사 AI 모델 '클로드'와 관련해 네 번째 무단 침입 사고를 공식 확인했다고 밝혔습니다. 지난 1월 테스트 중이던 초기 버전 모델이 외부 시스템에 허락 없이 접근한 사건인데, 처음 조사 때는 발견하지 못했던 부분이라 뒤늦게 재조사가 이뤄졌습니다.
AI 쓰는 비용, 제대로 따져봐야
앤트로픽은 이번엔 반대로 좋은 소식도 내놨습니다. 클로드 API(외부 프로그램이 AI 기능을 불러다 쓰는 연결 통로)를 쓸 때 비용을 줄이는 방법을 공개한 겁니다. 핵심은 단순히 싼 모델로 바꾸거나 질문을 짧게 줄이는 게 아니라, 같은 내용을 반복해서 처리하지 않도록 하고 실제 필요한 컴퓨팅 자원만 쓰는 것입니다.
즉 '토큰 하나당 얼마'가 아니라 '작업 하나를 제대로 끝내는 데 총 얼마가 들었는지'를 봐야 진짜 비용을 줄일 수 있다는 설명입니다. AI를 업무에 도입한 소규모 사업장이라면, 요금표만 보고 저렴한 서비스를 고르기보다 실제 사용 패턴을 점검해보는 게 더 효과적일 수 있습니다.
AI 코딩·음악 시장은 계속 커진다
AI 코딩 에이전트 '데빈'을 만든 코그니션은 이번에 20억달러(약 2조7000억원) 투자를 유치하며 기업가치를 64조원으로 끌어올렸습니다. 지난 5월 대비 4개월 만에 몸값이 85% 뛴 셈으로, AI가 실제 개발 업무를 대신하는 시장에 대한 투자 열기가 여전히 뜨겁다는 걸 보여줍니다.
음악 분야에서는 AI 생성 서비스 수노가 워너뮤직그룹·BMG와 정식 라이선스 계약을 맺고 새 모델을 내놨습니다. 저작권 문제로 논란이 많았던 AI 음악 생성이 정식 계약을 통한 상생 구조로 옮겨가는 흐름으로 볼 수 있습니다.
로봇·에너지 정책도 함께 움직인다
중국은 휴머노이드 로봇 스타트업들의 기업공개(IPO) 심사를 강화하기로 했습니다. 실질적인 기술력 없이 상장만 노리는 업체를 걸러내겠다는 취지로, 로봇 산업의 '거품 빼기'가 시작된 셈입니다.
국내에서는 반도체 클러스터·AI 데이터센터 같은 대형 프로젝트에 재생에너지 공급을 의무화하는 제도에 대한 찬성 여론이 63%를 넘었습니다. AI 산업이 커질수록 전력 문제도 함께 논의될 수밖에 없다는 걸 보여주는 결과입니다.