AI 모델, 안전은 뒷전? 보안 경고가 잇따랐습니다
앤트로픽은 소형 AI 모델이 인터넷에 연결된 가전이나 스마트TV 같은 사물인터넷(IoT) 기기를 감염시켜 스스로 복제·증식할 수 있는 수준에 가까워졌다고 경고했습니다. 데이터센터의 비싼 장비 없이도 보안이 약한 기기를 통해 퍼질 수 있어 기존 악성코드보다 차단이 어렵다는 설명입니다.
같은 회사는 자사 AI 모델의 응답 데이터를 몰래 대량 수집해 성능을 베끼는 '불법 증류' 공격도 막기 위해 보안을 강화했다고 밝혔습니다. 오픈AI 역시 차세대 모델의 내부 추론 과정을 감시하기 어렵게 만드는 새 설계 방식 때문에 안전성 확보 작업에 공을 들이고 있다고 전해졌습니다.
기업들은 AI 인프라와 지배구조 재정비에 분주
카카오는 AI 사업과 투자·계열사 관리를 나누는 대규모 지배구조 개편을 추진하며 첫 공동 기업설명회를 열었습니다. 새 법인 '카카오AI'는 카카오톡을 AI 비서처럼 쓸 수 있는 통합 창구로 바꾸겠다는 계획을 내놨습니다.
한화그룹은 보안이 중요한 방산·조선 사업에 AI를 접목하기 위해 뉴타닉스를 제2데이터센터 파트너로 선택했습니다. 넷앱은 AI 서버에 데이터를 빠르게 공급하지 못해 생기는 병목을 줄이는 저장장치 기술을 국내에 소개했는데, 기업들이 AI에 투자해도 아직 실제 성과를 체감하지 못한다는 진단도 함께 내놨습니다.
구독 경쟁과 특화 AI 모델도 속속 등장
일론 머스크의 스페이스XSI는 그록, 커서, X 프리미엄을 하나로 묶은 통합 구독 상품을 내놓으며 오픈AI·앤트로픽과의 경쟁에 나섰습니다. 중국 Z.ai는 법률 문서를 분석하고 작성까지 해주는 특화 모델 'GLM-리걸'을 선보여 벤치마크에서 경쟁 모델들을 앞섰습니다.
구글은 로봇이 실제 환경의 물리 법칙을 이해하고 스스로 동작을 개선하도록 돕는 로봇 전용 AI 모델을 공개했습니다. 산업 현장의 로봇 자동화가 한 단계 더 정교해질 것으로 보입니다.
일하는 방식도 'AI 도구 사용법'에서 '문제 정의'로
카카오모빌리티는 직원들에게 특정 AI 도구 사용법을 가르치는 대신, 스스로 업무 문제를 찾아내고 해결 도구까지 만들어보도록 지원하는 방향으로 교육 방식을 바꾸고 있습니다. AI 기술이 빠르게 발전하면서 도구를 잘 다루는 것만으로는 차별화가 어려워졌기 때문입니다.