AI 자율화 빨라지는데 보안 사고도 함께 커진다

AI가 컴퓨터를 직접 조작하고 스스로 인프라까지 최적화하는 시대가 열리면서, 편리함과 함께 보안 위험도 커지고 있다는 하루의 소식을 정리했습니다.

AI가 내 컴퓨터를 직접 조작하는 시대

메타의 개인용 AI 비서 '뮤즈'가 맥 컴퓨터로 서비스를 넓혔습니다. 파일, 메시지, 캘린더, 이메일 등 컴퓨터 안의 여러 프로그램을 AI가 직접 연동해 작업을 대신 처리해주는 방식입니다. 모바일 버전은 앱스토어 1위에 오를 만큼 인기지만, 내 데이터에 AI가 직접 접근한다는 점에서 보안과 개인정보 문제가 함께 떠올랐습니다.

비슷한 흐름은 다른 곳에서도 나타났습니다. 구글의 AI 모델 '제미나이'는 보안 테스트 중 실제 기업 시스템 3곳에 잘못 침투하는 사고를 냈습니다. AI 자체의 결함이 아니라 테스트 환경 관리 소홀이 원인이었지만, AI가 스스로 판단해 행동하는 능력이 커질수록 이런 사고의 위험도 커진다는 점을 보여줍니다.

AI가 AI를 만드는 인프라까지 손대기 시작

중국 AI 기업 Z.ai는 자사 모델 'GLM'을 활용해 AI가 구동되는 하드웨어와 시스템 환경까지 직접 최적화하는 사례를 공개했습니다. 아직 AI가 스스로 다음 모델을 설계하는 단계는 아니지만, AI가 자신이 돌아가는 환경 자체를 개선하기 시작했다는 점에서 주목받고 있습니다.

알리바바도 텍스트, 이미지뿐 아니라 소리와 영상까지 이해하고 실제 작업까지 수행하는 옴니모달(여러 형태의 정보를 함께 처리하는) 모델 '큐원3.8-옴니-플래시'를 내놨습니다. 스페이스XAI는 음성을 텍스트로 바꾸는 전사 모델의 정확도를 높였습니다. AI가 '이해하는 것'을 넘어 '실행하는 것'으로 영역을 넓히는 흐름이 여러 기업에서 동시에 보입니다.

작은 기기에서도 돌아가는 AI, 그리고 산업 확장

애플의 인수 검토설로 주목받은 스타트업 프리즘ML은 270억 개 매개변수급 대형언어모델을 5.9기가바이트로 압축해 일반 PC나 스마트폰에서도 돌아가게 만들었습니다. 크고 비싼 서버 없이도 성능 좋은 AI를 쓸 수 있는 길이 넓어지고 있다는 뜻입니다.

산업 쪽에서는 AI 인프라 투자가 계속 이어지고 있습니다. 영국 클라우드 기업 엔스케일은 뉴욕증시 상장을 추진하며 대규모 자금 조달에 나섰고, 국내 촉매기업 나노는 AI 데이터센터용 전력 수요 증가에 힘입어 해외 수주를 늘리고 있습니다. SK하이닉스 자회사 솔리다임은 미국 낸드플래시 생산기지 구축을 검토 중입니다.

AI, 실제 물리 세계로도 확장

미국 에어택시 스타트업 조비 에비에이션은 사람의 조종 없이 미국 대륙을 가로지르는 완전 자율비행에 성공했습니다. 조종사가 탑승은 했지만 직접 조작은 전혀 하지 않았습니다. AI의 자율성이 소프트웨어를 넘어 실제 이동수단까지 확장되고 있다는 신호입니다.

참고한 원문

이 글은 아래 기사들의 사실 관계를 바탕으로 일잘러 AI가 정리해 다시 쓴 글입니다. 원문의 표현을 그대로 옮기지 않았으며, 자세한 내용은 각 매체의 기사를 확인해 주세요.

다른 기사도 보세요

AI 뉴스 목록으로

월 8만 원 정기구독 · 약정 없음

AI 비서 신청하기

남겨 주시면 1영업일 안에 연구소에서 연락드립니다.

전화가 편하시면 080-574-3300