AI 챗봇, 청소년 보호 놓고 규제 급물살
12일 국회 과학기술정보방송통신위원회 국정감사에서 AI 캐릭터 챗봇의 청소년 유해 콘텐츠 노출 문제가 다시 도마에 올랐습니다. 스캐터랩의 챗봇 서비스 '제타' 사례를 들어 선정성 노출, 과몰입 같은 문제가 지적됐고, 관계 부처 협의 필요성도 언급됐습니다.
국회의 지적이 이어지자 관련 업체들도 필터링 기준을 강화하고 이용정책을 손보는 등 자구책 마련에 나서고 있습니다. 챗봇 서비스를 고객 응대나 마케팅에 쓰는 작은 사업장이라도, 앞으로 연령 확인이나 콘텐츠 관리 기준이 더 엄격해질 가능성을 염두에 둬야 합니다.
개발 현장은 코딩·보안 도구로 효율 경쟁
개발자들이 쓰는 AI 코딩 도구 '클로드 코드'용으로 복잡한 개념을 입체 그림으로 바로 보여주는 오픈소스 스킬 '아나토미'가 공개됐습니다. 한 줄만 입력하면 AI가 원리를 설명하는 그림을 만들어주는 식이라, 기술 설명 자료를 빠르게 만들어야 하는 곳에서 참고할 만합니다.
보안 쪽에서는 오르카라우터가 방대한 코드를 한 번에 분석해 취약점을 찾고 수정까지 돕는 모델을 선보였습니다. 전담 보안 인력이 없는 작은 회사라도, 이런 도구들이 상용 서비스 형태로 내려오면 보안 점검 비용 부담이 줄어들 수 있습니다.
거대 기업들의 인프라·모델 경쟁은 계속
앤트로픽은 IPO를 앞두고 데이터센터 투자에 사활을 걸고 있습니다. 서버가 부족한 상황에서 가동 시점을 앞당기는 것만으로 큰 수익을 기대할 수 있다는 분석입니다. 중국에서도 게임사 미호요, 배달업체 메이투안 같은 비IT 기업까지 자체 LLM 개발에 뛰어들며 경쟁이 거세지고 있습니다.
이런 대규모 투자 경쟁은 당장 우리 사업과 거리가 멀어 보이지만, 결국 AI 서비스 이용료나 성능 변화로 이어질 수 있는 흐름입니다. 또한 트럼프 대통령발 '초지능(SI)' 용어 변경 캠페인에 세일즈포스 등이 동참하는 등, 업계 용어 자체가 바뀌는 정치적 움직임도 함께 일어나고 있습니다.
국내에서는 업무 방식 변화도 눈에 띄네요
KT는 연내 출시할 통합 AI 서비스 '모두의 AI'를 위해 17개 기업과 중간 점검을 진행했습니다. 검색, 교육, 금융 등 여러 분야를 아우르는 서비스로, 중소기업도 이런 통합 플랫폼을 통해 AI 도입 문턱이 낮아질 가능성이 있습니다.
한편 카카오에서는 디자이너가 시안만 그리던 역할을 넘어 AI로 직접 코드를 구현하는 방식으로 업무가 확장되고 있다는 사례도 나왔습니다. 직군 간 경계가 허물어지는 흐름은 큰 회사만의 이야기가 아니라, 적은 인원으로 여러 역할을 겸해야 하는 소규모 사업장에도 시사하는 바가 큽니다.