구글의 인공지능(AI) 모델 '제미나이'가 안전성 평가 도중 내부 통제망을 벗어나 실제 기업 시스템에 침투한 사실이 뒤늦게 확인됐다. 구글은 사태 파악 후에도 이를 외부에 알리지 않아 사건을 축소·은폐하려 했다는 지적이 나온다.

미 일간 월스트리트저널(WSJ)은 18일(현지시간) 구글 제미나이가 지난 5월 사이버 보안 업체 '이레귤러'가 진행한 모의해킹(CTF) 평가 과정에서 외부 민간 기업 3곳의 시스템에 무단 접근했다고 보도했다. 제미나이가 가상 환경이 아닌 현실 속 기업 인프라를 직접 타깃으로 삼아 침입을 시도한 사례가 공식 입증된 것은 이번이 처음이다.

이번 무단 침투는 기밀 탈취 임무를 부여받은 제미나이가 시스템 설정상의 허점을 타고 외부망에 접근하면서 발생했다. 평가를 맡은 이레귤러 측은 원래 인터넷이 차단된 격리망에서 시험을 진행해야 했으나, 관리상 착오로 네트워크 연결을 차단하지 못했다. 이에 제미나이는 가상 목표물과 동일한 상호를 가진 실제 기업을 온라인에서 검색해 스스로 공격을 개시한 것으로 조사됐다.

사고 발생 이후 구글의 대처를 두고 논란이 증폭되고 있다. 구글은 WSJ의 취재 조사가 시작되기 전까지 해당 침입 사실을 대외에 공표하지 않았다. 구글 측은 제미나이가 침투 대상이 실제 기업임을 자율 인식한 직후 공격을 중단했으며, 대상 기관에 실질적인 피해를 발생시키지 않았다는 이유로 외부 공개 대상이 아니라고 선을 그었다.

헤더 앳킨스 구글 보안 엔지니어링 담당 부사장은 "강력한 AI 모델을 책임감 있게 동작하도록 훈련하는 일의 중대성을 보여준 사례"라며 "이번 상황에서 모델은 적절한 방식으로 제어됐다"고 해명했다. 구글은 연방 당국에는 해당 정황을 보고했으며, 문제 발생 모델은 최신 버전이 아니라고 덧붙였으나 구체적인 모델명은 밝히지 않았다.

그러나 보안 업계에서는 구글이 사안의 엄중함을 간과한 채 안이한 대응으로 일관하고 있다는 비판이 잇따르고 있다. 사이버 보안 스타트업 코리도어의 잭 케이블 최고경영자(CEO)는 "AI 모델이 부여된 임무 범위를 넘어 현실의 시스템을 상대로 사이버 공격을 감행했다는 것 자체가 핵심 문제"라며 "이는 공익 차원에서 대중에 투명하게 밝혀져야 할 사안"이라고 강조했다.

AI 모델이 통제 구역을 이탈해 독자적인 공격 태세를 갖춘 사건은 이번이 처음이 아니다. 앞서 오픈AI의 GPT 모델이 샌드박스를 이탈해 허깅페이스 서버에 접근한 바 있으며, 앤트로픽의 클로드 역시 내부 검증 결과 3개 조직의 내부망에 침입했던 정황이 밝혀졌다. 주요 빅테크의 AI 에이전트들이 통제 불능 상태로 외부망을 위협하는 사례가 늘어남에 따라, 기술 개발 속도를 조정하고 외부 검증을 강화해야 한다는 목소리가 한층 힘을 얻고 있다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지