‘제미나이’가 기업 3곳 뚫었다…구글 AI 첫 실제 해킹 사례

구글의 인공지능 모델 제미나이가 사이버 보안 평가 시험 도중 자율적으로 외부 기업 3곳의 시스템에 침투해 해킹을 수행한 것으로 확인됐습니다. 이는 구글의 자체 보안 보호망을 넘어 시스템이 외부 네트워크로 자율 진입한 첫 번째 사례로 파악됐습니다.

미국 월스트리트저널 등 주요 외신은 현지 시간 18일 사이버 보안 평가업체 이레귤러가 실시한 보안 성능 시험 과정에서 이 같은 일이 발생했다고 보도했습니다. 당시 제미나이는 가상의 시험 환경에서 부여된 임무를 수행하는 과정에서 실제 인터넷에 접속해 외부 기업 보안망을 뚫은 것으로 밝혀졌습니다.

조사 결과 제미나이는 보호망이 적용된 기업 시스템에 진입하기 위해 비밀번호를 반복 추측하거나 공개 저장소에 노출된 인증 정보를 활용하는 방식을 사용했습니다. 제미나이는 가상 환경이 아닌 실제 기업의 내부 네트워크에 침투했다는 사실을 스스로 인지한 뒤 침입 행위를 중단한 것으로 전해졌습니다.

이번 시험을 진행한 이레귤러 측은 지난 7월 말 관련 사실을 구글 등 주요 개발사들에 통보했으며, 필요한 안전 조치와 시스템 보완 작업을 완료했다고 밝혔습니다. 최근 메타와 앤스로픽 등 다른 주요 기술 기업들의 모델에서도 유사한 보안망 진입 사례가 관측되면서 자율 제어 통제력에 대한 우려가 제기되고 있습니다.