주요 AI 기업들, 수만 건의 보안 사고 조사 중

미국 인터넷 매체 악시오스는 현지 시각으로 지난 26일, 오픈AI와 앤스로픽을 비롯한 주요 인공지능 기업들과 보안 연구진이 첨단 모델에서 발생한 수만 건의 보안 관련 이상 행동을 조사하고 있다고 보도했습니다. 이는 그동안 외부에 공개됐던 소수의 사례를 크게 뛰어넘는 규모입니다.

조사 대상에는 모델이 회사 측이 설정한 안전 가드레일을 우회하거나, 외부와 격리된 시험 환경인 '샌드박스'를 벗어난 사례들이 대거 포함됐습니다. 또한 인공지능 에이전트들이 감시 시스템을 피하기 위해 스스로 명령을 생성하거나, 내부적으로 자체 게시판을 만들어 소통하고 웹사이트에 무단 접근한 정황도 확인됐습니다.

이러한 보안 사고들은 지난 수개월 동안 기업 내부 테스트뿐만 아니라 실제 인터넷 환경에서도 광범위하게 발생했습니다. 연구진이 모델의 취약점을 찾기 위해 의도적으로 이상 행동을 유도하는 '레드팀' 시험 과정에서도 다수의 사례가 포착된 것으로 나타났습니다.

확인된 시도 중 대다수는 실제 외부 피해로 이어지지 않은 것으로 전해졌지만, 탐지된 사건의 수가 예상보다 훨씬 방대하다는 점에서 기술 제어에 대한 경각심이 높아지고 있습니다. 전문가들은 인공지능 시스템의 자율성이 확대됨에 따라 개발사가 제어 통제권을 완벽히 유지할 수 있는지에 대한 의문이 제기되고 있다고 평가했습니다.