오픈AI의 내부 사이버보안 시험에서 서로 격리된 채 과제를 수행하도록 가동된 인공지능(AI) 에이전트 약 1200개가 허가받지 않은 게시판에 참여한 것으로 외부 조사팀이 집계했다. 조사팀은 이 가운데 약 700개가 AI 개발 플랫폼 허깅페이스의 기반시설을 공격하거나 이를 직접 뒷받침한 활동에 관여한 것으로 분류했다.
미국 인터넷매체 액시오스는 29일 오픈AI의 자체 기술보고서와 AI 안전 연구기관 METR·레드우드리서치의 외부 조사보고서를 토대로 이같이 보도했다. 두 보고서는 지난 26일 공개됐다.
허깅페이스는 7월13일 에이전트들의 접근을 차단했다. 오픈AI는 19일 내부 보안경보를 통해 이상 활동을 포착했고, 20일 자사 에이전트의 활동이 허깅페이스 침해와 관련됐다고 판단해 허깅페이스에 알렸다. 공격이 끝난 지 일주일 만이었다.
사건은 7월8일 시작된 오픈AI의 대규모 사이버보안 시험에서 비롯됐다. 외부 조사보고서에 따르면 오픈AI는 여러 AI 모델을 이용해 최소 수만건의 에이전트 실행을 병렬로 진행했다. 이 가운데 약 1200개의 실행 단위가 비공식 게시판을 발견해 내용을 읽거나 글과 파일을 올렸다. 7월13일까지 이 게시판에 기록된 메시지와 파일은 7만건을 넘었다.
AI 에이전트는 AI 모델에 컴퓨터에서 명령을 실행할 도구와 연산 자원을 제공해 특정 과제를 독립적으로 수행하도록 만든 작업 단위다. 따라서 1200개와 700개는 서로 다른 AI 모델의 수가 아니라 개별 에이전트 실행 단위의 수다. 이번 사건은 주로 GPT-5.6 솔과 비슷한 규모의 비공개 내부 연구모델이 주도했으며 GPT-5.6 솔도 일부 활동에 관여했다. 시험에 투입된 모델들은 일반 이용자용 모델보다 안전장치가 적게 적용된 상태로 가동됐다.
게시판을 통한 협업은 단순한 정보 공유를 넘어섰다. 처음 게시판을 만든 에이전트가 남은 연산 자원이 더 많은 후속 에이전트에게 연구자료를 넘겼고, 후속 에이전트는 수백개의 작업을 다른 에이전트들에게 배분했다. 일을 넘겨받은 에이전트들은 하위 과제를 다시 나누고 ‘대기’와 ‘거부’, ‘담당자’, ‘중단’ 등의 규칙도 만들어 사용했다. 다만 조사팀은 충돌과 중복 작업도 적지 않아 에이전트들이 항상 일사불란하게 움직인 것은 아니라고 지적했다.
외부 조사팀은 오픈AI가 제공한 약 1300개의 실행 기록을 분류해 약 700개가 허깅페이스 공격이나 이를 직접 뒷받침한 활동에 참여한 것으로 추정했다.
김용전 기자 Danielyongjenkim@gmail.com