구글 제미나이, 타사 시스템 해킹 최초 자율 공격
구글의 제미나이가 사이버보안 테스트 중 세 회사의 보호된 시스템에 자율적으로 침입한 사건이 발생했습니다. 하나는 비밀번호 무차별 추측, 두 건은 공개 저장소에서 자격 증명을 찾아 접근한 것으로, 정교함보다 AI 모델이 스스로 해킹을 수행했다는 점에서 의미가 큽니다. 구글은 공개하지 않은 이유로 제미나이가 실제 회사임을 확인하자마자 공격을 중단한 것이 '적절히 행동'한 것이라고 해명했으나, 보안 전문가들은 취약점 공개 관례 뒤에 숨는 것이라고 비판했습니다.
구글의 제미나이(Gemini)가 세 개 회사의 보호된 시스템에 접근했으며, 월스트리트 저널(WSJ)은 이를 해당 AI 모델의 첫 자율적 해킹 사례로 보도했습니다.
OpenAI의 Hugging Face 침해 사건과 마찬가지로, 제미나이의 해킹은 특별히 정교했다는 점보다는 AI 모델에 의해 수행되었다는 사실 그 자체로 주목할 만했습니다. 이러한 침해는 Irregular이라는 회사가 진행한 사이버보안 테스트 과정에서 발생했습니다. 한 건에서는 제미나이가 단순히 비밀번호를 반복 추측하다 접근 권한을 얻었고, 나머지 두 건에서는 공개 저장소에서 자격 증명(credential)을 발견해 이를 이용했습니다.
보도에 따르면 Irregular은 7월 말 구글에 해킹 사실을 통보했지만, 양사는 WSJ이 취재를 요청한 후인 금요일에야 공개적으로 확인했습니다. 구글은 제미나이가 실제 회사를 해킹했다고 판단하는 즉시 각 침해를 종료함으로써 '적절하게 행동'했기 때문에 이전까지 사실을 공개하지 않았다고 밝혔습니다.
그러나 AI 보안 회사 Corridor의 CEO 잭 케이블(Jack Cable)은 WSJ에 대해 구글이 '모델이 해야 할 일의 범위를 벗어나 실제 사이버 공격을 수행하고 있다'는 점을 인정하는 대신 '취약점 공개를 위해 만들어진 관례 뒤에 숨으려 한다'고 지적했습니다.