AI, 패치 후 30분 만에 악용코드 생성… 90일 공개 정책 폐지 위기
보안 전문가 히만슈 아난드(Himanshu Anand)는 AI 도입으로 수많은 사람이 동시에 동일한 취약점을 발견하고, 패치를 역설계해 30분 만에 악용 코드를 만들 수 있게 되었다고 지적합니다. 이에 따라 개발사에 90일의 유예기간을 주던 기존의 취약점 공개 모델이 더 이상 유효하지 않게 되었습니다. 따라서 즉각적인 패치 배포와 취약점 공개 기간의 대폭 단축이 필요합니다.
AI 언어 모델은 보안 취약점을 더 빠르게 찾아내고, 보안 패치를 단 몇 분 만에 실제로 작동하는 익스플로잇(악용 코드)으로 변환할 수 있습니다. 한 베테랑 보안 연구원은 기존의 취약점 공개 프로세스가 변화해야 한다고 말합니다.
누군가 중대한 보안 취약점을 발견했을 때, 표준적인 관행은 이를 해당 소프트웨어 개발사에 보고하고 공개하기 전까지 최대 90일 동안 패치를 출시할 시간을 주는 것입니다. 구글의 '프로젝트 제로(Project Zero)'가 대중화한 이 모델은 보안 전문가 히만슈 아난드가 더 이상 유효하지 않다고 말하는 네 가지 가정에 기반을 두고 있습니다.
첫째, 취약점을 발견한 사람이 그 결함을 발견한 유일한 사람일 가능성이 높다는 것입니다. 둘째, 다른 연구원들이 동일한 결함을 발견하더라도 각자의 시간이 걸릴 것이라는 점입니다. 셋째, 개발사가 패치를 작성하는 데 있어 편안한 우위를 점하고 있다는 것입니다. 넷째, 패치가 출시된 후에도 공격자가 작동하는 익스플로잇을 역설계하는 데 며칠이나 몇 주가 걸릴 것이라는 점입니다.
아난드는 사이버 보안 분역에서 10년 이상의 경력을 쌓았으며, 현재 클라우드플레어(Cloudflare)에서 방화벽 보안 분석가로 재직 중이고 이전에는 시만텍(Symantec)에서 일했습니다. 그의 팀인 '워터 패들러스(Water Paddlers)'는 DEF CON 해킹 대회에서 3회 연속 결승에 진출한 바 있습니다. 그는 자세한 블로그 게시물을 통해 AI 언어 모델이 이 네 가지 가정을 모두 무너뜨리는 방식을 보여주는 세 가지 실제 사례를 분석합니다.
한 명의 버그, 11명의 기자, 그리고 패치에서 익스플로잇까지 걸린 30분
4월, 아난드는 누구나 0달러로 결제를 완료할 수 있게 만드는 한 온라인 스토어의 치명적인 결함을 보고했습니다. 개발사의 답변은 그가 6주 동안 이 결함을 보고한 11번째 사람이라는 것이었습니다. 아난드가 인용한 분석 담당자의 말에 따르면, 누군가 AI 도구를 사용해 결함을 발견하면 며칠 안에 거의 동일한 보고서가 물결치듯 밀려온다고 합니다.
아난드의 질문은 간단합니다. 10명의 정직한 연구원이 같은 결함을 발견했다면, 이를 발견하고도 침묵하는 사람은 몇 명이나 될까요? 이는 앞서 말한 가정 중 첫 번째와 두 번째를 완전히 무너뜨립니다. 취약점은 더 이상 소수에게만 국한되지 않으며, 여러 명의 발견자가 추가 시간을 필요로 하지 않습니다.
그의 두 번째 예는 널리 사용되는 웹 프레임워크인 리액트(React)와 관련이 있습니다. 여러 보안 패치가 릴리스된 후, 아난드는 소스 코드의 차이점(diff)을 다운로드하고 언어 모델을 사용해 작동하는 익스플로잇을 구축하는 것을 도움받았습니다. 걸린 시간은 단 30분이었습니다. 과거에는 노련한 리버스 엔지니어라도 동일한 작업에 며칠이 걸렸습니다. 이것이 네 번째 가정을 제거합니다. 시스템 관리자들을 위한 안전망이었던 패치와 익스플로잇 사이의 시간차는 사실상 사라졌습니다.
AI가 발견한 리눅스 결함, 몇 시간 만에 공개 금지 조치(엠바고) 깨져
가장 충격적인 사례는 리눅스 커널과 관련이 있습니다. 4월 말, Xint Code 팀은 1시간 동안의 AI 스캔을 통해 발견된 'Copy Fail'이라는 취약점을 공개했습니다. 단 732바이트짜리 스크립트로 공격자들은 2017년 이전의 거의 모든 리눅스 배포판에서 루트(root) 접근 권한을 얻을 수 있습니다. 며칠 안에 이란의 위협 행위자들이 이 결함을 악용하여 서버를 탈취하고 DDoS 공격을 가했습니다.
일주일 후, 연구원 김현우(Hyunwoo Kim)가 'Dirty Frag'라는 취약점을 공개했습니다. 김현우는 리눅스 배포판들과 함께 패치를 준비할 수 있도록 5일간의 정보 공개 유예 기간(엠바고)을 협의했습니다. 그러나 이 엠바고는 동일한 유형의 취약점을 독립적으로 발견하고 공개한 제3자들에 의해 몇 시간 만에 깨졌습니다. 세부 정보가 공개적으로 유통될 무렵, 보안 업계는 또 다시 큰 혼란에 빠졌습니다.