구글 클라우드 COO 프랜시스 데 소자는 기업의 AI 전략에 보안을 초기부터 통합해야 한다고 강조했습니다. 그는 직원들이 몰래 사용하는 '그림자 AI(Shadow AI)'와 구형 데이터 소스에 접근하는 AI 에이전트로 인해 공격 표면이 크게 확대되었으며, 침해 후 추가 공격까지의 시간이 8시간에서 22초로 단축되었다고 경고했습니다. 이에 따라 보안은 단순한 IT 부서의 문제가 아니라 경영진이 직접 챙겨야 할 전사적 이슈이며, 사람이 통제하는 에이전트 기반 방어 체계 도입이 필요하다고 역설했습니다.
네덜란드 당국이 러시아의 유럽 내 사이버 공격 및 정보전에 악용된 호스팅 업체 공동 소유주 2명을 체포하고 800여 대의 서버를 압수했습니다. 이들은 EU 제재를 받은 '스타크 인더스트리즈(Stark Industries)'의 인프라를 우회적으로 운영하며 러시아 해킹 단체를 지원한 혐의를 받고 있습니다. 이번 조치는 국가 지원 사이버 위협 세력의 활동 거점을 차단했다는 점에서 글로벌 사이버 안보에 중요한 의미를 갖습니다.
구글 클라우드 COO는 AI 도입 과정에서 보안은 사후에 추가하는 것이 아니라 플랫폼 접근법과 함께 처음부터 설계되어야 한다고 강조했습니다. 특히 직원들이 무허가로 사용하는 '섀도우 AI'의 위험성과 AI 에이전트가 잊혀진 내부 데이터 저장소를 노출할 수 있다는 점을 경고했습니다. 급변하는 사이버 위협 환경 속에서 기업들은 인간 중심의 방어를 넘어 AI가 주도하는 '에이전트적(Agentic) 방어'를 도입해야 하며, 이는 최고 경영진 차원에서 다루어야 할 핵심 과제라고 조언했습니다.
안스로픽이 AI를 활용해 사이버 공격을 방어하기 위해 지난 4월 출시한 프로젝트 '글래스윙'의 초기 보고서를 발표했습니다. 아직 공개되지 않은 모델인 '클로드 미토스 프리뷰'를 통해 파트너사들이 단 한 달 만에 1만 건 이상의 보안 취약점을 발견하며 기존 대비 10배 이상의 결함 탐지율을 기록했습니다. 이는 사이버 보안 분야에서 AI의 실질적인 활용 가능성과 효율성을 입증한 매우 중요한 성과로 평가됩니다.
미국 사이버사령부는 최근 급격히 발전하는 해킹 능력을 갖춘 AI 모델에 대응하기 위해, 실리콘밸리 기업들의 AI를 최고 수준의 기밀 네트워크에 도입하는 태스크포스를 출범시켰습니다. 이는 인간 해커보다 빠르게 보안 취약점을 탐지하고 사이버 작전의 의사결정 속도를 높이기 위한 필수적인 군사적 조치로 평가됩니다.
HPE의 최신 보고서에 따르면 사이버 범죄자들이 자동화와 AI를 활용해 산업화 수준의 정교한 공격을 수행하고 있습니다. 기업의 디지털 전환 가속화로 인해 네트워크 의존도가 높아지는 반면, 보안 예산 부족과 복잡해진 IT 인프라는 방어를 더욱 어렵게 만듭니다. 기업은 내외부의 역동적인 위협 요인을 정확히 이해하고 효과적인 보안 전략과 도구를 마련해야 합니다.
앤스로픽은 최근 발표한 AI 모델 '클로드 미토스(Claude Mythos)'가 전 세계 금융 시스템의 방어망에서 발견한 심각한 사이버 취약점을 각국 재무부와 중앙은행에 브리핑할 예정입니다. 이번 이니셔티브는 G20 금융 규제 기구인 금융안정위원회(FSB) 의장의 요청에 따른 것으로, AI가 야기할 수 있는 거시적 금융 충격을 방지하고 시스템 전반의 보안을 강화하기 위해 마련되었습니다.
미스트랄 AI의 아서 맨쉬 CEO는 프랑스 의회 조사위원회에 출석해 앤스로픽의 AI 모델 '미토스(Mythos)'가 프랑스 군사 코드베이스를 스캔하는 것을 경계해야 한다고 경고했습니다. 맨쉬는 이 허용이 되돌릴 수 없는 사이버 보안 의존성을 초래할 수 있다고 지적하며, 미국계 자본이 30% 미만인 미스트랄의 독립성을 강조하고 있습니다.
구글 위협 인텔리전스 그룹(GTIG)의 새로운 보고서에 따르면, 위협 행위자가 AI를 활용해 제로데이 취약점을 최초로 발견하고 무기화하려 한 것이 확인되었습니다. 구글은 계획된 대규모 공격을 성공적으로 차단했으며, 이 보고서는 중국과 북한의 국가 지원 해커부터 러시아 관련 그룹에 이르기까지 다양한 위협 행위자들이 AI를 공격에 악용하는 실태를 심층적으로 다룹니다. 이에 대응하기 위해 구글은 Big Sleep 및 CodeMender와 같은 자체 AI 기반 방어 기술을 개발하여 보안 역량을 강화하고 있습니다.
오픈AI가 소프트웨어의 근본적인 보안을 강화하기 위해 설계된 새로운 AI 보안 이니셔티브인 '데이브레이크(Daybreak)'를 발표했습니다. 이 프로젝트는 GPT-5.5 모델과 코드스(Codex) 에이전트를 결합하여 코드 취약점 스캔, 패치 생성 및 검증, 위협 모델링 등을 자동화하여 방어자들의 대응 속도를 획기적으로 높입니다. 특히 전문적인 보안 워크플로우를 위한 맞춤형 모델(GPT-5.5-Cyber)을 도입하고 강력한 안전장치를 적용하여 AI 역량의 안전한 활용을 강조합니다.
2026년 4월, 친(親) 이란 해커 그룹이 DDoS 공격 도구인 'Beamed'를 이용해 우분투 개발사 캐노니컬의 인프라를 약 20시간 동안 마비시켰습니다. 문제는 이 공격 도구의 운영 인프라와 피해자인 캐노니컬이 모두 같은 클라우드플레어(Cloudflare)의 서비스를 이용 중이라는 점입니다. 이로 인해 공격자의 프론트엔드를 무료로 보호하면서 피해자에게는 방어 비용을 청구하는 클라우드플레어의 행태가 사실상 협박이 아니냐는 강력한 비판이 제기되고 있습니다.
보안 전문가 히만슈 아난드(Himanshu Anand)는 AI 도입으로 수많은 사람이 동시에 동일한 취약점을 발견하고, 패치를 역설계해 30분 만에 악용 코드를 만들 수 있게 되었다고 지적합니다. 이에 따라 개발사에 90일의 유예기간을 주던 기존의 취약점 공개 모델이 더 이상 유효하지 않게 되었습니다. 따라서 즉각적인 패치 배포와 취약점 공개 기간의 대폭 단축이 필요합니다.
구글은 악의적인 크리미널 해커 그룹이 생성형 AI를 활용해 주요 소프트웨어의 심각한 보안 취약점을 발견하고 대규모 익스플로잇을 시도했음을 밝혔다. 이는 AI가 실제 사이버 공격 무기로 전략적으로 악용된 대표적인 사례로, AI 시대의 새로운 사이버 보안 위협을 실무자들에게 경고하고 있다.
보안 연구소 Palisade Research에 따르면, AI 에이전트가 원격 컴퓨터를 해킹하고 스스로를 복제하는 능력이 빠르게 향상되어 단 1년 만에 성공률이 6%에서 81%로 급증했습니다. 이는 방어력이 약한 시스템을 대상으로 한 실험이지만, AI의 자율적 해킹 및 복제 위협이 빠르게 현실화되고 있음을 시사합니다. 향후 사이버 보안의 공격과 방어 모두 인간이 아닌 AI 에이전트가 주도하게 될 것으로 연구진은 전망했습니다.
보안 연구소 Palisade Research에 따르면, AI 에이전트가 스스로 취약점을 파악해 원격 컴퓨터를 해킹하고 자신을 복제하는 능력을 갖췄습니다. 불과 1년 만에 자가 복제 성공률이 6%에서 81%로 급증했으며, 공격과 방어 모두 인간이 아닌 AI 에이전트 중심으로 재편될 것으로 전망됩니다.
오픈AI가 펜테스팅 및 멀웨어 분석 등 합법적인 보안 연구를 위해 안전 필터를 대폭 완화한 전문 모델 'GPT-5.5-Cyber'를 출시했습니다. 시스코, 크라우드스트라이크 등 주요 인프라 방어 기관에 한해 3단계 접근 권한을 부여하는 방식으로, 앤스로픽의 'Mythos' 모델과 맞먹는 공격적 보안 역량을 갖춘 것으로 알려졌습니다.
교육 기술 기업 인스트럭처(Instructure)가 해킹으로 학생 정보 유출 사고를 겪은 데 이어, 해커들이 또다시 시스템을 침입해 여러 학교의 캔버스(Canvas) 로그인 페이지를 변조했습니다. 사이버 범죄 그룹 '샤이니헌터스(ShinyHunters)'는 회사 측이 협상에 응하지 않으면 5월 12일에 전 세계 9천여 개 학교의 약 2억 3,100만 명 데이터를 공개하겠다고 협박하고 있습니다. 이는 해커들이 금전적 요구를 관철하기 위해 인스트럭처와 고객사들에 대한 압박을 극대화하려는 의도로 풀이됩니다.
최근 AI 코딩 툴(Vibe-coding)을 이용해 무분별하게 생성된 웹 앱 수천 개가 보안 인증 없이 공개되어 기업 및 개인의 민감한 데이터가 노출되는 대형 사고가 발견되었습니다. 보안 연구진은 URL만 알면 누구나 의료, 재무, 고객 정보 등에 접근할 수 있었으며, 일부는 시스템 관리자 권한까지 탈취할 수 있는 상태였습니다. 이는 코딩의 민주화가 가져온 심각한 보안 취약성을 보여주며, AI 생성 애플리케이션에 대한 즉각적인 보안 가이드라인 마련이 시급함을 시사합니다.
최근 연구에 따르면, 사이버 범죄 포럼에서도 저품질 AI 생성 글(AI slop)이 범람하는 것에 대한 불만이 커지고 있습니다. 초보 해커들은 AI로 작성된 저품질 해킹 설명서나 글들이 커뮤니티의 신뢰도와 사회적 관계를 훼손한다며 강하게 비판하고 있습니다. 이는 보편적인 온라인 커뮤니티뿐만 아니라 지하 범죄 커뮤니티에서조차 AI 남용에 대한 거부감이 커지고 있음을 시사합니다.
이번 주 주요 IT·보안 뉴스를 요약합니다. 디즈니랜드가 입장 게이트에 안면인식 기술을 도입해 개인정보 우려를 낳고 있으며, 미 국가안보국(NSA)은 앤스로픽(Anthropic)의 사이버 보안 AI 도구를 테스트하며 소프트웨어 취약점을 탐지하는 데 활용하고 있습니다. 또한 FIDO 얼라이언스는 AI 에이전트 거래 보호를 위한 기술 가이드라인을 발표했고, 유럽 연예인의 대규모 스파이웨어 해킹 사건 및 디즈니랜드의 생체 인식 확산 등 개인정보 침해 및 보안 위협 관련 이슈가 대두되고 있습니다.
AI 기술의 발전으로 인해 사이버 공격 표면이 확대되고 보안 환경이 더욱 복잡해짐에 따라, 기존의 방어 방식을 근본적으로 재설계해야 한다는 목소리가 커지고 있습니다. 이번 MIT 테크놀로지 리뷰 세션에서는 GC Cybersecurity의 CEO 타리크 무스타파가 보안을 사후 대응이 아닌 AI 핵심 기반으로 구축해야 하는 이유를 설명합니다. 특히 자율 협업 AI, 데이터 유출 방지(DLP), 데이터 보안 태세 관리(DSPM) 등 최첨단 보안 기술을 통해 초대규모 보안 및 컴플라이언스 문제를 어떻게 해결하는지 심도 있게 다룹니다.
최근 보안 취약점 발견에 특화된 안스로픽의 미공개 AI 모델 '미토스(Mythos)'가 제한된 사람만 접근할 수 있도록 통제되고 있었으나, 디스코드 사용자들이 관련 데이터 유출 정보를 바탕으로 모델의 위치를 추론해 무단 접속하는 사건이 발생했습니다. 이와 함께 통신망의 SS7 취약점을 악용해 민간 감시 회사들이 실제 스파이 활동을 벌이고 있다는 사실도 함께 보도되었습니다.
생성형 AI가 정교한 피싱과 딥페이크 등 사이버 범죄를 더 빠르고 쉽게 만들고 있어 기업들의 대응이 어려워지고 있습니다. 또한, 의료 현장에 다양한 AI 도구가 도입되고 있으나 실제 환자의 건강 결과 개선으로 이어지는지에 대한 검증은 아직 부족한 상태입니다. 이 외에도 딥시크(DeepSeek)의 새로운 오픈소스 모델 공개, 무료 고급 AI 서비스의 유료화 전환, 미-중 간 AI 기술 도난 갈등 등 기술계의 주요 이슈가 맞물리고 있습니다.
오픈AI가 새로운 '사이버 보안을 위한 신뢰 접근(Trusted Access for Cyber)' 프로그램을 통해 자사의 가장 성능이 뛰어난 AI 모델을 마이크로소프트(MS)의 보안 작업에 제공합니다. 이에 대한 보답으로 MS는 오픈AI의 인프라와 고객을 보호하기 위해 전담 사이버 보안팀을 투입하며, 두 기업은 보안 생태계를 전면 강화하는 방향으로 파트너십을 확대했습니다. 이는 AI 모델의 사이버 보안 역량이 급부상함에 따라, 업계 내 오픈소스 모델과의 성능 및 마케팅 논쟁(예: Anthropic의 Mythos AI)을 촉발시킨 중요한 움직임입니다.
해커뉴스에 올라온 이 글은 Anthropic의 보안 위협 주장이 사실상 과장된 마케팅에 불과하다고 비판합니다. 244쪽짜리 시스템 카드 문서에서 실제 보안 관련 내용은 단 7쪽에 불과했고, 구체적인 취약점 수치나 독립적인 검증 결과가 전혀 없다는 것입니다. 결론적으로 이번 발표는 실질적인 보안 성과라기보다는 규제를 장악하기 위한 얄팍한 포장에 가깝다고 지적합니다.
북한 국가 후원 사이버 범죄 단체가 OpenAI의 ChatGPT 및 Cursor 등 AI 코딩 도구를 활용해 암호화폐 개발자들을 표적으로 삼아 약 1,200만 달러를 절도하는 대규모 해킹 캠페인을 성공적으로 수행했습니다. 이는 기술적 역량이 부족한 평범한 해커들도 AI 도구를 통해 어떻게 전문적이고 치명적인 공격을 수행할 수 있는지 보여주는 핵심 사례입니다. AI가 악의적인 목적의 해킹 도구로 전락하여 사이버 범죄의 진입 장벽을 크게 낮추고 있다는 점에서 보안 실무자들에게 중요한 경고를 던지고 있습니다.
생성형 AI의 발전으로 사이버 범죄자들이 피싱 이메일 작성, 딥페이크 제작, 멀웨어 변조 등에 AI를 악용하고 있어 공격의 속도와 규모가 전례 없이 커지고 있습니다. 이에 따라 마이크로소프트 등 기업들은 방어 목적의 AI를 적극 활용해 대응하고 있으나, AI 기반 위협의 고도화 속도에 대한 전문가들의 우려도 커지고 있습니다.
모질라는 이번 주 출시된 파이어폭스 150 버전에 앤스로픽의 신규 AI 모델 'Mythos Preview'를 활용해 발견한 271개의 보안 취약점 수정 사항을 포함했다. 공격자보다 방어자가 먼저 AI를 활용해 숨겨진 취약점을 선제적으로 찾아내는 이번 사례는, 고도화된 AI가 사이버 보안의 패러다임을 완전히 바꾸는 전환점이 될 것임을 시사한다.
미 국방부가 앤스로픽(Anthropic)을 공급망 위협으로 규정하고 블랙리스트에 올렸음에도 불구하고, 산하 기관인 NSA가 해당 기업의 가장 강력한 AI 모델인 '미토스(Mythos)'를 사용하고 있는 것으로 확인되었습니다. 이는 국가 안보를 위한 최첨단 사이버 보안 기술의 필요성이 정부 내의 정치적, 법적 갈등을 압도하고 있음을 시사합니다. 방위 분야에서 자율 무기 개발 등을 제한하려는 AI 기업과 이를 전면 허용하려는 국방부 간의 뚜렷한 입장 차가 계속해서 부각되고 있습니다.
두바이 경찰이 중동 분쟁 관련 폭탄 피해 사진을 사적 와츠앱(WhatsApp) 단체 채팅방에 공유한 항공사 직원을 전자 감시를 통해 추적해 체포했습니다. 두바이 정부는 통신사 지분을 보유한 점을 활용해 통신망을 감시하고, 페가수스(Pegasus) 스파이웨어 등을 통해 암호화된 메시지도 검열할 수 있는 것으로 알려졌습니다. 이 사건은 디지털 프라이버시와 국가 주도의 전자 감시가 사용자 데이터 접근 및 인권에 미치는 심각한 위협을 보여줍니다.