에이전트 시대, AI 거버넌스와 보안의 필수 조건
AI 에이전트가 기업 내에 빠르게 도입되면서 새로운 보안 위협이 대두되고 있어, 이를 통제할 강력한 거버넌스와 보안 기반 구축이 시급합니다. 보고서에 따르면 74%의 기업이 2년 내 에이전틱 AI를 도입할 계획이지만, 단 21%만이 성숙한 거버넌스 체계를 갖추고 있어 위험 노출 가능성이 큽니다. 안전한 엔터프라이즈 자동화를 위해서는 전사적 통제 평면(control plane)을 마련해 에이전트의 권한, 정책, 데이터 접근을 체계적으로 관리해야 합니다.
후원: 딜로이트(Deloitte) 마이크로소프트 기술 실과 협력
AI 에이전트가 조직 전반에 걸쳐 인간과 함께 일하는 경우가 많아지면서, 기업들은 의도치 않게 새로운 공격 표면(attack surface)을 열어두고 있을 수 있습니다. 안전하지 않은 에이전트는 민감한 시스템 및 독점 데이터에 접근하도록 조작될 수 있어 기업의 리스크를 증가시킵니다. 일부 현대 기업에서는 비인간 아이덴티티(NHI, Non-Human Identities)가 인간 아이덴티티를 능가하는 추세이며, 이러한 경향은 에이전틱 AI(Agentic AI)와 함께 급증할 것입니다. 따라서 탄탄한 거버넌스와 강화된 보안 기반은 매우 중요합니다.
딜로이트 AI 연구소의 '2026 AI 현황 보고서'에 따르면, 거의 74%의 기업이 2년 내에 에이전틱 AI를 배포할 계획입니다. 그러나 자율적 에이전트의 거버넌스를 위한 성숙한 모델을 보유하고 있다고 밝힌 기업은 5곳 중 1곳(21%)에 불과했습니다. 경영진은 데이터 프라이버시 및 보안(73%)을 가장 우려했고, 그 다음으로 법적, 지적 재산권 및 규정 준수(50%), 거버넌스 역량 및 감시(46%)가 밀접하게 뒤를 이었습니다.
기업은 자사 환경 내의 에이전트가 모든 권한을 가진 핵심 주체(first-class citizens)로 취급되고 있다는 사실조차 인식하지 못할 수 있으며, 이는 잠재적인 맹점과 치명적인 노출 지점을 만들어냅니다. 필요한 것은 AI 에이전트와 그 도구 및 모델이 기업 전반에서 어떻게 작동하는지를 통제, 관찰 및 보호하는 강력한 '통제 평면(control plane)'입니다.
딜로이트 사이버 실의 책임자인 앤드류 라플라(Andrew Rafla)는 “통제 평면은 누가 어떤 권한과 정책을 가지고 어떤 모델과 도구를 사용하여 에이전트를 실행할 수 있는지를 결정하는 공유되고 중앙화된 계층”이라고 설명했습니다. 그는 “진정한 통제 평면이 없다면 에이전트를 자율적으로 확장할 능력이 사실상 없는 것과 같습니다. 관리되지 않는 실행만 있을 뿐이며, 이는 엄청난 위험을 수반합니다. 에이전트가 누구를 대신해 어떤 정책 아래 어떤 데이터를 사용하여 무엇을 했는지 답할 수 없고, 이를 재현하거나 중지할 수도 없다면 제대로 된 통제 평면을 갖추지 못한 것입니다.”라고 덧붙였습니다.
그는 거버넌스는 이상론이 아닌 명확한 해답을 제시해야 한다고 강조했습니다. 거버넌스는 단순한 AI 파일럿(시범 운영) 프로젝트를 실제 프로덕션 환경의 활용 사례로 바꾸는 핵심 요소입니다. 이는 기업이 단순히 인상적인 실험을 넘어 안전하고 반복 가능한 전사적 자동화로 나아갈 수 있게 해주는 다리와 같습니다. 거버넌스가 없다면 에이전트 배포는 안전하게 실패하지 않습니다. 예측할 수 없는 방식으로, 그리고 대규모로 실패하게 될 것입니다.
[관련 심층 기사]
- 인공지능: OpenAI가 완전 자동화된 AI 연구원 구축에 모든 것을 쏟아붓고 있습니다.
- 어떻게 포켓몬 고가 배달 로봇에 완벽한 세계관을 제공하고 있는지: Niantic의 AI 분사 회사가 플레이어들로부터 크라우드소싱한 도시 랜드마크 이미지 300억 장을 활용해 새로운 세계 모델을 훈련시키고 있습니다.
- 현재 AI 현황을 이해하고 싶으신가요? 스탠포드의 2026 AI 지수에 따르면 AI는 전력 질주하고 있으며, 우리는 이를 따라잡기 위해 고군분투하고 있습니다.
- 이 스타트업은 수학자들이 수학을 하는 방식을 바꾸고자 합니다: Axiom Math은 강력한 새로운 AI 도구를 무료로 제공하지만, 회사가 기대하는 만큼 연구 속도를 높일 수 있을지는 아직 지켜봐야 합니다.