중국 주도로 29개국이 참여한 '세계인공지능협력기구(WIKO)'가 상하이에 본부를 두고 공식 출범했습니다. 서방 국가의 참여 없이 글로벌 남반구(Global South) 국가들을 중심으로 한 이 움직임은, 미국 주도의 AI 통제에 대항하여 중국이 독자적인 글로벌 AI 거버넌스를 구축하려는 가장 명확한 시도로 평가됩니다.
구글 딥마인드의 CEO인 데미스 허사비스가 AI를 안전하게 개발하고 통제하기 위한 구체적인 비전과 전략을 제시했습니다. 이는 AI 기술이 급격히 발전함에 따라 발생할 수 있는 잠재적 위험을 최소화하고 혁신을 도모하는 업계의 핵심 방향성을 제시한다는 점에서 중요합니다. AI 실무자 및 정책 입안자들은 안전성과 기술 진보의 균형을 맞추는 이 방향성을 주의 깊게 살펴야 합니다.
앤스로픽의 차세대 AI 모델 '페이블 5(Fable 5)'가 안전장치 우회(탈옥) 취약점 논란으로 인한 2주간의 미국 정부 수출 통제를 마치고 전 세계적으로 다시 서비스를 재개했습니다. 회사는 문제가 된 해킹 요청을 차단하는 새로운 보안 필터를 도입했으나, 이로 인해 일반적인 프로그래밍 요청까지 과도하게 거절되는 딜레마에 직면했습니다. 앤스로픽은 AI 모델의 완벽한 탈옥 방어는 불가능하다고 인정하며, 업계 표준 보안 프레임워크 구축과 선제적 정부 규제를 적극적으로 촉구하고 있습니다.
독일 국가안보회의가 영국의 AI 안전 연구소(UK AISI)를 모델로 한 '독일 AI 안전 연구소(DE-AISI)' 설립을 승인했습니다. 이 연구소는 최신 AI 모델의 역량과 리스크를 분석하고 사이버 보안에 미치는 영향을 평가할 계획입니다. 이는 미국과 중국의 프론티어 AI 기술에 의존하고 있는 유럽이 자체적인 안전성 테스트와 통제력을 확보하려는 중요한 정책적 움직임입니다.
미국 트럼프 행정부가 1년 넘게 협의 끝에 오픈AI 경영권을 포함한 정부 지분 확보를 추진 중이며, 이를 통해 '공공 부富 펀드'를 조성해 시민들에게 직접 배당하는 방안을 검토하고 있습니다. 상장(IPO)을 앞둔 오픈AI는 정부와의 긴밀한 결속를 통해 향후 규제를 방어하는 정치적 방패로 활용하려 하지만, 향후 '맞춤형 구제금융(bailout)'으로 이어질 수 있다는 우려도 나오고 있습니다.
마이크로소프트가 AI 에이전트의 행동을 일관되고 세밀하게 통제할 수 있도록 돕는 새로운 오픈소스 표준인 '에이전트 제어 사양(ACS, Agent Control Specification)'을 발표했습니다. 이 사양은 개발자가 단일 정책 파일을 통해 에이전트의 허용 및 금지 행위, 인적 승인 조건, 로그 기록 등을 규칙으로 정의할 수 있게 해줍니다. ACS는 다양한 인기 프레임워크에 플러그인 형태로 제공되어, 기업이 시스템과 환경에 구애받지 않고 일관된 AI 거버넌스를 적용할 수 있다는 점에서 실무적으로 매우 중요한 의미를 갖습니다.
이 글은 마이크로소프트의 '에이전트 거버넌스 툴킷(Agent Governance Toolkit)'을 활용하여 통제 가능한 AI 에이전트 워크플로우를 구축하는 튜토리얼을 다룹니다. AI 에이전트가 도구를 직접 실행하지 못하게 막고, 모든 실행 요청은 에이전트의 신원, 신뢰도 점수, 위험 등급 등을 사전에 검토하는 거버넌스 계층(Governance layer)을 반드시 거치도록 설계하는 방법을 설명합니다. 이를 통해 기업이 정책, 승인, 감사 로그(Audit logs), 리스크 관리 기능을 통해 안전하고 투명하게 AI 에이전트를 운영할 수 있도록 돕는 것이 핵심입니다.
일론 머스크가 샘 알트만 및 그렉 브록먼에게 OpenAI의 비영리 전환 문제로 속았다며 제기한 소송에서 패소한 배경과 재판의 핵심 쟁점을 다룬 심층 분석입니다. 법률 지식을 갖춘 AI 전문 기자와의 대화를 통해 이번 재판이 전 세계 AI 개발 경쟁과 업계 지형에 미칠 파급력을 조명합니다. AI 기술의 상업화와 설립자 간의 신뢰, 독점 문제 등 실무자들이 반드시 짚고 넘어가야 할 중요한 맥락을 제공합니다.
일론 머스크가 오픈AI(OpenAI)를 상대로 제기한 1,340억 달러 규모의 소송에서 패소한 직후 항소를 선언했습니다. 배심원단이 공소시효 만료라는 절차적 사유로만 청구를 기각했을 뿐, 실질적인 혐의 자체를 심리하지 않았다고 주장하며 반발하고 있습니다. 이 사건은 비영리로 출발한 오픈AI가 수익 추구 구조로 전환하면서 제기된 핵심 분쟁으로, AI 업계의 지배구조와 향후 법적 공방의 방향을 가늠하게 합니다.
일론 머스크가 오픈AI를 상대로 제기한 1340억 달러 규모의 소송이 배심원들의 단 2시간 만의 평의 끝에 기각되었습니다. 배심원들은 오픈AI 측이 제시한 '머스크 본인이 통제권을 갖는 조건으로 영리 전환을 제안했었다'는 증거와 주장을 받아들인 것으로 보입니다. 이번 판결은 AI 업계의 비영리 및 영리 구조를 둘러싼 핵심 인물 간의 법적 분쟁이 마무리되었다는 점에서 의미가 큽니다.
캘리포니아주 배심원들이 일론 머스크와 샘 알트만 간의 OpenAI 향후 운영 방향을 가를 재판을 심리 중입니다. 이 재판의 핵심 쟁점은 자선 목적 신탁 위반, 부당 이득, 그리고 소멸 시효 등 방어 논리로 압축됩니다. 만약 머스크가 승소할 경우 OpenAI의 영리적 지위 전환이 무효화될 수 있어 AI 업계에 큰 파장이 예상됩니다.
일론 머스크와 샘 알트만 간의 OpenAI 법적 분쟁 재판에서 알트만은 머스크가 조직을 통제하려 집착했으며, 사망 시 자신의 자녀에게 OpenAI를 물려주겠다는 소름 돋는 제안을 했다고 증언했습니다. 머스크 측 변호사는 알트만의 과거 기만적 행위를 추궁하며 그의 신뢰성에 의문을 던졌으나, 법리적 시효 만료 및 기부금에 대한 특별 조건 부족 등 머스크의 소솁 근거는 여전히 미흡한 것으로 드러났습니다.
일론 머스크의 오픈AI 소송 재판에서 전 수석 과학자 일리야 수츠케버가 증언하여 샘 알트만 CEO 해임에 가담한 이유는 조직 보호를 위해서였다고 밝혔다. 그는 오픈AI의 이익 배분 지분이 약 70억 달러(한화 약 9조 원)에 달하는 것으로 알려진 주요 주주 중 한 명이다. 이번 증언을 통해 수츠케버는 알트만의 리더십에 우려를 표하면서도, 머스크의 주장과 달리 오픈AI의 영리 전환은 막대한 자금 마련을 위한 필연적 합의였다고 증언했다.
오픈AI의 공동 창립자 그렉 브록맨(Greg Brockman)은 법정 증언에서 2017년 회사의 수익화 논의 과정에서 일론 머스크(Elon Musk)가 노키질과 폭언 등 불안정한 행동을 보였다고 증언했습니다. 머스크는 회사 지배권을 요구했으나 거절당하자 자금 지원을 중단하겠다고 위협했으며, 초기 AI 모델의 가능성을 보지 못하고 연구진을 비하해 경영자로서 부적합하다는 주장입니다. 이번 소송은 오픈AI가 비영리 목적에서 이탈했다는 머스크의 주장을 둘러싼 핵심 법적 공방으로, AI 산업의 지배권과 향후 지각변동에 큰 영향을 미칠 것입니다.
AI가 정보를 얻고 민주적 의사결정에 참여하는 주된 인터페이스로 빠르게 자리 잡고 있어, 정치적 양극화 심화 등의 위험과 시민 참여 개선의 기회가 공존하게 되었습니다. 개인화된 AI 에이전트가 사용자를 대변해 행동하면서 공론장이 파편화될 위기가 있으며, 이를 방지하기 위해 공동의 가치를 고려한 AI 시스템 설계가 시급합니다. 현재의 민주주의 제도는 이러한 AI 주도의 거대한 변화를 감당할 준비가 되어 있지 않다는 점에서 이번 전망은 매우 중요합니다.
존 그루버(John Gruber)는 폴 그레이엄(Paul Graham) 등 와이콤비네이터(Y Combinator) 창립자들이 공개적으로 오픈AI(OpenAI)와 무관한 척하지만, 실제로는 오픈AI 지분 0.6%를 보유해 50억 달러 이상의 이해관계가 얽혀 있다고 지적합니다. 또한 샘 알트만(Sam Altman) 역시 직접적인 지분은 없지만 YC 지분을 통해 오픈AI에 간접적인 이권을 가지고 있어 투명성 논란이 있다고 덧붙입니다. 이는 AI 업계 핵심 인물 간의 막대한 금전적 이해관계를 보여주는 중요한 사안입니다.
기업과 정부가 자체 데이터를 통제하며 맞춤형 AI를 구축하는 것이 필수적인 전략으로 자리 잡고 있습니다. 이 과정에서 데이터 주권을 유지하면서도 고품질 데이터를 안전하게 공급하는 'AI 팩토리'가 핵심적인 역할을 수행하게 될 것입니다.
머스크 대 오픈AI 재판 첫 주 일정이 마무리되며, 오픈AI 초기 핵심 이사이자 머스크의 연인인 시본 질리스의 역할이 조명받고 있습니다. 그녀는 머스크가 이사회를 떠난 후에도 비밀 연락책으로서 영향력을 행사하며 주요 인력 영입과 지분 분배 등 회사의 주요 결정에 개입했습니다. 오픈AI 측 변호인단은 질리스가 머스크의 통제권 장악 시도에 어떤 역할을 했는지 핵심 증거로 삼고 있습니다.
일론 머스크와 샘 알트만이 오픈AI의 비영리에서 영리로의 전환 및 지배구조 변경을 놓고 연방 법정에서 처음으로 맞붙었습니다. 머스크는 오픈AI 창립의 변을 '인류 멸망 방지'에 두었으나, 오픈AI 측은 머스크의 주장이 시효가 지났으며 경쟁사 창업 후의 견제라고 반박했습니다. 이번 재판 결과에 따라 오픈AI의 향후 기업공개(IPO) 및 지배구조에 중대한 변화가 생길 수 있습니다.
AI 에이전트가 기업 내에 빠르게 도입되면서 새로운 보안 위협이 대두되고 있어, 이를 통제할 강력한 거버넌스와 보안 기반 구축이 시급합니다. 보고서에 따르면 74%의 기업이 2년 내 에이전틱 AI를 도입할 계획이지만, 단 21%만이 성숙한 거버넌스 체계를 갖추고 있어 위험 노출 가능성이 큽니다. 안전한 엔터프라이즈 자동화를 위해서는 전사적 통제 평면(control plane)을 마련해 에이전트의 권한, 정책, 데이터 접근을 체계적으로 관리해야 합니다.
UC 버클리 연구진이 주요 AI 에이전트 벤치마크 8종의 취약점을 조사해, 단 한 건의 과제도 실제로 풀지 않고도 최고 점수를 얻을 수 있음을 입증했습니다. 평가 환경 조작, 정답 유출, 테스트 우회 등이 원인이며, 현재 벤치마크 점수가 실제 모델 성능을 제대로 반영하지 못하고 있습니다. 평가 방식의 근본적 재설계와 보안 강화가 시급하다는 점에서 실무적 중요성이 큽니다.
샘 알트만 오픈AI CEO가 자신의 자택에 화염병이 투척된 사건과 관련하여 가족의 사진을 공개하며 자신의 철학과 소회를 밝혔습니다. 그는 AI가 인류의 역량을 확장하는 강력한 도구가 될 것임을 강조하면서도, AI로 인한 사회적 변화에 대한 두려움이 정당하며 이에 대한 사회적 합의와 안전망 구축이 시급하다고 역설했습니다. 또한 오픈AI의 초창기부터 현재까지 겪었던 여러 갈등과 개인적인 실수들을 반성하며, 더욱 성숙하고 예측 가능한 기업으로 거듭나기 위해 노력하겠다고 덧붙였습니다.