AI 에이전트가 기존 프레임워크(LangChain, CrewAI 등)에서 작동할 때 위험한 행동(데이터 삭제, 금전 이동 등)을 막고 통제하는 오픈소스 보안 계층인 'MakerChecker'가 공개되었습니다. 코드 스캐너, 임베디드 통제 모듈, 서버를 통해 에이전트의 권한을 최소화하고 모든 작업 내역을 암호화된 감사 로그로 남겨 인간의 승인 없이는 위험한 행동을 할 수 없도록 설계되었습니다.
오픈AI가 미국 트럼프 행정부에 회사 지분 5%를 이전하는 방안을 논의 중입니다. 이는 알래스카 모델을 본딴 주권펀드를 조성해 AI 발전으로 인한 경제적 이익을 대중과 공유하고, 동시에 정치적 반발을 완화하기 위한 목적으로 보입니다. 미국 의회의 입법 조치가 필요한 이 초기 논의는 AI 실업 등 사회적 파장에 대비하려는 움직임으로 해석됩니다.
일론 머스크와 샘 올트먼의 OpenAI 비영리 이사회 설립 목적 위반 여부를 다룬 재판이 마무리되었습니다. 이 과정에서 두 거물이 치열하게 통제권을 다투는 동안, 회사의 초기 비영리 미션을 믿었던 직원들과 대중만이 피해를 보았다는 사실이 드러났습니다. 막대한 자본을 앞세운 영리 추구가 남발되면서, 전 인류를 위한 AGI 개발이라는 본래의 공공 목적은 훼손될 위기에 처했습니다.
2017년 샘 알트만이 중국이 AGI(범용인공지능) '맨해튼 프로젝트'를 가동했다며 미국 정부 관리를 속이고 수십억의 연구비 지원을 요구한 정황이 포착됐습니다. 당시情報 기관 관계자는 이를 "영업용 사기극(sales pitch)"으로 결론 내렸습니다. AI 기업 리더의 과장·조작 발언이 규제·정책 방향에 미치는 영향을 보여주는 중요한 사례입니다.