도널드 트럼프 미국 대통령이 AI 안전 관련 행정명령 서명을 불과 몇 시간 앞두고 이를 전면 취소했습니다. 일론 머스크, 마크 저커버그, 전 AI 보좌관 데이비드 삭스 등이 트럼프와 직접 통화하며 규제가 AI 발전을 저해하고 미국의 대중국 경쟁력을 위협할 수 있다고 경고한 것이 결정적이었습니다. 이에 따라 AI 기업들이 최신 모델을 연방 정부에 자발적으로 제출해 안전성 검토를 받도록 하는 해당 명령안은 전면 재작업을 거치게 되었습니다.
챗GPT의 인기에도 불구하고 AI에 대한 대중의 반감과 위협이 커지자, 오픈AI의 글로벌 정책 총괄 크리스 레인(Chris Lehane)이 회사의 이미지를 개선하고 규제를 주도하기 위해 나섰습니다. 그는 재난 통신 전문가로서의 경험을 살려 유토피아와 디스토피아로 양극화된 AI 논의를 벗어나, 일자리 감소 등 현실적인 문제에 대한 구체적인 해결책을 제시할 계획입니다. 이는 오픈AI가 기술 혁신과 대중의 신뢰, 정부 규제 사이의 균형을 잡아야 하는 중요한 시기를 맞이했음을 시사합니다.
AI 이미지 생성 모델의 노출 및 성적 콘텐츠 생성 제한 정책과 관련된 Reddit 사용자의 경험담입니다. 사용자는 단일 프롬프트가 아닌 연속적인 대화를 통해 완전한 노출 이미지를 우회적으로 생성할 수 있었다고 밝혔습니다. 이는 AI 모델의 안전장치 우회 가능성과 기존 정책의 한계를 보여주는 중요한 사례입니다.
한 사용자가 새로운 AI 모델의 지침을 이용해 유튜브 다운로드 자동화 코드를 작성하려다 계정 정지 직전까지 몰렸다고 주장했습니다. 이는 최신 AI 모델들의 안전 장치(Guardrail)가 사용자의 기존 합법적 코딩 작업까지 과도하게 제한하고 있음을 보여줍니다. 실무자들은 이처럼 강화된 안전망으로 인해 업무 자동화에 예기치 않은 제한을 받을 수 있으므로 주의가 필요합니다.
영국 AI 안보연구소(AISI)가 공개한 클로드 미토스 프리뷰(Claude Mythos Preview)의 사이버 역량 평가 결과입니다. 해당 평가를 통해 신형 모델이 네트워크 침투·취약점 분석 등 악의적 사이버 공격에 활용될 가능성을 실험했고, 정부 차원의 안전성 검증이 이뤄졌다는 점에서 중요합니다.
오픈AI는 새로운 정책 보고서를 통해 정부가 초지능(Superintelligence) 시대에 어떻게 대비해야 하는지를 제시했습니다. 주요 제안으로는 공공 부국 펀드 조성, 주 4일제 근무 도입, 고소득자에 대한 양도소득세 인상 등이 포함되어 있어 기술 발전에 따른 경제적 불평등 완화 방안을 모색하고 있습니다.
레딧의 대형 개발자 커뮤니티인 r/programming이 대규모 언어 모델(LLM)을 활용한 프로그래밍 및 AI 생성 코드에 대한 모든 논의를 전면 금지했습니다. AI 코드의 품질 저하, 보안 취약성 문제 등을 이유로 들고 있으며, 이는 개발 커뮤니티 내 AI 도구 수용을 둘러싼 인식과 정책이 양극화되고 있음을 보여줍니다.