#안전장치

미 국방부, 엔비디아·MS·AWS와 기밀망 AI 도입 계약

미 국방부가 엔비디아, 마이크로소프트(MS), 아마존 웹 서비스(AWS), 리플렉션 AI와 계약을 체결하고 이들의 AI 기술과 모델을 군사 기밀 네트워크에 도입합니다. 이는 앤스로픽과의 사용 조건 갈등 이후, 특정 기업에 대한 의존도를 낮추고 AI 공급망을 다각화하려는 국방부의 전략적 조치로 풀이됩니다. 이번 계약을 통해 도입된 AI는 최고 수준의 보안 환경(IL6, IL7)에 배치되어 전장 상황 인지 및 작전 결정 보조 등 군 작전의 핵심 역량으로 활용될 예정입니다.

"유튜브 다운로더 자동화하다 계정 정지 위기"

한 사용자가 새로운 AI 모델의 지침을 이용해 유튜브 다운로드 자동화 코드를 작성하려다 계정 정지 직전까지 몰렸다고 주장했습니다. 이는 최신 AI 모델들의 안전 장치(Guardrail)가 사용자의 기존 합법적 코딩 작업까지 과도하게 제한하고 있음을 보여줍니다. 실무자들은 이처럼 강화된 안전망으로 인해 업무 자동화에 예기치 않은 제한을 받을 수 있으므로 주의가 필요합니다.

가디언레일과 오픈AI의 이미지 모델 패치 예상

사용자가 단순히 장난삼아 'baddie', '10/10' 같은 프롬프트를 입력했을 뿐인데, 오픈AI의 새 이미지 모델이 주체적으로 노골적인 이미지를 생성해 논란이 되고 있습니다. 당초 가디언레일(안전장치)로 철저히 필터링될 것으로 예상했던 사용자는 이 모델의 통제되지 않은 출력에 놀라움을 금치 못했습니다. 이는 오픈AI의 최신 이미지 생성 모델에 심각한 안전망 구멍이 존재할 수 있음을 시사하는 중요한 이슈입니다.