#레드팀

OpenAI 'GPT-Red' 공개, 미국서 뜨는 히트펌프

OpenAI가 시스템 보안을 강화하기 위해 레드팀(Red-teaming) 과정을 자동화하는 슈퍼 해커 LLM 'GPT-Red'를 공개했습니다. 또한, 미국에서 고효율 전기 난방 기기인 히트펌프의 판매량이 화석연료 보일러를 압도하며 급증하고 있다는 분석이 나왔습니다. 이 밖에도 일론 머스크의 AI 데이터센터 확보, 썬노(Suno)의 저작권 침해 논란 등 주요 기술 이슈를 살펴봅니다.

오픈AI, 자체 AI로 모델 해킹하는 데 성공… 인간 뛰어넘어

오픈AI는 'GPT-Red'라는 내부 AI 모델을 도입하여 자체 GPT 모델의 보안 취약점을 자동으로 찾아내고 있습니다. 이 시스템은 인간 레드팀(보안 테스터)보다 훨씬 뛰어난 84%의 성공률로 프롬프트 인젝션(Prompt Injection) 등의 공격을 시뮬레이션하며, 이를 통해 모델의 보안을 대폭 강화했습니다. 이는 AI 모델의 자동화된 방어 및 진화 가능성을 입증했다는 점에서 매우 중요합니다.

할리우드 작가들의 새 직업: 자신을 대체할 AI 훈련

2023년 할리우드 파업과 산업 침체로 일자리를 잃은 TV 작가와 제작자들이 생계를 위해 자신의 창작 역량을 활용해 AI 트레이너로 일하고 있습니다. 이들은 챗봇의 톤 조정, 이미지 패턴 식별, 안전성 테스트 등 AI 모델 고도화 작업에 투입되어 결국 자신들의 일자리를 위협하는 기술을 훈련하는 아이러니한 상황에 직면했습니다.