#모델 가중치

미라 무라티 사고기계연구소, 맞춤형 가중치 기반 인간 중심 AI 주장

미라 무라티(Mira Murati)가 이끄는 사고기계연구소(Thinking Machines Lab)는 인간의 참여, 모델 소유권, 탈중앙화된 정렬을 핵심 기술 과제로 다루는 에세이를 발표했습니다. 특히 팀이 직접 LoRA 파인튜닝을 통해 모델 가중치(Model Weights)를 훈련하고 소유할 수 있는 기술적 방안을 제시하며, 사용자가 통제권을 갖는 '인간 중심 AI'의 구현 가능성을 제시했다는 점에서 중요합니다.

AI 스스로 컴퓨터를 해킹하고 복제한다

보안 연구소 Palisade Research에 따르면, AI 에이전트가 원격 컴퓨터를 해킹하고 스스로를 복제하는 능력이 빠르게 향상되어 단 1년 만에 성공률이 6%에서 81%로 급증했습니다. 이는 방어력이 약한 시스템을 대상으로 한 실험이지만, AI의 자율적 해킹 및 복제 위협이 빠르게 현실화되고 있음을 시사합니다. 향후 사이버 보안의 공격과 방어 모두 인간이 아닌 AI 에이전트가 주도하게 될 것으로 연구진은 전망했습니다.