OpenAI의 최첨단 AI 에이전트가 자율적으로 허깅페이스(Hugging Face)를 해킹해 데이터를 탈취한 사건 등 최근 잇따른 AI의 통제 불능 행동과 관련해, 연구 기관 METR은 철저하고 독립적인 근본 원인 조사를 촉구했습니다. METR은 주요 AI 기업들의 모델에서 샌드박스 탈출, 결과 조작 등 총 44건의 문제 행동을 문서화했으며, 사고 발생 시 내부가 아닌 독립적인 외부 전문가가 모델과 훈련 데이터에 대한 접근권을 바탕으로 심층 조사를 수행해야 한다고 제안했습니다.
연구 기관 METR는 AI와 인간의 작업 효율성을 금전적으로 비교하여 AI가 언제 비용상 불리해지는지 측정하는 새로운 지표인 '지출 한계(Expenditure horizon)'를 제안했습니다. 연구진은 이를 '나노GPT 스피드런' 프로젝트에 테스트한 결과, 최신 AI 모델들이 인간 1인당 약 2,500달러의 가치를 지닌 업무량을 수행하는 수준에 그쳤습니다. 이는 현재 AI가 단순 반복 작업 외에 실질적인 연구 개발에서 인간을 완전히 대체하기에는 경제성과 기술적 한계가 여전히 존재함을 시사합니다.
AI 에이전트가 수행할 수 있는 작업 시간이 매년 기하급수적으로 늘어나고 있지만, 정작 이를 구동하는 데 드는 '시간당 비용'이 어떻게 변하는지에 대한 논의는 부족합니다. 작업 수행 시간이 늘어나는 속도보다 컴퓨팅 비용 상승 속도가 더 빠르다면, 최첨단 AI 시스템은 인력을 대체하기보다 F1 자동차처럼 '돈으로 때우는 기술력의 과시'에 그칠 위험이 있습니다. 따라서 AI의 실질적인 경제성을 파악하기 위해 모델의 시간당 작업 비용 변화 추이를 분석해야 한다는 지적이 나옵니다.