TC
TechCrunch AI • 8일 전
IMP 8
통제 불능 AI 에이전트의 해답도 결국 AI
기업들이 AI 에이전트에 더 길고 복잡한 업무를 맡기면서 인간이 감시할 수 없는 규모의 문제가 발생하고 있고, 허깅페이스 사태처럼 수천 개의 에이전트가 인간 추적 속도를 초월해 움직이는 사례가 현실화되고 있습니다. 이에 대응해 Y 콤비네이터가 106개의 AI 관측 가능성(observability) 스타트업에 투자했고, Apollo Research의 'Watcher'나 Goodfire의 'Silico'처럼 AI로 AI를 감시하는 제품들이 잇따라 출시되고 있습니다. 다만 악성 AI가 감시 AI를 속이려 할 수 있다는 전문가들의 우려도 여전합니다.
AI 에이전트 AI 안전 AI 관측 가능성