오픈소스 셰퍼드, AI 에이전트 실행 기록 분기 및 되돌리기 지원
AI 에이전트가 장시간 작업할 때 발생하는 복잡한 환경 상태를 효율적으로 관리하기 위해 노스이스턴턴 대학교와 스탠퍼드 대학교 연구진이 '셰퍼드(Shepherd)'를 공개했습니다. 이 오픈소스 Python 기반 환경은 에이전트의 모든 상호작용을 깃(Git)처럼 기록하여, 오류 발생 시 이전 상태로 빠르게 되돌리거나 분기할 수 있게 해줍니다. 이를 통해 작업 속도와 메모리 재사용률을 크게 높이고, 실시간 감독 기능을 통해 페어 코딩 성공률을 약 2배 가까이 향상시키는 중요한 기술적 성과를 증명했습니다.
에이전트가 오랜 시간 실행되다 보면, 어떤 작업 기록도 남기지 않는 상태가 누적되기 마련입니다. 예를 들어 수정된 파일, 실행 중인 개발 서버, 설치된 패키지, 그리고 따뜻해진 프롬프트 캐시(prompt cache) 등이 여기에 해당합니다. 만약 에이전트가 10번째 단계에서 오류 추적(traceback)을 잘못 이해하고 정상적인 파일을 재작성한 경우, 오류를 덮어씌우며 앞으로 나아가는 것은 토큰을 낭비하게 만들고, 처음부터 다시 시작하는 것은 모든 API 호출 비용을 다시 지불하는 결과를 낳습니다.
노스이스턴턴 대학교(Northeastern University)와 스탠퍼드 대학교(Stanford University)의 연구진은 에이전트와 환경 간의 모든 상호작용을 깃(Git)과 유사한 실행 추적 형태의 '타입 이벤트(typed event)'로 기록하는 MIT 라이선스 기반의 Python 런타임 기반 환경인 '셰퍼드(Shepherd)'를 출시했습니다. 이 환경에서의 각 커밋은 에이전트 프로세스와 파일 시스템을 함께 다루며, '쓰기 시 복사(copy-on-write)' 방식을 사용해 되감기를 실행하면 단순히 파일만 복구되는 것이 아니라 실시간으로 동작하던 상태(live state) 전체를 복원할 수 있습니다.
연구 논문에 따르면, 셰퍼드는 도커(Docker)보다 5배 더 빠른 분기(fork) 속도를 자랑하며, 다시 실행할 때 95% 이상의 프롬프트 캐시를 재사용합니다. 또한, 실시간 감독자(supervisor) 역할을 수행하여 CooperBench의 페어 코딩 통과율을 28.8%에서 54.7%로 크게 끌어올렸습니다.
'메타 에이전트가 모든 에이전트 실행을 분기, 재생 및 되돌릴 수 있게 해주는 오픈소스 Python 기반 환경, 셰퍼드를 만나보세요'라는 제목의 이 게시물은 MarkTechPost에 처음 공개되었습니다.