AI 세계를 뒤흔드는 ‘루프(Loop)’의 등장
AI 에이전트가 스스로 다른 에이전트에게 지시하고 끊임없이 작업을 반복하는 '루프(Loop)' 구조가 최근 AI 업계의 핵심 화두로 떠올랐습니다. AI가 단발성 질문에 답하는 수준을 넘어, 백그라운드에서 코드를 지속적으로 개선하고 실질적인 업무를 자율적으로 수행하게 만드는 이 기법은 엄청난 비용을 소모할 수 있지만, AI가 인간의 실무를 대체하는 다음 단계로 평가받고 있습니다.
지난 금요일, 클로드 코드(Claude Code)의 개발자인 보리스 체르니(Boris Cherny)가 메타(Meta)의 @Scale 컨퍼런스에 모습을 드러냈고, 놀랍게도 청중의 첫 번째 질문은 '루프(Loop)'에 관한 것이었습니다. 질문자는 "루프가 또 다른 과대광고(Hype cycle)인가요, 아니면 진짜인가요?"라고 물었습니다. 체르니는 "네, 진짜입니다"라고 강조했습니다.
그는 "2년 전만 해도 우리는 소스 코드를 직접 손으로 작성했습니다. 그러다 에이전트(Agent)가 코드를 작성하는 방식으로 전환하기 시작했죠. 그리고 지금은 에이전트가 또 다른 에이전트에게 지시(Prompting)를 내려 코드를 작성하게 만드는 단계로 넘어가고 있습니다"라고 덧붙였습니다. "소스 코드에서 에이전트로 넘어간 변화가 엄청났던 만큼, 루프 역시 그와 똑같이 중요하고 거대한 도약입니다."
이후 강연(위에 게시된 유튜브 영상 약 32분 시점)에서 체르니는 자신의 업무에 실제로 적용하고 있는 루프에 대해 구체적으로 설명했습니다. 그의 말에 따르면, 한 에이전트는 코드 아키텍처를 개선할 방법을 끊임없이 찾고, 다른 에이전트는 통합할 수 있는 중복된 추상화(Abstraction)를 찾습니다. 이들은 다른 일반 코더들과 마찬가지로 '풀 리퀘스트(Pull Request)'를 제출하며, 코드가 끊임없이 변하기 때문에 이 작업은 멈추지 않고 계속 돌아갑니다. 체르니와 같은 거물이 그 배후에 있다는 점을 고려할 때, 이는 매우 강력한 아이디어입니다.
에이전틱 AI(Agentic AI)로의 전환이 이루어지면서, 대부분의 사용자는 에이전트를 최대한 잘 관리하는 데 집중해 왔습니다. 명확한 목표를 설정하고, 각 단계별 진행 상황을 점검하며, 프롬프트의 범위를 크게 벗어나지 않도록 통제하는 것이죠. 루프는 이에서 한 걸음 더 나아가, 무리(A swarm)를 이룬 에이전트들에게 백그라운드에서 영원히 작업을 계속하도록 허가하는 개념입니다. 이는 AI에게 맡기는 엄청난 신뢰를 요구하지만, 모델의 성능이 빠르게 향상됨에 따라 AI가 실질적인 업무를 처리하게 만드는 다음 단계가 될 수 있습니다.
먼저 인지해야 할 점은 이것이 완전히 새로운 개념은 아니라는 사실입니다. 특정 행동을 반복하기 위해 스스로를 호출하고 루프를 멈추는 조건을 포함하는 '재귀 루프(Recursive loops)'는 컴퓨터 과학 입문 강의의 기초적인 내용입니다. 최근의 루프는 비결정론적 논리(Non-deterministic logic)를 따릅니다. 즉, 명확한 조건이 아니라 하위 에이전트(Sub-agent)가 스스로 루프를 멈출 시점을 결정한다는 점이 다르지만, 동일한 기본 접근 방식을 사용하고 있습니다. 프로그래머들이 작업을 수행하는 데 AI를 사용하기 시작한 이상, AI가 AI를 감독하는 형태의 재귀 루프가 등장하는 것은 필연적인 일이었습니다.
고전적인 컴퓨팅과 달리 에이전틱 루프는 헷갈릴 정도로 단순할 수 있습니다. 가장 인기 있는 기법 중 하나는 랠프 위검(Ralph Wiggum)의 이름을 딴 '랠프 루프(Ralph Loop)'인데, 이는 기본적으로 모델이 수행한 모든 작업을 요약하고 목표를 달성했는지 묻는 방식입니다. 이는 너무 오랫동안 실행되면서 엉뚱한 방향으로 빠져버리는(Getting lost) AI 모델을 다루는 한 방법으로, 본질적으로 작업이 완료될 때까지 모델을 지속해서 앞뒤로 튕겨내는 것과 같습니다.
루프를 생각하는 또 다른 방법은 '추론 시 연산(Test-time compute)'을 확대하려는 일반적인 흐름의 일부로 보는 것입니다. 오픈AI(OpenAI)의 연구원인 노암 브라운(Noam Brown)이 이달 초 지적했듯이, 현대의 모델들은 충분한 연산 능력(Compute)을 쏟아붓기만 하면 거의 모든 문제를 해결할 수 있습니다. 즉, 문제 해결을 보장하는 한 가지 방법은 작업이 끝날 때까지 계속해서 연산 능력을 투입하는 것입니다. 이는 모델이 주어진 임계치에 도달할 때까지 지속적으로 점진적인 개선을 할 수 있는 코드베이스 개선과 같은 언덕 오르기 문제(Hill-climbing problems)에 특히 잘 들어맞습니다. 혹은 체르니의 예시처럼, 연산에 쓸 비용이 남아있는 한 계속해서 점진적인 개선을 이룰 수도 있습니다.
이 과정이 비용이 많이 든다고 느껴진다면, 그것이 정상입니다. 이전의 에이전틱 AI와 마찬가지로 AI 루프는 단순한 Q&A 챗봇보다 훨씬 더 빠른 속도로 토큰(Token)을 소모합니다. 게다가 루프를 계속 실행하는 것이 목적이기 때문에, 지출할 수 있는 비용의 상한선조차 없습니다. 이는 궁극적으로 토큰 판매 사업을 하는 앤스로픽(Anthropic)에게는 좋은 일이겠지만, 다른 모든 사람들에게는 비용이 매우 많이 드는 작업 방식이 될 수 있습니다.
그럼에도 불구하고, 에이전틱 루프가 해결하려는 문제의 성격, 그리고 토큰 소모, 모델의 엉뚱한 발산(Drift) 및 기타 전형적인 AI 문제들을 감시할 수 있는 적절한 환경 구축에 따라 그 혜택은 비용을 상쇄하고도 남을 만큼 엄청날 수 있습니다.
관련 주제: 에이전틱 AI, AI, 보리스 체르니, 테크크런치(TC). 기사 내 링크를 통해 구매하실 경우 소정의 수수료를 받을 수 있습니다. 이는 당사의 편집 독립성에 영향을 미치지 않습니다. - AI 에디터 러셀 브랜덤(Russell Brandom)