Hacker News • 31일 전

에이전트 컨텍스트 관리: 메모리와 비용을 아키텍처 문제로

IMP

7/10

핵심 요약

실서비스 AI 에이전트의 실패는 추론 능력 부족보다 대화 이력·거대한 프롬프트·툴 출력 등 컨텍스트 관리 실패에서 비롯된다는 논문입니다. 저자는 이를 단순 저장·검색 문제가 아니라 생명주기(lifecycle) 문제로 보고, '에이전틱 컨텍스트 관리(ACM)'라는 분야를 아키텍처·수집·범위 지정·예측·압축의 5가지 원소로 정의합니다. 참조 구현체 Maximem Synap은 LongMemEval 92%, LoCoMo 93.2%를 달성했으며, 검증된 압축을 통해서만 선형 토큰 비용과 정확도를 동시에 유지할 수 있음을 경제적으로 논증합니다.

번역된 본문

컴퓨터 과학 > 인공지능 arXiv:2607.21503 (cs) [2026년 7월 23일 제출]

제목: 에이전틱 컨텍스트 관리: 에이전트 메모리와 비용을 생명주기 및 아키텍처 문제로 취급하여 해결하기 저자: Gaurav Dadhich

초록: 실서비스(production) AI 에이전트의 실패는 추론을 잘하지 못해서보다는 추론 컨텍스트에 담긴 내용, 즉 대화 이력, 거대한 프롬프트, 방대한 툴(tool) 정의, 그리고 계속 불어나는 툴 출력을 관리하지 못하기 때문에 발생하는 경우가 더 많다. 에이전트는 자신에게 축적되는 이력에 파묻히는 동안 매 턴마다 증가하는 토큰 비용을 지불하며, 대화 내부와 대화 간에 필요한 정보를 떠올리지 못하는 현상이 발생한다. 기존 대응 방식은 이를 저장소와 검색 문제로 다룬다. 본 논문은 그러한 프레임이 너무 좁다고 주장한다. 에이전트가 마음에 두어야 할 내용을 능동적으로 관리하는 것은 단순한 저장(store)이 아니라 생명주기(lifecycle)다. 여기에는 무엇을 기억할지 결정하고, 이를 추출·구조화하며, 데이터 유형별로 적합한 저장소를 선택하고, 출처(provenance)를 보존하면서 통합하고 잊고, 지금 무엇이 관련 있는지 판단하고, 다음에 무엇이 필요할지 예측하며, 중요한 것을 잃지 않으면서 컨텍스트를 예산 안으로 압축하는 일까지 포괄된다. 진지한 실서비스 환경에서 이는 단일 사용자가 아니라 조직적 범위 계층(scope hierarchy) 전체에서 작동한다.

우리는 이 분야를 '에이전틱 컨텍스트 관리(Agentic Context Management, ACM)'라 명명하고, 이를 다섯 가지 원소(primitive)로 분해한다: 설계(architecting), 수집(ingesting), 범위 지정(scoping), 예측(anticipating), 그리고 압축 및 통합(compacting & consolidation)이다.

이어서 경제적 관점에서 논증한다. 단순한 컨텍스트 누적은 대화 길이에 대해 토큰 비용이 2차적으로(quadratically) 증가하고, 조악한 요약은 선형 비용을 얻는 대신 정확도 급락(accuracy cliff)이라는 대가를 치르며, 검증된 압축(validated compaction)만이 선형 비용과 충실도 보존을 동시에 달성한다.

우리는 다섯 가지 원소를 멀티테넌트 서비스로 구현한 참조 구현체 Maximem Synap을 소개하며, 6절에 상세한 구성에서 LongMemEval 92%, LoCoMo 93.2%를 기록했다고 보고한다. 마지막으로 기존 벤치마크가 아직 포착하지 못하는 차원들, 즉 지연시간(latency), 토큰 효율성, 컨텍스트 부패(context rot) 저항성, 그리고 이 분야가 지향하는 의사결정 수준 및 조직 수준의 컨텍스트라는 프론티어를 다룬다.

참고: 23페이지, 그림 6개, 표 4개. 평가 도구와 연구 데이터는 본문 링크 참조. 분야: 인공지능(cs.AI); 정보 검색(cs.IR) ACM 분류: I.2.7; I.2.11; H.3.3 인용: arXiv:2607.21503 [cs.AI] https://doi.org/10.48550/arXiv.2607.21503 제출 이력: Gaurav Dadhich [v1] 2026년 7월 23일 (목) 16:51:31 UTC (123 KB) 전문 링크: PDF 보기, HTML 보기(실험적), TeX 소스 보기

원문 보기

원문 보기 (영어)

--> Computer Science > Artificial Intelligence arXiv:2607.21503 (cs) [Submitted on 23 Jul 2026] Title: Agentic Context Management: Solving Agent Memory and Cost by Treating Them as Lifecycle and Architecture Problems Authors: Gaurav Dadhich View a PDF of the paper titled Agentic Context Management: Solving Agent Memory and Cost by Treating Them as Lifecycle and Architecture Problems, by Gaurav Dadhich View PDF HTML (experimental) Abstract: Production AI agents' failures are less often due to an inability to reason well and more often because they cannot manage what is in their reasoning context: conversation histories, large prompts, large tool definitions, and ballooning tool outputs. Agents drown in their own accumulating history while paying a token cost that grows every turn, producing missing recalls within and across conversations. The incumbent response treats this as a storage-and-retrieval problem. We argue that framing is too narrow. Actively managing what an agent holds in mind is a lifecycle, not merely a store: it spans deciding what to remember, extracting and structuring it, choosing the right store per data type, consolidating and forgetting while preserving provenance, deciding what is relevant now, anticipating what is needed next, and compacting context to a budget without losing what matters. In serious production this operates not over a single user but across an organizational scope hierarchy. We name this discipline Agentic Context Management (ACM) and decompose it into five primitives: architecting, ingesting, scoping, anticipating, and compacting & consolidation. We then make the economic case: naive context accumulation grows token cost quadratically in conversation length, crude summarization buys linear cost at the price of an accuracy cliff, and only validated compaction achieves linear cost with preserved fidelity. We describe a reference implementation, Maximem Synap, that realizes the five primitives as a multi-tenant service and reports 92% on LongMemEval and 93.2% on LoCoMo under the configuration detailed in Section 6. We close with dimensions existing benchmarks do not yet capture, latency, token efficiency, and context-rot resistance, and the frontier of decision-level and organization-level context the category points toward. Comments: 23 pages, 6 figures, 4 tables. Evaluation harness and study data: this http URL Subjects: Artificial Intelligence (cs.AI) ; Information Retrieval (cs.IR) ACM classes: I.2.7; I.2.11; H.3.3 Cite as: arXiv:2607.21503 [cs.AI] (or arXiv:2607.21503v1 [cs.AI] for this version) https://doi.org/10.48550/arXiv.2607.21503 Focus to learn more arXiv-issued DOI via DataCite Submission history From: Gaurav Dadhich [ view email ] [v1] Thu, 23 Jul 2026 16:51:31 UTC (123 KB) Full-text links: Access Paper: View a PDF of the paper titled Agentic Context Management: Solving Agent Memory and Cost by Treating Them as Lifecycle and Architecture Problems, by Gaurav Dadhich View PDF HTML (experimental) TeX Source view license Current browse context: cs.AI < prev | next > new | recent | 2026-07 Change to browse by: cs cs.IR References & Citations NASA ADS Google Scholar Semantic Scholar export BibTeX citation Loading... BibTeX formatted citation × loading... Data provided by: Bookmark Bibliographic Tools Bibliographic and Citation Tools Bibliographic Explorer Toggle Bibliographic Explorer ( What is the Explorer? ) Connected Papers Toggle Connected Papers ( What is Connected Papers? ) Litmaps Toggle Litmaps ( What is Litmaps? ) scite.ai Toggle scite Smart Citations ( What are Smart Citations? ) Code, Data, Media Code, Data and Media Associated with this Article alphaXiv Toggle alphaXiv ( What is alphaXiv? ) Links to Code Toggle CatalyzeX Code Finder for Papers ( What is CatalyzeX? ) DagsHub Toggle DagsHub ( What is DagsHub? ) GotitPub Toggle Gotit.pub ( What is GotitPub? ) Huggingface Toggle Hugging Face ( What is Huggingface? ) ScienceCast Toggle ScienceCast ( What is ScienceCast? ) Demos Demos Replicate Toggle Replicate ( What is Replicate? ) Spaces Toggle Hugging Face Spaces ( What is Spaces? ) Spaces Toggle TXYZ.AI ( What is TXYZ.AI? ) Related Papers Recommenders and Search Tools Link to Influence Flower Influence Flower ( What are Influence Flowers? ) Core recommender toggle CORE Recommender ( What is CORE? ) Author Venue Institution Topic About arXivLabs arXivLabs: experimental projects with community collaborators arXivLabs is a framework that allows collaborators to develop and share new arXiv features directly on our website. Both individuals and organizations that work with arXivLabs have embraced and accepted our values of openness, community, excellence, and user data privacy. arXiv is committed to these values and only works with partners that adhere to them. Have an idea for a project that will add value for arXiv's community? Learn more about arXivLabs . Which authors of this paper are endorsers? | Disable MathJax ( What is MathJax? )

에이전트 컨텍스트관리 메모리 토큰비용 논문