메뉴

#에이전트-아키텍처

HN
Hacker News 14일 전
IMP 8

최고가 AI 모델이 필요한 순간은 단 한 번뿐이다

AI 코딩 에이전트를 설계할 때, 비싼 모델(수석 설계자)은 계획을 세우고 저렴한 모델(주니어)이 코드를 작성하게 하는 '분업' 방식이 오히려 비용 증가와 성능 저하를 초래합니다. AI 에이전트 비용의 대부분은 '코드 작성'이 아니라 방대한 문맥을 '읽는 것(Reading)'에서 발생하기 때문에, 두 모델이 같은 코드를 이중으로 읽게 만드는 계획 문서 전달은 비효율적입니다. 대신 최고 성능의 모델이 충분히 탐색하고 첫 코드 수정을 시작하는 시점에 문맥(Context) 전체를 저렴한 모델에 넘기는 '/prewalk' 방식이 훨씬 효율적입니다.

에이전트-아키텍처 AI-비용-최적화 컨텍스트-엔지니어링
HN
Hacker News 82일 전
IMP 8

에이전트에 필요한 것은 더 많은 프롬프트가 아닌 제어 흐름이다

에이전트가 복잡한 작업을 안정적으로 수행하려면 프롬프트 체인에 의존할 것이 아니라, 소프트웨어적으로 구현된 결정론적 제어 흐름과 명시적 상태 전환이 필수적입니다. LLM을 시스템 전체가 아닌 하나의 구성 요소로 취급하고, 치명적인 오류를 막기 위해 철저한 프로그래밍 방식의 검증 로직을 런타임에 포함해야 한다는 핵심 주장입니다.

에이전트-아키텍처 제어-흐름 LLM-오케스트레이션