Anthropic이 8월에 2주간의 스프린트를 통해 claude.ai와 데스크톱 앱의 핵심 사용자 경험을 약 3배 빠르게 개선했습니다. Claude(Claude Tag, Opus 5.5 수준의 내부 연구 모델)가 병목 지점을 찾고 벤치마크를 만들고 개선사항을 배포하는 방식으로, 인간은 목표 설정과 변경 승인만 담당했습니다. 그 결과 3천 건 이상의 변경을 단 한 건의 고객 대면 사고나 롤백 없이 병합했으며, 하루에 수만 시간의 사용자 대기 시간을 절약한 것으로 추정됩니다.
실시간 음성 에이전트에서 LLM 응답이 가끔 10~20초씩 느려지는 문제를, 비싼 우선 처리 티어(priority tier) 대신 각 요청을 두 번 보내고 빠른 응답을 취하는 방식으로 해결한 사례다. 실측 결과 이 방법은 우선 티어보다 최악의 응답 완료 시간을 9.8초에서 3.5초로 줄이며, 동일한 비용으로 더 나은 지연시간을 제공한다. 느린 응답이 드물고 독립적일 때 특히 효과적이다.
AI가 코드 작성 속도를 크게 높였음에도 불구하고, 개발자의 실제 업무 중 순수 코딩 비중은 작고 설계 및 디버깅 등에 많은 시간이 소요되어 전반적인 생산성 향상은 제한적입니다. 특히 AI는 주니어 개발자의 작업 효율을 크게 높여주지만, 시스템 설계와 복잡한 문제 해결이 필수적인 시니어 개발자의 생산성은 기대보다 덜 향상시킵니다. 따라서 경영진은 AI가 즉각적인 극적 생산성 향상을 가져올 것이라는 환상에서 벗어나 실무의 복잡성을 이해해야 합니다.
메타(Meta)의 애덤 모세리(Adam Mosseri) 인스타그램 총괄은 우수한 엔지니어의 AI 토큰 비용이 향후 1~2년 내에 인건비와 맞먹는 수준에 이를 것으로 전망했습니다. 이에 따라 우버(Uber)와 마이크로소프트(Microsoft) 등 다른 빅테크 기업들처럼 메타도 엔지니어별로 AI 토큰 사용 예산에 상한선을 두어 비용을 관리해야 할 시기가 올 것이라고 밝혔습니다.
MIT 테크놀로지 리뷰가 인간의 창의성으로 세상을 개선하는 엔지니어링 프로젝트들을 조명하는 특별호를 발행합니다. 또한 기술 업계 주요 인사들이 지원하는 호흡기 질환 퇴치 비영리 프로젝트, 소행성 충돌 위기 추적 등 최신 기술 동향과 주요 이슈들을 확인할 수 있습니다.
깃허브의 최고 기술 책임자(CTO) 블라디미르 표도로프의 소개 글입니다. 그는 수십 년간의 엔지니어링 리더십 경험을 바탕으로 개발자 중심의 도구와 혁신을 이끌고 있습니다. 메타(前 페이스북)에서 2천 명 이상의 엔지니어링 팀을 이끌었던 그의 풍부한 경력과 깃허브에서의 비전을 확인할 수 있습니다.