일관된 AI 정책을 세워야 하는 이유
최근 소프트웨어 개발 조직에서 AI 도입을 강요하며 토큰 사용량을 평가 지표로 삼는 '토큰맥싱(Tokenmaxxing)' 현상을 비판합니다. 저자는 AI 도구 사용을 강제하지 않되, 생성된 코드를 완벽히 이해하고 도구가 사라져도 업무를 수행할 수 있어야 한다는 명확한 팀 AI 정책을 제안합니다. 이는 가장 중요한 목표가 유행을 따르는 것이 아니라 고객을 돕는 것임을 강조한 실무적인 가이드입니다.
대학을 졸업하고 맡은 첫 직장은 수백 명의 법률 사무원을 둔 법률 사무소였습니다. 그곳은 주택 담보 대출 차압 및 파산 사건을 관리하는 사내 워크플로우 시스템을 운영하고 있었습니다. 주택 버블이 꺼지면서 저는 운 좋게도 급성장하는 산업에 발을 들일 수 있었습니다. 절정기에는 1년에 각각 10만 건이 넘는 사건을 처리했습니다.
업무는 아주 세밀하게 잘게 나뉘어 있었습니다. 법률 사무원들은 주로 비슷한 성격의 작업이 담긴 대기열에서 작업을 꺼내 처리했습니다. 법원 제출 서류를 위한 컨베이어 벨트 시스템이었으며, 법률 업무에 도입된 테일러리즘이었습니다.
제가 입사하기 전, 새 임원이 한 명 부임했습니다. 그녀의 임무 중 하나는 업무 프로세스를 간소화하는 것이었습니다. 그녀의 계획은 단순했습니다. 직원 뒤에 서서 스톱워치로 작업 완료 시간을 재는 것이었습니다. 그런 다음 이 측정값을 바탕으로 핵심 성과 지표(KPI)를 설정하겠다는 것이었죠. 예상하실 수 있듯이 결과는 처참했습니다. 임원이 스톱워치를 들고 뒤에 서서 지켜볼 때, 사람들은 평소와 같은 방식으로 작업을 수행하지 않습니다. 그녀는 이 방식이 얼마나 무의미한지 빠르게 깨달았습니다.
이 모든 것은 소프트웨어 엔지니어링의 최악의 쓰레기 KPI인 '토큰맥싱(Tokenmaxxing)'과 제가 우리 팀을 위해 작성한 AI 정책에 대한 본론으로 넘어가기 위한 서론이었습니다.
도대체 토큰맥싱(Tokenmaxxing)이란 무엇인가? 토큰맥싱은 주님의 해 2026년이 된 지금도 '모든 지표는 결국 농간(Gamed)을 부린다'는 사실을 이해하지 못하는 경영진에게서 나온 최신 유행입니다. 스톱워치를 들었던 그 임원은 20여 년 전에 그 사실을 이해하지 못했고, 오늘날의 많은 리더들은 아직도 그 사실을 전혀 모르는 것 같습니다.
이 개념은 누가 가장 많은 토큰(Tokens)을 사용하는지 보여주는 리더보드를 만들어 AI 도입을 장려하겠다는 것입니다. 순진한 평가 지표가 그렇듯, 엔지니어들은 즉시 이 지표를 농간으로 조작합니다. 토큰을 낭비하는 무한 루프만 만들어서 리더보드 정상에 올라갈 수 있습니다. 아니면 AI를 '사용하고' 있다는 것을 보여줄 만큼만 적당히 낭비하면서도 사용량을 설명할 수 없을 정도는 아닌 타이밍을 잡을 수도 있습니다.
이것이 현시대 리더십이라고 불리는 것입니다. 팀을 위한 쉽게 조작 가능한 지표를 만들고, 그것은 순식간에 사람들을 돕는다는 본질과 멀어집니다. 결국 우리의 진짜 목적은 무엇일까요? 고객을 돕기 위해 이곳에 있는 것 아닐까요? 저도 그렇습니다. 저는 고객이 목표를 달성하도록 돕기 위해 이곳에 있습니다. 특정 수의 토큰을 사용하기 위해 이곳에 있는 것이 아닙니다. 토큰맥싱은 리더십인 척하는 허영심 지표일 뿐입니다.
왜 AI 정책이 필요한가? 저는 AI에 매우 회의적인 팀을 관리하고 있으며, 그것에는 타당한 이유가 있습니다. 여기서 윤리적 우려를 일일이 나열할 필요는 없습니다. 그에 관한 심도 있는 글은 이미 충분히 많았습니다. 생산성에 대한 우려도 굳이 나열할 필요가 없습니다. 어느 쪽 바람이 부는지, 황도에서 목성의 위치가 어떤지에 따라 이 도구들이 얼마나 유용한지는 천차만별일 것입니다. 보는 관점에 따라 0.1배에서 10배까지 생산성이 달라진다는 그럴듯한 예를 얼마든지 찾을 수 있습니다.
하지만 제가 확신하는 것은, 현재 세대의 LLM이 제 거의 20년의 경력 중 소프트웨어 엔지니어링 분야에서 겪은 가장 큰 격변을 일으키고 있다는 것입니다. 그리고 팀의 관리자로서 이에 대한 명확한 입장을 갖는 것은 제 업무의 일부입니다. 그래서 팀원들과 충분히 논의한 끝에, 우리의 AI 철학을 설명하는 가이드를 빠르게 정리했습니다. 이 가이드를 공개한 후, 직장에 이런 문서조차 없는 개발자가 얼마나 많은지 알게 되어 놀랐습니다. 그저 최대한 AI를 쓰라고 강요할 뿐, 알아서 잘 되길 바라는 식이었습니다.
핵심 요약
- AI 사용을 강제하지 않습니다.
- AI가 생성한 코드가 어떤 역할을 하는지 반드시 이해해야 합니다.
- 만약 AI 도구가 사라지더라도 본인의 업무를 수행할 수 있어야 합니다.
- 팀원과 고객을 소중히 여기십시오.
이제 이 항목들을 조금 더 자세히 살펴보겠습니다.
언제 AI 도구를 사용해야 하는가 AI 도구를 사용하라는 강제 명령은 없습니다. 이 도구를 얼마나 사용하는지를 기반으로 여러분의 평가가 이루어지지도 않을 것입니다. 그렇긴 하지만, 이 도구들은 우리 업계가 수십 년 동안 겪은 가장 큰 격변입니다. 매일 사용하지 않더라도, 이 도구들이 어떻게 발전하고 있는지 아는 것은 큰 도움이 됩니다. 이 분야는 너무 빠르게 변하고 있어서 6개월 전의 경험은 더 이상 유효하지 않을 수 있습니다. 이러한 기술의 빠른 교체 주기의 부작용 중 하나는, 6개월 전에 얻지 못한 전문 지식이...