직원들 반칙 속출에 아마존 내부 AI 리더보드 폐지
아마존이 직원들의 AI 도구 사용량에 따라 순위를 매기던 내부 리더보드를 폐지했습니다. 공식적으로는 사용 촉진이라는 목표를 달성했다고 밝혔으나, 실제로는 순위 조작을 위한 무의미한 AI 과소비 문제와 시스템의 허점이 원인으로 지목되고 있습니다. 이 사건은 단순한 사용량 지표가 아닌 실질적인 업무 효율성에 초점을 맞춰야 하는 기업 내 AI 도입의 한계를 보여줍니다.
아마존이 직원들의 업무 중 AI 도구 사용량을 기준으로 순위를 매기던 내부 사내 리더보드를 폐쇄했다. 아마존의 공식 발표에 따르면 직원들이 AI 도구를 사용하도록 장려한다는 목표를 달성했기 때문에 리더보드를 종료했다고 밝혔다. 그러나 여러 아마존 직원들은 이 시스템이 쉽게 부정 행위(조작)를 저지를 수 있었고, 비용 낭비를 초래하는 비효율적인 AI 사용을 부추겼기 때문에 폐지된 것으로 의심한다고 전했다.
이들 직원 중 일부는 리더보드 순위를 높이기 위해 고의로 시스템을 조작했음을 인정했다. 한 경우, 한 직원은 경영진으로부터 AI를 충분히 사용하지 않는다는 말을 들은 후 부정 행위를 저질렀다고 밝혔다. 아마존의 AI 코딩 도구인 Kiro를 유용하게 사용하고 있는 한 아마존 직원은 리더보드 폐지 발표 전에 다음과 같이 말했다. "사내 판단으로는 '이 리더보드는 사용을 촉진하기 위한 것이었고 도입률이 목표를 달성할 수준에 도달했기 때문'이라고 하지만 [...] 소비 과다를 촉진하는 것을 경영진이 제재하려는 것이라는 것이 내 생각이다." 그는 이어 "'부정 행위'가 만연하다고는 할 수 없지만, AI를 절약하며 쓰는 방법과 그렇지 않은 방법이 존재한다. 리더보드가 있었기 때문에 오히려 토큰(token)을 효율적으로 사용하려고 노력할 인센티브가 없어졌다"고 덧붙였다. 파이낸셜 타임즈(The Financial Times)가 아마존의 리더보드 폐지를 가장 먼저 보도했다.
아마존의 리더보드 폐지 관련 내부 공지에 따르면 "개인 Kiro 대시보드와 PhoneTool 어워드의 목적은 AI가 개발 업무를 가속화하는 데 어떤 도움을 줄 수 있는지에 대한 인식을 높이는 것이었다"라고 밝혔다. 이어 "현재 조직 내 수많은 사람들이 AI에 능숙해졌고 총 [수천 개]의 PhoneTool 어워드가 수여되었으므로, 이 프로젝트는 목표를 달성했다고 생각한다 [...] 이 프로젝트를 성공으로 이끌어준 아마존에 감사하며, 모두 즐거운 코딩을 하길 바란다"고 전했다. PhoneTool은 사내 직원 등록부이며, PhoneTool 어워드는 직원 이름 옆에 표시할 수 있는 뱃지로, 비디오 게임의 업적과 유사하다.
일부 기술 기업 경영진들은 직원이 업무 중에 AI 도구를 최대한 활용하지 않으면 생산성이 충분하지 않다고 생각하는 일명 '토큰맥싱(Tokenmaxxing)' 개념을 업계에서 흔히 받아들이고 있다. 심지어 일부 리더들은 실제 직원 비용보다 AI 도구 사용 비용에 더 많은 돈을 쓰고 있다고 자랑하기도 한다. 이로 인해 일부 직원들은 지표를 속이고 상사를 만족시키기 위해 자신이 AI 도구를 많이 사용하는 것처럼 보이게 하는 스크립트를 실행하는 상황이 발생했다. 이 과정에서 AI 도구는 생산적인 역할을 전혀 하지 못하며, 비용과 자원만 낭비하고 생산성에 아무런 도움을 주지 않는다.
한 아마존 직원은 성과 평가에서 AI를 너무 적게 사용한다는 말을 들은 후 부정 행위를 통해 아마존의 내부 AI 사용 순위표를 올렸다고 밝혔다. 그들은 이렇게 하는 것이 매우 쉬웠다고 전했다. 이 직원의 익명을 보호하기 위해 구체적인 조작 방법은 밝히지 않지만, 요약하자면 직원들은 자신의 업무와 전혀 관련없는 무한한 일련의 작업을 AI 도구에 자동으로 프롬프트(명령)하도록 설정할 수 있다.
💡 직장에서 AI를 사용하라는 압박을 받고 계신가요? 여러분의 이야기를 듣고 싶습니다. 업무용 기기가 아닌 개인 기기를 사용하여 Signal(@emanuel.404)로 안전하게 메시지를 보내거나, emanuel@404media.co로 이메일을 보내주십시오.
이 직원은 "솔직히 말해, 이를 반복하고 처리량을 극대화하는 것이 제 업무 중 가장 즐거웠습니다"라며 "또한 숫자를 올리기 위해 시스템을 속인 사람이 저뿐만은 아닐 것이라고 생각합니다. 그 회의에서 매니저의 어조를 들어 보니 이 프로그램이 낭비를 유발한다는 내부 논의가 있었던 것 같습니다"라고 말했다.
아마존 대변인은 404 Media에 보낸 성명에서 "KiroRank라는 내부 대시보드 중 하나는 최근 AI가 업무를 어떻게 가속화할 수 있는지에 대한 인식을 높이고자 했던 직원 그룹에 의해 만들어졌으며, 사용량 자체를 늘리기 위해 만들어진 것이 결코 아닙니다"라고 밝혔다. 이어 "이 베타 대시보드는 공식적이거나 승인된 도구가 아니었으며, 현재는 지원이 중단되었습니다. 우리는 AI 도입과 모범 사례 공유에 초점을 맞추어 혁신과 전사적인 운영 효율성 향상을 기념하고 있으며..."라고 덧붙였다.