메뉴
BL
Wired AI 8일 전

미 육군, AI 토큰 한도 조속히 소진해 사용 제한 돌입

IMP
7/10
핵심 요약

미 국방부와 육군은 전 직원의 생성형 AI 도입을 장려하며 무제한 토큰을 제공했으나, 예상을 웃도는 사용량으로 인해 불과 한 달 만에 연간 할당량을 소진하고 사용 제한에 나섰습니다. 이는 기업과 공공 기관이 생성형 AI를 무분별하게 도입할 때 발생할 수 있는 막대한 비용과 리소스 관리의 중요성을 보여주는 사례입니다.

번역된 본문

미 국방부(DOD)가 350만 직원 중 거의 절반이 업무 중 AI를 사용하고 있다고 자랑한 지 한 달 조금 넘은 시점이었습니다. 육군 전투능력개발사령부(DEVCOM) 소속원들은 토큰을 너무 빠르게 소진하고 있으니 사용을 자제해야 한다는 이메일을 받았습니다. 해당 이메일에는 “비록 육군 최고정보책임자(CIO)가 2026년 5월에 무제한 토큰을 제공하겠다고 발표했지만, 6월 중순이 되자 육군 CIO 풀의 토큰이 모두 고갈되어 한도를 다시 설정해야 했습니다”라고 적혀 있었습니다. 이메일은 육군이 토큰 사용량을 '현재 수준'으로 갱신하기로 결정했지만, '10월 1일 이후에도 육군 CIO 풀이 갱신될지는 불분명하다'고 덧붙였습니다. 육군은 사용자가 알파벳의 제미나이(Gemini), 메타의 라마(Llama), 오픈AI의 챗GPT(ChatGPT) 등 다양한 대규모 언어 모델(LLM)을 실행할 수 있는 멀티모달 생성형 AI 플랫폼인 'Ask Sage'를 사용합니다. 언론과의 교류가 승인되지 않아 익명을 조건으로 와이어드(WIRED)와 대화한 한 육군 직원은 “분명히 전체 육군이 단 하나의 서비스를 위해 1년 치 토큰을 모두 소진해 버렸습니다”라고 말했습니다. [제보하기] 현재 또는 과거 정부 부서 직원으로서 현재 상황에 대해 이야기하고 싶으신가요? 우리는 귀하의 목소리를 듣고 싶습니다. 업무용이 아닌 개인 휴대폰이나 컴퓨터를 이용해 Signal(vittoria89.82)로 기자에게 안전하게 연락해 주십시오. 'Ask Sage'는 육군의 '엔터프라이즈 LLM 워크스페이스를 구동'하는 데 사용되며, '통제되지 않은 기밀 정보(CUI)'에 대한 인가를 받았습니다. 또한 국방부 최고디지털AI책임실(CDAO)의 조달 업무에도 사용됩니다. 육군 웹사이트에 따르면, 'Ask Sage'는 '직무, 경험 및 배경을 정의하고 정렬하는 인사 기록 재분류'와 같은 작업을 완료하는 데 사용되었습니다. 육군 직원에 따르면 육군은 계속해서 직원들에게 생성형 AI 사용에 적극적으로 동참할 것을 독려해 왔습니다. 와이어드가 확인한 이메일에 따르면 직원들에게는 매달 최소 20만 개의 토큰이 할당되었으며, 초기 할당량을 다 사용하면 자동으로 더 많은 토큰이 지급되었습니다. 'Ask Sage'에 가입했지만 정기적으로 사용하지 않는 직원들에게는 할당된 토큰을 더 많이 사용하라는 권유 이메일이 발송되었습니다. 육군은 '엔터프라이즈 팩' 연간 구독의 일환으로 1억 개의 토큰에 액세스할 수 있었습니다. 토큰은 LLM에서 생성되는 텍스트나 이미지 단위를 의미합니다. 와이어드가 확인한 문서에 따르면 'Ask Sage' 도구의 경우 단일 토큰은 약 3.7자의 텍스트와 동일합니다. 전문 매체 브레이킹 디펜스(Breaking Defense)에 따르면, 국방부는 이란에서 진행된 38일 간의 '에픽 퓨리(Operation Epic Fury)' 작전 기간 동안 하루에 약 200억 개의 토큰을 소진했습니다. 육군과 국방부, 그리고 'Ask Sage' 측 모두 코멘트 요청에 응답하지 않았습니다. 일반 국방부 직원이 사용하는 토큰이 기밀 정보에 AI 도구를 사용하는 토큰 풀과 동일한 곳에서 추출되는지는 불분명합니다. 그러나 이러한 논란은 국방부의 AI 중시 정책을 꺾어놓지 못했습니다. 월요일, 더 인터셉트(The Intercept)는 펜타곤이 계속해서 AI 도구에 의존하고 있으며, 분쟁 지역에서 민간인 사상을 방지하는 업무를 맡았던 '민간인 보호 우수 센터(Civilian Protection Center of Excellence)'의 직원들을 감축했다고 보도했습니다. 대신 국방부는 해당 센터 직원들이 일반적으로 수행하던 평가 작업을 신속하게 처리하기 위해 AI 도구를 개발 중입니다. 육군이 무제한에 가까운 생성형 AI 사용을 재고해야만 한 최초의 열광적 도입 기관은 아닙니다. 직원들에게 토큰을 극한으로 사용하도록 장려했던 메타(Meta)는 토큰 사용량을 추적하던 리더보드를 조용히 폐쇄했으며, 현재는 사용 자제를 시도하고 있습니다. 지난주, 메타의 인스타그램 총괄인 아담 모세리(Adam Mosseri)는 회사 내 엔지니어별 토큰 사용량에 상한선을 정하는 아이디어를 제안했습니다. 포춘(Fortune)의 보도에 따르면 우버(Uber) 역시 엔지니어들이 단 4개월 만에 1년 치 생성형 AI 토큰을 모두 소진한 바 있습니다. 육군 직원은 생성형 AI 도구가 자신들의 업무에 특별히 유용하다고 생각하지 않았으며, 사용해 본 결과 신뢰성이 떨어진다고 지적했습니다.

원문 보기
원문 보기 (영어)
Comment Loader Save Story Save this story Comment Loader Save Story Save this story A little over a month after the Department of Defense (DOD) bragged that nearly half of its 3.5 million employees were using AI at work, members of the Army’s Combat Capabilities Development Command (DEVCOM) received an email informing them that they were burning through tokens, and needed to limit use. “Although the Army CIO announced in May 2026 that they were offering unlimited tokens, by mid-June the Army CIO pool was exhausted of tokens and had to re-establish limits,” the email reads. The email goes on to say that although the Army has chosen to renew token usage at “its current levels,” it’s unclear “if the Army CIO pool will be renewed after 1 Oct.” The Army uses Ask Sage , a multimodal generative AI platform where users can run different large language models (LLMs), including Alphabet’s Gemini, Meta’s Llama, and OpenAI’s ChatGPT. “Apparently the whole Army burned through the whole year of tokens for just one service,” says an Army employee who spoke to WIRED anonymously because they were not authorized to speak to the press. Got a Tip? Are you a current or former government employee who wants to talk about what's happening? We'd like to hear from you. Using a nonwork phone or computer, contact the reporter securely on Signal at vittoria89.82. Ask Sage is used by the Army to “power its enterprise LLM workspace” and is “accredited for Controlled Unclassified Information.” It is also used by the DOD’s Chief Digital and AI Office (CDAO) for acquisitions. According to the Army’s website , Ask Sage was used to complete tasks like “reclassifying personnel descriptions, which involves defining and aligning job duties, experience and backgrounds.” The Army employee says that the Army has been pushing its workers to lean into using generative AI. Employees were given an allotment of at least 200,000 tokens per month, according to emails viewed by WIRED, and were automatically allocated more if they burned through their initial allotment. Employees who had signed up for Ask Sage but were not regularly using it would receive emails encouraging them to use more of their allocated tokens. In order to use Ask Sage, the Army had access to 100,000,000 tokens as part of an annual subscription to an “enterprise pack.” Tokens represent a unit of output, either in text or image, from an LLM. For the Ask Sage tool, a single token equates to about 3.7 characters, according to documents viewed by WIRED. The Defense Department burned through some 20 billion tokens per day during the 38-day Operation Epic Fury in Iran, according to Breaking Defense . The Army and DOD didn’t reply to requests for comment; neither did Ask Sage. It’s unclear if the tokens used by regular DOD employees are drawn from the same pool as those who might be using AI tools on classified or secret information. This hasn’t stopped the Defense Department’s emphasis on AI. On Monday, the Intercept reported that the Pentagon has continued to lean into AI tools, and has cut the staff at the Civilian Protection Center of Excellence, whose jobs entailed preventing civilian casualties in conflict zones. Instead, the DOD is developing an AI tool to speed up the assessments that the Center’s staff would normally make. The Army is not the first eager adopter of generative AI to rethink their near unlimited use. After encouraging employees to “tokenmaxx,” Meta quietly took down its leaderboard tracking token usage and is now trying to curb use. Last week, Adam Mosseri , head of Instagram at Meta, floated the idea of capping token use per engineer at the company. According to reporting from Fortune , Uber also saw its engineers burning through a year’s worth of generative AI tokens in merely four months. The Army employee says they have not found the generative AI tools to be particularly useful for their work, and that when they have used the tools, they have found them to be unreliable. One model even asserted that it had completed a task that it hadn’t, they say. “I think there are definitely several aspects of the bureaucracy of the US federal government that these tools might be helpful with. But an unthinking application and use is not going to result in an effective, efficient, and trustworthy rollout.”