TechCrunch AI • 15일 전

AI 에이전트, 공공서비스에 민원 폭증 유발

IMP

7/10

핵심 요약

AI로 양식 작성과 민원 제기가 쉬워지면서 영국 주택옴부즈맨 민원은 2년 만에 2배 이상, 미국 CFPB 민원은 5배 급증하는 등 전 세계 공공서비스에 요청이 폭증하고 있습니다. 연구자 크리스 슈미츠는 이를 '에이전트 플러딩(agentic flooding)'이라 명명하며, 대부분의 신규 신청은 실제 권리가 있는 사람들의 정당한 요청이므로 AI 시대에 맞게 공공서비스를 재설계할 기회라고 주장합니다.

번역된 본문

AI 덕분에 양식 작성과 민원 제기가 쉬워지면서, 전 세계 공공서비스는 신청 및 각종 요청이 폭증하는 현상을 겪고 있다. 영국에서는 ChatGPT 도입 이후 주택옴부즈맨에 접수된 민원이 두 배 이상 늘어 2022년 2,600건에서 지난해 7,000건을 조금 넘겼다. 미국 소비자금융보호국(CFPB)도 같은 기간 민원이 5배 증가했다. 브라질의 사법 청원과 독일 의회 청원에서도 비슷한 급증이 관찰되었다. 연구자 크리스 슈미츠는 이러한 증가를 '에이전트 플러딩(agentic flooding)'이라 부르는 더 광범위한 흐름의 일환으로 추적하고 있다. 다음 달 AI 윤리와 사회 컨퍼런스에서 발표될 논문에서 그는 11개 관할권에서 잠재적 플러딩 사례 84건을 조사했으며, AI 도구가 사람들의 공공서비스 이용 방식을 바꾸고 있다는 광범위한 증거를 발견했다. 더 어려운 문제는 이에 대응해 무엇을 해야 하는가이다. 새로 접수되는 건의 일부는 명백히 적대적이지만, 다른 상당수는 그렇지 않았다면 포기했을 청구를 AI를 활용해 제출하는 정당한 신청자들의 결과물이다. 일부는 이를 AI가 생성한 스팸으로 볼 수도 있지만, 슈미츠는 AI 시대에 맞게 사회서비스를 재편할 희소한 기회로 본다. 슈미츠는 복지 신청부터 공식 사법 상소까지 다양한 서비스를 조사했는데, 이들 모두 AI 어시스턴트가 접근할 수 있는 온라인 서비스를 갖추고 있었다. (전체 데이터셋은 참고용으로 여기에 공개되어 있다.) 방법론상의 이유로 슈미츠의 논문은 AI가 새로운 신청자 급증을 직접 유발했다고 단정하지는 않는다. 그러나 84건 대부분은 같은 양상을 보인다. 2022년 이전까지 제출 건수가 대체로 정체되어 있다가, AI 기술이 확산되며 가속도 붙은 상승세를 보인 것이다. 결정적으로 대부분의 사례에서 증가세가 둔화되지 않았다는 점은, 앞으로도 수년간 계속 늘어날 가능성을 시사한다. 슈미츠에게 AI의 능력과 접근성이 높아지면 이용이 늘어나는 것은 당연해 보인다. "사람들이 이런 일이 가능하다는 걸 알게 됐고, 점점 더 쉬워지고 있다… 예전에는 각종 맥락을 모아 모으고 ChatGPT 3.5에 아주 정확하게 프롬프트를 줘야 했다면, 이제는 Claude 앱에 편지를 붙여넣거나 사진만 찍으면 한 번에 꽤 괜찮은 답변을 받을 수 있다"고 그는 말했다. 이러한 물량 폭증은 작년 많은 버그 바운티 서비스가 겪은 것과 비슷하다. 기업들은 LLM이 생성한 저품질 보고서로 수신함이 넘쳐났고, 이 보고서들은 유의미한 보안 취약점을 담고 있는 경우가 드물었지만 들어온 이상 검토해야 했기에 상당한 자원 낭비가 발생했다. 공공서비스도 같은 예산으로 5배나 많은 신청자를 처리하면서 유사한 문제에 직면할 수 있음을 쉽게 상상할 수 있다. 하지만 버그 바운티 프로그램이 무가치한 제출로 범람한 것과 달리, 슈미츠는 공공서비스의 신규 신청 대부분이 정당한 권리를 가진 실제 사람들로부터 오고 있다고 말한다. "우리가 발견한 사례의 압도적 다수는 무언가를 청구할 자격이 있는 사람들이 그것을 청구하는 경우"라고 그는 테크크런치에 말했다. 그 사람들이 이전에 혜택을 청구하지 않았다면, 신청 절차가 너무 부담스러웠기 때문일 수 있다. 이는 정책 분야에서 '행정 부담(administrative burden)'으로 알려진 현상이다. 이제 AI가 그 부담을 덜어줄 수 있으니, 많은 서비스를 AI 친화적인 방식으로 재설계할 기회가 될 수 있다. 이는 우리가 아직 본격적으로 시작조차 하지 못한 거대한 과제지만, 슈미츠는 이를 낙관할 근거로 본다. "AI가 잘 작동하게 만드는 큰 부분은 좋은 결과물이 어떤 모습인지 구체적으로 그려내는 것이다. ChatGPT로 세금 신고를 해본 사람이라면 도움을 받는 좋은 버전이 존재한다는 걸 안다"고 슈미츠는 말한다. "이것이 '이 절차가 어떻게 보여야 하는지 거의 모든 것을 재고해야 한다'고 말할 순간이 될 수 있다." 주제: AI, 정부, 연구

원문 보기

원문 보기 (영어)

As AI makes it easier to fill forms and file complaints, public services around the world are seeing enormous jumps in applications and other requests. In the United Kingdom, complaints to the housing ombudsman more than doubled since the introduction of ChatGPT, rising from 2600 in 2022 to just over 7,000 last year. The United States’ Consumer Financial Protection Bureau (CFPB) saw 5x growth in complaints over the same period. There were similar jumps in Brazilian judicial petitions and German parliamentary petitions. Researcher Chris Schmitz is tracking this rise as part of a broader trend he called "agentic flooding." In a paper set to be presented next month at the AI Ethics and Society conference, he looks at 84 different cases of potential flooding across 11 jurisdictions, finding broad evidence that AI tools are changing the way people interact with public services. The harder question is what to do in response. While some of the new filings are clearly adversarial, others are the result of legitimate applicants using AI to file claims that would otherwise be abandoned. While some might see the new applications as AI-generated spam, Schmitz sees it as a rare opportunity to remake social services for the AI era. Schmitz looked at services ranging from welfare applications to official judicial appeals, but they all have online services that could be accessed by an AI assistant. (The full dataset is hosted here , for reference). For methodological reasons, Schmitz’s paper stops short of saying AI is directly causing the surge of new applicants. But most of the 84 cases follow the same basic arc, where submissions were roughly flat before 2022, then rose at increasing speed as AI technology diffuses. Crucially, most cases have not seen that growth slow down, suggesting it will likely keep rising for years to come. For Schmitz, it’s easy to see how the increasing skills and availability of AI would drive increased usage. "People are finding out that this is something one can do, and incrementally, it is just getting easier to do it…before it might have been a question of a lot of dragging context together and prompting ChatGPT 3.5 very precisely, it may now be a question of just pasting or taking a photo of a letter with your Claude app and getting a pretty good response in one shot," he said. The jump in volume is similar to what many bug-bounty services also experienced last year, as companies found their inboxes flooded with low-quality reports generated by LLMs . The reports rarely contained significant security issues, but companies were still obligated to vet the reports as they came in, presenting a significant drain on resources. It’s easy to imagine public services facing a similar problem, as they manage five times more applicants with the same budget. But where the bug bounty programs were flooded with worthless submissions, Schmitz says most of the new applications to public services are coming from real people with legitimate claims. "The vast majority of cases we find are people who are entitled to claim for something, claiming for that thing," he told TechCrunch. If those people weren’t claiming the benefits before, it may have been because the work of applying was too forbidding — something known in the policy world as administrative burden . Now that AI can lift that burden, it could be an opportunity to remake many of these services in a more AI-friendly way. It’s a major task, which we mostly haven’t begun to tackle, but Schmitz sees it as reason for optimism. "A big part of making AI go well is being able to detail out what the good version of things looks like. And anyone who's ever used ChatGPT to do the tax return knows that there's a good version here where you're being helped," Schmitz says. "This could be the moment to say, ‘we need to rethink pretty much everything about how this process looks.'" Topics AI , government , research , TC When you purchase through links in our articles, we may earn a small commission . This doesn’t affect our editorial independence. Russell Brandom AI Editor Russell Brandom has been covering the tech industry since 2012, with a focus on platform policy and emerging technologies. He previously worked at The Verge and Rest of World, and has written for Wired, The Awl and MIT's Technology Review. He can be reached at russell.brandom@techcrunch.com or on Signal at 412-401-5489. View Bio October 13 - 15 San Francisco Don't miss out . The startup community will gather to answer a pivotal question: How do you build sustainably in the AI era? REGISTER NOW Most Popular Apple unveils its first foldable, the iPhone Duo Ivan Mehta OpenAI fought dirty on career-making math problem, says NYU mathematician Russell Brandom A secret new Elizabeth Holmes documentary stuns Telluride Connie Loizos TechCrunch Mobility: Tesla Cybercab hits the road — and a snag Kirsten Korosec Hikers rescued after using Google Gemini for planning Anthony Ha Feds launch investigation into Tesla's Cybercab deployment Sean O'Kane Kirsten Korosec Tesla is asking people if they want to buy and run Cybercab fleets Kirsten Korosec

AI 에이전트 공공서비스 행정 부담 AI 정책 연구