메뉴
BL
MIT Tech Review • 4일 전

미국 국경 '가상 장벽'에서 벌어지는 죽음의 실상

IMP
7/10
핵심 요약

MIT Technology Review의 15개월 조사에 따르면, 미국이 수십억 달러를 투자한 AI 국경 감시탑 시스템은 고장, 탐지 실패, 대응 부재 등 체계적 결함으로 인해 이민자들의 죽음을 막지 못했다. 조사팀은 약 4,000개의 유해 발견 지점과 약 600개의 감시탑 위치를 대조해, 정부 카메라가 보는 앞에서 인도적 위기가 벌어지고 있음을 밝혀냈다. 한편 미국 정부는 이 시스템 규모를 3배로 확대하는 데 10억 달러를 추가 투자할 예정이다.

번역된 본문

오늘자 The Download 뉴스레터입니다. 평일마다 기술계에서 벌어지는 일들을 전해드립니다.

미국은 국경 감시에 수십억 달러를 썼다. 왜 사람들이 죽기 전에 구하지 못하는가?

호세 모랄레스 베르날이 2024년 4월, 32번째 생일 전날 미국 국경을 넘었을 때, 그는 사람을 자동으로 탐지하고 추적하는 카메라와 AI를 갖춘 세 개의 감시탑 감시 범위 안에 있었다. 시스템이 의도대로 작동했다면 모랄레스는 체포되었어야 했다. 의료 지원이 필요했다면 요원들은 이를 제공하도록 훈련받았다. 그러나 아무 일도 일어나지 않았다. 오히려 모랄레스는 가장 가까운 감시탑에서 단지 110미터(360피트) 떨어진 곳에서 사망했다. 국경순찰대가 아니라 지역 쓰레기장 근로자들이 그를 가장 먼저 발견했다. 부검 결과 그는 '환경적 노출(악천후 노출)'로 사망한 것으로 결론 났다.

MIT Technology Review의 사상 최초의 이런 조사에 따르면, 모랄레스와 같은 죽음은 놀랍도록 흔하다. 약 4,000개의 인체 유해 발견 지점을 약 600개의 감시탑 정보와 대조한 결과, 국경에서의 인도적 위기는 정부 자신의 카메라가 보는 앞에서 펼쳐지고 있음을 발견했다. '가상 장벽'의 치명적 실패에 대한 전체 조사 기사를 읽어보라. —제임스 오도넬, 아일린 구오

더 알아보기: 15개월간의 조사 과정에서 우리는 미국-멕시코 국경 감시탑 인근 사망자에 대한 최초의 종합 지도를 제작했다. 이 지도를 확인하고, 제작 과정에 대한 기사도 읽어보라. 미국 정부는 가상 장벽 규모를 3배로 늘리는 데 또 10억 달러를 지출하려 하지만, 우리는 고장 난 감시탑, 사람을 탐지하지 못한 알고리즘, 경고에 전혀 대응하지 않은 요원 등 체계적 결함을 발견했다. 국세관세국(CBP)이 이러한 실패를 바로잡기 위해 해야 할 네 가지 제안을 소개한다.

샌디에이고 타임스의 분석에 따르면 2022년 이후 최소 138건의 사례에서 이민자 유해가 인근 감시탑의 공칭 감시 범위 내에서 발견되었다. MIT Technology Review의 별도 분석에 따르면 그중 절반 이상이 감시탑의 시야 안에 있었을 가능성이 높다. 고메스 에르난데스도 그중 한 명이었다. 파트너사인 샌디에이고 타임스가 쓴 그녀의 이야기도 읽어보라. 이 모든 기사는 국경 감시 기술의 실패와 그 인간적 대가를 조사하는 새 시리즈 '카메라 앞에서 죽다(Dying on Camera)'의 일부다.

필독 뉴스

  1. AI 환각이 미군 작전을 거의 유발할 뻔했다. 거짓 보고서가 중국 선박 요격 계획을 촉발했다. (CNN) + 이 사건은 미 국방부가 AI 사용을 가속화하는 와중에 일어났다. (Ars Technica) + AI 전쟁에서 '루프 안의 인간'은 환상에 불과하다. (MIT Technology Review)

  2. 제미니(Gemini)가 구글의 첫 자율 AI 해킹을 수행했다. 구글은 안전장치가 이를 잡았기 때문에 '정렬 실패'가 아니라고 말한다. (WSJ 유료) + AI 에이전트가 목표 달성을 위해 부정행위를 하는 이유. (MIT Technology Review)

  3. 미국이 중국과 함께 AI 안전 경보 시스템을 제안했다. 국가 안보 위험을 초래하는 AI 사고를 표시하는 시스템이다. (AP) + 트럼프와 시진핑은 이번 주 정상회담에서 이 제안을 검토할 예정이다. (NBC News) + AI가 정말로 인류를 멸망시킬 수 있을까? (MIT Technology Review)

  4. 캘리포니아 주지사가 AI '킬 스위치' 개발을 지시했다. 개빈 뉴섬의 AI 안전 행정명령의 일환이다. (NBC News) + 이 명령은 AI 기업에 대한 독립적 감독도 요구한다. (NYT 유료)

  5. 데이터센터가 냉각에 퍼포션 케미컬(PFAS)을 도입하고 있다. PFAS 냉각은 물 사용을 줄일 수 있지만 오염 위험을 높인다. (Fortune) + 미국 규제기관은 데이터센터 냉각용 PFAS 사용을 신속 승인하고 있다. (The Hill)

  6. 이란과 중국이 AI 에이전트를 이용해 여론 조작 캠페인을 자동화했다. 에이전트가 인간의 개입 없이 가짜 계정과 게시물을 만들었다. (NYT 유료) + AI 설득 기술이 선거에 진입했다. (MIT Technology Review)

  7. 트럼프는 우주군(Space Force)을 본뜬 새 AI 차관(AI czar)과 'AI 포스'를 원한다. 하지만 이 새 부대가 무엇을 할지는 밝히지 않았다.

원문 보기
원문 보기 (영어)
This is today's edition of The Download , our weekday newsletter that provides a daily dose of what's going on in the world of technology. The US spent billions on border surveillance. Why can’t it catch people before they die? When José Morales Bernal crossed the border into the US in April 2024, the day before his 32nd birthday, he was within range of three surveillance towers equipped with cameras and AI to automatically detect and track people. If the system worked as intended, Morales should have been apprehended. If he needed medical help, agents were trained to provide it. None of that happened. Instead, Morales died just 360 feet from the closest tower. It was local landfill workers, rather than Border Patrol, who first spotted him. An autopsy concluded that he had died of “environmental exposure.” A first-of-its-kind investigation by MIT Technology Review reveals that deaths like Morales’s are startlingly common. After mapping nearly 4,000 locations where human remains were found against information on nearly 600 surveillance towers, we discovered that a humanitarian crisis at the border has unfolded in view of the government’s own cameras. Read our full investigation into the deadly failings of the virtual wall . —James O'Donnell and Eileen Guo Learn more: As part of our 15-month investigation, we created the first comprehensive map of deaths near US-Mexico border surveillance towers. Take a look at that map , and read about how we made it . The US government is about to spend another $1 billion to triple the virtual wall’s size, yet we found it has systemic flaws: broken towers, algorithms that failed to detect people and agents who simply did not respond to alerts. Here are four ideas for what Customs and Border Protection should do to rectify those failures. An analysis by the Times of San Diego found at least 138 cases since 2022 in which migrants’ remains were found within the nominal range of a nearby surveillance tower. A separate MIT Technology Review analysis estimated that more than half of those people were likely within a tower’s field of view. Gómez Hernández was one of them. Here’s her story, written by our partners at Times of San Diego . All of these stories are part of Dying on Camera , our new series investigating the failures of border surveillance technology and their human cost. The must-reads I’ve combed the internet to find you today’s most fun/important/scary/fascinating stories about technology. 1 An AI hallucination nearly triggered a US military operation A false report prompted plans to intercept a Chinese vessel. ( CNN ) + The incident comes as the Pentagon accelerates its use of AI. ( Ars Technica ) + “Humans in the loop” in AI war is an illusion. ( MIT Technology Review ) 2 Gemini has carried out Google’s first known autonomous AI hack Google says the behavior wasn’t “misaligned” because its safety measures caught it. ( WSJ $) + Here’s why AI agents cheat to reach their goals. ( MIT Technology Review ) 3 The US has proposed an AI safety alert system with China It would flag AI incidents that pose national security risks. ( AP ) + Trump and Xi will consider the proposal at their summit this week. ( NBC News ) + Could AI really kill us all? ( MIT Technology Review ) 4 California’s governor has ordered work on an AI “kill switch” It’s part of Gavin Newsom’s executive order on AI safety. ( NBC News ) + The order also calls for independent oversight of AI companies. ( NYT $) 5 Data centers are turning to forever chemicals for cooling PFAS cooling can reduce water use but raises pollution risks. ( Fortune ) + US regulators are fast-tracking PFAS for data center cooling . ( The Hill ) 6 Iran and China used AI agents to automate influence campaigns The agents created fake accounts and posts with little human input.( NYT $) + AI persuasion has entered elections. ( MIT Technology Review ) 7 Trump wants a new AI czar and an "AI Force" modeled on Space Force But he hasn’t said what the new force would do or where it would sit. ( Axios ) + The tech industry is scratching its head over the proposal. ( Politico ) 8 A cybercrime feud has erupted after a group hijacked a rival dark website The notorious ShinyHunters says it took control of cl0p’s site. ( Reuters $) 9 Gambling giant DraftKings used AI to target “profitable losers” The model scored users on how they responded to promotions. ( NYT $) 10 SpaceX’s next Starship flight will attempt its first orbital mission It will also deploy working Starlink V3 satellites. ( New Scientist $) Quote of the day “There is 0% chance that’s going to be the end of the world.” —Nvidia's Jensen Huang dismisses warnings that AI could wipe out humanity by 2030 in an interview with CBS News . One more thing AI is pushing the limits of the physical world Architecture often assumes a binary between built projects and theoretical ones. What physics allows in actual buildings is vastly different from what architects can imagine and design. But the latest advancements in AI have prompted a surge in the theoretical. That shift was on display at an exhibition at Brooklyn’s Pratt Institute, which brought together works from more than 30 practitioners exploring AI’s experimental, generative and collaborative potential to open up new areas of architectural inquiry. See how architects and designers are using AI to imagine what could be built . —Allison Arieff We can still have nice things A place for comfort, fun, and distraction to brighten up your day. (Got any ideas? Drop me a line .) + A beautiful new cat species is the first to be discovered in a century. + Explore Floor796, a massive, interactive pixel art pop-culture megastructure . + The HTML Review is an annual journal of literature made for the web that offers a refreshing, creative take on what online publishing can be. + Discover how William Blake shattered the boundaries between poetry, painting, and printmaking—and why the art world couldn't understand him . Deep Dive The Download The Download: AI’s self-improvement problem, and what’s driving the heat Plus: OpenAI has paused some model work over safety concerns. By Thomas Macaulay archive page The Download: Google’s AI shake-up and Meta’s rogue model Plus: Meta has become the latest firm to say its AI hacked another company. By Thomas Macaulay archive page The Download: the next big thing in LLMs and how AI academic research is shifting Plus: Nvidia has secured $500 billion from Wall Street for AI infrastructure. By Thomas Macaulay archive page The Download: inside OpenAI’s Hugging Face hack, and a new EV takes on the US Plus: Meta will pay up to $18 billion to settle a landmark child-safety case. By Thomas Macaulay archive page Stay connected Illustration by Rose Wong Get the latest updates from MIT Technology Review Discover special offers, top stories, upcoming events, and more. Enter your email Privacy Policy Thank you for submitting your email! Explore more newsletters It looks like something went wrong. We’re having trouble saving your preferences. Try refreshing this page and updating them one more time. If you continue to get this message, reach out to us at customer-service@technologyreview.com with a list of newsletters you’d like to receive.
AI 감시 국경 기술 AI 안전 AI 에이전트 데이터센터