메뉴
BL
MIT Tech Review • 39일 전

AI 실사용 실태 조사와 Flock의 설계 선택

IMP
7/10
핵심 요약

AI 관측소(AI Observatory) 프로젝트가 주요 AI 기업들의 자체 발표 데이터만으로는 알 수 없는 민감한 사용 행태를 독립적으로 분석해 공개했습니다. 또한 미 경찰 기술 기업 Flock Safety의 자동 번호판 인식 시스템이 범죄 예방이라는 명분 속에서 시민 자유와 어떤 거래를 하고 있는지 점검합니다.

번역된 본문

평일마다 발행되는 뉴스레터 'The Download'의 오늘자 버전입니다. 기술 세계에서 벌어지는 일들을 매일 전해드립니다.

사람들이 실제로 AI를 어떻게 쓰는지 우리는 아직 모른다

Anthropic과 OpenAI 같은 AI 기업들은 사용자가 자사 제품을 어떻게 사용하는지에 대한 보고서를 정기적으로 발표합니다. 하지만 AI 연구자들은 이들이 공개하고 싶은 데이터만 내놓을 뿐, 이를 검증할 독립적인 출처가 없다고 지적합니다. 'AI 관측소(AI Observatory)'라는 새 연구 프로젝트가 이 공백을 메우고자 합니다. 이 프로젝트의 분석에 따르면, 주요 AI 기업 보고서가 업무 중심의 내용만 담는 것과 달리 실제로는 훨씬 더 민감한 사용 행태가 많이 나타났습니다. 연구진은 모델 간 뚜렷한 차이도 발견했습니다. 사람들은 코딩에는 Anthropic을, 사회적 대화와 롤플레이에는 Gemini를, 숙제 도움에는 ChatGPT를 선호하는 경향이 있었습니다. —Eileen Guo

Flock 옹호론자들이 놓치고 있는 것

미국 전역에 약 12만 대의 자동 번호판 인식 카메라 네트워크를 운영하는 것으로 유명한 경찰 기술 거인 Flock Safety가 최근 플랫폼 변경을 발표했습니다. 이번 업데이트는 경찰관이 스토킹 등 불법적·부적절한 목적으로 시스템을 사용하는 것을 막기 위한 것입니다. 이런 와중에 Flock을 옹호하는 논거들이 여럿 제기되었습니다. '이 카메라가 범죄 해결에 도움이 된다면 그렇게 큰 문제인가? 좋은 날엔 유괴범을 잡는 데 도움이 될 수도 있고, 아니면 그저 아무도 보지 않을 내 차 사진을 찍는 것뿐 아닌가'라는 식입니다. 하지만 이런 주장은 더 중요한 질문을 건너뜁니다. Flock은 어떤 방식의 범죄 대응 시스템을 만들기를 선택했는가? 이 네트워크가 지금처럼 작동하는 이유는 어떤 정보를 수집하고, 누가 검색할 수 있으며, 얼마나 오래 보관하고, 얼마나 널리 공유할지에 대한 설계상 결정 때문입니다. 그 결정들이 보안과 시민 자유 사이의 거래 조건을 정해놓은 것입니다. 더 좁게 설계된 Flock 시스템이 어떤 모습일 수 있을지 확인해 보세요. —James O'Donnell

이 기사는 매주 월요일 발행되는 AI 주간 뉴스레터 'The Algorithm'에서 왔습니다.

필수 읽을거리

  1. 오늘 시작된 아동 프라이버시 재판이 Meta를 영원히 바꿀 수 있다. 미국 절반이 넘는 주가 소송에 참여했다. (CNBC) 이들 주는 Meta가 중독적인 소셜 네트워크를 의도적으로 설계했다고 주장한다. (Guardian) '좋아요' 수 표시와 무한 스크롤 폐지 등의 변화를 요구한다. (BBC) 네 개 주는 1조 4천억 달러의 손해배상을 청구했다. (WP $)

  2. 엔비디아가 OpenAI의 오하이오 데이터 센터에 최대 1,050억 달러 투입을 약속했다. 최대 5,000억 달러가 들 것으로 예상되며 2028년 가동 목표다. (CNBC) OpenAI는 8기가와트 규모 부지를 20년간 임차한다. (NYT $) 가상 발전소가 데이터 센터에 전력을 공급하는 방법. (MIT Technology Review)

  3. 테슬라가 이달 오스틴에서 '사이버캡' 로보택시 운행을 시작할 예정이다. 공공 도로에서 직원 탑승 운행으로 시작될 수 있다. (Information $) 이 전기차들은 며칠 뒤 테슬라의 로보택시 서비스에 투입된다. (Reuters $) 테슬라 세미 트럭도 EV 업계에 큰 의미가 될 수 있다. (MIT Technology Review)

  4. 유닛리가 인간보다 빠르다고 주장하는 휴머노이드 로봇을 공개했다. 새 로봇 '슈퍼맨'은 1초에 12.66미터를 이동할 수 있다. (Gizmodo) 이 회사는 수요일 중국에서 IPO를 앞두고 있다. (Reuters $) 미국 로봇 스타트업들은 새로운 중국 규제로 어려움을 겪고 있다. (Rest of World)

  5. 추적된 희귀 도서 배송이 아마존의 AI 학습 작업으로 이어졌다. 아마존은 해당 시설에서 책을 스캔한 뒤 폐기하며 AI를 학습시킨다. (404 Media $) 희귀 도서는 독특하고 고품질의 학습 데이터를 제공한다. (Ars Technica) 하지만 이를 AI에 먹이면 문화적 공백이 생길 위험이 있다. (New Scientist $)

  6. 중국은 자국 데이터가 세계 AI의 지식을 형성하기를 원한다. 베이징은 '중국 주류 가치'를 반영한 데이터셋을 배포하고 있다. (NYT $) 중국 오픈소스 AI의 미래는? (MIT Technology Review)

  7. 한 AI 스튜디오가 성인 콘텐츠 분야의 HBO가 되기를 원한다.

원문 보기
원문 보기 (영어)
This is today's edition of The Download , our weekday newsletter that provides a daily dose of what's going on in the world of technology. We still don’t know how people are really using AI AI companies like Anthropic and OpenAI regularly publish reports on how people are using their products. But they only release the data they want us to see, AI researchers say, and there’s no independent source to corroborate it. A new research project called the AI Observatory aims to fill in the gap. Its analysis shows many more sensitive behaviors than are captured in reports from major AI companies, which focus more on work than on personal use. The researchers also found significant differences between models. People were more likely to turn to Anthropic for coding, Gemini for social and roleplay uses, and ChatGPT for homework assistance. Here’s what the AI Observatory reveals about how people use AI . —Eileen Guo What Flock’s defenders are missing Flock Safety, the police-tech giant known for its network of some 120,000 automatic license plate readers around the US, recently announced changes to its platform. The updates are meant to prevent officers from using it for illegal or illegitimate purposes, including stalking. Amid all this, there have recently been several arguments defending Flock: If these cameras help solve crime, is it as big a deal? On a good day they might help catch a kidnapper, and if not, they’re simply snapping pictures of my car that nobody will bother to look at. But this all skips over a more important question: What kind of crime-fighting system has Flock chosen to build? Its network works the way it does because of decisions about what information to collect, who can search it, how long to keep it, and how widely to share it. Those decisions set the terms of the bargain between security and civil liberties. Find out what a narrower Flock system could look like . —James O'Donnell This story is from The Algorithm, our weekly AI newsletter. Sign up to receive it in your inbox every Monday. The must-reads I’ve combed the internet to find you today’s most fun/important/scary/fascinating stories about technology. 1 A child privacy trial starting today could change Meta forever More than half of the states in the US have joined the lawsuit. ( CNBC ) + They say Meta deliberately designed addictive social networks. ( Guardian ) + And want changes including ending "like" counts and infinite scroll. ( BBC ) + Four of them are demanding $1.4 trillion in damages. ( WP $) 2 Nvidia has committed up to $105 billion to OpenAI’s Ohio data center It's slated to cost up to $500 billion and come online in 2028. ( CNBC ) + OpenAI will lease the eight-gigawatt site for 20 years. ( NYT $) + How virtual power plants could provide energy for data centers. ( MIT Technology Review ) 3 Tesla is set to launch Cybercab robotaxi rides in Austin this month The rollout could begin with employee rides on public roads. ( Information $) + The EVs will then enter Tesla’s robotaxi service ‌a few days later. ( Reuters $) + The Tesla Semi could also be a big deal for EVs. ( MIT Technology Review ) 4 Unitree has unveiled a humanoid it claims is faster than any human The new “Superman” robot can cover 12.66 meters in a second. ( Gizmodo ) + It arrives ahead of the Chinese company’s IPO on Wednesday. ( Reuters $) + US robot startups are struggling with new China restrictions. ( Rest of World ) 5 A tracked rare book shipment led to Amazon’s AI training operation Amazon scans and destroys books at the facility to train AI. ( 404 Media $) + Rare books provide unique, high-quality training data. ( Ars Technica ) + But feeding them to AI risks creating a cultural void. ( New Scientist $) 6 China wants its data to shape what the world’s AI knows Beijing is distributing datasets reflecting “mainstream Chinese values.” ( NYT $) + What’s next for Chinese open-source AI? ( MIT Technology Review ) 7 An AI studio wants to become the HBO of adult content Rogue’s AI video tool produces uncensored adult content. ( Wired $) + AI is creating new risks for porn actors. ( MIT Technology Review ) 8 Women are being left behind in the AI jobs boom They accounted for just 26% of new AI hires last year. ( Axios ) 9 AI has revealed new clues to how breast cancer progresses The findings could help predict how tumours will develop. ( Independent ) 10 An unearthed video suggests Apple is adding cameras to AirPods It shows AirPods identifying a book using visual intelligence. ( Gizmodo ) Quote of the day “ It is a black hole; it absorbs energy and personality and then re-presents it as spectacle.” —Writer Carmen Hermosillo made a prescient observation about life online in a 1994 essay, quoted by the Guardian in a story on warnings we ignored about the digital age. One More Thing Is this the electric grid of the future? When a slow-moving blizzard hit Nebraska, nearly 10% of Lincoln Electric System’s 150,000 customers lost power. CEO Emeka Anyanwu watched the outage map as crews battled the storm. Yet a spring blizzard like this is the least of his problems. What will happen soon—not only at Lincoln Electric but for all electric utilities—is a challenge of a different order. In the industry, they call it the “trilemma”: the seemingly intractable problem of balancing reliability, affordability, and sustainability. Electricity demand is surging, driven in part by AI, while the industry attempts to transition from power generated with fossil fuels to power generated from renewable sources like solar and wind. Lincoln Electric offers a lens through which to examine those challenges. Explore the challenges of building the grid of the future . —Andrew Blum We can still have nice things A place for comfort, fun, and distraction to brighten up your day. (Got any ideas? Drop me a line .) + Chinese engineers have built the world's first true all-material printer . + Discover how you truly feel about artificial intelligence by completing the AI Compass quiz . + Get a sense of the space’s extraordinary size with this interactive scale of the universe tool . + Enjoy a fresh look at “Breaking Bad” in this modified scene showing Walter White’s hat growing proportionally to his ego. Deep Dive The Download The Download: Claude’s inner workings and OpenAI’s “super app” Plus: OpenAI has unveiled its long-awaited "super app." By Thomas Macaulay archive page The Download: Claude’s inner workings, and the future of world models Plus: New York has become the first state to enact a data center moratorium. By Thomas Macaulay archive page The Download: the future of chipmaking and Anthropic’s government clash Plus: Meta is pausing an AI training program that tracks workers’ keystrokes. By Thomas Macaulay archive page The Download: Anthropic launches Claude Science, and California’s carbon manure math Plus: The US has lifted restrictions on Anthropic’s Mythos and Fable models. By Thomas Macaulay archive page Stay connected Illustration by Rose Wong Get the latest updates from MIT Technology Review Discover special offers, top stories, upcoming events, and more. Enter your email Privacy Policy Thank you for submitting your email! Explore more newsletters It looks like something went wrong. We’re having trouble saving your preferences. Try refreshing this page and updating them one more time. If you continue to get this message, reach out to us at customer-service@technologyreview.com with a list of newsletters you’d like to receive.