MIT Tech Review • 16일 전

AI 딥페이크의 또 다른 피해자들과 챗봇 개인정보 유출

IMP

8/10

핵심 요약

최근 AI 기술이 무분별하게 학습되면서 성인 콘텐츠 제작자들의 신체가 도용되어 본인 동의 없이 딥페이크 음란물이 제작되는 심각한 문제가 발생하고 있습니다. 또한 구글 제미나이(Gemini) 등 생성형 AI 챗봇이 학습 데이터에 포함된 일반인의 실제 전화번호를 무단으로 제공하는 프라이버시 침해 사례가 속출하고 있어, AI 개발 및 서비스 제공 측면에서 데이터 보안 및 윤리적 가이드라인 마련의 시급성을 보여줍니다.

번역된 본문

오늘자 'The Download'에 오신 것을 환영합니다. 기술 세계에서 일어나는 일들을 매일 전해드리는 평일 뉴스레터입니다.

딥페이크 포르노로 도용당한 '나의 신체'의 충격 제니퍼(Jennifer)가 2023년에 연구원 자리를 얻었을 때, 그녀는 새로 찍은 자신의 프로필 사진을 얼굴 인식 프로그램에 돌려보았습니다. 10년도 더 전에 촬영했던 본인의 포르노 비디오가 검색되는지 확인해 보고 싶었기 때문입니다. 프로그램은 과거의 영상을 제대로 찾아냈지만, 그녀가 한 번도 본 적 없는 영상도 함께 보여주었습니다. 바로 그녀의 과거 영상 위에 다른 사람의 얼굴이 합성되어 있는 딥페이크 영상이었습니다.

성적 대상화된 딥페이크에 대한 논의는 주로 동의 없이 얼굴이 노출 콘텐츠에 삽입된 피해자들에게 집중되는 경향이 있습니다. 하지만 그 얼굴이 합성된 '신체'의 원래 주인이라는 또 다른 피해 그룹은 종종 간과됩니다. 성인 콘텐츠 제작자들은 AI 시스템이 자신들의 작품을 학습 데이터로 활용해, 자신들의 초상을 무단으로 복제하고 전혀 동의하지 않은 노골적인 콘텐츠를 생성하고 있다고 지적합니다. 이는 그들에게 제공될 법적 보호나 통제권 없이 일어나고 있습니다. 그들의 권리, 생계, 자신의 신체에 대한 소유권에 닥친 위협에 대한 전체 기사를 읽어보세요. —제시카 클라인(Jessica Klein) 이 기사는 MIT 테크놀로지 리뷰(MIT Technology Review)의 가장 중요하고 야심 찬 보도를 다루는 'The Big Story' 시리즈의 일부입니다. 나머지 기사들은 여기서 읽어보실 수 있습니다.

AI 챗봇이 사람들의 실제 전화번호를 무단 제공하고 있다 생성형 AI가 사람들의 개인 연락처를 무방비하게 노출하고 있으며, 이를 막을 마땅한 방법이 없습니다. 한 소프트웨어 개발자는 구글의 AI 제미나이(Gemini)가 자신의 번호를 제공한 이후, 도움을 요청하는 왓츠앱(WhatsApp) 메시지를 받기 시작했습니다. 한 대학 연구원은 챗봇을 통해 동료의 개인 휴대전화 번호를 알아냈습니다. 또 다른 레딧(Reddit) 사용자는 제미나이가 변호사를 찾는 사람들의 전화를 자신의 휴대전화로 우회시켜 끊임없이 폭주하게 만들었다고 주장했습니다.

전문가들은 이러한 프라이버시 침해가 AI 학습 데이터에 포함된 개인 식별 정보에서 비롯된다고 분석합니다. 이제 챗봇이 그 정보를 훨씬 더 쉽게 찾아내고 제공할 수 있게 된 셈입니다. 왜 이러한 정보 유출이 증가하고 있으며, 피해자들이 이를 막기 위해 할 수 있는 일이 거의 없는지에 대한 이유를 확인해 보세요. —아일린 구오(Eileen Guo)

테슬라 세미(Tesla Semi), 전기 트럭 업계의 큰 변화를 가져올 수 있어 일론 머스크(Elon Musk)가 처음 테슬라 세미를 공개한 지 거의 10년이 지난 후, 이 전기 트럭이 마침내 생산 라인을 굴러 나오고 있습니다. 이는 배터리 구동 화물 운송의 획기적인 전환점이 될 수 있습니다. 대형 트럭은 도로 운송 오염의 엄청난 비중을 차지하지만, 전기 대안은 높은 가격, 제한된 주행 거리, 충전 문제로 어려움을 겪어 왔습니다. 테슬라는 세미 모델이 이러한 문제를 극복할 수 있을 것이라고 내걸고 있습니다. 이 트럭은 한 번 충전으로 최대 480마일(약 772km)을 주행할 수 있으며, 경쟁하는 많은 전기 모델보다 비용이 훨씬 저렴한 것으로 알려졌습니다. 테슬라 세미가 어떻게 전기 트럭 산업에 중요한 활력을 불어넣을 수 있는지 확인해 보세요. —케이시 크라운하트(Casey Crownhart) 이 기사는 MIT 테크놀로지 리뷰의 주간 기후 뉴스레터 'The Spark'에서 가져왔습니다. 매주 수요일 받아보시려면 여기에서 구독하세요.

필수 읽기 자료 오늘 인터넷에서 가장 재미있고, 중요하고, 무섭고, 흥미로운 기술 관련 이야기를 찾아보았습니다.

미국, 엔비디아(Nvidia) 칩 10개 중국 기업 판매 승인 알리바바, 텐센트, 바이트댄스 등이 H200 칩을 구매할 수 있도록 승인을 받았습니다. (Reuters $) + 이 판매로 인해 미국은 매출의 25%를 수령할 예정입니다. (Engadget) + 하지만 베이징은 자국 기업들이 자체 개발한 국산 칩을 우선적으로 사용하도록 원하고 있습니다. (Nikkei Asia) + 엔비디아의 젠슨 황(Jensen Huang) 최고경영자가 백악관 대표단과 함께 중국을 방문 중입니다. (CNBC)
베이징의 AI 자립 추진, 미국의 영향력 약화시켜 이는 베이징 회담 기간 동안 중국이 미국의 압력에 맞서는 데 도움을 주고 있습니다. (NYT $) + 중국은 오픈소스에 큰 베팅을 했습니다. (MIT Technology Review) + 트럼프-시 진핑 회담에서 기술 부문의 쟁점은 무엇인지 확인해 보세요. (Rest of World)
AI가 개발자들의 '뇌를 썩게 한다' 개발자들이 예전에 가지고 있던 직무 수행 능력을 잃어가고 있습니다. (404 Media) + AI에 대한 대중적 반발이 거세지고 있습니다. (MIT Technology Review) + AI에 대한 우리의 기대치를 재설정할 때입니다. (MIT Technology Review)
샘 알트만(Sam Altman), 오픈AI(OpenAI)와 거래한 기업들에 20억 달러 이상 투자 이러한 연결 고리는 이해충돌 혐의를 불러일으켰습니다. (The Times $) + 공화당은 알트만의 비자금과

원문 보기

원문 보기 (영어)

This is today's edition of The Download , our weekday newsletter that provides a daily dose of what's going on in the world of technology. The shock of seeing your body used in deepfake porn When Jennifer got a research job in 2023, she ran her new professional headshot through a facial recognition program. She wanted to see whether it would pull up the porn videos she’d made more than a decade earlier. It did, but it also surfaced something she’d never seen before: one of her old videos, now featuring someone else’s face on her body. Conversations about sexualized deepfakes usually focus on the people whose faces are inserted into explicit content without consent. But another group often gets ignored: the people whose bodies those faces are attached to. Adult content creators say AI systems are training on their work, cloning their likenesses, and generating explicit content they never agreed to make, all with little legal protection or control. Read the full story on the threat to their rights, livelihoods, and ownership of their own bodies . —Jessica Klein This story is part of our The Big Story series, the home for MIT Technology Review’s most important, ambitious reporting. You can read the rest here . AI chatbots are giving out people’s real phone numbers Generative AI is exposing people’s personal contact information—and there’s no easy way to stop it. A software developer started receiving WhatsApp messages asking for help after Gemini surfaced his number. A university researcher got the chatbot to reveal a colleague’s private cell number. A Reddit user says Gemini sent a stream of callers looking for lawyers to his phone. Experts believe these privacy lapses stem from personally identifiable information in AI training data. Chatbots may now be making that information dramatically easier to find. Find out why these breaches are growing—and why there’s little that victims can do to stop them . —Eileen Guo The Tesla Semi could be a big deal for electric trucking Nearly a decade after Elon Musk first unveiled the Tesla Semi, the electric truck is finally rolling off the production line. It could be a breakout moment for battery-powered freight. Semitrucks produce an outsized share of road transport pollution, while electric alternatives have struggled with high prices, limited range, and charging challenges. Tesla is betting the Semi can overcome those problems. The truck reportedly travels up to 480 miles on a single charge and costs far less than many competing electric models. Here’s how the Tesla Semi could give electric trucking a vital boost . —Casey Crownhart This article is from The Spark, MIT Technology Review’s weekly climate newsletter. To receive it in your inbox every Wednesday, sign up here . The must-reads I’ve combed the internet to find you today’s most fun/important/scary/fascinating stories about technology. 1 The US has approved Nvidia chip sales to 10 Chinese firms Alibaba, Tencent, and ByteDance are among those cleared to buy H200 chips. ( Reuters $) + The US will receive 25% of the revenue from the sales. ( Engadget ) + But Beijing wants domestic firms to prioritize homegrown chips. ( Nikkei Asia ) + Nvidia CEO Jensen Huang is in China with a White House delegation . ( CNBC ) 2 Beijing’s push for AI independence is weakening US leverage It's allowing China to resist pressure during the Beijing talks. ( NYT $) + The country has made a big bet on open-source . ( MIT Technology Review ) + Here’s what’s at stake for tech at the Trump-Xi meeting. ( Rest of World ) 3 AI is “rotting the brains” of developers They’re losing their previous abilities to do their jobs. ( 404 Media ) + A populist backlash is building against AI. ( MIT Technology Review ) + It’s time to reset our expectations about AI. ( MIT Technology Review ) 4 Sam Altman has over $2 billion in companies that have dealt with OpenAI The ties have triggered accusations of conflicts of interest. ( The Times $) + The GOP is scrutinizing Altman’s business dealings. ( WSJ $) 5 Andreessen Horowitz has become the top political donor in the US A16z contributed $115.5 million to the midterm elections. ( NYT ) + AI lobbying has reached a fever pitch. ( NYT $) 6 Microsoft feared being too dependent on OpenAI CEO Satya Nadella was worried about OpenAI supplanting his company. ( CNBC ) + Microsoft is eyeing startup deals for life after OpenAI. ( Reuters $) 7 AI systems are forecasting wars and regime collapse One estimates a 20% chance of regime change in Iran by 2026. ( Economist $) + AI has turned the Iran conflict into theater. ( MIT Technology Review ) 8 Anthropic says a model behaved badly due to training on dystopian sci-fi Training on more positive stories could help. ( Ars Technica ) 9 Data centers now consume 6% of the electricity in the US and UK AI’s global energy consumption is up 15% globally in two years. ( Guardian ) 10 NASA has rescued Curiosity after its drill got stuck on Mars The agency has just revealed how it freed the rover. ( Wired $) Quote of the day “Musk loves to be glazed, and this person is the doughnut factory.” —Joan Donovan, assistant professor of journalism and emerging media studies at Boston University, tells the Washington Post how Elon Musk has consistently amplified one anonymous X account. One More Thing Inside the messy ethics of making war with machines In a near-future war—one that might begin tomorrow—a sniper’s computer vision system flags a potential target. Just over the horizon, a chatbot advises a commander to order an artillery strike. In both cases, an AI system recommends pulling the trigger while a human still has the final say. But how much of the decision is really theirs? When, if ever, is it ethical for that decision to kill? And who’s to blame when something goes wrong? This is how AI is reshaping decision-making on the battlefield . —Arthur Holland Michel We can still have nice things A place for comfort, fun, and distraction to brighten up your day. (Got any ideas? Drop me a line .) + The secrets behind how Shazam works have been revealed. + For the first time in a decade, a rare "Cloud Jaguar" was caught on camera. + Explore our galaxy from your screen at this year’s Milky Way Photographer of the Year collection. + If you want a game over with style, a funeral company is offering Mario, Luigi, Peach, and even Yoshi-branded coffins . Deep Dive The Download The Download: DeepSeek’s latest AI breakthrough, and the race to build world models Plus: China has blocked Meta’s $2 billion acquisition of AI startup Manus. By Thomas Macaulay archive page The Download: introducing the 10 Things That Matter in AI Right Now Plus: An unauthorized group has reportedly accessed Anthropic’s Mythos. By Thomas Macaulay archive page The Download: supercharged scams and studying AI healthcare Plus: DeepSeek has unveiled its long-awaited new AI model. By Thomas Macaulay archive page The Download: Quantum computing for health, and why the world doesn’t recycle more nuclear waste This is today’s edition of The Download, our weekday newsletter that provides a daily dose of what’s going on in the world of technology. A $5 million prize awaits proof that quantum computers can solve health care problems In a laboratory on the outskirts of Oxford, a quantum computer built from atoms and light awaits… By Thomas Macaulay archive page Stay connected Illustration by Rose Wong Get the latest updates from MIT Technology Review Discover special offers, top stories, upcoming events, and more. Enter your email Privacy Policy Thank you for submitting your email! Explore more newsletters It looks like something went wrong. We’re having trouble saving your preferences. Try refreshing this page and updating them one more time. If you continue to get this message, reach out to us at customer-service@technologyreview.com with a list of newsletters you’d like to receive.