MIT Tech Review • 37일 전

AI 사기의 진화와 의료 AI의 불확실성

IMP

8/10

핵심 요약

생성형 AI가 정교한 피싱과 딥페이크 등 사이버 범죄를 더 빠르고 쉽게 만들고 있어 기업들의 대응이 어려워지고 있습니다. 또한, 의료 현장에 다양한 AI 도구가 도입되고 있으나 실제 환자의 건강 결과 개선으로 이어지는지에 대한 검증은 아직 부족한 상태입니다. 이 외에도 딥시크(DeepSeek)의 새로운 오픈소스 모델 공개, 무료 고급 AI 서비스의 유료화 전환, 미-중 간 AI 기술 도난 갈등 등 기술계의 주요 이슈가 맞물리고 있습니다.

번역된 본문

평일 기술 뉴스레터 'The Download' 오늘의 에디션입니다.

AI 기반 사기의 새로운 시대 2022년 말 ChatGPT가 출시되었을 때, 생성형 AI가 얼마나 쉽게 인간과 같은 텍스트를 만들어낼 수 있는지 보여주었습니다. 이는 사이버 범죄자들의 빠른 눈길을 끌었고, 그들은 대규모 언어 모델(LLM)을 사용하여 악성 이메일을 작성하기 시작했습니다. 그 이후로 그들은 강력해진 피싱(phishing)과 초현실적인 딥페이크(deepfake)부터 자동화된 취약점 스캔에 이르기까지 모든 것에 AI를 채택하고 있습니다. 이제 많은 조직이 엄청난 양의 사이버 공격에 대처하는 데 어려움을 겪고 있습니다. AI는 공격을 더 빠르고, 저렴하며, 수행하기 쉽게 만들고 있으며, 더 많은 사이버 범죄자가 이러한 도구를 채택하고 그 기능이 향상됨에 따라 이 문제는 더욱 악화될 것입니다. AI가 사이버 범죄를 어떻게 재편하고 있는지에 대한 전체 기사를 읽어보세요. —Rhiannon Williams

'강력해진 사기(Supercharged scams)'는 현재 AI 분야에서 정말로 주목할 만한 10가지를 안내하는 필수 가이드인 '10 Things That Matter in AI Right Now' 중 하나입니다. 구독자는 MIT Technology Review의 AI 기자 Grace Huckins와 수석 에디터 Amy Nordrum, Niall Firth의 분석과 함께 리스트에 있는 기술 및 트렌드를 공개하는 독점 원탁회의를 시청할 수 있습니다.

의료 AI는 여기에 있습니다. 실제로 환자에게 도움이 되는지는 미지수 의사들은 기록(Note-taking)을 돕기 위해 AI를 사용하고 있습니다. AI 기반 도구는 환자 기록을 자세히 검토하여 특정 지원이나 치료가 필요할 수 있는 사람들을 표시합니다. 또한 의료 검사 결과와 엑스레이를 해석하는 데 사용됩니다. 점점 더 많은 연구에 따르면 이러한 많은 도구가 정확한 결과를 제공할 수 있다고 합니다. 하지만 여기에는 더 큰 질문이 있습니다. 이를 사용하는 것이 실제로 환자의 더 나은 건강 결과로 이어지는가? 우리는 아직 좋은 답을 가지고 있지 않습니다. 그 이유는 다음과 같습니다. —Jessica Hamzelou

이 기사는 건강과 생명공학 분야의 최신 소식을 전해주는 주간 뉴스레터 'The Checkup'에서 발췌한 것입니다. 매주 목요일 여러분의 받은편지함으로 받아보려면 가입하세요.

오늘의 필독 뉴스 인터넷을 검색하여 오늘 가장 재미있고/중요하고/무섭고/매혹적인 기술 관련 이야기를 모았습니다.

딥시크(DeepSeek)가 기다려온 새로운 AI 모델을 공개했습니다. 이 중국 기업은 방금 DeepSeek-V4의 프리뷰 버전을 출시했습니다. (CNN) + V4가 가장 강력한 오픈소스 플랫폼이라고 밝혔습니다. (Bloomberg $) + 그리고 OpenAI와 DeepMind의 최고 수준 폐쇄형 소스 모델과 경쟁합니다. (SCMP) + 이 모델은 화웨이 칩 기술에 맞게 조정되었습니다. (Reuters $)
더 많은 국가가 아동의 소셜 미디어 접근을 제한하고 있습니다. 노르웨이이 최신 접근 금지 조치를 시행할 예정입니다. (Reuters $) + 필리핀도 곧 뒤를 따를 수 있습니다. (Bloomberg $) + 미국인들은 학교에서 AI를 퇴출시키기 위해 노력하고 있습니다. (The New Yorker)
긴장이 고조됨에 따라 미국은 중국을 대규모 AI 도면 절도 혐의로 고발했습니다. 백악관 메모는 중국 기업이 미국 모델을 악용하고 있다고 주장합니다. (BBC) + 베이징은 이러한 혐의를 '비방'이라고 부릅니다. (Ars Technica)
OpenAI는 새로운 모델을 광범위하게 공개하며 Anthropic과 차별화했습니다. 사이버 보안 우려에도 불구하고 모든 ChatGPT 사용자에게 GPT-5.5를 공개합니다. (NYT $) + OpenAI는 새 모델이 코딩 및 효율성 면에서 더 뛰어나다고 말합니다. (The Verge)
Meta는 AI 지출을 상쇄하기 위해 직원의 10%를 감원할 계획입니다. 약 8,000명의 해고가 5월 20일에 발표될 예정입니다. (QZ) + 반-AI 시위가 커지고 있습니다. (MIT Technology Review)
팔란티어(Palantir)가 직원들의 반발에 직면했습니다. 이민세관단속국(ICE) 및 트럼프 행정부와의 협력 때문입니다. (Wired $) + 감시 기술이 프라이버시를 위한 싸움을 재편하고 있습니다. (MIT Technology Review)
고급 AI에 대한 무료 접근 시대가 막을 내리고 있습니다. AI 연구소들은 수익을 내기 시작해야 하는 엄청난 압박을 받고 있습니다. (The Verge)
일론 머스크와 샘 알트만의 불화가 법정으로 향하고 있습니다. 이 사건은 이미 여러 좋지 않은 비밀을 밝혀냈습니다. (WP $)
새로운 운동은 사람들에게 한 달 동안 스마트폰을 버리도록 장려하고 있습니다. '한 달 오프라인(Month Offline)'은 스마트폰을 위한 금주 챌린지(Dry January)와 같습니다. (The Atlantic)
Spotify가 지난 20년 동안 가장 많이 스트리밍된 음악을 공개했습니다. 테일러 스위프트, 배드 버니, 위켄드(The Weeknd)가 포함되어 있습니다. (Gizmodo)

원문 보기

원문 보기 (영어)

This is today's edition of The Download , our weekday newsletter that provides a daily dose of what's going on in the world of technology. We’re in a new era of AI-driven scams When ChatGPT was released in late 2022, it showed how easily generative AI could create human-like text. This quickly caught the eye of cybercriminals, who began using LLMs to compose malicious emails. Since then, they’ve adopted AI for everything from turbocharged phishing and hyperrealistic deepfakes to automated vulnerability scans. Many organizations are now struggling to cope with the sheer volume of cyberattacks. AI is making them faster, cheaper, and easier to carry out, a problem set to worsen as more cybercriminals adopt these tools—and their capabilities improve. Read the full story on how AI is reshaping cybercrime . —Rhiannon Williams “Supercharged scams” is one of the 10 Things That Matter in AI Right Now , our essential guide to what’s really worth your attention in the field. Subscribers can watch an exclusive roundtable unveiling the technologies and trends on the list, with analysis from MIT Technology Review’s AI reporter Grace Huckins and executive editors Amy Nordrum and Niall Firth. Healthcare AI is here. We don’t know if it actually helps patients. Doctors are using AI to help them with notetaking. AI-based tools are trawling through patient records, flagging people who may require certain support or treatments. They are also used to interpret medical exam results and X-rays. A growing number of studies suggest that many of these tools can deliver accurate results. But there’s a bigger question here: Does using them actually translate into better health outcomes for patients? We don’t yet have a good answer— here’s why . —Jessica Hamzelou The story is from The Checkup , our weekly newsletter that gives you the latest from the worlds of health and biotech. Sign up to receive it in your inbox every Thursday. The must-reads I’ve combed the internet to find you today’s most fun/important/scary/fascinating stories about technology. 1 DeepSeek has unveiled its long-awaited new AI model The Chinese company has just launched preview versions of DeepSeek-V4. ( CNN ) +It says V4 is the most powerful open-source platform. ( Bloomberg $) + And rivals top closed-source models from OpenAI and DeepMind. ( SCMP ) + The model is adapted for Huawei chip technology. ( Reuters $) 2 More countries are curbing children's social media access Norway is set to enforce the latest ban. ( Reuters $) + The Philippines could follow soon. ( Bloomberg $) + Americans are pushing to get AI out of schools. ( The New Yorker ) 3 The US has accused China of mass AI theft as tensions rise A White House memo claims Chinese firms are exploiting American models . ( BBC ) + Beijing calls the accusations “slander.” ( Ars Technica ) 4 OpenAI set itself apart from Anthropic by widely releasing its new model It’s releasing GPT-5.5 to all ChatGPT users, despite cybersecurity concerns . ( NYT $) + OpenAI says the new model is better at coding and more efficient. ( The Verge ) 5 Meta is cutting 10% of jobs to offset AI spending Roughly 8,000 layoffs are set to be announced on May 20. ( QZ ) + Anti-AI protests are growing. ( MIT Technology Review ) 6 Palantir is facing a backlash from employees Thanks to its work with ICE and the Trump administration. ( Wired $) + Surveillance tech is reshaping the fight for privacy. ( MIT Technology Review ) 7 The era of free access to advanced AI is coming to an end AI labs are under mounting pressure to start turning profits. ( The Verge ) 8 Elon Musk's feud with Sam Altman is heading to court The case has already revealed several unflattering secrets. ( WP $) 9 A new movement is encouraging people to ditch their smartphones for a month “Month Offline” is like a Dry January for smartphones. ( The Atlantic ) 10 Spotify has revealed its most-streamed music of the last 20 years Featuring Taylor Swift, Bad Bunny, and The Weeknd. ( Gizmodo ) Quote of the day “We want a childhood where children get to be children. Play, friendships, and everyday life must not be taken over by algorithms and screens.” —Norwegian Prime Minister Jonas Gahr Store announces age restrictions for social media. One More Thing The search for extraterrestrial life is targeting Jupiter’s icy moon Europa As astronomers have discovered more about Europa over the past few decades, Jupiter’s fourth-largest moon has excited planetary scientists interested in the geophysics of alien worlds. All that water and energy—and hints of elements essential for building organic molecules —point to an extraordinary possibility. In the depths of its ocean, or perhaps crowded in subsurface lakes or below icy surface vents, Jupiter’s big, bright moon could host life. To find further evidence, NASA is now searching for signs of alien existence on Europa. Read the full story on the mission . —Stephen Ornes We can still have nice things A place for comfort, fun and distraction to brighten up your day. (Got any ideas? Drop me a line .) + Here’s a fun look at the secret collaborations of pop history . + Meet the mannequins showing how the "ideal" body has evolved. + A photographer has cataloged all 12,795 objects in her home into an archive of a life. + Slime molds are unexpectedly beautiful when viewed through these high-detail macro shots. Deep Dive The Download The Download: 10 things that matter in AI, plus Anthropic’s plan to sue the Pentagon Plus: The US DoD has been secretly testing OpenAI models for years By Thomas Macaulay archive page The Download: Quantum computing for health, and why the world doesn’t recycle more nuclear waste This is today’s edition of The Download, our weekday newsletter that provides a daily dose of what’s going on in the world of technology. A $5 million prize awaits proof that quantum computers can solve health care problems In a laboratory on the outskirts of Oxford, a quantum computer built from atoms and light awaits… By Thomas Macaulay archive page The Download: protesting AI, and what’s floating in space Plus: The US government wanted to use Anthropic's AI to analyze bulk data collected from Americans By Rhiannon Williams archive page The Download: how AI is used for military targeting, and the Pentagon’s war on Claude Plus: an ex-DOGE staffer has been accused of stealing social security data. By Thomas Macaulay archive page Stay connected Illustration by Rose Wong Get the latest updates from MIT Technology Review Discover special offers, top stories, upcoming events, and more. Enter your email Privacy Policy Thank you for submitting your email! Explore more newsletters It looks like something went wrong. We’re having trouble saving your preferences. Try refreshing this page and updating them one more time. If you continue to get this message, reach out to us at customer-service@technologyreview.com with a list of newsletters you’d like to receive.

사이버 보안 의료 AI 생성형 AI 딥시크(DeepSeek) AI 정책