TechCrunch AI • 56일 전

구글, AI 딥페이크 사기 방지 통화 위조 탐지 기능 공개

IMP

8/10

핵심 요약

구글이 안드로이드 기본 통화 앱에 AI 딥페이크를 이용한 사기 및 지인 사칭을 탐지하는 기능을 전격 도입했습니다. 기기 간의 자동화된 디지털 확인 과정을 통해 발신자의 신원을 실시간으로 검증하여 위험 시 즉시 통화를 끊으라는 경고를 제공합니다.

번역된 본문

구글은 화요일(현지 시간)에 AI 딥페이크(Deepfake) 사칭 사기로부터 사용자를 보호하기 위해 안드로이드에 가짜 통화 탐지(Fake call detection) 기능을 출시한다고 발표했습니다. 이 기능은 이번 달부터 'Google 통화(Phone by Google)' 앱을 통해 전 세계적으로 안드로이드 12 이상을 탑재한 기기에 순차적으로 적용되며, 우선적으로 픽셀(Pixel) 기기부터 시작됩니다.

알 수 없는 번호로 걸려 오는 전화에 대한 사용자들의 응답 거부가 늘어남에 따라, 사기꾼들은 신뢰할 수 있는 전화번호를 사칭하고 AI 딥페이크 기술을 악용해 정부 관리, 가족 또는 고용주의 목소리를 정교하게 흉내 내는 방식으로 전술을 바꾸고 있습니다. 예를 들어, 발신자 표시가 '엄마'로 뜨고 목소리까지 똑같게 들리는 전화를 받을 수 있지만, 실제로는 사기꾼이 AI 도구를 이용해 가족을 사칭하고 거짓된 긴급 상황을 조장해 돈을 요구하는 경우가 해당합니다.

새로운 기능은 기본적으로 활성화되어 있으며, 백그라운드에서 자동으로 작동합니다. 구글은 이 기능이 기기 간의 '디지털 핸드셰이크(Handshake)'와 유사한 방식으로 작동한다고 설명합니다. 주소록에 있는 지인이 전화를 걸고 양쪽 모두 'Google 통화' 앱을 사용 중일 때, 상대방의 휴대전화가 사용자의 기기로 조용한 확인 신호를 보내 해당 통화가 적법하고 실제로 그들의 기기에서 온 것임을 확인하는 원리입니다.

구글은 블로그 게시물을 통해 "사기꾼이 신뢰할 수 있는 연락처를 사칭하려고 시도하면 초기 확인 신호가 누락됩니다. 사용자의 기기는 이를 즉시 감지하고 실제 연락처의 기기에 재확인 신호를 보냅니다. 실제 기기에서 '지금 전화를 걸고 있지 않다'는 응답이 오면 화면에 즉시 전화를 끊으라는 경고가 표시됩니다."라고 덧붙였습니다.

이 거대 기술 기업은 이 기능이 RCS(Rich Communication Services)를 기반으로 구축되어 다른 앱과 기업들도 해당 기술을 채택하고 도입할 수 있다고 밝혔습니다.

한편, 가짜 통화 탐지 기능의 출시는 안드로이드의 다른 여러 업데이트와 함께 발표되었습니다. 여기에는 사용자가 옷을 자유롭게 매치하고 가상으로 착용해 볼 수 있는 '옷장(Wardrobe)' 기능 등 구글 포토(Google Photos)의 새로운 기능도 포함됩니다. 이 새로운 옷장 기능은 사진 라이브러리에 있는 사진 속 사용자의 의상을 스냅샷으로 분류해 휴대전화에서 쉽게 탐색할 수 있게 해줍니다. 해당 기능은 다음 주부터 미국, 인도, 브라질의 안드로이드 10 이상 사용자를 대상으로 순차적으로 제공될 예정입니다.

또한, 구글 플레이 북(Google Play Books)은 사용자가 이전 줄거리 요약을 통해 이야기를 빠르게 다시 이어서 읽을 수 있는 'Catch me up' 기능을 선보입니다. 사용자는 구절을 강조 표시하고 질문할 수도 있습니다. 이러한 기능들은 오늘부터 일부 영어 콘텐츠에 적용되어 출시됩니다.

구글은 '서클 투 서치(Circle to Search)' 기능을 활용해 전체 의상을 한 번에 검색할 수 있는 기능도 추가했습니다. 이제 코디 전체의 아이템을 한꺼번에 검색해 찾아주기 때문에, 개별 품목을 일일이 따로 검색할 필요가 없어졌습니다. 이 업데이트는 현재 '서클 투 서치'를 지원하는 모든 안드로이드 14 이상 기기에서 사용할 수 있습니다.

원문 보기

원문 보기 (영어)

Google announced on Tuesday that Android is launching fake call detection to protect against AI deepfake impersonation scams. The feature is rolling out globally in Phone by Google to Android 12+ devices this month, starting with Pixel devices. As people increasingly refuse to answer calls from unknown numbers, scammers are shifting their tactics by spoofing trusted phone numbers and using AI deepfake technology to sound like authority figures, family members, or employers. For example, a person may receive a phone call showing the caller ID “Mom,” and the voice may sound exactly like her, but the caller is actually a scammer using AI tools to impersonate her and request money for a fake emergency. The new feature is on by default and works automatically behind the scenes. Google explains that the new feature works kind of like a "digital handshake between devices." When a contact calls you, and you’re both using Phone by Google, their phone sends a silent confirmation signal to your device to verify the call is legitimate and actually coming from their phone. "If a scammer tries to impersonate your trusted contact, that initial confirmation signal will be missing," Google explained in a blog post . "Your device will instantly notice this and ping your contact's actual device to double-check. If their real device says, ‘I'm not making a call right now,' you'll get a warning on your screen advising you to hang up immediately." The tech giant notes that it built this feature on top of Rich Communication Services (RCS), making it possible for other apps and companies to adopt the technology. The launch of fake call detection was announced alongside other updates from Android, including a new Google Photos feature that lets users mix and match outfits and try them on virtually. The new “wardrobe” feature catalogs the clothes you’re wearing in your photo library by turning them into snapshots you can browse on your phone. The feature is rolling out next week to eligible users in the U.S., India, and Brazil with Android 10+. Additionally, Google Play Books is getting a new "Catch me up" feature that lets users jump back into a story with a recap. Users can also highlight a passage to ask questions. These features are rolling out today for select English titles. Google is also making it possible to search entire outfits with its "Circle to Search" feature. Now the feature will be able to find every item in an outfit at once, getting rid of the need to search piece by piece. This update is now available on all Android 14+ devices that have Circle to Search. Topics AI , Android , Apps , deepfakes , Google When you purchase through links in our articles, we may earn a small commission . This doesn’t affect our editorial independence. Aisha Malik Consumer News Reporter Aisha is a consumer news reporter at TechCrunch. Prior to joining the publication in 2021, she was a telecom reporter at MobileSyrup. Aisha holds an honours bachelor’s degree from University of Toronto and a master’s degree in journalism from Western University. You can contact or verify outreach from Aisha by emailing aisha@techcrunch.com or via encrypted message at aisha_malik.01 on Signal. View Bio June 18 Los Angeles Get an inside look at what it takes to scale and succeed from leaders at Mach Industries, Founders Fund, and Shinkei Systems. Through candid fireside chats and high-impact networking, you'll walk away with valuable insights and new connections. REGISTER NOW Most Popular ‘What a joke': GitHub Copilot's new token-based billing spurs consternation among devs Lucas Ropek I put Google's 24/7 AI assistant Gemini Spark to work, and it's actually pretty useful Sarah Perez Blue Origin's New Glenn rocket explodes during testing in Florida Sean O'Kane Anthropic releases Opus 4.8 with new ‘dynamic workflow' tool Russell Brandom Google engineer charged with insider trading after making $1.2M on Polymarket Amanda Silberling Meta launches Instagram, Facebook, and WhatsApp subscriptions, with more to come, including AI plans Sarah Perez Tech CEOs are apparently suffering from AI psychosis Julie Bort

구글 안드로이드 딥페이크 보안 AI 사기