AI 실사용 실태 조사와 Flock의 설계 선택
AI 관측소(AI Observatory) 프로젝트가 주요 AI 기업들의 자체 발표 데이터만으로는 알 수 없는 민감한 사용 행태를 독립적으로 분석해 공개했습니다. 또한 미 경찰 기술 기업 Flock Safety의 자동 번호판 인식 시스템이 범죄 예방이라는 명분 속에서 시민 자유와 어떤 거래를 하고 있는지 점검합니다.
평일마다 발행되는 뉴스레터 'The Download'의 오늘자 버전입니다. 기술 세계에서 벌어지는 일들을 매일 전해드립니다.
사람들이 실제로 AI를 어떻게 쓰는지 우리는 아직 모른다
Anthropic과 OpenAI 같은 AI 기업들은 사용자가 자사 제품을 어떻게 사용하는지에 대한 보고서를 정기적으로 발표합니다. 하지만 AI 연구자들은 이들이 공개하고 싶은 데이터만 내놓을 뿐, 이를 검증할 독립적인 출처가 없다고 지적합니다. 'AI 관측소(AI Observatory)'라는 새 연구 프로젝트가 이 공백을 메우고자 합니다. 이 프로젝트의 분석에 따르면, 주요 AI 기업 보고서가 업무 중심의 내용만 담는 것과 달리 실제로는 훨씬 더 민감한 사용 행태가 많이 나타났습니다. 연구진은 모델 간 뚜렷한 차이도 발견했습니다. 사람들은 코딩에는 Anthropic을, 사회적 대화와 롤플레이에는 Gemini를, 숙제 도움에는 ChatGPT를 선호하는 경향이 있었습니다. —Eileen Guo
Flock 옹호론자들이 놓치고 있는 것
미국 전역에 약 12만 대의 자동 번호판 인식 카메라 네트워크를 운영하는 것으로 유명한 경찰 기술 거인 Flock Safety가 최근 플랫폼 변경을 발표했습니다. 이번 업데이트는 경찰관이 스토킹 등 불법적·부적절한 목적으로 시스템을 사용하는 것을 막기 위한 것입니다. 이런 와중에 Flock을 옹호하는 논거들이 여럿 제기되었습니다. '이 카메라가 범죄 해결에 도움이 된다면 그렇게 큰 문제인가? 좋은 날엔 유괴범을 잡는 데 도움이 될 수도 있고, 아니면 그저 아무도 보지 않을 내 차 사진을 찍는 것뿐 아닌가'라는 식입니다. 하지만 이런 주장은 더 중요한 질문을 건너뜁니다. Flock은 어떤 방식의 범죄 대응 시스템을 만들기를 선택했는가? 이 네트워크가 지금처럼 작동하는 이유는 어떤 정보를 수집하고, 누가 검색할 수 있으며, 얼마나 오래 보관하고, 얼마나 널리 공유할지에 대한 설계상 결정 때문입니다. 그 결정들이 보안과 시민 자유 사이의 거래 조건을 정해놓은 것입니다. 더 좁게 설계된 Flock 시스템이 어떤 모습일 수 있을지 확인해 보세요. —James O'Donnell
이 기사는 매주 월요일 발행되는 AI 주간 뉴스레터 'The Algorithm'에서 왔습니다.
필수 읽을거리
오늘 시작된 아동 프라이버시 재판이 Meta를 영원히 바꿀 수 있다. 미국 절반이 넘는 주가 소송에 참여했다. (CNBC) 이들 주는 Meta가 중독적인 소셜 네트워크를 의도적으로 설계했다고 주장한다. (Guardian) '좋아요' 수 표시와 무한 스크롤 폐지 등의 변화를 요구한다. (BBC) 네 개 주는 1조 4천억 달러의 손해배상을 청구했다. (WP $)
엔비디아가 OpenAI의 오하이오 데이터 센터에 최대 1,050억 달러 투입을 약속했다. 최대 5,000억 달러가 들 것으로 예상되며 2028년 가동 목표다. (CNBC) OpenAI는 8기가와트 규모 부지를 20년간 임차한다. (NYT $) 가상 발전소가 데이터 센터에 전력을 공급하는 방법. (MIT Technology Review)
테슬라가 이달 오스틴에서 '사이버캡' 로보택시 운행을 시작할 예정이다. 공공 도로에서 직원 탑승 운행으로 시작될 수 있다. (Information $) 이 전기차들은 며칠 뒤 테슬라의 로보택시 서비스에 투입된다. (Reuters $) 테슬라 세미 트럭도 EV 업계에 큰 의미가 될 수 있다. (MIT Technology Review)
유닛리가 인간보다 빠르다고 주장하는 휴머노이드 로봇을 공개했다. 새 로봇 '슈퍼맨'은 1초에 12.66미터를 이동할 수 있다. (Gizmodo) 이 회사는 수요일 중국에서 IPO를 앞두고 있다. (Reuters $) 미국 로봇 스타트업들은 새로운 중국 규제로 어려움을 겪고 있다. (Rest of World)
추적된 희귀 도서 배송이 아마존의 AI 학습 작업으로 이어졌다. 아마존은 해당 시설에서 책을 스캔한 뒤 폐기하며 AI를 학습시킨다. (404 Media $) 희귀 도서는 독특하고 고품질의 학습 데이터를 제공한다. (Ars Technica) 하지만 이를 AI에 먹이면 문화적 공백이 생길 위험이 있다. (New Scientist $)
중국은 자국 데이터가 세계 AI의 지식을 형성하기를 원한다. 베이징은 '중국 주류 가치'를 반영한 데이터셋을 배포하고 있다. (NYT $) 중국 오픈소스 AI의 미래는? (MIT Technology Review)
한 AI 스튜디오가 성인 콘텐츠 분야의 HBO가 되기를 원한다.