이번 주 팟캐스트에서는 아마존이 AI 훈련용으로 책을 스캔한 뒤 파쇄하는 창고에서 일했던 노동자와의 인터뷰를 다룹니다. 또한 LLM(Large Language Model, 대규모 언어 모델) 출력에서 특정 이름이 반복적으로 나타나는 현상과, ICE(미국 이민세관단속국)가 '유권자 사기' 관련 데이터를 대량 구매하려는 이유를 다룹니다.
미국의 제약 체인 키니 드러그스가 도입한 AI 전화 비서가 오남용 및 의사소통 문제로 수백 건의 고객 불만을 초래하며 결국 철회되었습니다. 이 사례는 고객 경험(CX)과 민감한 개인정보 보호 문제를 충분히 검토하지 않은 채 AI를 도입할 때 발생할 수 있는 리스크를 보여줍니다. 회사는 향후 발송용 문자 알림에만 제한적으로 AI를 활용하는 방향으로 정책을 수정했습니다.
미국 증권거래위원회(SEC)가 델타, 유나이티드 등 항공사들이 운영하는 ARC(Airlines Reporting Corporation)로부터 10억 건 이상의 전 세계 항공권 예약 데이터를 구매한 사실이 확인되었습니다. 이 데이터에는 탑승객의 신용카드 번호, 이름 등의 민감한 개인정보가 포함되어 있어 영장 없이 사법 기관이 접근한 정부의 대규모 사생활 침해 및 데이터 감시 논란을 촉발하고 있습니다.
메타(Meta)가 AI 모델 학습용으로 직원들의 마우스 움직임, 클릭, 화면 콘텐츠 등 컴퓨터 사용 데이터를 수집하는 프로그램을 도입하려 하자 내부 직원들이 강하게 반발하고 나섰습니다. 직원들은 개인정보 보호 검토가 부족하고 사내 신뢰를 훼손한다는 이유로 데이터 수집 중단을 촉구하는 청원을 제출했습니다.
IT 거장 피터 틸과 데이터 브로커 오렌 호프만이 공동 설립한 프라이빗 네트워크 '다이얼로그(Dialog)'가 회원과 참석자들의 부, 명성, 인간관계를 추적하고 AI 알고리즘을 활용해 비밀리에 A, B, C 등급을 매기는 것으로 밝혀졌습니다. 이는 단순한 소모임을 넘어, 엘리트 인맥을 데이터화하고 통제하여 초대 여부와 좌석 배치까지 좌우하는 철저한 차별화 시스템을 구축했음을 보여줍니다.