메뉴

#AI 오남용

TD
The Decoder • 22일 전
IMP 6

팬그램 AI 탐지 점수가 공개 망신 주기로 변질되는 문제

AI 텍스트 탐지 기업 팬그램(Pangram)이 저널리스트를 고용해 SNS 사용자들의 AI 사용을 공개적으로 비난한 사건과, 그 이후에도 CEO가 점수로 사람들을 지목하는 행태를 다룬 글입니다. 핵심 문제는 탐지 점수가 'AI 사용 여부'만 측정할 뿐 '어떻게 사용했는지', 즉 저자의 사고와 노력은 판단하지 못한다는 점입니다. 저자 자신의 AI 번역+수정 글도 28% AI로 판정받는 사례를 들며, 점수 기반 낙인이 학계 등에서 부작용을 일으킬 수 있음을 경고합니다.

AI 탐지 팬그램 AI 윤리
40
404 Media • 37일 전
IMP 7

팟캐스트: 아마존이 AI 학습용으로 희귀 도서를 파괴하다

이번 주 팟캐스트에서는 아마존이 AI 학습 데이터 확보를 위해 대량의 도서를 매입해 파괴하는 에마누엘의 주요 취재를 다룹니다. 또한 ChatGPT로 작성된 전문가 의견서, 법률 서류에 숨긴 프롬프트 인젝션 등 AI 오남용 사례와 메타의 AI 스마트글래스 특허 및 이를 이용한 괴롭힘 연구도 소개합니다.

아마존 AI 학습 데이터 저작권