#기계학습

애플 아이메시지, 강아지 영상을 음란물로 오탐지

애플의 아이메시지 민감한 내용 감지 기능이 강아지나 사슴 사진을 음란물로 오탐지하는 사례가 잇따라 발생하고 있습니다. 이는 기기 내부에서 작동하는 기계 학습 모델의 한계를 보여주는 사례입니다. 메시지 내용 스캔 기술이 지니는 오작동 가능성을 확인할 수 있다는 점에서 중요합니다.

루프 엔지니어링 가이드: AI를 자율주도형 연구 로봇으로

대부분의 사용자가 AI를 단순 검색창처럼 수동으로 질문하고 답을 읽는 방식에 머물러 있지만, 최근에는 이를 자동화된 '루프(Loop)' 구조로 대체하는 패턴이 떠오르고 있습니다. 본 가이드는 안드레이 카파시(Andrej Karpathy)의 'autoresearch' 코드 저장소와 'Bilevel Autoresearch' 논문을 통해, AI 에이전트를 개입 없이 스스로 기계학습 연구를 수행하는 자율적 시스템으로 만드는 루프 엔지니어링 기법을 설명합니다.

AI가 생성한 텍스트를 구별할 수 없는 이유

LLM은 인간의 언어 패턴을 모방하는 훌륭한 통계적 모델이지만, 유사한 프롬프트가 주어지면 항상 동일한 패턴과 표현을 반복하는 준결정론적(quasi-deterministic) 한계를 가집니다. 아마존에서 발견되는 수많은 AI 생성 도서들이 이러한 특징을 뚜렷하게 보여주며, 콘텐츠 생성 비용이 상호작용 비용보다 낮아지는 현 시점에서 인간의 글과 AI가 생성한 쓰레기 콘텐츠(AI slop)를 구별할 수 있는 직관이 그 어느 때보다 중요해졌습니다.