AI 연구진이 AI 모델의 유해성과 편향, 보안 취약점 등을 중앙 집중적으로 신고하고 추적할 수 있는 크라우드소싱 플랫폼인 'FLARE-AI'를 공개했습니다. 이는 단편화되어 있던 기존의 AI 문제 보고 체계를 넘어, 투명성을 높이고 미국 정부의 법안 통과를 지원하는 등 AI 안전성 확보를 위한 핵심 인프라로 평가받고 있습니다.
미국 플로리다주에서 경찰의 얼굴 인식 시스템(FACES)의 오류로 인해 300마일 이상 떨어진 곳에 거주하던 남성이 아동 유인 범죄 혐의로 억울하게 체포되는 사건이 발생했습니다. 이 사건은 알고리즘이 제시하는 수치가 동일인물일 확률이 아닌 단순한 외모 유사도에 불과하다는 점을 간과한 채 과도하게 기술에 의존한 경찰의 수사 실패를 명확히 보여줍니다. 미국자유연맹(ACLU)은 관할 경찰관과 보안관 등을 상대로 손해배상 청구 소송을 제기하며 인권 침해와 경찰 시스템의 문제점을 고발하고 있습니다.
교황 레오 14세의 새 칙서는 AI가 결코 중립적이지 않으며 상업적 산물에 불과하다고 경고하며 인간의 연대를 촉구합니다. 정부의 규제가 미비한 가운데, 수백억 달러를 운용하는 기관 투자자들이 기업의 AI 투명성과 인권 존중을 요구하며 실질적인 거버넌스를 이끌고 있습니다. 이는 이해관계자들이 연대하여 AI의 무분별한 확장을 막고 공동의 인류를 재건하는 실질적인 행동 지침을 제시합니다.
교황 레오 14세는 첫 회칙을 통해 AI가 단순한 기술을 넘어 현대 사회의 보이지 않는 인프라가 되었으며, 이로 인해 권력과 자원이 소수에게 집중되고 있다고 지적했습니다. 기술 통제를 의미하는 '기술의 무장 해제'를 촉구하며 AI가 인간의 존엄성을 해치거나 진실을 왜곡하는 지배 도구로 전락하지 않도록 투명성과 공정한 경쟁을 보장해야 한다고 강조했습니다.
아이비리그 의대 출신의 뛰어난 스펙에도 불구하고 병원 레지던트 지원에서 면접 조차 받지 못한 사례를 다룹니다. 지원자는 병원 측이 사용한 AI 이력서 스크리닝 도구가 휴학 이력(지병으로 인한 불가피한 휴학)을 오해하여 불이익을 주었다고 의심하고 있습니다. 이 사건은 실제 채용 과정에서 AI가 어떻게 작동하여 합격자를 가르는지, 그리고 그 기준이 얼마나 불투명하고 위험할 수 있는지 보여주는 중요한 사례입니다.
이 글은 저자가 결혼식을 준비하며 소셜 미디어 추천 알고리즘(Algorithm)에 의해 어떻게 심리적 압박과 소비주의에 시달리게 되었는지 경험담을 다룹니다. 웨딩 관련 검색 이후 끊임없이 쏟아지는 맞춤형 콘텐츠는 신부들의 불안감을 자극하여 일명 '웨딩 브레인' 상태에 빠지게 만듭니다. 이를 통해 개인의 감정을 교묘하게 파고드는 개인화 알고리즘의 위험성과 조작 가능성을 경고하고 있습니다.