#컴플라이언스

AI가 전하는 정보, 누가 결정하는가? 캠벨 브라운의 해법

메타(Meta)의 전 뉴스 총괄이었던 캠벨 브라운(Campbell Brown)은 AI가 정보를 제공하는 방식이 소셜 미디어의 전철을 밟을 수 있다고 경고하며, AI 모델의 정보 정확도와 편향성을 평가하는 스타트업 '포럼 AI(Forum AI)'를 설립했습니다. 이 회사는 지정학, 금융 등 고위험 주제에 대해 최고 전문가들의 기준을 바탕으로 AI를 훈련시켜 평가하며, 기업의 컴플라이언스(준법) 수요를 비즈니스 모델로 삼고 있습니다.

논란의 컴플라이언스 스타트업 델브 고객사 대규모 보안사고

데이터 조작 및 무자격 심사 등의 의혹으로 연쇄적인 보안 사고에 휘말리고 있는 컴플라이언스 스타트업 Delve(델브)의 또 다른 고객사인 Context AI에서 대규모 해킹 사고가 발생했습니다. 이로 인해 인기 웹 호스팅 기업 Vercel의 내부 시스템이 뚫려 고객 데이터가 유출되었으며, 기존 Delve 고객사들이 잇따라 계약을 해지하고 재인증을 진행하는 등 업계에 큰 파장이 일고 있습니다. 보안 인증의 근본적인 신뢰성과 벤더 검증의 중요성을 보여주는 사례입니다.