미국 여러 주의 법무장관 연합이 뉴욕주 법무장관의 소환장 발부를 시작으로 OpenAI에 대한 조사에 착수했습니다. 이번 조사는 광고, 사용자 데이터 처리, 미성년자 보호 및 AI 모델의 아첨(Sycophancy) 현상 등 광범위한 영역을 다루며, AI 기업의 안전성 및 규제 준수에 대한 규제 당국의 압박이 심화되고 있음을 시사합니다.
플로리다주 법무장관이 전 미국 최초로 주정부 주도의 소송을 통해 오픈AI와 샘 알트먼 CEO를 상대로 소비자 기만과 안전 위반 혐의로 제소했습니다. 오픈AI가 이용자 안전보다 상업적 이익을 우선시하여 미성년자를 위험에 빠뜨리고 제품의 부작용을 숨겼다는 것이 이번 소송의 핵심입니다. 이번 민사 소송은 플로리다주립대 총기 난사범의 챗GPT 이용 내역에 대한 형사 수사와도 맞물려 있어 AI 업계의 규제와 책임 논의에 큰 영향을 미칠 전망입니다.
메타는 인스타그램과 페이스북에서 AI 기반 이미지 분석을 통해 미성년자를 자동으로 식별하는 기능을 확대 도입합니다. 이 AI는 골격 구조와 체형, 생일 파티 게시물 등을 단서로 삼아 미성년자로 의심되는 계정을 안전한 '10대 전용 계정'으로 자동 전환합니다. 이는 플랫폼 내 미성년자 보호 의무와 규제 당국의 압박에 대응하기 위한 조치로, 향후 유럽연합(EU)과 브라질, 미국 페이스북 등에 순차적으로 적용됩니다.
메타는 페이스북과 인스타그램 내 13세 미만 사용자를 색출하기 위해 사진과 영상을 분석하는 AI 시스템을 도입합니다. 이 AI는 개인을 식별하지 않고 키나 골격 등의 시각적 단서를 통해 추정 연령을 파악하며, 미성년자로 판단될 경우 계정을 비활성화합니다. 이는 아동 안전과 관련된 여러 소송에 직면한 메타가 플랫폼 내 미성년자 보호 조치를 강화하는 일환입니다.