법정 속기사의 AI 사용 실수, 판사가 공식 문서 오류 적발
미국 법원에서 속기사가 생성형 AI를 사용해 재판 기록을 작성하다가 발언자를 엉뚱하게 배정하는 등 심각한 오류를 낸 사실이 판사에게 적발되었습니다. 이 사건은 법조인들의 AI 사용 문제를 넘어, 재판의 공식 기록 자체에 AI로 인한 치명적인 오류가 섞일 수 있다는 새로운 위험을 보여줍니다. AI가 업무 효율은 높일 수 있으나, 최종 결과물에 대한 전문가의 엄격한 교정 및 검토가 필수적이라는 교훈을 줍니다.
최근 한 판사가 법원 속기사가 법정 기록에 AI가 생성한 오류를 범한 사실을 적발했으며, 이를 통해 전국의 속기사들에게 AI 사용에 대한 강력한 경고를 보냈습니다. 7월 23일에 제출된 한 사건(한 남성이 마약을 팔다가 과다복용으로 사망한 피해자가 발생한 사건)에 대한 판결문에서 폴 펠릭스 판사는 결정문 각주에 속기록이 생성형 AI(generative AI)의 개입 흔적과 매우 유사한 오류를 포함하고 있다고 기록했습니다. 이 각주 내용은 로브 프로이트(Rob Freund) 변호사가 X(옛 트위터)를 통해 알려져 화제가 되었습니다. 판결문에서 펠릭스 판사는 “기록의 한 대목에서는 검찰이 했던 발언이 법원(판사)이 한 것으로 잘못 기재되어 있었습니다. 다른 대목에서는 윌리엄스(피고인)가 했을 것으로 추정되는 이의 제기가 법원 경위(Bailiff)가 한 것으로 적혀 있었습니다. 또 다른 부분에서는 검찰의 최후 변론이 법원이 한 것으로 둔갑했습니다”라고 지적했습니다. 그는 이어 “여기에 언급되지 않은 다른 오류들까지 포함되어 있었으며, 이러한 실수들은 윌리엄스의 항소 심사를 복잡하게 만들었지만 심사 자체를 방해할 정도는 아니었습니다. 그럼에도 불구하고 우리는 법원 속기사에게 당 법원이 속기록을 재판 과정의 진실되고 정확한 기록으로 의존하고 있다는 사실을 상기시킵니다. 검토된 오류의 유형을 볼 때, 이 속기록 작성에 생성형 인공지능(AI)이 사용된 것으로 보입니다. AI가 많은 전문가에게 효율성을 높여주는 유용한 생산성 도구가 될 수는 있지만, 이러한 시스템을 사용하는 사람들은 생성된 결과물을 직접 교정(Proofread)하고 정확성을 보장할 책임이 있습니다”라고 덧붙였습니다. 지난 몇 년 동안 판사들은 수많은 사건에서 변호사들이 법원 제출 서류에 AI를 부적절하게 사용하다 적발하는 사례를 봐왔습니다. 이러한 상황은 해당 변호사들에게는 항상 난처하고 민망한 일입니다. 변호사의 본업은 기존의 판례와 법적 선례를 인용하여 의뢰인을 위해 최선을 다해 변론하는 것이지만, AI는 이런 판례 부분에서 빈번하게 엉터리 정보를 만들어내기 때문입니다. 이에 따라 판사들은 불만을 더욱 공개적으로 토로하는 추세입니다. 지난 5월에는 뉴욕주 대법원 항소부(Supreme Court of the State of New York, Appellate Division)의 판사들이 한 변호사가 AI를 사용한 혐의를 받고 있고 나머지 변호사들은 이를 확인하지 않은 채 너무 대충 일했다고 비난하며 20분이 넘는 시간 동안 추궁했습니다. 당시 판사들은 전체 상황을 두고 “충격적이고, 우려스럽고, 실망스럽고, 슬프다”고 표현했습니다. 이와 관련해 변호사들은 책임을 회피하며 법률 보조사의 잘못, 감기몸살, 그리고 '일 처리를 너무 서둘러서' 생긴 일이라고 변명하기도 합니다. 하지만 법원 속기사가 속기록에서 AI가 만들어낸 오류를 걸러내지 못한 사실이 공개적으로 경고를 받은 것은 이번이 처음입니다. 이는 변호사들이 제출하는 법원 서류뿐만 아니라, 실제 공식 재판 과정의 기록 자체에도 오류가 존재할 수 있다는 두려운 가능성을 떠올리게 합니다. 현재 시중에는 법원 속기를 위한 AI 생성 속기록을 제공하는 수많은 앱과 기업들이 존재합니다. 그러나 전문 속기사들은 여전히 인간 청취자이자 숙련된 전사자(타이피스트)로서의 전문성이 법정에서 매우 가치가 있다고 강조합니다. 특히 AI는 문맥이 불분명할 때 정지하여 다시 말해달라고 요청하거나 기록에 담기 전에 모호성을 해결하기보다는 그저 임의로 '추측'하여 기록해버리는 경향이 강하기 때문입니다.