Hacker News • 46일 전

고객 불만 쏟아진 키니 드러그스, AI 전화 비서 철회

IMP

6/10

핵심 요약

미국의 제약 체인 키니 드러그스가 도입한 AI 전화 비서가 오남용 및 의사소통 문제로 수백 건의 고객 불만을 초래하며 결국 철회되었습니다. 이 사례는 고객 경험(CX)과 민감한 개인정보 보호 문제를 충분히 검토하지 않은 채 AI를 도입할 때 발생할 수 있는 리스크를 보여줍니다. 회사는 향후 발송용 문자 알림에만 제한적으로 AI를 활용하는 방향으로 정책을 수정했습니다.

번역된 본문

버몬트주 벌링턴 (WCAX) - 키니 드러그스(Kinney Drugs)가 알아듣기 힘든 전화 응대, 잘못된 약물 복용량 안내, 처방 알림 누락 등의 고객 신고가 이어지자 AI 비서의 도입 규모를 축소했습니다.

키니 드러그스는 올해 5월, 해당 약국 체인 창립자의 이름을 딴 AI 비서 '버트(Burt)'를 처음 도입했습니다. 이 봇의 역할은 처방전 및 재조제와 관련된 환자 의사소통을 담당하는 것이었습니다. 하지만 VTDigger가 처음 보도한 바와 같이, 고객들은 이 기술에 대해 수많은 문제점을 빠르게 제기했습니다.

키니 드러그스의 존 마라파(John Marraffa) 사장은 "한 가지 짚고 싶은 것은, 개인정보 보호와 보안을 확실히 구축했다고 해서 훌륭한 고객 경험을 제공했다는 뜻은 아니라는 점입니다. 우리는 그 부분에서 실패했으며, 이를 인정합니다"라고 말했습니다.

마라파 사장은 키니 측이 환자의 수신 전화를 처리하는 방식을 기존 모델인 고전적인 터치톤(푸시버튼) 전화 시스템으로 되돌린다고 밝혔습니다.

고객들은 또한 개인 건강 정보가 AI 플랫폼을 통해 노출될 수 있다고 우려하며 데이터 프라이버시에 대한 우려를 제기했습니다. 마라파 사장은 버트가 건강보험법(HIPAA, Health Insurance Portability and Accountability Act)을 완벽히 준수하며, 해당 AI가 오픈소스가 아니고 데이터를 생성하거나 조작하지 않는다고 설명했습니다.

키니 측은 처방전 재조제 문자 발송과 같은 아웃바운드(발신) 통신에는 버트를 계속 유지할 예정이지만, 환자는 수신을 원할 경우에만 사전 동의(opt in)를 해야 알림을 받을 수 있도록 조치했습니다.

원문 보기

원문 보기 (영어)

Share Add Us On Google Add as a preferred source on Google BURLINGTON, Vt. (WCAX) - Kinney Drugs is scaling back its AI assistant after customers reported incoherent calls, wrong dosages, and missed prescription notifications. Kinney Drugs first introduced Burt, an AI assistant named after the pharmacy chain’s founder, back in May. The bot’s role was to communicate with patients about prescriptions and refills. But customers quickly reported a number of issues with the tech, as first reported by VTDigger. “But one thing I want to point out is getting privacy and security right does not mean we got the experience right. We did not, and we own that,” Kinney Drugs President John Marraffa said. Marraffa says Kinney will return to its old model for incoming patient calls — the classic touch-tone phone system. Customers also raised concerns about data privacy — worried their personal health information could be exposed through an AI platform. Marraffa says Burt is fully HIPAA compliant and that the AI is not open-source and does not generate or manipulate data. Kinney will keep Burt for outbound communications like prescription refill texts, but patients must opt in to receive them. Copyright 2026 WCAX. All rights reserved.

고객경험 AI도입실패 데이터프라이버시 헬스케어AI 규제준수