미국 버몬트 주와 뉴욕 주에서 약국 체인점을 운영하는 ‘키니 약국’이 처방전 문의 및 약 재처방 접수 효율화를 위해 AI 어시스턴트 ‘버트’를 도입했습니다. 하지만 도입 이후 약 전달 지연, 잘못된 재처방, 환자 정보 처리 방식에 대한 우려 등이 연이어 발생하면서 고객 불만이 높아지고 있습니다. 키니 약국은 2026년 5월에 AI 기업 ‘시네리오’가 개발한 AI 어시스턴트 ‘버트’를 도입했는데, 이는 키니 약국의 창업자 이름을 따서 지었습니다. ‘버트’는 전화로 환자와 대화하며 처방 약 재처방 접수 및 문의 응대를 수행합니다.
키네이 드럭스의 규약에 따르면, 전화번호를 등록하는 순간 자동으로 버트와의 교환에 동의한 것으로 간주되지만, 나중에 버트의 대응을 거부할 수 있도록 허용하고 있습니다. 하지만 이용자들은 “버트가 반드시 응답하고, 인간 담당자에게 직접 연결될 수 있는 선택지가 없습니다. 기존의 전화 상담에서 가능했던 것처럼, 기계 음성대로 키패드를 사용하여 자신의 하고 싶은 말을 입력하는 옵션도 전혀 없습니다. 즉, 버트와 이야기하거나 약을 받지 못하는 둘 중 하나의 선택뿐입니다”라고 말하고 있습니다.
버트의 이용 상황에 대해 버몬트 주 전체 문제를 다루는 뉴스 미디어 VTDigger가 여러 이용자로부터 이야기를 듣는 과정에서 다양한 문제가 발생하고 있음을 밝혔습니다. 약 2년 동안 키네이 드럭스를 이용해 왔다는 고객은 “첫인상은 이전의 녹음이나 서비스보다 복잡하고 번거롭다는 것이었습니다”라고 밝혔습니다. 또 다른 고객은 “음성 안내가 있는 푸시풀식 시스템에 전화를 걸어 키패드를 조작하여 약사에게 연결하는 기존 방법은 원활하게 작동했습니다. 하지만 새로운 시스템은 단순히 시간을 낭비하고 고객 서비스를 지연시키는 것일 뿐이며, 고객에게 어떤 가치도 혜택도 제공하지 않습니다”라고 지적했습니다.
또한, 인공지능 시스템이 오랫동안 이용해 온 환자 계정을 찾지 못해, 다른 규격 및 용량의 약이 재처방되거나, 약품 수령 준비가 완료되어도 알림이 전송되지 않는 사례가 보고되고 있습니다. 더불어, 인공지능을 통한 환자 정보 처리 방식에 대한 우려도 확산되고 있습니다. 키니 라이즈(Kinney Drugs)의 개인정보처리방침에는 “보호 대상 의료 정보는 약국의 업무 개선을 위한 인공지능 도구로 사용될 수 있음”이 명시되어 있습니다. 버트(Burt)를 만든 회사가 약국과 다른 외부 기업이기 때문에, 인공지능을 제공하는 외부 기업이 환자 데이터를 취급할 가능성에 대한 우려도 제기되고 있습니다.
미국의 밴더빌트 대학교 의료센터에서 생물의학정보학 교수를 맡고 있는 브래들리 메인 교수는 “제가 제 의료 제공자와만 소통할 때는 그들이 가진 보안에 의존합니다. 하지만 그들이 다른 많은 조직과 소통을 시작하면 각 조직의 보안 문제에 대해 걱정해야 합니다”라고 지적했습니다. 버몬트 주의 데이터 프라이버시 법안은 주민에게 자신에 대한 어떤 정보가 수집되는지 알 권리, 부정확한 데이터를 정정할 권리, 자신의 데이터가 판매되는 것을 거부할 권리를 부여합니다. 그러나 변호사나 개인정보 보호 옹호가들은 데이터 수집을 하는 기업에 대한 면제 규정이 지나치다고 지적합니다. 버몬트 대학교 컴퓨터 과학 부교수인 조셉 니아 교수는 “사람들은 자신이 무엇에 동의하는지 전혀 이해하지 못할 것입니다. 버몬트 주의 새로운 법과 같은 규제는 소비자의 동의에 기반하고 있기 때문에 본질적으로 결함이 있습니다”라고 말했습니다. 킨니 드럭스의 담당자는 VTDigger의 취재에 “일부 환자들이 버트에게 불만을 품고 있다는 것을 인지하고 있습니다”라고 밝혔습니다. 킨니 드럭스에 따르면 현재 각 우려 사항을 검토하고 있으며 각 환자에게 연락하려고 하고 있습니다. 킨니 드럭스는 버트를 도입한 이유로 “반복 작업을 단축하고 약사들이 시간을 확보하기 위해서”라고 설명했습니다. 경영진은 버트가 이 목표 달성에 기여하고 있다고 생각하며, 한 이사님은 “AI는 확실히 효과를 발휘하고 있으며, 전화 응대를 매우 정중하게 해주기 때문에 약국으로 전화되는 건수가 줄어들고 있습니다”라고 밝혔습니다. 반면, AI의 대응 실수나 문의에 대한 답변을 약사들이 맡게 되면서, 인력 부족으로 과중 노동에 시달리는 현장의 부담이 가중될 가능성도 제기되고 있습니다.
원문 보기 | 출처: Gigazine