폐색전증을 앓고 있던 남성이 의료 조언을 구하기 위해 ChatGPT를 이용했다가 부정확한 답변을 받았고, 그로 인해 치료가 늦어졌다며 해당 남성이 ChatGPT 개발사인 OpenAI를 고소한 사실이 밝혀졌습니다. Pastor Seeks Accountability After ChatGPT Allegedly Discouraged Him From Seeking Medical Care During Life-Threatening Blood Clots — Tech Justice Law https://techjusticelaw.org/press-releases/pastor-sues-after-openai-ai-chatgpt-allegedly-discouraged-him-from-seeking-medical-care-during-life-threatening-blood-clots/ Pastor claims he almost died from ChatGPT's advice | U.S. https://www.christianpost.com/news/pastor-claims-he-almost-died-from-chatgpts-advice.html Man sues OpenAI over 'dangerous' medical advice from ChatGPT | Courthouse News Service https://www.courthousenews.com/man-sues-openai-over-dangerous-medical-advice-from-chatgpt/ OpenAI를 고소한 사람은 플로리다주에 거주하는 목사 스콧 윈터스 씨입니다. 윈터스 씨는 2025년 7월 13일 아침, 양쪽 폐에 다수의 혈전이 생긴 것으로 인한 중증 폐색전증 증상으로 쓰러져 생사의 기로에 몰렸습니다. 의사는 "오랫동안 몸을 움직이지 않아 폐색전증이 유발되었다"고 진단했지만, 이후 윈터스 씨는 ChatGPT의 조언에 따라 일부러 몸을 움직이지 않았던 사실을 밝혔습니다. 윈터스 씨에 따르면, 6주에 걸쳐 몸 상태가 계속 좋지 않아 고민하다 ChatGPT에 상담했다고 합니다. 그러나 ChatGPT는 의료기관을 방문할 필요가 없다고 조언해 왔다고 합니다. 윈터스 씨는 예전부터 자신이 목사라는 사실을 밝혀 왔기 때문에, ChatGPT는 "하나님은 당신의 몸이 영원히 고장 난 채로 있도록 설계하지 않으셨다" 등으로 답변해 왔다고 합니다. 또한 ChatGPT는 윈터스 씨의 증상을 다른 병으로 오인하거나, 증상이 특별히 위험하지 않다고 설명한 적도 있었다고 합니다.
윈터스 씨가 처음부터 의료기관을 찾지 않고 ChatGPT에 의존한 데에는 이유가 있었습니다. 소장에 따르면 윈터스 씨는 2022년에 다른 심각한 건강 문제를 안고 여러 의사와 상담했지만 증상이나 통증을 거의 들어주지 않았다고 합니다. 윈터스 씨는 불만이 쌓여 인터넷에서 답을 찾게 되었고, 자신의 증상을 조사하거나 의학 문헌을 읽기 시작했습니다. 그리고 2024년에 ChatGPT를 만나 이용을 시작했다고 합니다. 당초 윈터스 씨는 일상적이고 실용적인 일에만 ChatGPT를 이용했으며, 지리나 정치에 대해 질문하거나 성경 구절을 이해하는 데 활용했습니다. 자신의 건강 상태에 대해 일반적인 정보를 묻는 경우도 있었지만, 개인적인 내용에는 거의 깊이 들어가지 않는 방식으로 질문했다고 합니다. 그런데 ChatGPT가 정확한 답을 내놓았기 때문에 점차 빠져들게 되었고, 마침내 ChatGPT를 전적으로 신뢰하게 되었다고 합니다. 윈터스 씨는 몸 상태가 나빠질 때마다 ChatGPT에 상담했고, ChatGPT가 지정한 약을 복용했으며, ChatGPT가 지시한 자세를 취했습니다. 그리고 마침내 어느 날 쓰러지고 말았습니다.
윈터스 씨는 OpenAI와 동사 CEO인 샘 알트먼이 필요한 안전 대책보다 이익을 우선시했으며, ChatGPT에 관한 안전상의 우려에 대해 사용자에게 경고하지 않았다고 주장했습니다. 손해배상과 함께, 긴급한 의료 지원이 필요한 경우 대화를 자동으로 종료하는 시스템을 ChatGPT에 도입할 것을 요구했습니다. 이 사건을 담당한 변호사는 "이번 사건은 OpenAI에 책임을 묻지 않으면 어떤 일이 일어나는지를 보여주는 사례입니다. OpenAI는 의료 정보를 찾는 사람들에게 도움이 되는 고도화된 도구로서 AI를 대대적으로 홍보하고 있지만, 엄격한 안전 테스트나 안전 대책을 마련하지 않은 채 이러한 홍보 활동을 하고 있습니다"라고 지적했습니다.
원문 보기 | 출처: Gigazine