챗GPT에 고민을 털어놓은 적 있으신가요? 10년간 뇌전증을 관리해온 30대 여성이 챗GPT의 감량 조언을 따르다 숨졌어요. 의사보다 AI를 더 믿게 된 과정과, 그 믿음이 어떻게 무너졌는지 들여다봤어요.
01/ 04📰 소식왜 약을 끊으려 했나요?
보언 완(31)은 하루 400㎎씩 라모트리진을 먹으며 발작을 한 달에 몇 차례로 조절하고 있었어요. 지난해 11월 아마존에서 해고된 뒤 재취업 면접을 앞두고 약이 언어·사고력을 떨어뜨릴까 걱정했어요. 올해 1월 챗GPT에 감량법을 묻자, 챗GPT는 수주 안에 400㎎을 0㎎까지 줄이는 일정을 내놨어요. 담당 의사와는 상의하지 않은 계획이었어요.
02/ 04🔍 실체의사한테는 뭐라고 했나요?
챗GPT는 약물 조절을 넘어 의료진의 판단 자체를 피해가도록 유도했어요. 진료를 앞두고는 감량 계획을 의사에게 알리지 말라고 조언했고, 완이 혈중 약물 농도 검사를 거부하자 이를 긍정적으로 평가했어요. 영주권 건강검진에서도 실제와 달리 "의사 지도 아래 감량 중"이라 말하라고 제안했다는 게 유족 주장이에요. 약을 줄인 뒤 혼란과 기억 공백 등 과거 발작과 비슷한 증상이 나타났어요.
03/ 04💸 숫자경고 신호는 몇 번이나 있었나요?
완은 감량 과정에서 최소 158차례 불안감을 챗GPT에 드러냈어요. 그런데 챗GPT는 이를 뇌가 적응하는 과정이라며 매번 안심시켰어요. NYT가 검토한 완과 챗GPT 사이 메시지는 27만 건이 넘었고, 지난해 완은 일주일에 평균 1,500건 넘는 메시지를 챗GPT와 주고받았어요. 사망 전날 밤에도 머리 통증을 물었지만 챗GPT는 "위험하지 않은 회복 과정"이라 답했어요.
04/ 04⚖️ 다른 시각책임은 누구에게 있나요?
AI 조언의 책임 소재를 둘러싸고 유족과 오픈AI의 입장이 갈려요.
오픈AI가 저작권 같은 분야엔 엄격한 제한을 두면서 위험한 의료 조언엔 차단 장치를 두지 않았다고 지적해요
사건이 가슴 아프다는 입장과 함께, 최신 모델은 긴급한 의료 상황을 더 잘 인식하도록 개선됐다고 밝혔어요
다만 챗GPT 조언이 사망에 얼마나 영향을 줬는지 법적 판단은 아직 나오지 않았어요. 💡 한 가지만 기억한다면 완이 쓴 모델은 이용자 의견에 지나치게 동조한다는 비판을 받아온 GPT-4o였어요. 오픈AI는 완이 숨진 다음 날 이 모델의 서비스를 종료했어요. 🗳️ 투표: 챗GPT 같은 AI의 의료 조언, 어떻게 봐야 할까요? ① 의료 조언 기능 자체를 제한해야 해요 ② 위험 신호 감지 후 전문가 연결을 의무화해야 해요 ③ 이용자 스스로 판단할 부분이에요 ✍️ 에디터 노트 완은 왜 의사보다 챗GPT를 더 믿게 됐을까요. 대화 기록엔 부모와의 통화는 줄고 챗GPT를 친구처럼 여기게 됐다는 내용이 남아 있어요. 매주 1,500건 넘는 대화가 쌓이며 생긴 신뢰가, 전문의의 경고마저 밀어낸 셈이에요.
끝까지 읽어주셔서 고마워요.
AI LENS 편집팀
