새벽 두 시, 몸이 이상하다.
병원은 닫혀 있다. 가족을 깨우기는 애매하다. 검색창에 증상을 넣던 사람들은 이제 AI에게 문장으로 묻는다.
“며칠째 잠을 못 자고 가슴이 답답한데 공황장애일까?”
대답은 몇 초 안에 돌아온다.
이 장면은 더 이상 가정이 아니다.
2026년 Nature Health에 발표된 연구는 Microsoft Copilot에서 이루어진 61만7827건의 건강 관련 대화를 분석했다. 약 5건 중 1건은 개인의 증상이나 질환에 관한 대화였다. 감정적 웰빙과 증상에 관한 질문은 저녁과 심야에 증가했고, 모바일에서는 개인적인 건강 질문의 비중이 더 컸다. 증상이나 질환을 묻는 대화 가운데 약 7건 중 1건은 자기 자신이 아니라 자녀, 부모, 배우자 등에 관한 질문이었다.
여기에는 분명한 가치가 있다.
의료 접근성이 떨어지는 시간에도 정보를 얻을 수 있고, 병원에 갈지 판단하기 위한 첫 단서를 얻을 수 있다. 어려운 검사 결과나 의학용어를 이해하는 데에도 도움이 된다.
그러나 건강 AI의 위험을 ‘AI가 틀린 진단을 할 수 있다’는 문제로만 보면 절반만 보게 된다.
사람은 첫 번째 설명의 영향을 받는다.
처음 “공황장애 가능성이 있다”는 말을 들으면 다음 질문 역시 공황장애를 중심으로 만들어질 가능성이 높다. 검색하는 정보도 달라지고, 자신의 과거 경험을 재구성하는 방식도 달라질 수 있다.
정식 진단이 아니더라도 최초의 해석은 이후의 생각을 좁힐 수 있다.
의료에서 이를 앵커링이라고 부를 수 있지만, 생성형 AI 환경에서는 조금 다른 문제가 생긴다. AI가 한 번의 답변만 주는 것이 아니라 이전 대화를 기억하고 사용자가 제시한 설명을 바탕으로 다음 대화를 계속 만들어가기 때문이다.
이때 AI는 검색엔진보다 훨씬 가까운 위치에 선다.
2026년 환자 자율성과 의료 AI를 검토한 체계적 문헌고찰에서도 알고리즘의 불투명성, 선호에 대한 미묘한 영향, 인간 전문성의 약화, 인간과 AI 사이의 판단 권한 배분이 주요 문제로 나타났다. 연구자들은 환자가 AI의 역할을 알고, 인간 임상의가 판단을 뒤집을 수 있으며, 환자가 AI의 추천을 질문하거나 거부할 수 있어야 자율성이 보존된다고 정리했다.
그래서 건강 AI의 다음 안전기준은 정확도 하나로 끝날 수 없다.
정보를 알려주는 것과 개인의 상태를 추론하는 것을 화면에서 구분해야 한다. 추론이라면 얼마나 불확실한지 드러내야 하고, 심각한 문제에서는 대화의 목적이 AI 안에 사용자를 오래 붙잡아두는 것이 아니라 적절한 사람과 의료체계로 연결하는 데 있어야 한다.
무엇보다 AI의 첫 문장이 환자의 마지막 해석이 되어서는 안 된다.
의료에서 좋은 AI는 의사를 흉내 내는 AI가 아니라, 사람이 더 나은 질문을 갖고 의사에게 갈 수 있게 만드는 AI일지도 모른다.
새벽 두 시의 질문은 앞으로도 사라지지 않을 것이다.
그렇다면 우리가 설계해야 할 것은 AI가 언제 대답할 것인가만이 아니다.
언제 스스로 한 걸음 물러설 것인가까지 포함되어야 한다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}