생성형 인공지능(AI)이 이제 검색도구를 넘어 고민을 털어놓고 위로를 받는 대화 상대가 되고 있다. 실제로 생성형 AI 이용자 10명 중 7명 가까이가 대화와 위로, 심리상담 등 정서적 목적으로 AI를 사용한 것으로 나타났다.
하지만 AI와 나눈 대화를 바탕으로 스스로 우울증이나 불안장애 등을 판단하거나, 중요한 결정을 AI의 조언에 맡기는 사례도 확인됐다. 보건복지부와 대한신경정신의학회는 10월 10일 정신건강의 날을 맞아 이런 위험을 줄이기 위한 「정신건강 목적 생성형 AI 이용 가이드라인」을 발표했다. 정부가 강조한 핵심은 분명하다. AI는 보조수단일 뿐, 사람과 전문가를 대신할 수 없다는 것이다.
AI 이용자 68.8% “위로·상담에도 쓴다”
한국보건사회연구원이 최근 한 달 이내 생성형 AI를 이용한 15~79세 국민 1,019명을 조사한 결과, 응답자의 68.8%가 일상 대화와 감정적 교감, 위로, 정신건강·심리상담 등 정서적 목적으로도 AI를 이용한 것으로 나타났다.
AI는 이미 업무와 정보 검색을 넘어 개인의 감정과 고민을 다루는 영역까지 들어온 셈이다.
문제는 AI의 답변을 어디까지 믿느냐다. 조사에서는 AI와의 대화를 토대로 자신에게 특정 정신질환이 있다고 판단하거나 AI 답변을 의학적 진단처럼 받아들인 경험이 14.6%로 나타났다. 반면 AI로부터 얻은 정신건강 조언을 전문가나 공식 자료를 통해 다시 확인한 경험은 11.9%에 그쳤다.
정부는 이번 가이드라인에서 자신의 상태에 대한 AI의 답변을 결론으로 받아들이지 말고, 필요하면 정부기관·전문학회 자료 또는 정신건강 전문가를 통해 다시 확인하도록 권고했다.
진단서·검사결과까지 AI에 넣었다면 다시 생각해야
AI에게 고민을 털어놓을 때는 답변의 정확성뿐 아니라 개인정보 문제도 살펴봐야 한다.
가이드라인은 이름·연락처·주소와 같은 개인정보는 물론 진단서, 처방전, 검사결과지 등 민감한 의료정보를 AI 서비스에 그대로 입력하지 않도록 권고한다. 서비스를 이용하기 전에는 개인정보 처리 방식과 이용 목적을 확인하고, 의료적 효과를 내세우는 서비스라면 공인기관의 검증·승인 여부도 살펴볼 필요가 있다고 안내했다.
AI와 대화하는 시간과 범위를 스스로 정하는 것도 중요하다. 정신건강 목적으로 AI를 사용하는 이용자 가운데 23.4%는 현실의 일에 집중하려 해도 AI와 대화를 계속한 경험이 있다고 답했고, 15.1%는 대화시간을 조절하지 못해 수면이나 일상생활에 지장을 받은 경험이 있는 것으로 조사됐다.
청소년 절반 이상 “AI에 의존적”…보호자는 사용 이유부터 봐야
아동·청소년의 이용 양상은 더 눈여겨볼 필요가 있다.
15~18세 청소년 응답자의 69.2%가 AI를 대화·위로·상담 등 정서적 목적으로 이용했고, 51.7%는 스스로 AI에 의존적이라고 답했다.
정부는 청소년에게 AI의 답변을 그대로 따르기보다 자신의 생각과 상황을 먼저 살펴보고, 이름·학교·주소·연락처·사진 등 개인정보를 보호하도록 권고했다. AI 캐릭터를 실제 친구나 연인처럼 받아들이고 있지는 않은지도 점검할 필요가 있다고 설명했다.
보호자에게는 무조건 사용을 금지하기보다 아이가 AI를 왜, 어떻게 이용하는지 먼저 이해하고 이용 규칙을 함께 정하도록 권고했다. 청소년 응답자의 83.1%는 보호자가 자신의 AI 이용 사실을 알고 있다고 답했지만, 실제로 보호자와 구체적인 이용 규칙을 정한 경우는 2.5%에 불과했다.
자해·자살 충동까지 AI에게만 털어놨다면 ‘사람과 연결’이 먼저
가장 주의해야 할 상황은 정신건강 위기다.
조사에서는 심리적 불안이나 혼란, 우울감, 자해·자살 충동 등 심각한 위기 상황을 AI에 털어놓은 경험이 있는 응답자 115명 가운데 49.6%가 대화를 중단하는 것 외에는 별다른 조치를 하지 않은 것으로 나타났다.
정부 가이드라인은 이 같은 상황에서는 AI와의 대화를 계속하기보다 가까운 사람이나 전문기관에 도움을 요청해야 한다고 안내한다. 중요한 결정 역시 AI의 답변만으로 내리지 말고 사람과 상의하는 것이 필요하다는 것이다.
AI는 즉시 답해주고 비판하지 않는다는 장점이 있지만, 이용자의 표정과 행동 변화를 직접 살피거나 치료에 책임을 질 수는 없다. 특히 자해·자살 위험이나 치료가 필요한 상황에서는 AI보다 실제 사람과 전문가에게 연결되는 것이 우선이다.
정부 역할 필요 86.9%…AI 상담이 일상이 된 만큼 기준도 필요
이번 조사에서 생성형 AI와 정신건강 문제에 정부 역할이 필요하다는 응답은 86.9%, AI 정신건강 가이드라인과 제도 정비가 필요하다는 응답은 68.7%였다.
보건복지부는 이번 가이드라인을 교육·임상 현장 등에 확산하고, 향후 고위험군의 특성을 고려한 보다 구체적인 지침도 마련할 계획이다. 정신건강의 날 기념행사에서도 안전한 AI 활용은 주요 논의 주제로 다뤄졌다.
AI에게 고민을 털어놓는 것 자체가 문제는 아니다. 다만 AI가 건넨 답변을 진단으로 믿고 있지는 않은지, 민감한 개인정보를 그대로 입력하고 있지는 않은지, 사람과의 관계보다 AI와의 대화에 더 의존하고 있지는 않은지는 한 번쯤 점검할 필요가 있다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}