정신건강 상담과 위기 경험 공유는 구분해야…AI 오탐·과잉 차단 방지 기준이 관건
긴급 상황은 구조기관 협조 요청 가능…위기 당사자 상담·치료 연계 절차도 확인 필요
온라인에서 자살을 부추기거나 자살행위를 돕는 정보의 유통을 막기 위한 법적 의무가 강화됐다.
인터넷 포털과 사회관계망서비스(SNS) 등 정보통신서비스 제공자는 자살유발정보의 확산을 막기 위한 조치를 하고, 그 결과를 정부에 제출해야 한다.
정부는 인공지능(AI)을 활용해 온라인상의 위험 게시물을 24시간 탐지하는 체계도 구축했다.
AI가 위험성이 높은 정보를 우선 선별하면 모니터링 담당자가 이를 확인하고, 긴급한 상황에서는 구조 신고 등 후속 조치를 진행하는 방식이다.
그러나 위험 게시물을 신속하게 발견하는 것과 실제 자살위험에 처한 사람을 구조하거나 상담으로 연결하는 것은 별개의 문제다.
정신건강 상담이나 위기 경험을 공유하는 게시물까지 잘못 차단되지 않도록 하는 기준도 중요하다.
보건복지부는 11월 11일 서울 강남구 보코서울강남호텔에서 한국생명존중희망재단과 함께 '온라인 자살유발정보 대응강화 포럼'을 개최하고, 개정 자살예방법 시행에 따른 정부와 정보통신서비스 제공자의 협력 방안을 논의했다.
11월 12일부터 시행된 개정 「자살예방 및 생명존중문화 조성을 위한 법률」은 정보통신서비스 제공자의 자살유발정보 유통방지 의무를 강화하고, 보건복지부장관의 모니터링 업무와 관련 조치 요청 권한을 명확히 했다.
온라인 사업자, 차단·삭제와 검색·송수신 제한 중 하나 이상 조치해야
이번 법 개정에서 구체적으로 달라진 부분은 정보통신서비스 제공자의 유통방지 조치 의무다.
11월 11일 공포돼 12일부터 시행된 자살예방법 시행령 제12조의2는 사업자가 취해야 할 조치를 세 가지로 규정했다.
첫째는 자살유발정보의 차단·삭제다.
둘째는 이용자가 자살유발정보를 검색하는 것을 제한하는 조치다.
셋째는 이용자 사이에서 자살유발정보를 주고받는 행위를 제한하는 조치다.
사업자는 이 가운데 하나 이상의 조치를 실시해야 한다. 모든 게시물에 세 가지 조치를 동시에 적용해야 한다는 의미는 아니다.
조치 결과를 정부에 제출하는 의무도 신설됐다.
최종 시행령에 따르면 사업자는 조치한 날이 속하는 분기가 끝난 후 30일 이내에 보건복지부장관이 정해 공고하는 방식에 따라 전자문서로 결과를 제출해야 한다.
이는 앞서 공개된 입법예고안과 다른 내용이다.
입법예고안에서는 조치한 달의 다음 달 말일까지 결과를 제출하도록 했지만, 최종 공포된 시행령에서는 제출 기한이 분기 종료 후 30일 이내로 변경됐다.
따라서 실제 적용되는 기준은 입법예고안이 아니라 11월 11일 공포된 대통령령 제36828호다.
다만 이번 시행령은 사업자가 취해야 할 조치의 종류와 결과 제출 기한을 규정한 것이다.
게시물 유형별 세부 판단 기준이나 이용자의 이의신청·복구 절차까지 모두 정한 것은 아니다.
사업자가 실제로 어떤 방식으로 위험정보를 판별하고, 차단 조치를 선택하며, 잘못된 조치를 정정할 것인지는 추가로 확인해야 할 부분이다.
자살 관련 표현이 있다고 모두 불법정보는 아니다
온라인 게시물에 자살과 관련된 단어나 표현이 등장한다고 해서 모두 법률상 자살유발정보에 해당하는 것은 아니다.
자살예방법 제2조의2는 자살유발정보를 자살을 적극적으로 부추기거나 자살행위를 돕는 데 활용되는 정보로 정의한다.
구체적으로는 자살동반자 모집정보, 자살에 대한 구체적인 방법을 제시하는 정보, 자살을 실행하거나 유도하는 내용, 법률상 자살위해물건의 판매·활용에 관한 정보 등이 해당한다.
그 밖에도 이러한 유형에 준하면서 명백히 자살 유발을 목적으로 하는 정보가 포함된다.
반면 우울감이나 정신적 고통을 호소하는 글, 과거의 위기 경험을 공유하는 글, 정신건강 상담을 요청하는 글은 그 자체만으로 자살유발정보라고 단정할 수 없다.
자살예방 교육이나 상담 안내, 회복 경험을 공유하는 게시물 역시 표현의 목적과 전체 맥락을 고려해야 한다.
이러한 구분은 AI 모니터링에서 특히 중요하다.
AI가 특정 단어나 문장만을 기준으로 게시물을 선별하면 실제 도움이 필요한 사람의 상담 요청이나 회복 경험 공유까지 위험정보로 잘못 분류할 가능성이 있기 때문이다.
자신의 고통을 설명하며 도움을 요청하는 글과 다른 사람에게 자살을 권유하는 글은 일부 표현이 비슷하더라도 목적과 의미가 다르다.
따라서 법률상 자살유발정보에 해당하는지 판단하려면 단순한 단어 포함 여부뿐 아니라 글 전체의 맥락과 작성 목적, 다른 사람의 자살행위를 부추기거나 돕는 내용이 있는지를 함께 살펴야 한다.
다만 이번 정부 발표에는 AI 시스템이 실제로 어떤 문맥 분석 기준을 적용하는지, 정상적인 상담 게시물을 어떻게 구분하는지, 잘못 선별된 정보를 어떤 절차로 재검토하는지에 관한 세부 내용이 제시되지 않았다.
이는 AI 모니터링 체계의 실제 운영 과정에서 확인해야 할 과제다.
AI는 위험 게시물 우선 선별…담당자가 확인해 후속 조치
보건복지부는 과학기술정보통신부의 공공 AX 프로젝트를 통해 개발한 24시간 자살유발정보 모니터링 AI 시스템을 구축하고, 11월 중 가동할 계획이라고 밝혔다.
AI 시스템은 온라인에 유통되는 방대한 정보 가운데 자살유발정보로 의심되는 게시물을 탐지하고, 위험성이 높은 정보를 우선 선별하는 데 활용된다.
이후 모니터링 담당자가 위험도가 높은 게시물을 먼저 확인하고 필요한 경우 구조 신고 등 후속 조치를 진행한다는 설명이다.
정부가 발표한 AI의 역할은 위험 게시물의 탐지와 우선순위 선별이다.
AI가 모든 게시물의 위법성을 독자적으로 확정하거나 구조기관의 출동을 자동으로 결정한다는 내용은 확인되지 않았다.
또한 11월 12일 현재 정부 발표에서 확인되는 것은 시스템 구축과 11월 중 가동 계획이다. 실제 운영 개시일이나 가동 이후 탐지 실적은 별도로 확인되지 않았다.
AI가 선별한 게시물 가운데 실제 자살유발정보로 판단된 비율, 정상적인 게시물이 잘못 분류된 비율, 담당자의 검토에 걸리는 시간 등도 공개된 자료에서 확인되지 않았다.
따라서 24시간 모니터링 체계가 도입된다는 사실만으로 위험정보를 빠짐없이 찾아내거나 오탐 없이 처리할 수 있다고 단정하기는 어렵다.
위험 게시물 발견하면 차단 요청…긴급한 경우 구조기관 협조 가능
개정 자살예방법은 정부의 자살유발정보 모니터링 업무를 법률에 명시하고 관련 권한을 구체화했다.
보건복지부장관은 온라인에서 자살유발정보를 모니터링하고, 명백한 자살유발정보에 대해서는 정보통신서비스 제공자에게 필요한 조치를 요청할 수 있다.
또한 긴급한 조치가 필요한 경우에는 긴급구조기관의 장에게 수사나 구조 등의 협조를 요청할 수 있다.
정부 발표를 기준으로 보면 AI가 위험성이 높은 게시물을 선별하고, 모니터링 담당자가 이를 확인한 뒤 상황에 따라 유통방지 조치나 구조 신고 등으로 연결하는 방식이다.
다만 모든 사건이 반드시 동일한 순서로 처리된다고 볼 수는 없다.
위험 게시물의 작성자와 실제 자살위험에 처한 사람이 반드시 같은 사람인 것도 아니다. 자살유발정보를 유통하는 행위에 대응하는 것과 위기 당사자를 발견해 구조하는 것은 구분해야 한다.
또한 게시물을 발견했다고 해서 작성자의 신원이나 위치가 자동으로 확인되는 것은 아니다.
긴급구조 과정에서 개인정보를 요청하거나 제공받는 경우에도 관련 법률에 따른 요건과 절차를 준수해야 한다.
이번 발표에는 AI가 게시물을 선별한 이후 담당자가 어느 시간 안에 검토해야 하는지, 어떤 위험 수준에서 긴급구조를 요청하는지, 구조기관과 어떤 정보를 주고받는지에 관한 구체적인 운영 절차가 제시되지 않았다.
실제 구조 요청 건수나 출동 결과 등도 확인되지 않았다.
따라서 AI 모니터링이 실제 구조 성과를 얼마나 개선하는지는 향후 운영 결과를 통해 검증해야 한다.
위기 당사자 발견 이후 상담·치료 연계도 중요
자살위험에 처한 사람을 발견했다면 긴급한 안전 확보와 함께 상담이나 치료 등 필요한 지원을 받을 수 있도록 연결하는 것도 중요하다.
국내에서는 자살예방상담전화 109와 지역 정신건강복지센터, 자살예방센터 등을 통한 지원체계가 운영되고 있다.
자살예방상담전화 109는 24시간 이용할 수 있으며, 상담 과정에서 위험성이 높다고 판단되는 경우에는 상황에 따라 지역 정신건강복지센터나 자살예방센터 등과 연계해 추가적인 지원을 받을 수 있다.
지역 정신건강복지센터와 자살예방센터는 정신건강 상담과 위기개입, 고위험군 사례관리 등 관련 서비스를 제공한다.
그러나 이러한 기존 지원체계와 이번에 구축한 AI 모니터링 시스템이 어떤 방식으로 직접 연결되는지는 별도로 확인할 필요가 있다.
예를 들어 AI가 위험 게시물을 선별했을 때 해당 이용자에게 상담 안내가 제공되는지, 모니터링 담당자가 상담기관에 직접 연계를 요청할 수 있는지, 실제 상담으로 이어졌는지를 확인하는 절차가 마련돼 있는지는 이번 발표에서 구체적으로 제시되지 않았다.
또한 상담 연계가 이뤄지더라도 당사자의 동의와 개인정보 보호, 긴급 상황에 대한 예외적 대응 등은 관련 법령과 운영 기준에 따라 처리해야 한다.
따라서 기존 상담체계가 운영되고 있다는 사실만으로 AI가 발견한 모든 위기 이용자가 자동으로 상담이나 치료를 받게 된다고 해석해서는 안 된다.
차단 건수뿐 아니라 오탐·구조·상담 연계 성과도 살펴야
정부는 이번 포럼에서 정보통신서비스 제공자와 자살예방 전문가, 경찰 등 관계기관이 참여하는 민관 협력 방안을 논의했다.
유현재 서강대 신문방송학과 교수는 명백한 자살유발정보에 대한 신속하고 일관된 조치가 필요하다고 강조했다. 아울러 정보의 판단 기준과 처리 절차를 명확히 하고, 위기 상황에 놓인 이용자를 지원하는 체계를 마련해야 한다고 밝혔다. 특히 생명 보호와 표현의 자유를 함께 고려하는 대응체계의 중요성을 강조했다.
이어 한국인터넷자율정책기구와 한국인터넷기업협회 관계자, 경찰청 등 관련 기관이 온라인 자살유발정보 관리와 제도 개선, 수사 협력 방안 등을 논의했다.
이러한 문제는 앞으로 AI 모니터링 체계의 성과를 평가할 때도 중요하다.
단순히 몇 건의 게시물을 찾아내고 삭제했는지만으로는 제도의 효과를 충분히 판단하기 어렵다.
AI가 선별한 게시물 중 실제 자살유발정보로 확인된 비율과 정상적인 정신건강 상담 게시물이 잘못 차단된 사례를 함께 살펴야 한다.
잘못된 차단에 대한 재검토와 정정 절차가 제대로 작동하는지도 확인할 필요가 있다.
아울러 긴급구조 요청이 실제 구조로 이어진 사례, 상담기관으로 연계된 사례, 후속 지원이 이뤄진 사례 등을 확인해야 온라인 모니터링이 위기 당사자 보호에 얼마나 기여했는지 평가할 수 있다.
다만 이러한 항목은 향후 확인이 필요한 평가 지표로, 정부가 이번 발표에서 모두 측정했거나 성과를 입증했다는 의미는 아니다.
온라인 자살유발정보 차단은 위험한 정보의 확산을 막기 위한 조치다. 동시에 위기에 처한 사람이 자신의 어려움을 이야기하고 도움을 요청할 수 있는 통로는 보호돼야 한다.
이번 법 개정과 AI 모니터링 도입의 성과는 위험정보를 얼마나 신속하게 찾아내는지뿐 아니라, 정상적인 상담과 정보 공유를 부당하게 제한하지 않으면서 실제 도움이 필요한 사람을 구조와 상담으로 얼마나 적절하게 연결하는지에 따라 평가돼야 할 것이다.
정신적 어려움이나 자살에 대한 생각으로 도움이 필요한 경우에는 24시간 자살예방상담전화 109를 이용할 수 있다. 생명이나 신체에 즉각적인 위험이 있는 긴급 상황에서는 119 또는 112에 신고할 수 있다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}