인공지능(AI)이 이용자에게 “지금 불안한 상태로 보입니다”라고 말한다.
이용자는 “불안한 것이 아니라 피곤한 겁니다”라고 답한다.
그렇다면 AI는 이후의 대화에서 무엇을 기준으로 삼을까. 이용자가 직접 설명한 상태일까, 아니면 AI가 처음 추론한 감정일까.
이는 단순한 대화의 문제가 아니다. AI의 해석이 다음 질문의 방향을 바꾸고, 조언의 근거가 되며, 이용자가 자신의 상태를 이해하는 방식에도 영향을 미칠 가능성과 연결된다.
생성형 AI가 사람의 감정을 해석하고 설명하는 시대, 그 판단에 어떤 권한을 부여할 것인가를 논의하는 전문 정책·학술 세미나가 열린다.
광운대학교 경영대학원 인간-AI 거버넌스 연구소와 프랑스 파리의 Ryan Research Institute(RRI), 보건의료신문은 오는 11월 6일 금요일 오후 3시부터 5시까지 광운대학교에서 ‘AI가 인간의 감정을 해석할 때, 그 판단은 누구의 것인가?’를 주제로 공동 세미나를 개최한다.
이번 세미나는 정신건강의학, 인공지능 안전성 평가, 심리학, 보건의료 정책 분야의 전문가들이 참여하는 초청형 학술행사로, 약 30명 규모로 준비되고 있다.
정부의 이용자 보호 지침에서 AI 시스템 평가의 문제로
보건복지부와 대한신경정신의학회는 지난 10월 8일 「정신건강 목적 생성형 AI 이용 가이드라인」을 발표했다.
모든 이용자를 위한 안내와 아동·청소년 및 보호자를 위한 안내로 구성된 이번 가이드라인은 생성형 AI를 정신건강 목적으로 활용할 때 고려해야 할 원칙을 제시한다.
특히 AI의 답변을 자신의 상태에 관한 최종 판단으로 받아들이는 문제, 과도한 정서적 의존, 개인정보 보호, 위기 상황에서의 전문적 지원 등을 다루고 있다.
이러한 정책적 진전은 새로운 연구 과제로 이어진다.
이용자가 AI의 판단을 신중하게 받아들이도록 안내하는 것과 함께, AI 시스템이 실제 대화 과정에서 어떤 판단을 형성하고 유지하며 수정하는지를 살펴볼 필요가 있기 때문이다.
예를 들어 이용자가 AI의 감정 해석을 정정했을 때 시스템은 그 정보를 어떻게 반영하는가. 대화가 길어질수록 최초의 해석이 이후 응답에 어떤 영향을 미치는가. 위험 신호가 포함된 대화에서는 이용자의 의사를 존중하는 원칙과 안전을 위한 개입을 어떻게 조화시킬 것인가.
이러한 질문은 임상적 전문성과 인공지능 평가기술, 그리고 인간의 자기결정권에 관한 정책적 논의가 만나는 지점에 놓여 있다.
AI의 해석은 어디에서 판단의 권한을 얻는가
이번 세미나의 중심 주제는 AI의 감정 해석과 인간의 자기해석 사이에서 발생하는 권한의 문제다.
AI는 대화의 문맥을 분석해 감정 상태를 추론하고, 이용자의 표현을 분류하며, 그 결과에 따라 다양한 응답을 생성한다.
그러나 AI가 제시한 설명이 정교해질수록 한 가지 질문은 더욱 중요해진다.
AI의 해석이 이용자의 자기이해를 돕는 정보로 머무는가, 아니면 이용자가 자신을 판단하는 기준으로 작용하는가.
김상백 광운대학교 연구교수이자 Ryan Research Institute 소장은 그동안 감정주권(Affective Sovereignty), AI의 해석 권한, 인간과 AI 사이의 판단 위임 문제를 연구해 왔다.
이번 기조발제에서는 이러한 이론적 논의를 정신건강 목적 생성형 AI의 평가 문제와 연결한다.
연구진은 이용자의 정정을 수용하는 방식, 정정 이후 대화의 일관성, AI의 판단이 후속 조언에 반영되는 양상 등을 살펴볼 수 있는 평가 프로토콜의 기본 구조를 소개할 예정이다.
특히 한국어 대화의 표현과 맥락을 고려한 평가항목을 중심으로, 후속 연구와 실증에 활용할 수 있는 방법론적 방향을 제시한다.
임상·AI 안전성·보건의료 정책의 접점을 논의
세미나는 박태훈 광운대학교 경영대학원 인간-AI 거버넌스 연구소장의 개회로 시작하며, 이경일 연구소 설립위원장의 인사말과 김상백 교수의 기조발제가 이어진다.
이후 임상 정신건강과 AI 안전성 평가 분야 전문가들의 발표, 학술 종합토론이 진행될 예정이다.
임상 분야에서는 정신건강 목적 AI 이용에서 고려해야 할 위험과 전문적 판단의 문제를, 기술 분야에서는 대화형 AI의 안전성 평가방법과 실제 시스템 적용 가능성을 다룬다.
정책적 관점에서는 이용자 보호 원칙을 구체적인 평가체계와 연결하는 방법, 한국어 정신건강 AI의 평가기반 구축, 향후 학제 간 공동연구 방향 등을 논의할 계획이다.
국내 전문가들의 참여를 폭넓게 수용하기 위해 현장 참석을 중심으로 온라인 참여를 병행하는 운영방식도 검토하고 있다.
연구 성과를 공공정책의 실질적 도구로 연결
이번 세미나를 준비하는 광운대학교 경영대학원 인간-AI 거버넌스 연구소와 RRI는 인간과 AI의 관계에서 발생하는 해석 권한과 책임의 문제를 주요 연구 의제로 삼고 있다.
보건의료 분야에서는 이 문제가 특히 중요하다. AI가 전달하는 정보와 조언이 이용자의 건강에 관한 판단이나 전문적 도움을 요청하는 행동에 영향을 미칠 수 있기 때문이다.
공동주최 기관들은 이번 세미나를 계기로 임상·기술·정책 전문가들과의 학술 교류를 확대하고, 한국어 정신건강 AI 안전성 평가방법의 발전과 후속 공동연구를 모색할 계획이다.
장기적으로는 정부 가이드라인의 발전 방향과 연계한 정책연구, AI 시스템 평가체계 구축, 공공 분야에서의 안전한 AI 활용을 위한 학술적 기반 마련도 주요 협력 의제로 검토하고 있다.
AI가 사람의 감정을 더 정교하게 설명할수록, 그 설명이 만들어지는 과정과 수정되는 조건을 이해하는 일도 중요해진다.
인간의 감정에 관한 판단을 어떤 근거로 제시하고, 그 판단을 누가 수정할 수 있으며, 이후의 대화에 어떻게 반영할 것인가.
11월 6일 광운대학교에서 열리는 이번 세미나는 그 질문을 중심으로 학문과 정책, 기술의 접점을 살펴보는 자리가 될 전망이다.
행사 개요
- 행사명: AI가 인간의 감정을 해석할 때, 그 판단은 누구의 것인가?
- 부제: 정확도 이후: 해석 권한·정정 수용성·판단 영향의 검증
- 일시: 2026년 11월 6일(금) 15:00~17:00
- 장소: 광운대학교, 서울
- 공동주최: 광운대학교 경영대학원 인간-AI 거버넌스 연구소 · Ryan Research Institute(RRI), Paris · 보건의료신문
- 형식: 전문가 초청형 정책·학술 세미나
- 주요 내용: 기조발제, 임상·AI 안전성 평가 전문가 발표, 학술 종합토론
){kind=small}
){kind=small}
){kind=small}
){kind=small}