회의가 시작된다.
카메라는 켜져 있고 마이크도 켜져 있다.
직원들은 발표 내용을 보고 있지만 다른 시스템은 직원들을 보고 있다.
누가 긴장했는지, 누가 피곤해 보이는지, 누가 회의에 몰입하지 않는지, 누가 불만을 가진 것처럼 보이는지 점수가 붙는다.
기술적으로는 가능한 장면이다.
그래서 더 먼저 물어야 한다.
회사는 직원의 감정을 알 권리가 있는가.
유럽연합은 이미 상당히 분명한 선을 그었다. EU AI Act는 원칙적으로 직장과 교육기관에서 생체정보를 기반으로 감정을 추론하는 AI 사용을 금지한다. 법의 배경에는 감정 추론 기술의 제한된 신뢰도와 특이성, 문화와 상황에 따른 표현 차이, 그리고 직장과 학교에서 존재하는 권력 불균형에 대한 우려가 있다. 의료나 안전 목적 등의 제한적인 예외는 존재한다.
여기서 중요한 것은 유럽이 “AI는 감정을 절대로 알아낼 수 없다”고 선언한 것이 아니라는 점이다.
설령 어느 정도 추론할 수 있더라도 그것을 특정 권력관계 안에서 사용하는 문제는 별도로 판단해야 한다는 것이다.
이 구분은 앞으로 기업 AI 거버넌스에서 매우 중요해질 것이다.
정확도 80%의 감정 추론 시스템이 있다고 가정해보자.
80%라는 수치는 기술 성능을 설명한다.
그러나 그 결과를 팀장이 볼 수 있는지, 승진평가에 반영할 수 있는지, 인사기록으로 저장할 수 있는지, 직원이 “그 해석은 틀렸다”고 수정할 수 있는지는 전혀 다른 질문이다.
성능은 권한을 자동으로 부여하지 않는다.
감정에는 또 하나의 특성이 있다.
사람은 같은 감정을 같은 방식으로 표현하지 않는다.
필자가 35만1734개의 실제 관계 서사를 분석해 2026년 PLOS ONE에 발표한 연구에서도 인간의 서사 구조와 표현된 감정 강도는 단순히 비례하지 않았다. 같은 감정적 경험도 과장되거나 절제되고, 복잡하게 설명되거나 짧게 표현될 수 있었다. 같은 공간에 투영한 언어모델은 인간보다 훨씬 좁은 표현영역을 보였다.
직장에서 이런 차이는 작은 문제가 아니다.
말이 적다는 이유로 몰입이 낮다고 판단하거나, 표정 변화가 적다는 이유로 감정이 없다고 추론한다면 개인차와 문화차가 평가점수로 굳어질 수 있다.
기업이 앞으로 감정 AI를 검토할 때 “정확도가 몇 퍼센트인가”보다 먼저 확인해야 할 것이 있다.
무엇을 추론하는가. 그 결과를 누가 보는가. 어떤 의사결정에 연결되는가. 당사자가 알고 있는가. 그리고 잘못된 해석을 실제로 뒤집을 수 있는가.
나는 이런 문제를 ‘감정주권’의 문제로 다뤄왔다.
감정 데이터의 소유권만을 뜻하는 것이 아니다.
기계가 나에 대해 내린 감정적 해석이 존재하더라도 그것이 곧바로 나 자신에 대한 최종 정의가 되지 않도록 하는 조건이다.
사람을 더 많이 측정할 수 있게 된 조직이 반드시 사람을 더 잘 이해하는 조직이 되는 것은 아니다.
때로는 알아낼 수 있어도 사용하지 않는 것이 더 정교한 기술적 판단이다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}