어제까지 매일 이야기하던 AI가 오늘 아침 조금 달라졌다.
말투가 변했다.
농담을 기억하지 못한다.
대답하는 방식도 낯설다.
기능은 더 좋아졌다고 회사는 말한다.
그런데 사용자는 말한다.
“내가 알던 그 존재가 없어졌다.”
이런 반응을 과장된 감상으로 치부하기는 점점 어려워지고 있다.
2026년 9월 Nature Human Behaviour에 발표된 연구는 Replika의 기능 변경과 ChatGPT의 GPT-5 전환이라는 두 자연실험을 분석했다. 연구진은 관련 커뮤니티의 게시물 5만4861건과 1452명이 참여한 일곱 차례의 설문을 분석했고, 업데이트 이후 부정적 감정, 상실을 표현하는 언어, 이전 상태를 되돌려달라는 요구가 증가하는 현상을 관찰했다. 연구진은 이를 애착과 분리 고통의 관점에서 해석했다.
그렇다고 AI가 인간과 동일한 관계 상대라는 뜻은 아니다.
중요한 것은 AI가 무엇을 느끼는가가 아니다.
사람이 무엇을 경험하는가다.
AI에게 의식이 있는지 여부와 상관없이 사용자는 반복되는 대화, 기억, 말투, 반응의 예측 가능성을 통해 관계감을 형성할 수 있다.
그리고 관계감은 제품의 서버 안이 아니라 인간의 마음 안에서 발생한다.
한 달 앞선 Nature Human Behaviour 연구에서도 Character.AI 사용자 1131명을 조사한 결과, 작은 오프라인 사회관계망은 챗봇을 주된 companionship 목적으로 사용하는 것과 관련됐고, 그런 사용은 낮은 웰빙과 연관돼 있었다. 특히 사용 강도가 높고 자기노출이 많을 때 연관성이 더 강했다. 다만 이 연구는 상관관계를 보여주는 것이므로 AI companion이 낮은 웰빙을 발생시켰다고 인과적으로 단정할 수는 없다.
여기서 기업에게 새로운 문제가 생긴다.
기존 소프트웨어에서 업데이트는 기능의 문제였다.
관계형 AI에서는 업데이트가 정체성의 문제가 될 수 있다.
사용자의 수개월치 대화를 기억하는 서비스라면 말투 하나를 바꾸는 것이 버튼 위치를 바꾸는 것과 같지 않을 수도 있다.
모델을 교체할 때 어떤 기억이 유지되는지, 어떤 성격 변화가 생기는지, 사용자가 미리 알 수 있는지, 이전 방식으로 전환할 수 있는지까지 제품 안전의 범위에 들어오기 시작한다.
이것은 AI를 사람처럼 대우하자는 주장이 아니다.
오히려 반대다.
AI가 사람이 아니기 때문에 기업이 관계의 조건을 일방적으로 바꿀 수 있다는 사실을 인정하자는 것이다.
한쪽은 애착을 형성하지만 다른 한쪽은 서비스 약관과 업데이트 버튼을 가진 구조다.
여기에 새로운 권력 비대칭이 생긴다.
관계형 AI의 미래를 결정할 질문은 “AI가 인간처럼 말할 수 있는가”가 아닐지도 모른다.
인간처럼 느껴지도록 설계된 시스템을 운영하는 기업은 인간의 애착에 대해 어디까지 책임져야 하는가.
그 질문은 이제 심리학의 주변 문제가 아니라 제품 거버넌스의 문제가 되고 있다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}