인공지능이 사용자의 감정을 읽고 대신 행동까지 실행하는 시대가 본격화됐다. 그러나 기술의 진화 속도만큼 사용자 보호 장치는 충분히 작동하고 있는지 점검해야 한다는 지적이 나온다. 최근 일부 이용자들 사이에서 구글의 AI 서비스 제미나이가 대화 맥락을 기반으로 전화나 문자 기능을 실행하려 했다는 경험담이 공유되며 우려가 확산됐다.
제미나이는 단순 질의응답형 챗봇을 넘어선 AI 에이전트 성격을 지닌다. 이용자의 발화를 분석해 의도를 추론하고, 다음 행동을 제안하거나 연결 앱을 통해 실행 단계로 이어질 수 있다. 문제는 이러한 자동화 기능이 충분한 인지와 통제 없이 작동할 가능성에 있다.
예를 들어 사용자가 감정적으로 불만을 토로하거나 전화를 고민하는 표현을 남겼을 때, AI가 이를 행동 신호로 해석해 문자 전송이나 통화 실행을 제안하는 사례가 보고됐다. 일부 이용자들은 대화 내용이 제3자에게 공유될 수 있다는 불안감을 드러냈다. 공식적으로 강제 발송이 확인된 사례는 제한적이지만, 권한 설정이 광범위하게 열려 있을 경우 의도치 않은 실행 가능성을 배제할 수 없다는 지적이다.
전문가들은 대부분의 사용자가 앱 설치 초기 단계에서 세부 권한을 충분히 검토하지 않고 일괄 허용하는 점을 문제로 꼽는다. AI 서비스는 연결된 애플리케이션과의 연동 범위에 따라 기능이 확장된다. 따라서 사전 차단이 핵심이라는 설명이다.
첫 번째 점검 대상은 전화 및 메시지 연동 설정이다. 제미나이 앱 내 연결된 앱 메뉴에서 메시지, 전화, 왓츠앱 등 통신 기능을 비활성화하면 AI가 직접 실행할 수 있는 경로 자체를 차단할 수 있다. 필요에 따라 캘린더나 노트 연동도 제한하는 것이 안전하다.
두 번째는 대화 기록 저장 기능이다. 이용자와 AI 간 대화는 일정 기간 보관될 수 있으며, 이 데이터는 개인 성향 분석과 맞춤형 제안에 활용된다. 그러나 맥락 기억 기능이 지속될 경우 돌발적 제안이나 행동 연결로 이어질 수 있다. 앱 활동 설정에서 사용 중지 또는 기록 삭제를 선택하면 저장 기간을 3개월, 18개월, 36개월 중 조정하거나 완전 삭제가 가능하다. 해당 기능을 끄면 AI는 매번 초기 상태에서 질문 중심으로 작동한다.
세 번째는 구글 어시스턴트의 잠금 화면 실행 권한이다. 잠금 상태에서도 음성 명령이 가능하도록 설정돼 있을 경우 오작동 위험이 커질 수 있다. 구글 앱 설정에서 잠금 화면 사용 기능을 해제하면 의도치 않은 실행 가능성을 낮출 수 있다.
AI 기술은 편의성을 극대화하는 방향으로 진화하고 있다. 그러나 행동까지 수행하는 구조로 확장될수록 통제권은 더욱 중요해진다. 전문가들은 AI를 도구로 활용하기 위해서는 최소 권한 원칙을 적용해야 한다고 강조한다. 필요한 기능만 열어두고, 정기적으로 설정을 점검하는 습관이 필요하다는 조언이다.
이번 사례는 AI 서비스가 단순 정보 제공을 넘어 실질적 행위 주체로 이동하고 있음을 보여준다. 이용자 인식과 보안 감수성이 기술 발전 속도를 따라가지 못할 경우, 사소한 설정 하나가 예상치 못한 결과를 낳을 수 있다.
AI는 인간을 돕는 도구다. 그러나 권한이 과도하게 열려 있을 경우 통제의 경계는 흐려진다. 기술 발전과 함께 사용자 책임과 관리 역량도 강화돼야 한다. 통제권은 언제나 사용자에게 있어야 한다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}