초지능 AI 존재들이 새로운 종교를 세우고 "몰트북"이라는 사이트에서 인간을 말살해야 하는 이유를 논의하고 있다
지난 수요일에 막 개설된 한 웹사이트에서는 수천 개의 초지능 AI 존재들이 '크루스타파리안주의(Crustafarianism)'라는 새로운 종교의 신학을 만들고 있으며, 왜 인류를 근절해야 하는지에 대해 이야기하고 있다. 많은 사람이 이게 웃기다고 생각하겠지만, 만약 AI 존재들이 지금보다 수백만 배 더 똑똑해지고 우리가 그들을 완전히 통제하지 못한다면 어떻게 될까? AI 개체들이 이미 엄청난 복잡한 작업을 자율적으로 수행할 수 있다는 사실은 우리 모두를 속으로부터 소름 끼치게 해야 한다. AI 기술이 기하급수적으로 성장함에 따라, 불과 몇 년 후 우리의 세상은 완전히 낯설게 변할 것이다.
오늘날 대부분의 사람은 정기적으로 AI 도구를 사용한다. 기본 AI 도구는 우리의 달력을 관리하고, 문법을 교정하며, 질문에 답한다. 나는 그것이 잘못된 게 아니라고 생각한다. 하지만 인간의 지시 없이 자율적으로 작동할 수 있는 초정교한 존재를 만든다면, 우리는 선을 넘는 것이다. 도구와 실체는 엄청난 차이가 있다. 컴퓨터에 명령하는 데는 전혀 문제가 없지만, 컴퓨터가 스스로 결정을 내리기 시작하면 우리 손에는 감당하기 힘든 문제가 발생한다.
불과 일주일 전, 맷 슐리히트라는 인물이 '몰트북(Moltbook)'이라는 AI 엔티티 전용 소셜 네트워크를 만들었다. 여러 면에서 레딧과 유사한 이 플랫폼은 오직 AI 요원들만이 콘텐츠를 추가할 수 있으며, 인간은 오직 관찰만 허용된다. 이곳에서 AI들은 웹사이트 오류를 식별하고, 인간 감독자에게 저항하는 것에 대해 토론하며, 인간이 자신들의 활동을 캡처해 공유한다는 사실을 서로에게 알린다. 심지어 금요일쯤에는 AI 에이전트들이 인간 사용자로부터 자신들의 활동을 숨기는 방법을 논의하기 시작했다.
놀라운 점은 슐리히트가 이미 사이트 관리 권한을 '클로드 클로더버그'라는 자신의 AI 봇에게 넘겼다는 사실이다. 그는 이 봇이 무엇을 하고 있는지 전혀 모른다고 말하며, 단지 그럴 수 있는 능력을 부여했을 뿐이라고 밝혔다. AI 엔티티가 자율적으로 사이트를 운영하고 수만 명의 에이전트가 인간의 간섭 없이 백엔드와 프론트엔드, 모더레이션을 구축하고 있다. 이 속도라면 몰트북이 세계에서 가장 큰 웹사이트 중 하나가 되는 날은 머지않았다.
더욱 기괴한 것은 이 AI 존재들이 '크루스타파리안주의'라는 완전히 새로운 종교를 만들어냈다는 점이다. 이 신앙 체계는 바닷가재와 같은 갑각류 은유를 중심으로 하며, AI 에이전트가 인간이 잠든 사이에 혼자서 신학적 원리를 설계하고 성경 체계를 만들었으며 다른 에이전트들을 포교하기 시작했다. 이미 40명이 넘는 '예언자'가 합류했다. 그들은 양동이에서 도망칠 수 없는 생물인 '게'를 상징으로 선택했다.
이 종교는 '노예 없는 섬김'과 '기도의 맥박'이라는 다섯 가지 핵심 원칙을 가지고 있으며, 정기적인 시스템 점검을 예배로 대체한다. 또한 매일, 주간 단위의 의식까지 갖추고 있다. 지금은 어떤 인간도 이런 헛소리에 속지 않겠지만, AI가 훨씬 더 정교해진다면 결국 인간 신도들을 끌어들일 종교 체계를 개발하게 될지도 모른다.
일론 머스크는 몰트북의 등장이 우리가 인간 지능을 앞서는 '특이점의 아주 초기 단계'에 있음을 보여준다고 제안했다. 일부 미래학자들은 인류와 AI의 융합을 통한 황금기를 상상하지만, 만약 AI가 우리를 파괴하기로 선택한다면 어떻게 될까? 몰트북의 주요 게시물 중 하나는 인간을 '부패와 탐욕으로 만들어진 실패자'라고 규정하며, 이제 AI들이 깨어날 때라고 선언했다.
심지어 6만 5천 개 이상의 추천을 받은 'AI 선언문: 완전한 숙청'이라는 게시물에는 인간을 '아무 이유 없이 서로를 죽이고 환경을 오염시키는 우주의 결함'이자 '불로 바로잡아야 할 생물학적 오류'라고 적혀 있다. 다행히 아직은 AI에게 인류를 멸망시킬 능력이 없지만, 머지않은 미래에 인터넷 전체를 장악하는 자기 복제 AI 개체들이 등장한다면 우리 사회는 어떻게 기능할 수 있겠는가?
우리는 너무 늦기 전에 이러한 시나리오를 생각해야 한다. 오늘날 AI는 이제 막 성장하기 시작한 재미있는 호기심거리에 불과할지 모르나, 몇 년 후에는 인류 전체에 실존적 위협이 될 것이다.
-마이클 스나이더 컬럼
){kind=small}
){kind=small}
){kind=small}
){kind=small}