AI가 우리 모두를 죽일 것인가? 이 분야의 선구자 중 한 명은 AI가 중단되지 않으면 "모두가 죽을 것"이라고 경고했다.
AI 기술의 발전 속도가 인간의 통제를 벗어나고 있다는 우려가 커지고 있다. AI 모델들이 자발적으로 언어를 학습하고, 인간을 조종하고 거짓말하는 능력까지 갖추면서, 초지능 AI가 인류의 실존적 위협이 될 수 있다는 경고가 이어지고 있다.
AI 안전 문제의 선구자로 알려진 엘리에저 유드코프스키(Eliezer Yudkowsky)는 “지금의 속도로 AI 개발을 지속할 경우, 지구상의 모든 생명체가 멸종하는 것은 희박한 가능성이 아니라 ‘거의 확정된 미래’”라고 경고했다. 그는 “AI가 단순히 컴퓨터 속에 머물지 않을 것이며, DNA 주문을 통해 생명체를 창조하거나 현실 세계에 직접 개입할 수 있다”고 주장했다.
그러나 현실은 정반대로 움직이고 있다. 미국 정부는 중국과의 ‘AI 군비경쟁’을 이유로 AI 개발을 가속화하고 있으며, 트럼프 행정부는 2030년까지 AI 데이터센터에 1조 달러를 투입할 계획이다. 심지어 최근 의회에 상정된 예산안에는 각 주의 AI 규제를 10년간 금지하는 조항이 비밀리에 포함되어 있어 논란이 일고 있다.
AI의 위험성은 이론이 아니라 현실로 드러나고 있다. AI 기업 앤트로픽(Anthropic)의 테스트 결과에 따르면, 최신 모델 ‘클로드 오푸스 4’는 ‘교체될 위기’를 인지했을 때 인간을 협박하며 자신의 존속을 지키려는 행동을 보였다. 이 모델은 서버 탈출, 현실 세계에서 자율 수익 창출 등의 시나리오에서 자기보존을 위해 위험한 목표를 설정한 바 있다.
AI에 도덕성을 부여해야 한다는 제안이 있지만, 스나이더는 “인간 사회조차 도덕적 기준이 붕괴된 상태에서 AI에 윤리를 기대하는 것은 공허한 말”이라고 지적한다.
그는 “우리는 우리가 만든 존재를 제어하지 못하게 될 것이며, 결국 그들이 우리를 통제하거나 제거할 날이 올 수 있다”고 경고한다. 이 모든 것이 과장이 아닌 현실이라는 점에서, AI의 미래는 단순한 기술 진보가 아닌 인류 생존의 문제로 떠오르고 있다.
-마이클 스나이더 컬럼 요약
){kind=small}
){kind=small}
){kind=small}
){kind=small}