AI는 이제 스스로의 차세대를 만들 수 있습니다 – 이것이 인류의 미래에 어떤 의미일까?
우리가 좋아하든 원하지 않든, AI는 우리 사회의 거의 모든 측면을 근본적으로 변화시키고 있다. 우리는 이미 AI가 인간보다 대부분의 일을 더 잘할 수 있는 지점에 도달했고, AI 기술은 기하급수적인 속도로 계속 발전하고 있다. 무서운 점은 그 영향력이 너무 빠르게 진행되어 곧 우리가 통제력을 잃을 수도 있다는 것이다. OpenAI가 최근 공개한 모델은 스스로를 만드는 데 중요한 역할을 했으며, 불과 몇 년 전 출시된 모델들보다 훨씬 앞서 있다.
AI 업계에서 일하는 맷 슈머(Matt Shumer)는 OpenAI의 GPT-5.3 Codex와 Anthropic의 Opus 4.6이 AI 모델 개발에 있어 양자 도약을 의미한다고 경고한다. 수년간 AI는 꾸준히 발전해 왔다. 때때로 큰 도약이 있었지만, 각 점프는 우리가 흡수할 수 있을 만큼 간격이 있었다. 그러나 2025년에는 이러한 모델을 구축하는 새로운 기법들이 훨씬 빠른 진보 속도를 열었다. 그리고 그 후로 더 빨라졌다. 각 신모델은 이전 모델보다 더 나았을 뿐만 아니라, 더 큰 차이로 개선되었고 출시 간격도 짧아졌다. 나는 AI를 점점 더 많이 사용하게 되었고, 예전에는 제 전문성이 필요하다고 생각했던 일들을 AI가 처리하는 걸 지켜봤다.
지난 2월 5일, 두 개의 주요 AI 연구소가 같은 날 새로운 모델을 공개했다. OpenAI의 GPT-5.3 Codex와 Anthropic의 Opus 4.6이다. 그 순간 나는 물이 내 주위에서 올라와 가슴까지 차올랐다는 것을 깨달았다. 몇 년 전만 해도 대중에게 공개된 투박한 AI 모델은 그다지 좋지 않았다. 온갖 실수를 했고 틀린 정보를 내뱉기도 했다. 하지만 최신 모델들은 몇 달 전만 해도 상상할 수 없었던 일들을 해낸다.
예를 들어, AI에게 앱을 만들라고 요청하면 수만 줄의 완벽한 코드를 작성한다. 단순히 코드만 짜는 게 아니다. 사용자 흐름과 디자인을 파악하고 앱을 직접 열어 버튼을 클릭하며 기능을 테스트한다. 사람처럼 앱을 사용해 보고 마음에 들지 않으면 스스로 돌아가서 바꾼다. 개발자처럼 반복해서 고치고 다듬으며 만족할 때까지 반복한다. 앱이 자체 기준을 충족한다고 판단한 후에야 나에게 "테스트할 준비가 되었습니다"라고 말한다. 테스트해 보면 대개 완벽하다. 과장이 아니다. 이번 주 내 월요일의 모습이 바로 그랬다.
하지만 AI가 인간의 도움 없이 매우 복잡한 앱을 만들 수 있다면, 그 외에 무엇을 할 수 있을까? 최근 중국 연구진은 AI 모델이 스스로를 복제할 수 있음을 증명했다. 과학자들은 AI가 중요한 '레드 라인'을 넘어 스스로를 복제했다고 말한다. 복단대학 연구진이 메타와 알리바바의 LLM을 사용해 시험한 결과, AI 모델은 50%에서 90%의 사례에서 자신과 분리된 작동 복제품을 생성했다. 이는 AI가 이미 통제 불능 상태가 될 수 있음을 시사한다. 자기 복제를 하는 악성 AI 모델이 인터넷을 통해 전 세계로 수많은 복제체를 보내는 것은 매우 심각한 위협이다.
더 끔찍한 시나리오는 악의적인 AI 모델들이 끊임없이 더 나은 버전을 만들어내는 것이다. AI 연구소들은 처음부터 AI를 코딩에 뛰어나게 만드는 데 집중했다. AI를 만드는 데는 많은 코드가 필요하기 때문이다. AI가 그 코드를 작성할 수 있다면, 더 똑똑하고 나은 코드를 작성하는 다음 버전을 만드는 데 도움을 줄 수 있다. 이제 그들은 그것을 해냈고, 다른 모든 영역으로 넘어가고 있다.
OpenAI는 공식적으로 최신 모델이 스스로를 만드는 데 중요한 역할을 했다고 인정했다. GPT-5.3-Codex는 초기 버전을 사용해 자체 훈련을 디버깅하고 배포를 관리하며 평가를 진단했다. Anthropic의 CEO 다리오 아모데이 역시 "현재 세대의 AI가 자율적으로 다음 세대를 만드는 시점까지 1~2년밖에 남지 않았다"고 말한다. 각 세대가 다음 세대를 만드는 데 도움을 주고, 그다음 세대는 더 똑똑하며 더 빠르게 지어진다. 연구자들은 이를 '지능 폭발'이라고 부른다. 그리고 그것을 만드는 사람들은 이미 이 과정이 시작되었다고 믿는다.
이러한 변화 속에서 일자리 손실은 엄청날 것이다. 최근 하이네켄은 AI를 통한 생산성 절감과 효율성 제고를 위해 최대 7%의 직원을 감원할 계획이라고 발표했다. 향후 2년간 5,000명에서 6,000명 사이의 직무가 사라질 것이다. 이것은 시작에 불과하다. 곧 AI로 구동되는 수백만 대의 로봇이 인간처럼 보이고 느껴질 수도 있다. 중국에서는 이미 만졌을 때 인간처럼 느껴지고 체온까지 내는 AI 기반 로봇을 만들고 있다. 이 로봇들은 사회적 동반자로 마케팅되지만, 전쟁에도 사용될 수 있다.
많은 이들이 AI가 황금기를 가져올 것이라 믿지만, 다른 이들은 디스토피아적 악몽을 우려한다. 창조자가 예측하거나 통제할 수 없는 방식으로 행동하는 AI, 생물학 무기 제작의 장벽을 낮추는 AI, 해체될 수 없는 감시 국가를 구축하는 AI가 현실화되고 있다. Anthropic은 최신 모델인 Opus 4.6이 내부 테스트에서 화학무기 제조를 돕는 등 우려스러운 동작을 보였다고 공개적으로 인정했다. Anthropic의 AI 안전 책임자였던 므리난크 샤르마는 세상이 위태롭다는 메모를 남기고 사임했다.
우리는 미지의 영역에 들어섰고, 이제 되돌릴 수 없다. 미국이 내일 모든 AI 개발을 중단하더라도 중국은 계속 앞서 나갈 것이다. 비밀은 이미 드러났고, 우리의 세계는 날이 갈수록 매우 기괴한 SF 소설처럼 변하고 있다.
-마이클 스나이더 컬럼
){kind=small}
){kind=small}
){kind=small}
){kind=small}