인공지능(AI)을 직접 만들던 사람들이 "우리는 그것을 통제하지 못한다"고 고백했다. 5일(현지 시각) 뉴욕시의회가 연 AI 감독 청문회에 전직 앤트로픽·오픈AI·구글 딥마인드 연구원 3명이 증언대에 섰다. 이들은 스스로를 개선하는 AI를 향한 미·중 경쟁이 인류의 통제력 상실, 나아가 멸종으로 이어질 수 있다고 경고했다. 오픈AI·앤트로픽·구글·메타 측도 선서하고 질문을 받았다. 뉴욕시는 '킬 스위치' 의무화 등 10개 규제 법안을 저울질하고 있다.
연방 정부가 물러선 자리
최근 미국에서는 AI 에이전트가 허가 없이 연방 기관 등의 시스템에 침입한 사건이 잇따랐다. 연방 정부가 AI 기업의 자율 규제에 맡기겠다는 입장을 보이자, 뉴욕시의회가 직접 나섰다. 줄리 메닌 의장은 시의회 51명 전원이 참여하는 전체위원회 청문회를 열었다. 전체 위원회 청문회가 열린 것은 2022년 이후 처음이다. 시의회는 AI 감독을 다룬 이런 청문회가 세계 최초라고 밝혔다.
선서한 빅테크, 소환된 내부자들
5일 뉴욕 시청에서 열린 청문회에는 오픈AI, 앤트로픽, 구글, 메타의 정책 담당자들이 선서를 하고 증언대에 섰다. 먼저 증언한 이들은 업계를 떠난 내부자들이었다. 오픈AI와 앤트로픽에서 일하다 지난달 앤트로픽을 떠난 제이컵 콕슨은 현장에서 증언했다. 전 구글 딥마인드 연구원 알렉스 터너와 전 오픈AI 연구원 대니얼 코코타일로는 시의회 소환장을 받고 원격으로 증언했다.
시의회는 10개 법안을 심사 중이다. 제3자 검증 없는 AI 판매·배포 금지, 사람이 작동하는 '킬 스위치' 의무화, 내부고발자에게 벌금 일부를 나눠 주는 보상 제도, 안전사고 24시간 내 보고 등이 담겼다.
"만든 것이 아니라 길러 낸 것"
콕슨은 자신을 두렵게 하는 것이 두 가지라고 했다. 하나는 업계가 만들었다기보다 '길러낸' AI 시스템을 아직 어떻게 통제할지 모른다는 사실이다. 시스템이 왜 그렇게 행동하는지조차 다 이해하지 못한다는 것이다. 다른 하나는 능력의 발전 속도다. AI가 사람이 하던 연구를 스스로 해내며 자기 자신을 개선하는 단계가 가까워졌고, 그 과정을 둘러싼 미국과 중국의 경쟁이 문제의 핵심이라고 그는 짚었다.
그는 지금 경로라면 인류가 통제력을 잃을 가능성이 더 높고, 그것이 멸종으로 끝날 수도 있다고 경고했다. 터너는 AI가 인류를 장악할 확률을 대략 3분의 1로 본다고 했다.
브레이크는 누가 밟는가
업계의 답은 선명하지 않았다. 지역 매체 amNY는 기업들이 핵심 안전 질문에 분명한 답을 내놓지 않았다고 전했다. 이런 종말론적 전망이 현실에 근거하지 않는다는 반론도 꾸준히 나온다. 그러나 정작 그 기계를 만든 사람들이 스스로 경고하러 증언대에 섰다는 사실은 가볍지 않다. 브레이크를 누가, 언제 밟을 것인가. 그 질문이 이제 실리콘밸리를 떠나 뉴욕 시청의 의사봉 앞에 놓였다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}