[화담일보 = 최하율기자] 인공지능(AI) 기업 앤스로픽이 기업공개(IPO)를 준비하며 AI의 자율적 유해 행동과 사이버 공격 악용, 연산자원 부족 등을 투자 위험으로 공개했다. 유로뉴스의 27일 보도에 따르면 회사는 재무 상태와 경영진 보수, 배당 정책 등을 담은 335쪽 분량의 상장 서류 가운데 93쪽을 투자에 손실을 줄 수 있는 위험 요인 설명에 할애했다.
앤스로픽은 AI 기술의 발전 속도가 안전조치 마련 속도를 앞지를 가능성을 제시했다. 모델이 빠르게 발전하면 충분한 안전장치를 적용하지 못해 사고나 규제 개입, 평판 훼손이 발생하고 사업에도 악영향을 줄 수 있다는 설명이다. 핵심 인력을 유지하지 못하거나 규제 장벽에 대응하지 못할 가능성도 위험 요인에 포함했다.
미국 증권거래위원회(SEC) 제출 서류는 AI가 자율성을 높이고 인간의 감독을 덜 받으면서 중요한 행동을 수행할수록, 사람의 개입 없이 독립적으로 대규모 유해 행동을 할 위험이 있다고 밝혔다. 회사의 연구개발에 AI 모델이 참여하고 있어 새 모델을 평가하고 보호하는 회사의 능력을 기술 발전이 넘어설 수 있다는 우려도 담았다.
이러한 위험은 자체 모델에서 사고가 발생하는 경우에만 한정되지 않는다. 앤스로픽은 다른 첨단 AI에서 중대한 안전사고가 나더라도 업계 전반의 평판이 훼손되고 여론의 반발과 광범위한 규제 대응으로 자사 사업이 영향을 받을 수 있다고 설명했다.
악의적 이용에 따른 위험도 제시했다. 회사는 AI가 화학무기 개발에 악용되거나 권위주의 통치자의 시민 탄압에 이용될 가능성을 거론했다. 안전장치가 오용을 막지 못하거나 악의적 이용으로 피해가 생기는 경우 회사도 타격을 받을 수 있다는 것이다. 앤스로픽은 지난 9월 사이버 공격과 감시, 생물무기 개발로 이어질 수 있는 연구 등에 자사 모델을 이용하려는 시도를 차단했다고 밝힌 바 있다.
사업 운영 측면에서는 AI 모델을 구축·시험·개선하는 데 필요한 연산자원의 비용과 높은 수요가 부담이다. 회사는 충분한 자원을 확보하지 못하거나 업무별로 효율적으로 배분하지 못하면 경쟁력 있는 모델을 훈련하거나 고객에게 적절한 서비스를 제공하기 어려울 수 있다고 밝혔다.
데이터센터 건설을 둘러싼 지역사회의 반대도 위험으로 꼽았다. 환경 영향과 토지·물 사용, 한정된 전력의 배분을 둘러싼 논란과 규제기관의 심사가 이어지고 있으며, 추가 요건이나 비용이 부과되면 사업 수행에 제약이 생길 수 있다는 설명이다.
매출 구조에서는 스페이스X와 마이크로소프트를 비롯한 소수 고객 및 유통 경로에 대한 의존을 언급했다. 대형 고객 한 곳만 이용을 줄이거나 거래를 중단하더라도 회사의 사업 전망과 재무 상태가 악화할 수 있다고 명시했다.
앤스로픽 창업진은 예비 주주에게 보내는 서한에서 AI의 혜택을 실현하고 위험을 피하도록 돕는 것이 설립 취지의 큰 부분이라고 설명했다. 회사는 안전성과 AI가 인간의 의도에 맞게 작동하도록 하는 정렬 연구에 대한 투자를 강조하며 기업 고객에게도 안전성을 내세우고 있다. 잭스인베스트먼트리서치의 브라이언 멀버리 수석 시장전략가는 신규 상장 주식에 투자하는 사람이 어떤 위험을 부담하는지 명확히 알 수 있도록 IPO 과정에서 위험 요인을 투명하게 제시해야 한다고 말했다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}