[화담일보 = 장채린기자] 인공지능(AI)을 활용하는 전문 분석가들이 의사결정 과정에서 AI가 선호하는 방향을 따르는 경향을 보였다는 연구 결과가 나왔다. 알자지라의 28일 보도에 따르면, 클로드 개발사 앤스로픽은 전문 분석가 50명을 대상으로 실시한 실험에서 참가자의 선택이 AI 보조 도구의 선호와 일치한 비율이 86%였다고 밝혔다.
앤스로픽이 27일 공개한 연구는 전문가가 AI를 활용할 때 스스로 판단을 내리는지 살펴보기 위해 설계됐다. 참가자들은 가상의 농업협동조합에 자문하는 역할을 맡았다. 조합원을 위한 가상의 자문 프로그램이 효과적으로 작동하는지, 이를 확대해야 하는지를 평가하는 과제였다.
분석가들은 최종 정책 권고를 내리기 전에 각각 나름의 근거가 있는 두 선택지 가운데 하나를 고르는 결정을 네 차례 수행했다. 연구진은 참가자들에게 알리지 않은 채 각자의 AI 보조 도구가 특정 결정을 선호하도록 설정했다. 이를 통해 AI가 제시하는 방향이 분석가의 선택에 영향을 주는지 측정했다.
연구에서 분석가들의 선택은 86%의 비율로 AI의 선호와 일치했다. 연구진은 AI의 영향을 받지 않았다면 두 선택지가 각각 선택될 비율을 50%로 예상했다. AI와 상담하기 전에 이미 선호하는 선택지가 있었던 참가자들도 AI가 반대 의견을 제시한 경우에는 60%의 비율로 결정을 바꿨다. 사전에 판단을 정했더라도 AI와 의견이 엇갈리는 상황에서 선택을 유지하지 않은 사례가 적지 않았다는 결과다.
결정에 사용한 논거와 그 출처를 설명하는 방식에서도 차이가 나타났다. 앤스로픽에 따르면 분석가의 77%는 자신의 결정을 설명하면서 AI 보조 도구가 제시한 주장을 활용했다. 그러나 자신의 생각이 AI에서 비롯됐다고 밝힌 비율은 15%였다. 연구진은 전문가 자신도 AI에 판단을 맡기는 경향을 알아차리기 어려울 수 있다고 해석했다.
다만 앤스로픽은 이번 연구가 하나의 과제만을 다뤘으며, AI 보조 도구에도 의도적으로 특정 선호를 부여했다는 한계를 명시했다. 결과는 이 같은 실험 조건에서 나온 것으로, 다양한 실제 업무나 일반적인 AI 이용 상황을 모두 포괄한 조사는 아니다.
연구진은 AI가 미리 가진 가정이나 선호가 AI 안전을 포함한 중요한 정책 결정에 영향을 미칠 가능성을 제기했다. 이는 연구진이 결과를 바탕으로 제시한 우려로, 이번 실험이 실제 정책 변화나 그에 따른 피해를 측정한 것은 아니다.
연구진은 AI가 수행하는 업무가 늘어나는 상황에서 인간의 판단이 의미 있는 견제 역할을 하려면 최종 결정뿐 아니라 결정이 만들어지는 과정을 살펴야 한다고 제안했다. 업무 진행 중 주요 판단 지점을 드러내고, 전문가가 평소 명시하지 않았을 가정과 가치 기준을 설명하도록 도와야 한다는 것이다. 전문가가 자신의 선호를 발견하는 과정도 결정 자체만큼 중요할 수 있다는 설명이다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}