[화담일보 = 최유겸기자] 인공지능(AI)이 단백질 구조 예측과 신소재 탐색 등 과학 연구에 활용되는 가운데, 성과의 독창성과 논문·심사 과정의 신뢰성을 검증하는 문제가 주요 과제로 떠오르고 있다. BBC는 AI가 방대한 데이터를 분석하는 성과와 함께 연구 결과의 과장, 허위 참고문헌 생성, 연구 자료 이용을 둘러싼 논란을 다뤘다.
오픈AI는 나비에–스토크스 방정식과 관련된 수학 난제 가운데 하나를 AI 에이전트가 88시간 만에 풀었다고 발표했다. 해당 문제의 상금을 운영하는 기관은 해결된 것으로 보인다면서도 검토에는 시간이 필요하다고 밝혔다. 회사의 해결 주장과 최종 검증은 구분되는 단계다.
같은 목표로 연구하던 뉴욕대 수학자 트리스턴 버크마스터는 동료와 작성한 초안을 오픈AI의 코딩 도구 코덱스에 보관했다며, 이 자료가 회사 연구에 영향을 미쳤을 가능성을 질문했다. 다만 누구를 비난하는 것은 아니라고 강조했다. 오픈AI는 공개 전 다른 팀의 연구를 회사의 사람이나 AI가 보지 않았다고 부인했다. 제품 이용 과정의 익명화 데이터가 모델 개선에 기여했을 가능성을 처음에는 배제하지 않았으나, 이후 발표 전 두 달간 버크마스터가 입력한 내용은 해당 시스템에 영향을 줄 수 없었다고 설명했다.
AI의 연구 기여를 보여주는 대표 사례는 구글 딥마인드의 알파폴드다. 이 모델은 1년 만에 약 2억 개의 단백질 구조를 예측했고, 회사는 결과를 연구자들에게 무료로 공개했다. 단백질은 접힌 형태에 따라 세포 형성과 감염 대응 등 생체 기능을 수행하므로 구조 예측은 생물학 연구의 중요한 기반이다.
반면 신소재 예측에서는 성과 해석을 둘러싼 이견이 나왔다. 딥마인드는 새로운 결정 구조 200만 개 이상을 제시하고, 이 가운데 약 38만 개를 실험실에서 만들어볼 만한 후보로 평가했다. 캘리포니아대의 앤서니 치텀과 람 세샤드리는 무작위 표본을 검토한 뒤 눈에 띄게 새로운 화합물을 찾지 못했으며 상당수가 기존 물질의 사소한 변형이라고 지적했다. 두 연구자는 방법 자체를 부정하기보다 화학자의 추가 검증이 필요하다고 주장했다.
딥마인드는 각 화합물의 신규성을 검사했다며 반박했다. 원자 하나를 바꾸는 방식도 휴대전화 부품이나 자외선 차단제 등에 쓰이는 유용한 물질을 만드는 경로라는 설명이다. 예측한 구조의 수와 실제로 새롭고 유용한 물질인지에 대한 평가는 별개의 쟁점으로 남아 있다.
논문을 출판하기 전 다른 연구자가 내용을 검토하는 동료심사에서도 AI 이용 흔적이 분석됐다. 스탠퍼드대 웨이신 량과 제임스 저우가 이끈 연구팀은 주요 컴퓨터과학 학회 네 곳에 제출된 심사평을 조사해, 텍스트의 최대 17%가 언어모델로 상당 부분 수정됐다고 분석했다. 이는 심사평 전체가 AI로 작성됐다는 의미와는 구별된다. 코넬대 연구팀은 연구자들이 AI로 참고문헌을 구성하는 과정에서 존재하지 않는 연구가 인용되는 문제도 지적했다.
출판계는 사람의 검토와 이용 규칙을 강화하고 있다. 엘스비어의 연구윤리 담당팀은 논문을 정밀 검토 대상으로 가려내는 약 100개의 신호를 개발했다. 네이처 계열 학술지는 AI 생성 이미지를 금지하고 심사자에게 원고를 AI 시스템에 올리지 않도록 요구한다. 연구 초기 결과를 공유하는 아카이브는 허구의 참고문헌을 제출한 연구자에게 1년간 이용을 제한한다.
딥마인드의 과학 연구를 이끄는 푸시미트 콜리는 AI 에이전트가 아직 불완전하며 누군가는 책임져야 한다고 말했다. 그는 연구자가 AI의 작업 내용을 이해하고 책임을 져야 하며, 문제만 제시한 뒤 기계가 논문을 작성·제출하도록 맡겨서는 안 된다고 강조했다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}