회사 규정이 바뀌어 새 문서가 올라왔는데도 사내 인공지능(AI)이 옛 규정을 찾아 답하는 일이 생길 수 있다. 자료가 계속 들고 나는 환경에서 AI가 정답이 담긴 자료까지 찾아가는 '길'을 잃어버리기 때문이다. 국내 연구진이 이 길이 끊어지지 않게 유지해 AI가 최신 정보를 더 정확하고 빠르게 찾아내는 기술을 개발했다.
KAIST는 전산학부 김민수 교수 연구팀이 데이터가 끊임없이 추가되고 삭제되는 환경에서도 검색 정확도를 안정적으로 유지하는 동적 벡터 검색 기술 '콘다(CONDA)'를 개발했다고 10월 5일 밝혔다. 연구 결과는 지난 9월 2일 데이터베이스 분야의 권위 있는 국제학술대회 'VLDB 2026'에서 발표됐다.
챗GPT 같은 생성형 AI는 학습이 끝난 뒤 새로 생긴 정보를 스스로 알지 못한다. 이를 보완하기 위해 최신 뉴스나 기업 내부 문서를 검색해 답변에 활용하는 '검색증강생성(RAG)' 기술이 널리 쓰인다. 이 방식이 제대로 작동하려면 수많은 자료 가운데 질문에 맞는 정보를 빠르고 정확하게 찾아내는 검색 기술이 뒷받침돼야 한다.
많은 AI 서비스는 문서나 이미지의 의미를 컴퓨터가 계산할 수 있는 숫자 묶음인 '벡터'로 바꾼 뒤, 의미가 비슷한 정보끼리 연결해 두고 필요한 자료를 찾는다. 문제는 실제 기업과 인터넷의 데이터가 계속 변한다는 점이다. 새 문서가 들어오고 오래된 정보가 삭제되는 과정이 반복되면 정보 사이의 연결망이 조금씩 끊어지는 '연결성 붕괴'가 일어난다. 자료는 데이터베이스 안에 있는데 AI가 그곳까지 가는 길을 잃는 셈이다.
연구팀은 이를 내비게이션에 비유했다. 도시에 목적지 건물은 그대로 있어도, 주변 건물이 생기고 사라질 때마다 도로를 고치다가 중요한 길까지 하나씩 끊어지면 목적지에 닿기 어려워진다. AI 검색에서도 정보 자체가 사라진 것이 아니라 그 정보까지 가는 경로가 끊어지는 문제가 생긴다는 설명이다.
콘다는 데이터 사이의 거리만 보지 않고, 필요한 정보까지 찾아갈 수 있도록 검색 경로가 제대로 연결돼 있는지를 함께 따진다. 새 데이터가 추가되거나 기존 데이터가 삭제돼도 중요한 연결을 유지해 특정 정보가 검색망에서 고립되는 것을 막는 방식이다.
실험 결과 콘다는 데이터가 쉴 새 없이 추가·삭제되는 환경에서 기존 최신 기술보다 검색 정확도를 최대 24.5% 높였고, 데이터 처리 속도는 최대 1.9배 빨라졌다. 연구팀은 1억 개의 데이터가 있는 대규모 환경에서 6시간 동안 검색과 데이터 갱신을 동시에 수행하는 실험도 진행했다. 그 결과 비교 기술 가운데 가장 짧은 응답시간과 높은 정확도를 유지해 대규모 AI 서비스에 적용할 가능성을 확인했다.
이 기술은 사내 규정이나 업무 문서처럼 정보가 수시로 바뀌는 지식검색 시스템은 물론 최신 뉴스 검색, 상품 검색과 추천 등 데이터가 계속 변하는 AI 서비스에 활용될 수 있다. 김민수 교수는 "데이터가 끊임없이 변하는 현실 환경에서도 AI가 오랜 시간 정확하게 최신 지식을 활용할 수 있는 데이터 인프라를 제시했다는 점에서 의미가 크다"고 말했다. 이번 연구에는 KAIST 전산학부 석사과정을 졸업한 이다래 씨가 제1저자로 참여했으며, 한국연구재단 중견연구자지원사업과 정보통신기획평가원 SW스타랩사업의 지원을 받았다.
직장에서 사내 AI에 규정이나 매뉴얼을 물어보거나, 자녀가 학습 보조 AI로 최신 자료를 찾는 일이 늘어나는 상황에서 이 연구는 'AI가 왜 옛 정보를 답하는가'라는 흔한 불편의 원인 한 가지를 짚고 해법을 제시했다. 다만 이번 성과는 실험 환경에서 확인된 결과이며, 일반 소비자가 쓰는 AI 서비스에 적용됐을 때 체감 성능이 얼마나 달라질지는 아직 확인되지 않았다. 교사와 학부모가 AI 답변을 활용할 때 출처와 날짜를 함께 확인하는 습관은 여전히 필요하다.
출처: KAIST 연구뉴스, 2026년 10월 5일
){kind=small}
){kind=small}
){kind=small}
){kind=small}