[화담일보 = 이서현기자] 중국의 인터넷 기업 바이트댄스가 인공지능(AI) 모델의 안전성을 연구하는 전담 조직을 만들고 국제 인재 모집에 나섰다. 로이터통신은 15일 바이트댄스가 자체 AI 연구조직 안에 ‘정렬 및 대비(Alignment & Preparedness)’ 분야를 두고 관련 연구자 채용을 추진한다고 보도했다.
회사는 베이징과 상하이, 미국 캘리포니아주 새너제이 등에서 약 10명의 연구 인력을 확보한다는 계획을 제시했다. 조직의 역할은 모델의 위험을 사전에 평가하고, 예상하지 못한 사용 방식이나 오용 가능성을 살피는 체계를 구축하는 데 맞춰져 있다.
AI 모델이 다양한 업무에 적용되면서 개발사는 출력의 정확도 외에도 유해한 지시 수행, 개인정보 노출, 시스템 악용 등 여러 위험을 다뤄야 한다. 안전성 평가에는 시험 환경과 평가 기준뿐 아니라 실제 배포 이후의 관찰 및 대응 절차도 함께 요구된다.
이번 소식은 전담 인력과 조직을 확충하겠다는 계획으로 이해해야 한다. 채용이 모두 끝났거나 새로운 모델의 안전성이 외부 기관으로부터 인증됐다는 의미는 아니다. 구체적인 평가 결과와 운영 성과는 이후 공개 자료를 통해 확인할 필요가 있다. 특히 연구조직의 인력 규모와 평가 업무 범위는 실제 채용·운영 과정에서 달라질 수 있다. 발표 계획과 시행 결과를 분리해 비교하는 것이 안전하다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}