앞으로 AI 생성물을 제작·편집해 게시할 때는 해당 사진·영상 등을 AI로 만들었다는 사실을 표시해야 하고, 악의적인 허위·조작정보는 손해액의 최대 5배를 부과하는 징벌적 손해배상제를 도입한다.
정부는 10일 김민석 국무총리 주재로 개최한 제7회 국가정책조정회의에서 'AI 등을 활용한 시장 질서 교란 허위·과장광고 대응 방안'을 발표했다.
최근 AI로 만든 가짜 전문가나 유명인 딥페이크 등을 활용한 허위·과장 광고가 식·의약품 분야를 중심으로 범람하고 있다. 이러한 광고는 노년층 등 소비자의 피해를 야기하고 시장 질서를 교란하고 있고, 특히 디지털 정보의 특성상 SNS 등을 통해 빠른 속도로 유포되고 있어 신속한 대응이 필요한 상황이다.
이에 정부는 AI 허위·과장광고의 생성과 확산을 신속히 차단하고, 위법 행위자를 엄단해 시장 질서를 정상화할 수 있도록 대책을 마련해 추진한다.
정부는 먼저, AI 허위·과장 광고를 유통 전에 사전 방지한다.
방송미디어통신위원회는 AI 생성물이 실제가 아니라는 점을 소비자가 정확히 알 수 있도록 돕기 위해 플랫폼 등에 대한 AI 생성물 표시제를 도입한다.
AI 생성물을 제작·편집해 게시하는 직접 정보제공자는 해당 사진·영상 등을 AI로 만들었다는 사실을 표시해야 하며, 플랫폼 이용자가 AI 생성물 표시를 제거하거나 훼손하는 행위를 금지한다.
플랫폼사는 직접 정보제공자가 표시 의무를 준수하는지 관리하도록 한다.
과학기술정보통신부는 AI 사업자의 AI 생성물 표시 의무 이행과 AI 생성물의 투명한 사용을 돕기 위한 가이드라인을 마련한다.
정부는 이어서, AI 허위·과장 광고의 유통은 신속하게 차단한다.
방미통위와 방송미디어통신심의위원회는 식·의약품, 화장품, 의약외품, 의료기기 등 AI 허위·과장광고가 잦은 영역을 서면심의 대상에 추가하도록 한다.
해당 영역의 허위·광고에 대해서는 심의 요청 후 24시간 이내 신속한 심의가 이뤄질 수 있을 것으로 기대된다.
국민의 생명·재산 피해 우려가 커 시급한 조치가 필요한 경우에는 방미통위의 플랫폼사에 대한 긴급 시정요청 절차를 도입해 방미심위 심의 완료 전에 차단조치가 이뤄질 수 있도록 한다.
아울러, 정부 차원뿐 아니라 플랫폼 사업자 차원에서도 허위·과장광고 관련 자율규제를 확대·강화할 수 있도록 유도할 예정이다.
정부는 이와 함께, 위법행위자에 대한 금전제재를 강화하고 단속역량을 확충한다.
이를 위해 정보통신망 등에서의 악의적인 허위·조작정보 유통 행위에 대한 징벌적 손해배상(손해액의 최대 5배)을 도입하고, 표시·광고법상 허위·과장 광고에 대한 과징금 수준도 대폭 상향한다. [출처] 대한민국 정책브리핑
한편 정부의 이런 정책에 대해서 표현의자유를 지나치게 억압하려는 시도라며 일부 단체에서는 반발의 목소리를 키웠다.사실상의 언론 입 틀어막기라는 이유다.또한 징벌적 손해배상액 역시 과도하다는 지적이 제기되고있다.










