“AI 가짜 의사 광고 급증”…정부, AI 생성물 표시제 도입

김민석 국무총리, 제7회 국가정책조정회의 주재

[마이데일리 = 이호빈 기자] 정부가 AI로 생성된 가짜 의사·전문가 이미지가 식의약품 광고에 악용되는 사례가 늘자, 이를 불법 기만광고로 규정하고 강력한 규제에 나선다. 생성 단계부터 유통·제재까지 전 과정에서 허위·과장 광고를 차단하기 위한 종합 대응 방안이다.

정부는 10일 김민석 국무총리 주재로 열린 제7회 국가정책조정회의에서 ‘AI 등을 활용한 시장 질서 교란 허위·과장광고 대응 방안’을 발표했다. 최근 SNS를 중심으로 AI 딥페이크 기반 허위 광고가 식·의약품 분야에서 빠른 속도로 확산해 노년층 등 취약계층의 피해가 반복되고 있다는 판단에서다.

정부는 이번 대책을 통해 AI 허위광고의 생성 단계에서부터 표시 의무를 부과하고, 유통 단계에서는 신속 차단 체계를 도입하며, 위법 행위자에 대한 금전 제재도 크게 강화할 계획이다.

공정거래위원회와 식품의약품안전처는 AI 전문가 이미지를 활용한 광고의 위법성 판단 기준을 명확히 했다.

정부는 AI가 제품을 추천하는 광고에서 추천자가 ‘가상인간’임을 표시하지 않을 경우 ‘부당한 표시광고’에 해당하고, 특히 AI가 생성한 의사·전문가가 식·의약품을 추천하는 행위는 ‘소비자를 기만하는 광고’에 해당한다고 밝혔다.

방송미디어통신위원회는 소비자가 AI 생성물임을 정확히 인지할 수 있도록 플랫폼 전반에 AI 생성물 표시제를 도입한다.

앞으로 AI 생성물(사진·영상 등)을 제작하거나 편집해 게시하는 자(직접 정보제공자)는 반드시 AI 생성 사실을 표시해야 하며, 플랫폼 이용자가 해당 표시를 삭제하거나 훼손하는 행위는 금지된다. 플랫폼 사업자는 표시 의무 준수 여부를 관리해야 한다.

과학기술정보통신부는 내년 1월 시행 예정인 AI 기본법에 맞춰, AI 생성물 표시 의무 이행을 지원하기 위한 가이드라인도 마련한다.

정부는 식·의약품, 화장품, 의약외품, 의료기기 등 AI 기반 허위 광고가 빈발하는 영역을 서면심의 대상으로 추가하는 법 개정을 추진한다.

개정이 이뤄지면 해당 품목의 허위·과장 광고는 심의 요청 후 24시간 이내 신속 심의가 가능해진다.

현재 마약류만 적용되고 있는 식약처 전용 방미심위 패스트트랙 시스템의 적용 범위도 확대해 안건 상정 시간을 단축할 계획이다.

또한 국민 생명·재산 피해 우려가 큰 경우, 방미통위가 플랫폼 사업자에게 긴급 시정요청을 내릴 수 있는 절차도 도입된다. 이를 통해 정식 심의 전이라도 임시 차단이 가능해진다.

방송미디어통신위원회와 공정거래위원회는 위법 광고에 대한 금전 제재를 대폭 강화한다.

정부는 정보통신망에서 악의적 허위·조작정보 유통 시 손해액의 최대 5배를 부과하는 징벌적 손해배상제 도입, 표시·광고법상 허위·과장 광고 과징금 상향을 추진한다.

식약처와 한국소비자원은 조직 간 협의를 통해 감시·적발 역량을 강화한다.

김민석 국무총리는 “이번 대책은 신기술의 부작용을 최소화하고 AI 시대의 시장 질서를 바로 세우기 위한 조치”라며 “정부는 제도 개선을 조속히 추진하고 플랫폼 업계·소비자 단체 등과 긴밀히 소통하겠다”고 말했다.

이호빈 기자 hblee@mydaily.co.kr
- ⓒ마이데일리(www.mydaily.co.kr). 무단전재&재배포 금지 -