중앙선거관리위원회

선관위와 함께하는 IF..만약에!

생성형 AI 기술이 선거운동에 활용된다면? 예: 챗 GPT, 딥페이크 등

텍스트, 오디오, 이미지 등 기존 자료를 활용해 콘텐츠를 새롭게 만들어 내는 생성형 AI 기술!

만약에 생성형 AI 기술이 선거운동에 활용된다면 어떻게 될까요?

'딥페이크' 등의 기술을 통해 허위사실 등의 가짜 뉴스를 제작하여 보는 이를 속일 수 있기 때문에 유권자의 판단을 왜곡시킬 수 있어요!

딥페이크: 인공 지능 기술을 활용해 기존 인물의 얼굴이나, 특정 부위를 합성한 영상 편집물

"너 이 영상 봤어?"

"헉.. 진짜 ☆후보가 이런 말을 했다고..?"

※제3자가 후보자 동의 없이 사진 등을 합성하여 활용하는 경우

「공직선거법 제253조(성명등의 허위표시죄)」에 위반될 수 있음.

그래서 중앙선관위는 생성형 AI 활용 관련 법규운용기준을 마련하였습니다.

[생성형 AI를 이용한 선거운동]

○ 생성형 AI를 통해 도출된 내용으로 작성된 글 또는 제작한 사진·동영상·음성 등을 활용하여 공직선거법에서 허용되는 방법으로 선거운동 등 가능

○ 생성형 AI로 도출하여 공표한 내용에 허위의 내용이 포함되어 있는 경우에는「공직선거법 제250조(허위사실공표죄)」가

적용될 수 있음.

※ 생성형AI로 도출한 내용임을 밝혔더라도 허위사실이 포함될 경우 같은 법조가 적용됨.

또한, 특별대응팀(AI 전담팀)을 편성·운영하여 AI 활용 허위정보에 대해 본격적인 대응을 시작하였습니다!

❗모니터링, 조사·조치, AI 감별 등

유권자가 올바른 판단을 하여 투표할 수 있도록 중앙선관위가 건전한 사이버선거문화 조성을 위해 노력하겠습니다!