인공지능(AI) 기술이 발전하면서 소셜미디어(SNS)에 AI를 활용한 정치적 메시지를 퍼뜨리는 사례가 빈발하고 있다.
황희두 노무현재단 이사는 지난달 26일 자신의 SNS 계정을 통해 "젊은 여성 극우 네임드 계정의 정체가 결국 드러났다"며 'AI 딥페이크' 기술로 만들어진 조작이었다"고 밝혔다.
황 이사는 인스타그램에서 활동하던 문제의 SNS 계정을 공유했다. 해당 계정엔 "자유대한민국을 사랑합니다. 윤어게인!"이라고 적힌 소개글과 함께 한 여성의 셀카 사진이 여러 장 게시돼 있었다.
누리꾼들 사이에서 영상의 진위를 둘러싼 논란이 확산하자 계정 운영자는 "죄송하다는 말씀을 드려야겠다"며 자신은 사실 남성이었다고 밝혔다.그는 "어느 시점부터 솔직하게 말씀 드렸어야 했는데 타이밍을 놓쳤다"며 "놀라거나 배신감을 느끼실 분에게 사과 이외는 변명의 여지가 없다"고 했다. 이어 "결과적으로 다수를 속이게 되었다. 죄송하다"고 사과했다. 이 계정은 그간 여성의 얼굴, 비키니 사진을 올리면서 정치적 행보를 보였으며, 현재는 계정 자체가 사라졌다.
최근 이와 같이 유튜브와 SNS 등에 AI로 생성된 인물이 정치적 주장을 하는 사례가 늘면서 사회적 문제로 떠오르고 있다. 황 이사는 "AI 기술이 인간의 눈으로 진짜와 가짜를 구분하기 어려운 수준까지 왔다"며 "단순한 기술 문제가 아니라 인간의 인지 과정을 공격하는 인지전의 전형적 사례"라고 지적했다.
한편 그는 "최근 승무원, 인플루언서 등 실제 여성의 얼굴을 도용해 '멸공', '윤어게인'을 외치던 사례도 있었다"며 AI 기술 활용 외에도 사진 도용 범죄 역시 빈번하게 이뤄진다고 밝혔다. 황 이사는 지난 3일 태국 인플루언서의 사진을 도용한 계정을 발견했다고 알리기도 했다.
황 이사는 "이 방식은 단순한 관심 유도가 아니라, 가짜 여론을 만들어내는 전형적 프로파간다"라면서 사회의 신뢰를 무너뜨릴 수 있다고 우려했다. 그는 "속는 사람이 꽤 많다. 개인 판단력 문제가 아니라 반복 노출과 알고리즘 증폭을 통해 설계된 인지 환경의 결과"라고 덧붙였다.
황 이사는 "인지전은 소수의 조작, 알고리즘 확산, 다수의 노출, 인식 왜곡, 세계관 형성'의 구조로 확산된다"며 가짜라도 반복적으로 노출되면 사람들은 이를 진실로 받아들일 수 있다고 강조했다. 그는 "(AI 기술 악용, 도용 범죄를) 방치할 경우 민주주의 자체가 무너질 수 있다"고 경고했다