AI가 점점 더 복잡하고 보편화되면서, 여러 민족의 유권자들은 실제 뉴스와 인공 뉴스의 차이를 구분하기 어려운 선거 환경에 직면하게 되었다.
지난 12일 비영리단체 에스닉미디어서비스(EMS) 브리핑에서 디지털 미디어 투명성과 정치 감시 전문가들은 AI가 생성하는 허위 정보의 증가를 모니터링하며 올해의 국가 및 지방 선거에서 소수민족 유권자들이 겪을 수 있는 잠재적 어려움에 대해 논의하고 이 문제에 맞서기 위한 정책과 이니셔티브를 제안했다.
다가오는 11월 미국 대선을 앞두고, AI로 인해 가속화된 온라인 허위 정보가 큰 문제로 대두되고 있습니다. 비영리 감시 기관인 California Common Cause의 전무 이사 조나단 메타 스타인은 “AI 딥페이크와 허위 정보는 우리 민주주의에 매일 부상하는 매우 실제적인 위협”이라고 경고했다.
스타인은 “방글라데시, 슬로바키아, 아르헨티나, 파키스탄, 인도 등에서 AI 딥페이크와 허위 정보로 인해 선거가 영향을 받았다”면서 “최근 뉴햄프셔에서는 가짜 조 바이든 로보콜이 발생했다”고 밝혔다.
미국 법무부는 러시아의 AI 생성 소셜 미디어 봇 프로필을 포함한 허위 정보 캠페인을 저지했다. 또한, 러시아가 AI로 생성한 지역 뉴스 웹사이트도 등장했다.
Meta와 Twitter는 허위 정보 식별 기능을 축소했고, YouTube, Meta, X는 허위 정보 팀을 해고했다.
인도 유권자들은 수백만 개의 딥페이크에 노출되어 있으며, 후보자들은 이를 수용해 군비 경쟁이 발생했다.
스타인은 “진짜 뉴스는 가짜 뉴스에 대한 답”이라며, 신뢰할 수 있는 뉴스 출처를 통해 정보를 확인할 것을 권고했다.
유색인종 커뮤니티는 허위 정보 확산으로 어려움을 겪고 있다. Chinese for Affirmative Action의 진샤 니우는 “지난 12개월 동안 주요 중국 소셜 미디어에서 600개 이상의 허위 정보를 기록했다”면서 “주요 주제는 트럼프 지지와 바이든 비난이며, AI를 이용한 허위 정보가 급증하고 있다”고 말했다.
소수민족 미디어는 자금과 인력이 부족해 사실 확인이 어렵고, 이민자 커뮤니티에서는 AI 문해력도 거의 없다. 허위 정보는 소셜 미디어뿐 아니라 WeChat, WhatsApp, Signal 같은 암호화된 메시징 앱을 통해 퍼집니다. 비공개 채팅은 모니터링이 어렵고 규제가 불가능해 대응이 어렵다.
니우는 중국계 미국인을 위한 사실 확인 웹사이트 Piyaoba.org로 잘못된 정보를 해결하려고 하지만, 더 큰 문제를 해결하기엔 부족하다고 말했다.
CrowdTangle(현재 Meta 소유)의 전 CEO이자 공동 창립자인 브랜든 실버먼은 잘못된 정보는 소셜 미디어 규칙을 위반하지 않는 회색 지대에 속하며, 플랫폼이 이를 관리하기 어렵다. AI가 생성한 계정이나 외국에서 통제하는 계정이 주제나 선거에 큰 영향을 미치지는 않는다. 허위 정보의 목표는 사람들을 혼란스럽게 하는 것이다. 그는 디지털 광고 수익의 일부를 지역 저널리즘을 지원하는 데 사용해야 한다고 주장했다.
실버먼은 개별 콘텐츠보다 지속적으로 추진되는 잘못된 내러티브에 대응하는 것이 중요하다고 강조했다.