[사진=AFP]

[헤럴드경제=김현경 기자]챗GPT를 필두로 일상생활에 침투한 인공지능(AI)이 이제 선거까지 넘보고 있다. 내년 미국 대선, 러시아 대선, 한국 총선 등 주요 국가의 선거를 앞두고 AI가 생성하는 가짜뉴스가 1000% 이상 폭증하면서 선거판을 뒤흔들 수 있다는 우려가 나온다.

17일(현지시간) 미국 오보 추적기관 뉴스가드에 따르면 올해 5월 이후 지난주까지 AI가 만든 허위 기사를 내보내는 웹사이트가 49개에서 603개로 1131% 급증했다.

‘신뢰할 수 없는 AI 생성 뉴스 사이트(UAINS)’라고 불리는 이들 사이트는 15개 언어에 걸쳐 나타났다. 해당 언어에는 영어, 중국어, 프랑스어, 독일어, 아랍어, 체코어, 네덜란드어, 인도네시아어, 이탈리아어, 포르투갈어, 스페인어, 타갈로그어, 태국어, 터키어와 함께 한국어도 포함됐다.

AI 가짜뉴스 사이트는 ‘아이비즈니스데이(iBusiness Day)’, ‘아일랜드톱뉴스(Ireland Top News)’, ‘데일리타임업데이트(Daily Time Update)’ 같은 일반적인 이름으로, 뉴스 소비자들에게 보통의 뉴스 사이트처럼 보인다.

하지만 실제로는 인간의 감시를 거의 받지 않고 운영되는 모호한 사이트들로, 전통적인 방식으로 인간이 창작하고 편집한 기사를 게재하는 것이 아니라 AI봇이 만든 기사를 그대로 내보낸다.

잭 브루스터 뉴스가드 연구원은 “가짜뉴스 사이트 중 일부 사이트는 하루 수백건의 뉴스를 생성하고 있다. 우리가 그것을 ‘차세대 거대 오보(가짜뉴스) 슈퍼 전파자’라고 부르는 이유”라고 말했다고 워싱턴포스트(WP)가 전했다.

문제는 독자들이 AI가 쓴 가짜뉴스를 봐도 AI가 쓴 기사인지, 내용이 허위인지를 파악하기 어렵다는 점이다. 가짜뉴스 사이트는 정치, 기술, 엔터테인먼트, 여행 등 다양한 주제에 걸친 일반 기사를 함께 게시하고, 자사의 기사가 AI에 의해 생산된다는 사실을 명확하게 밝히지 않아 AI가 만든 뉴스도 실제 기자가 쓴 것으로 착각하게 만든다.

AI가 만든 한 기사는 베냐민 네타냐후 이스라엘 총리의 정신과 의사가 자살했는데, 네타냐후 총리의 개입을 암시하는 메모를 남기고 죽었다는 내용이 담겼다. 뉴스가드 조사 결과 의사의 존재 자체가 허구로 파악됐지만 해당 뉴스는 이란의 TV쇼와 아랍어, 영어, 인도네시아어로 된 미디어 사이트에 재인용됐고, 틱톡, 레딧, 인스타그램 등 소셜미디어에서도 확산됐다.

슬로바키아에서는 투표 며칠 전에 선거에 출마한 정치인들이 실제로 하지 않은 말이 기사로 복제돼 논란을 일으켰다.

가짜뉴스는 두 가지 방식으로 생산된다. 우선 인간이 챗봇에게 특정 정치적 이야기를 증폭시키는 기사를 요청하고 챗봇이 작성한 결과물을 웹사이트에 게시하는 방식이 있다. 두 번째는 웹스크래퍼가 특정 키워드를 포함한 기사를 검색한 뒤 해당 기사를 큰 언어 모델에 입력해 다시 씀으로써 원본 기사와 다르게 보이도록 만들어 내보내는 방식이다.

[사진=AFP]

가짜뉴스 사이트를 만드는 동기는 다양하다. 정치적 신념을 흔들거나 혼란을 주기 위해 만든 사이트도 있고, 클릭수를 올려 광고 수익을 얻을 목적으로 자극적인 콘텐츠를 내보내는 사이트도 있다. 어느 경우든 가짜뉴스를 대량 생산할 수 있는 능력은 “상당한 보안 위험”이라고 브루스터 연구원은 지적했다.

각국의 정보기관이 AI의 가짜뉴스를 해외 영향력 행사에 활용하거나 정치인들이 직접 사이트를 개설할 가능성도 우려되는 대목이다.

가짜뉴스 사이트는 숫자도 많고 규제도 거의 받지 않아 선거 시즌에 더 확산될 가능성이 높다. 정부는 언론의 자유 보호에 위배될 것을 우려해 가짜뉴스를 단속하기 어렵고, 소셜미디어 기업에 책임이 돌아갔지만 지금까지 단속은 잘 이뤄지지 못했다.

제프리 블레빈스 신시내티대 언론학 교수는 “가짜뉴스 사이트 수가 너무 많기 때문에 신속하게 단속하는 것은 불가능하다. 마치 두더지잡기와 같다”면서 “하나의 사이트를 발견하고 그것을 폐쇄하면 다른 곳에 생성된 또 다른 사이트가 있다. 결코 그것을 완전히 따라잡지 못할 것”이라고 말했다.