기호 1번 인공지능 AI당" 애슐리" 기호 2번 인공지능 AI당 "chat gpt"

지구촌 선거 활개칠 ‘인공지능 운동원’…가짜 방치땐 유권자 ‘혼란

선거판 뒤흔드는 인공지능

2017년 1월 당시 미국의 도널드 트럼프 대통령 당선자가 뉴욕 트럼프타워에서 열린 기자회견 도중 자신에게 비판적인 보도를 한 <시엔엔>(CNN) 방송 기자와 설전을 벌이며 “당신들은 가짜뉴스야”라고 비난하고 있다. REUTERS 연합뉴스

“푸틴, 당신의 대역이 여럿 있다던데 사실인가요?”

 

지난 14일(현지시각) 네 시간에 걸친 기자회견 겸 국민과의 대화에 나선 블라디미르 푸틴 러시아 대통령은 회견 말미에 ‘겁 없는 질문’을 받았다. 넥타이 없는 양복 차림에 희끗한 머리, 손날을 세워 책상을 두드리는 태도와 양 눈썹을 올리며 말하는 모습까지 푸틴 대통령과 완전히 똑같은 모습을 한 채 화면을 통해 등장한 질문자는 자신을 상트페테르부르크 대학생이라고 소개한 뒤, 세간의 소문대로 대역을 사용하는지, 나아가 인공지능의 위험성에 대해 어떻게 생각하는지 질문을 던졌다.

 

 

암살 우려로 3명 이상 인간 대역을 쓴다’는 소문에 시달려온 푸틴 대통령은 “당신이 나를 닮았고, 내 목소리로 말할 수 있다는 걸 안다”며 “당신이 내 첫번째 대역”이라며 이를 부인했다. 이어 “인공지능의 발전을 막는 것은 불가능하다”면서, 그럴 수 없다면 “우리가 선두에 나서야 한다”고 덧붙였다.

 

 

게티이미지뱅크

 

 

전세계의 이목을 단박에 잡아 끈 이날의 깜짝 이벤트처럼 인공지능이 만든 정보·이미지·음성을 정치에 활용하는 사례들이 점차 일반화하고 있다. 특히 2024년은 세계 76개국에서 전국 선거가 치러지는 ‘슈퍼 선거의 해’이기 때문에 사실상 ‘인공지능을 활용한 선거의 원년’이 될 것이란 예측이 나온다.

 

영국 주간지 이코노미스트는 지난달 “내년 선거를 치르는 국가 가운데 인구 1위인 인도(14억4200만명)를 비롯해 미국(3억4200만명), 브라질(2억1800만명), 인도네시아(2억8천만명), 파키스탄(2억4500만명), 러시아(1억4400만명) 등 전세계 인구 절반 이상이 첫 ‘인공지능 선거’를 경험하게 된다”고 전했다.이미 인공지능을 활용한 선거는 현실이 됐다.

미국 연방 하원의원에 도전하는 셔메인 대니얼스 민주당 후보는 당내 경선 과정에 ‘챗지피티’처럼 이용자와 음성으로 대화가 가능한 생성형 인공지능 ‘애슐리’를 이용한 홍보에 나섰다.

 

애슐리는 유권자들에게 직접 전화를 걸어

 

“제 이름은 애슐리입니다. 저는 미국 펜실베이니아주 제10선거구 대니얼스 후보를 위한 인공지능 자원봉사자입니다”

 

라고 통화를 시도한다. 유권자가 이에 응하면 ‘인간’끼리 전화하듯 대화하며 후보 이력이나 공약 내용을 알려주고, 답하기 어려운 질문은 캠프 관계자를 바꿔준다.

이를 제작한 일리야 무지칸츠키는

 

 

 

“애슐리가 연말까지 하루 수만건, 이후 10만건 이상 통화를 처리할 계획”

 

 

 

 

이라며 “(인공지능이) 2024년 선거에 큰 영향을 끼칠 것이다. 미래는 이미 와 있다”고 말했다.이처럼 인공지능은 선거에 소모되는 막대한 비용을 줄이면서, 인지도가 낮은 정치 신인이나 좋은 정책을 갖고도 비용 문제 등으로 유권자와 만나는 게 어려웠던 후보들에게 좋은 대안이 될 수 있다.

대니얼스 후보는

 

“(애슐리를 통해) 유권자와 더 폭넓게 대화해 정책을 더 빨리 개발하고, 정책 우선순위도 정확히 정할 수 있다”며 “이 기술이 선거운동의 성격을 바꿀 것”

 

이라고 말했다.

※ 이미지를 누르면 크게 볼 수 있습니다.

 

 

하지만, 치명적 약점도 있다.

 가장 우려되는 것은 저명 정치인의 ‘딥페이크’(특정인의 얼굴, 목소리를 흉내 내는 가짜 영상)가 실어 나르는 ‘가짜 정보’다. 실제 정치인처럼 보이는 영상 속 인물이 직접 가짜 정보를 전하기 때문에 유권자들에게 끼치는 파급력이 커질 수밖에 없다. 실제 지난 5월 튀르키예 대선에서 쿠르드족 분리단체인 쿠르디스탄노동자당(PKK)이 레제프 타이이프 에르도안 대통령과 지지율 5%포인트 이내로 박빙 경쟁을 벌이던 야당연합의 케말 클르츠다로을루 후보를 지지하는 노래를 부른 영상이 공개돼 큰 파문을 일으켰다.

에르도안 대통령은 이 영상을 근거로 클르츠다로을루 후보를 맹공격하며, 막판 굳히기에 성공했다. 인공지능이 만든 ‘가짜 정보’였다.유권자들 역시 이 같은 위험을 잘 인지하고 있다.

에이피(AP) 통신과 미국 시카고대학교 해리스 공공정책대학원의 지난달 3일 여론조사를 보면, ‘인공지능 도구로 인해 선거 기간 동안 허위 정보가 확산될 것’이라고 답한 응답자가 58%에 이르렀다. 또 ‘인공지능을 활용한 정치 광고’와 관련한 질문에 응답자 절반 이상이 △허위 또는 오해의 소지가 있는 미디어 제작(83%) △사진·동영상 편집 또는 수정(66%) 등의 문제가 있을 수 있다고 답했다.

인공지능 업체인 컨버전스미디어의 톰 뉴하우스 부사장은 미국 매체 액시오스에

 

“내년 미국 대선은 인공지능 선거가 될 것이며, 이전보다 훨씬 더 파괴적일 것”

 

이라며

 

“내년 11월 미 대선 직전 판도를 바꿀 사건이나 폭로, 즉 ‘10월의 서프라이즈’가 인공지능에 의한 것이라는 데 기꺼이 베팅하겠다”

 

고 말했다. 에이피도

 

“(인공지능이) 유권자를 세분화하고 설득력 있는 메시지를 대량 생산하며 사실적인 가짜 이미지와 동영상을 몇초 만에 생성해 내는 것을 통해 내년 대선에서 허위 혹은 오해의 소지가 있는 정보가 늘어날 수 있다”

 

고 우려했다.돌이켜 보면, 예전에도 선거 관련 규제가 새 정보통신(IT) 기술의 속도를 따라가지 못해 적잖은 문제를 일으켰다. 소셜미디어(SNS)를 이용한 가짜 뉴스가 선거판을 뒤흔든 2016년 11월 미국 대선이 대표적 예다. 미국 인터넷 뉴스 ‘버즈피드’에 따르면, 당시 대선 직전 수개월 동안 가장 인기가 있었던 가짜뉴스 20개의 페이스북 공유·반응·댓글 수는 모두 871만여건으로, 뉴욕타임스 등 주요 언론이 생산한 인기 기사 20건의 반응(737만건)보다 많았다.

이 가운데 17건이 대선 후보였던 도널드 트럼프나 힐러리 클린턴을 지지하기 위해 만들어진 ‘가짜 정보’였다. 대표적인 예는 ‘프란치스코 교황이 트럼프 지지를 발표했다’(반응 96만건), ‘힐러리 후보가 테러 단체(IS)에 무기를 판매했다는 걸 위키리크스가 확인했다’(79만건) 등이었다.

버즈피드는 이에 대해

 

“가짜 뉴스가 선거 결과에 직접 영향을 미치지 않았어도 엄청난 파급력을 가지고 있다는 증거는 분명하다”

 

고 꼬집었다. 2020년 11월 대선에서도 조 바이든 대통령이 사회주의자라는 가짜 뉴스가 대표적 격전주(스윙스테이트)인 플로리다주 등에서 확산됐다.결국 선거에 직접적 영향을 끼치게 된 인공지능의 위험성을 줄이기 위해 적절한 ‘규제틀’을 만들어야 한다는 지적이 나온다.

일단 주요 정보기술 기업들이 자체적인 대응에 나선 모습이다. 구글은 미국 대선을 1년여 앞둔 지난 11월부터 유튜브를 포함해 자사 서비스에 정치 광고를 할 경우, 인공지능을 이용한 이미지나 음성을 제작·합성했다는 사실을 이용자가 한눈에 알아볼 수 있는 자리에 분명하게 공개하도록 했다. 페이스북을 운영하는 업체 ‘메타’도 인공지능을 이용한 정치 광고에 대해 표시 의무화를 적용한다는 방침이다.국가의 대응은 지역별로 다르다.

유럽연합(EU)은 지난 9일 유럽의회와 회원국들이 합의한 ‘인공지능법안’(AI Act) 초안에서

 

“민주주의와 법치 등에 중대하고도, 잠재적인 해악이 될 수 있는 고위험군 인공지능 시스템에 대해 명확한 의무를 부과하기로 했다”

 

며 주요 사례로 선거 결과와 유권자 행동에 영향을 미치는 인공지능 시스템을 꼽았다. 하지만 2025년이 되어야 입법 절차가 마무리돼 실제 시행될 수 있을 것으로 보인다.당장 내년 11월 대통령 선거를 치러야 하는 미국의 발등엔 불이 떨어졌다.

미국에선 지난 5월 샘 올트먼 오픈에이아이 최고경영자(CEO)가 출석한 상원 법사위원회 청문회를 계기로 인공지능이 불러일으킬 수 있는 위험을 방치하면

 

“미국의 민주주의가 존속의 위험에 내몰릴 수 있다”

 

는 절박한 문제제기가 이어지고 있다. 미국의 진보적 소비자 운동 단체인 ‘퍼블릭 시티즌’은 5월 연방선거관리위원회(FEC)에 인공지능을 정치 광고에 악용하지 못하도록 단속해줄 것을 요구했지만, 발빠른 대응이 이어지지 않고 있다.

미국 엔비시(NBC) 방송은 지난 16일 미국 선관위가 8월 선거 광고에서 딥페이크 사용을 규제하기 위한 조처를 마련하겠다고 발표한 뒤 별다른 진전이 없다고 전했다.미 상원에서도 지난 9월 정치 광고 등에 인공지능을 부정하게 이용하지 못하게 하는 법안이 제출된 상태다.

이 법안을 제출한 에이미 클로버샤 의원(민주당)은

 

“기업의 자율적 노력에만 의존할 순 없다. 법을 통해 가짜 정보에 대응해야 한다”

 

고 말했다. 미국 텍사스·캘리포니아주 등도 선거 관련 딥페이크 영상의 유포를 금지하는 법안 마련에 나섰다. 한국에서도 지난 4일 선거일 90일 이전부터 딥페이크 선거운동을 전면 금지하는 공직선거법 개정안이 국회 정치개혁특별위원회 법안소위를 통과했다. 법이 본회의 문턱을 넘을 경우, 이르면 다음달부터 인공지능 관련 선거운동이 법적 규제를 받을 수 있다.전문가들은 시급한 대책 마련을 촉구하고 있다.

인공지능 분야의 대표적 석학 중 하나인 제프리 힌턴 토론토대 교수는 4일 요미우리신문 인터뷰에서 인공지능으로 인해

 

 

“권위주의적인 정부가 개인을 겨냥한 가짜 정보를 통해 유권자를 조작하는 것이 훨씬 쉬워질 것”

 

이라며

 

“미국에서는 주요 정당의 하나가 선거를 유리하게 치르기 위해 가짜 정보 확산을 (사실상) 용인하고 있다”

 

고 지적했다. 그는 이런 문제를 막기 위해

 

“화폐처럼 (인공지능을 이용한) 가짜 이미지나 동영상 제작과 소유를 불법으로 규정하는 법이 있으면 좋겠다”

 

고 덧붙였다.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

홍석재 기자 forchis@hani.co.kr

한겨레