전체메뉴

[애플경제 김홍기 기자] 2024년 대통령 선거를 앞둔 미국에서 유력인사들을 중심으로 AI기반의 딥페이크나 허위정보(disinformation)에 대한 광범위한 우려가 퍼지고 있다. 이는 총선 국면이 한창인 우리로서도 유념해서 지켜볼 만한 모습이다. 국내에선 아직은 이렇다할 사례가 눈에 띄지않지만, 선거일이 다가올수록 소셜미디어를 중심으로 이런 조작된 이미지 생성이 선거 전술로 악용될 것이란 우려가 높다.

미국에선 이미 이미 딥페이크가 실제로 횡행하고 있어 더욱 우려가 높다. 28일 힐러리 클린턴 전 대통령 후보와 미국 선거관리 관계자들은 “AI가 생성하고 확산하는 허위정보가 2024년 대선을 위협할 수 있다”고 공개적으로 우려를 표했다.

이날 월스트리트저널, 뉴욕타임스 등에 의하면 전 국무장관이자 2016년 대선 후보였던 클린턴은 특히 “블라디미르 푸틴 러시아 대통령과 같은 ‘외국 배우’들이 AI를 이용해 미국과 다른 지역의 선거에 개입할 수 있다고 생각한다”며 이같이 경고했다.

이런 경고는 올해 선거를 치르는 다른 수십 개국에도 마찬가지로 적용되는 얘기다.

선거 관계자, 테크 기업 등 ‘대책’ 위한 세미나

클린턴은 이날 선거 관계자와 테크 기업들이 컬럼비아 대학교에서 ‘AI가 세계 선거에 어떤 영향을 미칠 수 있는가’를 논의한 자리에서 “상트페테르부르크나 몰도바 또는 지금 어디에 있든 불을 지르고 있는 사람은 아주 소수의 사람들일 수 있지만 알고리즘 때문에 모두가 화상을 입는다”고 러시아 등을 겨냥했다.

클린턴은 푸틴 대통령이 2016년 대선 전에 자신이 행한 “이 모든 끔찍한 일들”에 대한 허위 정보를 페이스북, 트위터, 스냅챗에 퍼뜨려 자신의 평판을 훼손하려 했다고 말했다.

그는 “우리 중 누구도 그것을 이해하지 못했다”면서 “심지어 “나도 그것을 이해하지 못했다. 이른바 다크 웹은 나를 달갑지 않은 방식으로 묘사하는 온갖 종류의 밈, 이야기, 비디오로 가득 차 있었다.”고 털어놓았다.

그는 또 “그들이 나에게 한 일은 매우 야만적이었고, 그것과는 달리 지금 논의되는 것은 기술의 도약”이라고 덧붙였다.

이에 2024년 대선에서 미국 정부는 AI에 의해 생성되고 확산되는 허위 정보에 대한 광범위한 대응을 준비하고 있다. 악의적인 공격자들은 AI를 통해 유권자에게 투표 장소, 투표일 또는 투표 용지 제출 방법에 대해 잘못된 정보를 제공하는 이미지, 오디오 및 비디오를 전파할 수 있다. “선거 관련 허위 정보는 오랫동안 문제가 되어 왔지만, 특히 AI는 이러한 정보가 더 빨리 확산되는 데 촉매 역할을 할 것”이라는 선거 관계자들의 말이다.

이들은 특히 “사람들이 허위 정보를 믿게 만들 수 있는 딥페이크 비디오가 걱정된다”고 했다. 미시간주 국무장관이자 민주당 의원인 조슬린 벤슨은 “이제 우리는 AI를 통해 그러한 거짓말이 더욱 강화되는 선거 국면에 직면해 있다”고 말했다.

그는 “그럼에도 불구하고 유권자에게 영향을 미칠 수 있는 AI 생성 콘텐츠에 대한 연방정부의 금지 조치는 없다”고 지적하며 “미시간주는 유권자를 흔들기 위해 AI의 사용을 제한하는 법안을 통과시킨 소수의 주 가운데 하나”라고 밝혔다.

선거 시스템 불신 조장하는 동영상도 난무

조지 W. 부시 행정부의 미국 국토안보부 장관인 마이클 처토프는 “사람들이 AI를 사용해 선거 시스템의 신용을 떨어뜨리려는 동영상을 만들 수 있다고 생각한다”고 경계했다. 또 다른 공화당 의원은 지난 2020년 1월 6일의 미 국회의사당 난입 사건을 언급하며 “(허위정보 등으로 인해) 1월 6일이 또 일어날 수 있다”고 말했다.

실제 AI가 생성한 허위 정보가 선거에 끼치는 영향이 어느 정도인가는 지난 1월 뉴햄프셔를 보면 알 수 있다. 당시 바이든 대통령과 비슷한 음성의 자동녹음전화가 수신자들에게 전달, “선거일에 투표하지 말라”고 지시했다. 뉴햄프셔 법무 장관실은 나중에 텍사스에 본사를 둔 공격자들의 출처를 추적하고, ‘유권자 억압법’을 인용, 단속에 나섰다.

이에 지난 달 미 연방통신위원회(FCC)는 자동녹음전화를 통해 원치않음에도 불구하고 AI가 생성한 음성을 들려주는 것을 금지했다.

클린턴, 벤슨 등 미국 지도자들은 이에 “AI와 선거에 대한 강력한 연방 규제가 있어야 한다”고 입을 모아 촉구했다.

앞서 아마존, 구글, 마이크로소프트, 오픈AI 등을 포함, 약 24개 기술 기업이 지난 달 AI로 생성된 선거 관련 허위 정보의 생성 및 확산을 방지하겠다고 약속하는 계약에 서명한 바 있다. 다만 회사는 콘텐츠 금지를 약속하지는 않았다.

이들 기업은 이날 컬럼비아 대학교 행사에 참석, “생성 AI를 활용하는 악의적인 행위자가 제기하는 위험을 추적하고 식별하기 위해 열심히 노력하고 있다”고 말했다. 특히 전 구글 CEO인 에릭 슈미트는 “(허위정보를 막는) 솔루션이 기술 범위 내에서 규제 또는 협력을 통해 나와야 한다”고 촉구했다.