인공지능: AI 윤석열, 이재명 챗봇... 커지는 대선판 'AI경쟁'

신종 코로나바이러스 감염증(코로나19) 팬데믹이 이어지면서 대선 풍경도 바뀌고 있다.

대선후보들은 비대면 선거의 한계를 극복하기 위해 인공지능(AI)등 각종 디지털 신기술을 이용해 경쟁하고 있다.

특히 MZ세대에게 어필하고 '미래 대통령'이라는 이미지를 강조하겠다는 셈법도 담겼다.

'AI 아바타'와 '챗봇' 내놓는 대선후보들

"'AI 윤석열'입니다. 윤석열 후보와 너무 닮아 놀라셨습니까?"

지난달 국민의힘 선대위 발족식에 깜짝 등장한 'AI 윤석열'이 한 말이다.

윤 국민의힘 대선후보의 실제 음성과 흡사하게 들리지만, 이 말은 그가 직접 녹음하지 않았다. 대신 AI가 윤 후보의 영상을 반복 학습하는 방식으로 재현해냈다.

지난 7일부터 AI 윤석열은 윤 후보의 공약 사이트인 '윤석열 공약위키'의 'AI 윤석열 질문하기＆답변보기' 코너에서 베스트 댓글로 선정된 질문을 골라 영상을 통해 답하고 있다.

예를 들어 "문재인 대통령과 이재명 더불어민주당 후보가 동시에 물에 빠지면 누구를 구할 건가"라는 질문에 AI윤석열은 "저는 멀리서, 멀리서 두 분을 응원하겠다"고 말한다. "에너지 넘치게 파이팅"이라는 말을 덧붙이기도 했다.

이런 AI 윤석열의 답변은 당 선거대책본부 내 청년보좌역들이 작성한 뒤 이준석 대표의 판단을 거쳐 공개하는 것으로 알려졌다.

'AI 윤석열'

이재명 더불어민주당 후보 지지자들 역시 이 후보와 관련한 질문을 받아 답하는 '챗봇'을 직접 만들어 화제를 모았다.

지난해 말 '매타버스' 민생투어 때 청년들과의 소통창구로 활용했는데, 검색창에 질문을 넣으면 답변을 텍스트로 보여줬다. AI 기술로 질문을 스스로 학습해 대화 형식으로 구현했다고 한다.

실제로 챗봇 시스템을 통해 '대장동 개발사업은 누구의 잘못인가'라는 질문을 건네자 챗봇은 "성남시 공공개발 추진을 막은 것도 국민의힘, 뇌물을 받은 것도 국민의힘"이라는 답변을 내놨다.

더불어민주당은 이재명 후보를 닮은 디지털 아바타 '명탐정 이재봇' 영상을 공개하기도 했다.

영상에서 'AI 이재명'은 "이재명 후보의 아바타 명탐정 이재봇입니다. 저 이재명 재질은 확실한 실행력이죠. 청년들을 위한 알잘딱깔센('알아서 잘 딱 깔끔하고 센스 있게'를 줄인 Z세대 신조어)한 정치를 만들겠습니다"라고 말했다.

'명탐정 이재봇'

앞서 무소속 김동연 후보도 자신의 AI아바타 영상을 공개했다.

'윈디'라는 이름을 붙인 아바타는 AI를 이용한 딥페이크 기술로 만들었다.

윈디는 영상에서 "저 윈디는 김동연 후보의 철학과 비전을 공유할 것"이라며 "저희 새로운 물결이 큰 파도가 되고 쓰나미가 돼서 아래로부터의 반란을 일으키겠다"고 했다.

김 후보는 인재 영입 1호로 AI 대변인 '에이디'를 내세우기도 했다.

김동연 후보의 AI 아바타 '윈디'

AI 대선후보...평가 엇갈려

선거운동에서 이런 혁신 기술이 도입되는 것에 대한 평가는 엇갈린다.

우선 고루하게 여겨졌던 정치영역에서 AI 등 최첨단 신기술이 재미와 신선함을 제공한다는 평가가 있다. 특히 후보 입장에서는 시간과 공간의 제약을 받지 않고 선거운동을 해 효율성을 높일 수 있다.

하지만 AI 기술이 악용될 경우 선거에 혼란을 가져올 것이라는 예측도 나온다.

특히 후보의 결점을 가리고 장점을 부각해 실제 인물을 긍정적으로 포장하거나, 반대로 흑색선전용으로 악용될 가능성이 있다는 것이다.

김명주 서울여대 바른AI 센터장은 "선거팀이 만들어내는 내용을 실제 후보자의 것으로 착각을 할 수 있다"며 "가상의 인물을 보고 실제 후보자를 투표하는 착각, 혹은 착시 현상을 완전히 무시할 수 없다"고 말했다.

김 교수는 "후보자 실제 인물의 약점들을 아바타 입장에서 의도적이든 아니든 감추고 미화할 수 있다. 예를 들어, 윤석열 아바타의 경우 실제 인물의 약점으로 비치는 행동 습관(도리도리)이나 어투 습관을 빼고 제작할 수 있다"고 했다.

상대 진영이나 지지하지 않는 후보를 공격하기 위해 가짜 영상이 만들어질 가능성도 있다.

대표적으로 앙겔라 메르켈 전 독일 총리가 겪은 경우를 들 수 있다.

2018년 유튜브엔 메르켈 전 총리가 히틀러와 비슷한 말투로 연설하는 영상이 올라와 논란을 불러일으킨 바 있다. 이는 조작된 영상으로 AI에 870개 이미지를 입력해 만들어냈다고 한다.

같은 해 미국 인터넷 매체 버즈피드가 딥페이크 위험성을 알리기 위해 제작한 버락 오바마 전 미국 대통령 영상도 사람들을 깜짝 놀라게 했다.

이 영상에선 오바마 전 대통령과 똑같은 얼굴과 목소리를 지닌 AI 오바마가 "트럼프 대통령은 정말로 완전 얼간이"라며 "물론 아시다시피 나는 이런 말을 하지 않았다"라고 말한다.

딥페이크로 만들어 낸 가짜 버락 오바마 전 미국 대통령

이 때문에 해외에서는 허위정보 대응 차원에서 선거기간 악의적인 딥페이크 영상을 법으로 규제하는 곳이 있다.

미국 캘리포니아는 2018년부터 '악의적 딥페이크 금지법안'을 통해 선거 60일 전 딥페이크 기술을 이용해 진짜인 양 조작 또는 변조한 정치인 관련 동영상, 이미지 또는 오디오를 제작하거나 배포하는 행위를 불법으로 규정하는 AB 730 법을 실행하고 있다.

딥페이크 기술을 이용해 '후보자를 폄훼'하거나 '유권자를 기만'하면 처벌 대상이 된다.

유럽연합(EU)도 조작된 영상을 감지하는 기술을 개발하기 위한 연구 프로젝트 '인비드 프로젝트'를 진행 중이다.

구체적이고 적극적인 가이드라인 필요

국내에서는 법률상 선거와 관련해 딥페이크 AI 영상을 어떻게 다룰지에 대한 규정은 아직 없다.

정동훈 광운대 미디어영상학부 교수는 "관련 선거 법률 등이 없기에 논란은 계속될 것으로 보인다"며 "딥페이크로 제작된 정치인의 공약을 공식적인 것으로 받아들일 것인지, 유권자를 대상으로 한 메시지가 사실이 아니거나 기만적일 경우 이에 대한 처벌은 어떻게 할지 등이 문제가 될 수 있다"고 지적했다.

AI 대선후보들의 활동이 활발해지자 선거관리위원회는 뒤늦게 입장을 표명했다.

11일 중앙선거관리위원회(선관위)는 "딥페이크 영상을 이용해 법적 허용 범위 내의 선거운동을 할 수 있다"고 공지했다.

다만 해당 영상에 'AI영상'이라는 등 딥페이크임을 표시하지 않는 경우 공직선거법 위반으로 처벌된다고 밝혔다.

AI임을 표시하더라도 영상물의 내용에 허위사실이 포함되거나 비방하는 경우엔 허위사실공표죄와 후보자비방죄에 위반돼 처벌 대상이 된다.

이에 전문가들은 구체적이고 적극적인 가이드라인이 필요하다고 말한다.

김명주 바른AI 센터장은 "이 동영상에서 등장하는 후보자는 실제 인물이 아니라 인공지능을 사용한 가상의 인물 아바타임을 밝힌다는 '디스클레이머(disclaimer)'를  모든 동영상마다 앞부분에 분명하게 명시해 유권자들의 착각이나 혼동을 방지해야 한다"고 말했다.

또한 "AI 아바타가 하는 말과 행동은 선거팀의 일부 선거원 책임이 아니라 후보자 본인이 궁극적 책임을 진다는 사실을 인지하고 모든 발언과 행동에 대해 공식 결재과정을 거쳐야 한다"고 제안했다.

정동훈 교수는 "소셜 미디어사의 협조 하에 모니터링 강화와 삭제와 같은 긴급 처리를 하게끔 준비해야 한다"면서 유권자의 정보 해석 능력도 중요하다고 말했다.

그는 "유권자도 선거 캠페인뿐만 아니라, 가짜뉴스, 가짜정보, 가짜영상 등을 사실과 구분할 수 있는 미디어 리터러시 능력을 갖출 필요가 있다"고 강조했다.

인공지능: AI 윤석열, 이재명 챗봇... 커지는 대선판 'AI경쟁' - BBC News 코리아

AI 윤석열, 이재명 챗봇... 커지는 대선판 'AI경쟁' - BBC News 코리아