인공지능 기술까지...중국서 가짜 SNS계정으로 친중 활동 하는 법

350개 이상의 가짜 소셜미디어 계정으로 구성된 거대한 네트워크가 친중 선전활동을 하는 한편 반중 세력의 신뢰를 떨어뜨리려 노력하고 있다는 연구 결과가 나왔다.

영국의 비영리 언론기관 CIR의 보고서에 따르면 이러한 시도는 비서구화와 함께 해외에서 중국의 영향력과 이미지를 높이는 것이 목적이다.

보고서는 가짜 계정 네트워크가 중국에 대해 노골적으로 비평하는 중국 재벌이자 망명가 궈원구이를 묘사한 만화를 유포했다는 것을 밝혀냈다.

만화에는 신종 코로나바이러스(코로나19)가 중국 우한에서 시작했다고 밝힌 '내부고발자' 홍콩 과학자 옌리멍과 도널드 트럼프의 전 정치 전략가 스티브 배넌도 함께 등장한다.

이들은 코로나19에 대한 허위 정보를 포함해 허위 정보를 유포한 혐의를 받고 있다.

만화는 전 백악관 수석 전략가 스티브 배넌, 홍콩학자 옌리멍과 중국 지도부 비리를 폭로한 궈원구이를 조롱하고 있다

트위터, 페이스북, 인스타그램, 유튜브에 퍼져 있는 일부 계정은 인공지능 AI가 생성한 가짜 프로필 사진을 사용하는 반면, 다른 계정들은 이전에 다른 언어로 게시된 것들이 도용된 것으로 보인다.

네트워크가 중국 정부와 연계돼 있다는 구체적인 증거는 없지만 CIR에 따르면 이 네트워크는 과거 트위터와 페이스북에 의해 중단된 친중 네트워크와 유사하다.

이들 네트워크는 중국 국가 대표 및 관영 매체가 홍보하는 것과 유사한 친중 서사를 증폭시켰다.

네트워크에서 공유하는 콘텐츠 대부분은 미국, 특히 총기법과 인종 정치와 같은 분열적인 문제에 중점을 두고 있다.

네트워크에서 미국은 인권침해가 심한 국가로 묘사된다. 가짜 계정의 게시물에는 조지 플로이드 살인 사건과 함께 동양인에 대한 차별을 예로 든다.

"2020년 미국 총기 사건으로 2만명 가까이 사망" 트윗. 이후 이 계정은 규칙 위반으로 트위터에 의해 정지됐다

일부 계정은 중국 신장 지역의 인권 유린을 계속 부인하며, 중국이 최소 100만 명의 이슬람 교도들을 구금해 왔다는 전문가들의 말은 "미국과 서방이 날조한 거짓말"이라고 주장하고 있다.

CIR 보고서 저자 벤자민 스트릭은 "네트워크의 목적은 친중 서사를 증폭시켜 서구 사상을 위배하려는 것으로 보인다"고 말했다.

네트워크는 어떻게 밝혀졌나?

CIR은 이전에 식별된 네트워크에서 선호하는 해시태그를 맵핑하여 네트워크의 일부인 것으로 보이는 계정을 추가로 찾아냈다.

홍보용 표지판에는 선전 내러티브를 추진하는 높은 수준의 활동과 동일한 해시태그의 반복적인 사용이 포함되었다. 새로 생성된 계정, 무작위로 생성된 것으로 보이는 사용자 이름의 계정, 팔로워가 거의 없는 계정도 위험 신호를 제기했다.

일부 계정은 원본 콘텐츠를 게시하기 위해 생성된 반면, 다른 계정은 더 많이 퍼질 수 있도록 원본 게시물을 공유하고, 좋아요 및 댓글만 달았다.

이러한 종류의 활동은 풀뿌리캠페인 모습을 연출하기 위해 설계되었기 때문에 종종 '아스트로터핑(astroturfing)'이라고 불린다.

이 연구는 서로 다른 계정이 서로를 증폭시키는 방식을 시각화한다. 각 작은 점은 트위터 계정을 나타낸다

가짜 사람들

가짜 계정 대부분은 AI가 생성한 사진을 사용했다. 컴퓨터가 존재하지 않는 인물의 이미지를 만들 수 있게 해주는 비교적 새로운 기술이다. AI가 생성한 실제 인물의 프로필 이미지와 달리 스타일갠(StyleGAN)이라는 일종의 머신러닝 프레임워크로 생성된 이미지는 역 이미지 검색으로 추적할 수 없다.

사용자들과 플랫폼이 의심스러운 계정을 더욱 경계하게 되면서 허위 정보 캠페인에 가짜 프로필 사진을 사용하는 일이 점점 많아지고 있다.

CIR은 네트워크에서 가짜 프로필 사진을 식별하기 위해 다양한 기술을 사용했다. 합성 이미지는 항상 눈을 같은 위치에 두기 때문에 눈을 일렬로 정렬하면 가짜 프로필 사진을 식별하는 데 도움이 된다.

일반적으로 프로필 사진을 무작위로 수집하면 눈 위치가 다양하게 나타난다.

네트워크는 존재하지 않는 사람들의 이미지. 6명의 눈을 모두 연결하면 완벽한 선을 보여준다

다른 징후로는 머리카락 주변의 흐릿한 가장자리, 이상한 각도의 치아, 얼굴 주변의 흐릿한 물체 등이 있다.

네트워크 일부로 추정되는 페이스북 계정 가운데 상당수가 터키어 이름을 가진 것으로 나타났다. 이 계정은 한때 실제 사용자들의 계정이었지만 후에 도용되거나 판매되어 새 프로필 사진이 추가됐다.

도용된 유튜브 계정으로도 친중 서사를 퍼뜨려졌다. 이전에 영어나 독일어로 게시했다가 몇 년 동안 휴면 상태였던 계정이 갑자기 중국 공식 국영 방송에서 중국어 콘텐츠를 올리기 시작했다.

옌리멍이 부츠에 짓눌리는 만화를 트윗하는 여러 트위터 계정

CIR은 이번 연구를 관련 소셜미디어 플랫폼과 공유했다.

페이스북은 이번 연구에서 밝혀진 계정을 자사 플랫폼에서 삭제했다.

페이스북 대변인은 "2019년 9월 우리는 주로 중국어로 된 생활습관과 정치적인 클릭 미끼를 게시한 스팸 활동 네트워크를 삭제했다. 이 네트워크는 우리 플랫폼에 거의 관여하지 않았으며 우리는 연구자 및 업계 관계자들과 계속 협력하여 이 보고서에 언급된 계정처럼 재기 시도를 감지하고 차단한다"고 밝혔다.

유튜브 또한 유튜브커뮤니티 지침을 위반했다는 이유로 네트워크의 계정을 해지했다.

트위터는 CIR이 식별한 거의 모든 계정과 비슷한 행동을 하는 다른 계정도 삭제했다고 밝혔다. 또 조사가 진행 중이라고 밝혔다.

분석 - 케리 앨렌, BBC 모니터링 중국 미디어 분석가

지난 10년 동안 수십억 달러가 중국의 국제 플랫폼 진출 성장을 위한 자금 지원에 투입됐다.

그러나 본토에서는 페이스북, 트위터, 유튜브가 차단되고 VPN을 통해서만 접속 가능하기 때문에 중국은 이러한 플랫폼을 서구 거물들의 실질적인 경쟁자로 인식되는 데 어려움을 겪고 있다.

"중국이 착륙했다"는 것을 보여 주기 위해서는 중국 뿐 아니라 해외의 목소리도 필요했다.

관료들이 트위터 계정을 사용하여 공산당 수사를 위한 깃발을 게양하면서 "늑대 전사 외교"가 등장했다. 중국은 스스로를 세계의 친구로 묘사하기를 원한다. 서방 국가가 인식하는 것처럼 억압적이고 권위적인 국가가 아니라 말이다.

10억 명이 넘는 인터넷 사용자를 보유한 중국은 대규모 소셜미디어 캠페인을 조직하고 반대 의견이 풍부한 반중 목소리를 표적으로 삼을 능력이 있다.

그러나 중국에서는 영어 능력이 제한되어 있기 때문에 종종 이러한 계정 뒤에 서투른 징후가 나타난다. 많은 사람들이 자동 번역 소프트웨어에 의존하여 중국어를 영어로 변환하는데 이는 오타와 서투른 문법 구조가 포함된다.

그리고 중국 내에서 접속할 수 없는 많은 서구 콘텐츠로 인해 사용자는 일반적으로 대상에 대한 지식이 거의 없으므로 동일한 네트워크 내에서 다른 사람의 의견에 따라간다.

그래픽 시몬 마틴

인공지능 기술까지...중국서 가짜 SNS계정으로 친중 활동 하는 법 - BBC News 코리아

인공지능 기술까지...중국 가짜 SNS계정으로 친중 활동 - BBC News 코리아