"펜타곤이 폭발했다"…AI로 꾸민 가짜 사진에 美 경악
지난 5월 22일(현지시간) 오전 8시 42분, 미국 워싱턴DC에 위치한 미 국방부 청사 펜타곤 폭발 사진이 한 트위터에 게시됐다. 펜타곤과 닮은 직사각형 건물 주변에서 검은 연기가 피어오르는 듯한 모습이 2001년 발생한 9·11 테러를 연상케 했다.
트위터 이용자 'CBKNews121'이 처음 게시한 이 사진은 트위터를 통해 불식 간에 퍼졌다. 블룸버그통신과는 관계가 없는 가짜뉴스 제조단체 '블룸버그 피드', 러시아 해외 선전 매체인 'RT' 등이 사진을 공유하면서다.
지난 5월 22일(현지시간) 트위터 등에 확산된 미국 펜타곤(국방부) 인근의 대형 폭발 가짜 사진. 이 사진은 생성형 AI(인공지능)가 만든 것으로 알려졌다. 사진 트위터 캡처
펜타곤이 폭발했다는 소문이 전 세계로 퍼지는 동안 미 주식시장은 출렁였다. 다우존스 30 산업 평균지수는 오전 10시 6~10분 약 80포인트 하락했다가 3분이 지나서야 회복했고, 스탠더드앤드푸어스(S&P) 500지수도 오전 10시 9분에 0.15% 하락했다가 약 2분 후 오름세로 돌아섰다. 주가가 하락 반전하는 사이, 시가총액 약 1050억 달러(약 136조원)가 증발했다.
미 국방부와 관할 지역 소방서가 "펜타곤 근처에서 폭발이나 사고는 없었다"고 알리면서 이 사진은 가짜뉴스로 판별됐다. 인공지능(AI)이 합성한 가짜 사진임이 밝혀졌고, 이를 퍼뜨린 트위터 계정들은 뒤늦게 게시물을 삭제하거나 정정했다. 이미 수백 건의 가짜뉴스가 공유된 상황이었다.
SNS 통해 뉴스 접하지만, 신뢰도 가장 낮아
가짜뉴스는 SNS의 성장과 함께 확산하며 사회적 문제로 떠올랐다. 한국언론진흥재단의 '2021 소셜미디어 이용자 조사'에 따르면, SNS를 통해 뉴스를 소비한다고 답한 응답자는 83.5%에 달했다. 그러나 SNS의 신뢰도는 2.78점으로 가장 낮았고, 응답자 77.2%는 'SNS에서 허위나 가짜로 판단되는 뉴스를 접한 경험이 있다'고 답했다.
SNS 발 가짜뉴스는 그 어떤 매체보다 빠르게 퍼져나간다. 세계보건기구(WHO) 연구팀이 2020년 발표한 조사 결과에 따르면, 코로나 19 발생 초기였던 2019년 12월부터 4개월간 SNS를 통해 공유된 코로나 19 관련 허위 정보는 2311건에 달했다. 당시 이란에선 메탄올을 마시면 코로나 19를 예방하거나 치료할 수 있다는 헛소문이 SNS를 통해 퍼지면서 수백명의 시민들이 죽거나 다쳤다.
가짜뉴스로 한 달간 이용자 93% 이탈
소셜 매타버스 앱 '본디'. 사진 본디
기업도 가짜뉴스로부터 자유롭지 않다. 하루라도 빨리 초기 이용자를 끌어모아야 하는 신생 기업일수록 악성 소문에 취약하다.
싱가포르 소재 스타트업 메타드림이 개발해 지난해 10월 출시한 소셜 메타버스 앱 본디(Bondee)도 SNS로 퍼진 가짜뉴스로 인해 피해를 본 신생 기업이다. 본디는 '제2의 싸이월드'라는 평가를 받으며 젊은 층에서 크게 인기를 끌었지만, 각종 온라인 커뮤니티를 중심으로 개인정보가 유출될 수 있다는 의혹이 확산했다. 불과 한 달 전 100만명에 달했던 일간 활성 이용자(DAU)는 3월 초 7만명으로 약 93% 급감했다.
문제의 발단은 한 대만 국적의 이용자가 SNS에 올린 글이었다. 이 이용자는 "최근 (스마트폰에) 설치한 앱은 본디뿐인데, 나도 모르는 사이에 은행 계좌에서 돈이 빠져나갔다"며 본디가 개인정보를 빼돌려 이를 악용한다는 의혹을 제기했다. 이 글은 우리나라를 비롯한 전 세계로 빠르게 퍼져나갔다.
국내에선 '본디가 수집한 개인정보가 국외로 유출되고 있다'는 내용의 소문이 SNS를 통해 퍼졌다. '계정 해킹과 개인정보 유출 이슈로 이미 해외 앱스토어에서 본디 앱이 삭제됐다'는 가짜 뉴스도 확산했다. 본디가 중국 SNS 앱 '젤리(啫喱)'의 운영사 트루리(True.ly)를 인수했다는 사실이 알려지면서 ‘본디는 중국 앱’이라는 잘못된 정보가 확산했고, 이는 개인정보 유출 가능성에 힘을 실었다.
사진 본디 공식 홈페이지 캡처
본디는 해명에 나섰다. 회사는 지난 2월 공식 홈페이지를 통해 "지금까지 단 한 건의 개인정보 유출이나 도용도 발생하지 않았다"며 "개인정보 보호를 위해 미국싱가포르·일본 등에 데이터센터를 분산 배치해 안전하게 관리하고 있다"고 했다.
과도한 개인정보 수집 논란에 대해선 "자사가 수집하는 정보는 타 앱에서도 통상적으로 수집하는 수준 이상은 아니다"라고 해명했다. "사진을 찍어 올리는 기능이 있으면 카메라와 앨범에 대한 접근 권한을 요구하고, 친구를 초대하는 기능이 있으면 연락처에 대한 접근 권한을 요구한다"며 "앱의 기능이 다양해질수록 접근 권한 요구가 늘어나는 것은 자연스러운 현상"이라고 덧붙였다.
또 중국 앱 논란에 대해선 "이전에 중국에서 인기를 얻은 트루리의 지식재산권을 메타드림에서 인수 후 디자인 등 기본적인 요소만 유지한 채 새롭게 탄생한 것"이라고 해명했다.
본디가 개인정보를 빼돌렸다는 이용자의 주장도 사실이 아닌 것으로 드러났다. 은행의 신용카드 결제 시스템에 오류가 발생해 본디 이용자뿐 아니라 해당 은행을 이용하는 여러 고객이 피해를 봤다는 사실이 밝혀지면서다. 해당 이용자는 SNS에 올린 글을 삭제한 시점은 이미 많은 이용자가 본디를 떠난 뒤였다.
"가짜뉴스 대응 윤리 필요…플랫폼 기업 역할 중요해질 것"
가짜뉴스로 인한 피해가 파급력이 큰 만큼 이를 식별하는 것이 중요하다는 지적도 나온다.
구정우 성균관대 사회학과 교수는 "표현의 자유라고 해서 모두 다 존중받아야 하는 것은 아니기 때문에 가짜뉴스와 표현의 자유 사이엔 늘 긴장과 갈등이 생긴다"며 "SNS 이용자들은 기본적인 윤리 의식을 인지하고 책임지는 표현의 자유를 행사해야 한다"고 말했다.
구 교수는 "표현의 자유를 행사하는 것이 자칫 공동체의 자유를 파괴할 수 있다는 인식이 생김에 따라 앞으로 플랫폼 기업의 역할이 점점 중요해질 것"이라며 "가짜뉴스에 대한 대응 윤리를 만드는 것이 무엇보다 중요하다. 행위자들이 책임 있게 행동하게끔 잘못된 것은 잘못됐다고 말해주는 분위기를 만들기 위해선 정부도 관련 법적 장치와 제도적인 기반을 마련해줘야 한다"고 덧붙였다.
가짜뉴스를 방치하는 플랫폼을 규제하자는 움직임도 있다. EU 집행위원회는 이달 25일 불법·유해 콘텐트 확산을 방지하는 '디지털서비스법(DSA)' 시행을 앞두고 있다. 특정 인종, 성, 종교에 편파적인 발언이나 테러, 아동 성 학대 등과 연관 있는 콘텐트의 온라인 유포를 막기 위해 도입된 법률로, 구글·트위터·틱톡·유튜브 등 19개 플랫폼을 대상으로 한다. 가짜뉴스 방지 시스템을 갖추지 않는 등 법을 위반하는 플랫폼엔 총매출의 최대 6%에 달하는 과징금을 부과한다.
중앙일보
美서 밀크셰이크 먹고 3명 사망... 이 식당에 무슨 일이?
