익명의 관계자와 자동 생성된 비하 발언

도널드 트럼프가 지난 2월 자신이 공유한 인종차별적 AI 생성 영상—버락 오바마와 미셸 오바마를 유인원으로 묘사한 영상—에 대해 내놓은 해명은 매우 편리한 기술적 핑계에 의존하고 있다. 그는 영상의 시작 부분만 시청했다고 주장한다. 해당 게시물이 삭제된 직후 에어포스 원(Air Force One) 기내에서 기자들을 만난 트럼프 대통령은 영상의 앞부분 몇 초는 "괜찮아" 보였으며, 트루스 소셜(Truth Social)을 통해 수백만 명에게 퍼지기 전까지 자기 주변 누구도 영상이 어떻게 끝나는지 몰랐다고 말했다. 이는 현대 시대의 전형적인 변명이다. 사용자는 알고리즘을 탓하고, 행정부는 "익명의 참모"를 탓하며, 기술 그 자체는 책임을 물을 수 없는 블랙박스로 남는다.

지난 월요일, 버락 오바마는 뉴요커(The New Yorker)와의 인터뷰를 통해 마침내 이 문제에 대해 입을 열었다. 그의 반응은 예상대로 절제되어 있었고, 그의 대통령 재임 시절을 상징하는 '고상한' 정치의 정수를 보여주었으나, 동시에 디지털 시대의 품격에 대한 날카로운 비판이 담겨 있었다. 그는 개인적인 모욕에는 크게 개의치 않는다고 밝혔지만, 가족이 연루된 부분에 대해서는 단호한 선을 그었다. 오바마는 "제 아내와 아이들이 이런 일에 휘말릴 때마다 항상 화가 납니다. 그들은 이런 상황을 선택한 적이 없기 때문이죠"라고 말했다. 그러나 그는 개인적인 불쾌감을 넘어 더 깊은 체제적 부패를 지적했다. 즉, 정책을 둘러싼 토론이었던 정치적 담론이 소셜 미디어와 합성된 잔혹함에 의해 움직이는 "광대 쇼"로 전락했다는 점이다.

그럴듯한 부인을 위한 기술적 구조

전직 대통령 부부를 유인원으로 묘사한 AI 생성 영상이 현직 대통령의 피드에 어떻게 올라오게 되었는지 이해하려면, 무너져가는 콘텐츠 관리 인프라를 살펴봐야 한다. 전통적인 미디어 환경이었다면, 이처럼 노골적인 인종차별적 비유가 담긴 영상은 법률적·편집적 검토라는 다층적인 필터를 거쳤을 것이다. 하지만 트루스 소셜과 생성형 AI의 시대에 그 모든 작업 과정은 단 하나의 "공유" 버튼으로 대체되었다. 참모가 "실수"로 영상을 올렸다는 백악관의 주장은 합성 미디어에 대한 내부 안전장치가 전무하다는 사실을 극명하게 보여준다.

이는 단순한 판단 착오가 아니라 메타데이터의 실패다. 주요 기술 기업들, 특히 유럽에 기반을 두거나 C2PA(콘텐츠 출처 및 진위 확인을 위한 연합) 표준을 준수하는 기업들은 AI 생성 콘텐츠에 '영양 성분 표기'와 같은 기능을 도입하려 노력하고 있다. 이러한 디지털 워터마크는 사용자가 재생 버튼을 누르기 전, 해당 파일에 무엇이 담겨 있고 어디서 왔는지 정확히 알리는 것을 목적으로 한다. 그러나 트루스 소셜은 이러한 기술적 책임감을 표현의 자유를 침해하는 것으로 간주하는 규제 공백 지대에서 운영된다. 트럼프가 영상의 결말을 보지 못했다고 말하는 것은, 오늘날의 디지털 도구가 맥락이 아닌 속도를 위해 설계되었다는 사실을 교묘히 이용하는 것이다.

오바마 부부의 머리를 'The Lion Sleeps Tonight' 음악에 맞춰 춤추는 유인원의 몸에 합성한 이 영상은 원시적인 형태의 딥페이크에 불과하다. 이를 제작하기 위해 슈퍼컴퓨터나 국가 수준의 정보기관이 필요한 것도 아니다. 소비자용 GPU와 오픈 소스 모델을 몇 분간 학습시키기만 하면 된다. 이러한 디지털 암살의 민주화야말로 EU AI 법(EU AI Act)이 엄격한 투명성 요구 사항을 통해 완화하고자 했던 문제다. 브뤼셀에서는 모델 제공자에 초점을 맞춰, 소프트웨어 자체가 혐오 표현을 생성하지 못하도록 차단하는 데 주력해 왔다. 반면 플로리다와 워싱턴에서는 사후 처리(post-hoc cleanup)에만 집중하고 있는데, 이는 갈수록 효과가 없는 전략임이 드러나고 있다.

합성된 생태계에 '고상한 정치'는 존재하는가?

품위, 예의, 친절을 고수하는 오바마의 태도는 마치 다른 세기에서 온 메시지처럼 느껴진다. 그는 뉴요커에 "과거에는 어느 정도의 품위가 있어야 한다고 느꼈던 사람들 사이에서 이제는 그런 수치심조차 찾아볼 수 없는 것 같습니다"라고 말했다. 그러나 품위는 인간의 특성인 반면, 알고리즘은 참여도를 극대화하도록 최적화되어 있다. 영상에 사용된 인종차별적 비유는 AI 학습 데이터의 우연한 결과가 아니었다. 이는 제작자가 특정한 역사적 신경을 건드리기 위해 의도적으로 선택한 것이며, AI는 그저 이를 효율적으로 실행했을 뿐이다.

AI가 전쟁을 "비디오 게임처럼" 다루는 데 사용된다는 오바마의 우려에는 특별한 아이러니가 존재한다. 그는 이란에 대한 군사 행동을 스타일화하기 위해 합성 이미지를 사용한 트럼프 백악관의 또 다른 게시물들을 언급한 것이다. 드론 전쟁의 사용을 개척하여 냉담하고 거리감이 느껴진다는 비판을 받았던 전직 대통령에게, 전쟁 이미지를 말 그대로 게임화하는 방식으로의 전환은 기괴하지만 논리적인 결론이다. 우리는 시각적 기록이 물리적 현실과 완전히 단절되는 정치적 현실로 나아가고 있다. 대통령이 최근 트럼프가 그랬던 것처럼 링컨 기념관에서 상의를 벗은 자신의 AI 사진을 올린 뒤, 인종차별적인 딥페이크 영상을 올릴 수 있다면 '사실'이라는 개념 자체가 해체되기 시작한다.

공화당 내부의 반응은 눈에 띄게 분열되어 있다. 팀 스콧(Tim Scott)과 같은 인물들은 해당 영상을 자신이 본 것 중 "가장 인종차별적인 것"이라고 규정했지만, 캐롤라인 레빗(Karoline Leavitt)을 통해 전달된 공식 백악관 입장은 비판을 "가짜 분노"라고 일축했다. 이러한 내부 긴장은 전통적인 보수 가치와 디지털 우선주의 포퓰리즘 운동의 전면적인 요구 사이에서 갈등하는 정당의 모습을 보여준다. 트럼프 행정부에게 AI 영상은 속죄해야 할 실수가 아니라, 대중의 충격 흡수 능력을 시험하는 스트레스 테스트일 뿐이다.

브뤼셀 효과와 주권의 한계

미국이 이러한 사건들을 두고 당파적 다툼의 굴레에 갇혀 있는 동안, 유럽의 규제 당국은 점점 더 큰 경각심을 가지고 지켜보고 있다. 최근 본격적으로 시행된 EU AI 법은 바로 이러한 콘텐츠가 산업적 규모로 생산되는 것을 방지하기 위해 설계되었다. 유럽 법은 기만적인 콘텐츠를 생성할 수 있는 모든 AI 시스템이 감지를 염두에 두고 설계되어야 한다고 규정한다. 만약 이 영상이 유럽 기업에 의해 제작되거나 호스팅되었다면, 그 벌금은 전 세계 매출의 일정 비율로 산정되었을 것이다.

그러나 오바마-트럼프 사건은 세계화된 데이터 경제에서 지역적 규제의 한계를 명확히 보여준다. 트루스 소셜은 유럽 사용자를 타깃으로 하지 않으며, 서버도 프랑크푸르트나 파리에 있지 않다. 이는 생성형 AI의 가장 유해한 적용 사례들이 배양된 뒤 전 세계 인터넷을 통해 수출될 수 있는 규제 피난처를 만든다. 독일의 공급망 실사법이나 디지털 안전법(NetzDG)은 종종 웹 정화를 위한 모델로 꼽히지만, 전 세계와 공유한 파일의 후반부를 보지 못했다고 주장하는 현직 미국 대통령 앞에서는 무력할 뿐이다.

우리가 목격하고 있는 것은 정치적 전쟁의 도구로서의 'AI 주권'의 등장이다. 정부가 영웅적인 모습의 상의 탈의 사진부터 적에 대한 비인간적인 캐리커처까지 스스로 현실을 만들어낼 수 있다면, 더 이상 전통적인 언론이나 기존의 증거 기반과 소통할 필요가 없어진다. "익명의 참모"는 실존 인물이 아니다. 그는 기계 속의 유령이자, 비방의 결과에 책임을 지지 않으면서도 바이럴 효과를 누리게 해주는 편리한 허구적 인물이다.

디지털 서커스의 정상화

오바마가 언급했듯이, 대다수의 미국인은 여전히 품위를 믿을지 모르지만, 모델을 학습시키는 주체는 대다수의 미국인이 아니다. 이러한 디지털 괴롭힘을 위한 기술적 진입 장벽은 사라졌다. 우리는 이제 인종차별적 비유를 생성하는 비용은 사실상 제로에 가까운 반면, 이를 반박하거나 소송을 걸거나 "고상한 길을 택하는" 비용은 여전히 높은 시대에 살고 있다.

백악관이 사과를 거부하는 모습은 어쩌면 이 모든 사태에서 가장 솔직한 부분일지도 모른다. 사과한다는 것은 대통령이 자신의 디지털 콘텐츠에 대해 책임이 있음을 인정하는 것이기 때문이다. 현 행정부의 관점에서 대통령은 더 광범위하고 매개되지 않은 "진실"을 전달하는 통로일 뿐이며, 그 진실이 제3자 앱에 의해 생성된 합성된 거짓말일지라도 마찬가지다. 참모는 실수를 저지른 것이 아니다. 그들은 일주일 내내 뉴스 사이클을 지배하는 헤드라인을 만들어냄으로써 자신의 임무를 완벽하게 수행한 것이며, 행정부가 다음 주의 분산 거리로 넘어가는 동안 야당이 자신의 존엄성을 방어하느라 급급하게 만들었을 뿐이다.

유럽에는 규제가 있고, 워싱턴에는 쇼가 있다. 이제 과연 누구에게 진실이 남아 있는지는 지켜봐야 할 일이다.