무장 단체들, AI 기술 활용 본격화

극단주의 네트워크가 AI를 툴킷의 일부로 만드는 방법

2025년 12월 15일, Associated Press와 PBS의 보도는 인공지능 확산의 새로운 전선을 조명했습니다. 바로 생성형 모델을 테스트하여 모집을 확대하고, 딥페이크 이미지와 오디오를 제작하며, 번역을 자동화하고 사이버 운영을 고도화하는 느슨하게 조직된 무장 및 극단주의 네트워크입니다. 메시지는 직설적이고 실용적입니다. 친이슬람 국가(IS) 성향의 한 사용자는 최근 지지자들에게 영어로 "AI의 가장 좋은 점 중 하나는 사용하기가 얼마나 쉬운가 하는 점이다"라고 말하며 이 기술을 작전의 일부로 활용할 것을 촉구했습니다. 이러한 온라인상의 권고는 보안 당국이 우려하는 기본 논리, 즉 저렴하고 강력한 AI가 악의적인 영향력을 행사하기 위한 문턱을 낮춘다는 점을 잘 보여줍니다.

오늘날 무장 세력의 AI 활용 방식

연구원들과 모니터링 업체들은 몇 가지 반복적인 사용 사례를 보고합니다. 이들 집단은 공개된 생성형 모델을 전용하여 소셜 플랫폼에서 공유할 수 있는 사실적인 사진과 영상을 제작해 왔으며, 지도자의 딥페이크 오디오를 제작하고 AI를 사용해 몇 시간 내에 메시지를 여러 언어로 번역했습니다. 또한 소셜 알고리즘에 영양분을 공급하도록 설계된 표적 허위 정보 캠페인을 운영하기 시작했습니다. SITE Intelligence Group은 이스라엘-하마스 전쟁을 둘러싸고 유포된 조작된 이미지와 러시아의 치명적인 콘서트 공격 이후 제작된 AI 선전물 등의 사례를 기록했습니다. 다른 사례에서는 공격자들이 사기 및 피싱 작전에서 공직자를 사칭하기 위해 합성 오디오를 사용하기도 했습니다.

이러한 전술이 모두 고도의 기술적 기적은 아닙니다. 작업의 상당 부분은 기성 도구와 인간의 창의성에 의존합니다. 하지만 소셜 미디어의 증폭 효과와 결합되면 여론을 전환하고 공포를 확산하며 소규모 조직의 범위를 훨씬 넘어 동조자를 모집할 수 있습니다. 전직 NSA 취약점 연구원 출신의 업계 경영자는 다음과 같이 말했습니다. "AI를 사용하면 자금이 많지 않은 소규모 그룹이라도 여전히 영향력을 발휘할 수 있습니다."

위협이 고조되는 이유

세 가지 기술적 트렌드가 이 문제를 비대칭적이고 가속화되게 만듭니다. 첫째, 텍스트, 이미지, 음성 등 생성형 모델이 널리 보급되어 전문적인 교육 없이도 쉽게 운영할 수 있게 되었습니다. 둘째, 모델들을 서로 연결(chaining)할 수 있습니다. 언어 모델이 선전 문구를 작성하면 이미지 모델이 이를 시각화하고, 번역 도구는 새로운 청중을 위해 콘텐츠를 현지화합니다. 셋째, 상품화된 컴퓨팅 및 클라우드 서비스를 통해 피싱을 위한 타겟 목록 수집부터 수천 개의 개인화된 메시지 합성까지 반복적인 작업을 자동화할 수 있습니다.

이러한 조합은 규모를 영향력으로 전환하기 때문에 중요합니다. 참여를 보상하도록 설계된 소셜 플랫폼은 생생하고 공유하기 좋은 콘텐츠를 기꺼이 증폭시킬 것입니다. 설득력 있는 딥페이크나 자극적인 번역 게시물은 빠르게 퍼져나가 양극화를 심화시키거나 지난 수십 년 동안 접근할 수 없었던 곳에서 대원을 모집할 수 있습니다.

온라인 선전에서 전장 도구로

보안 분석가들은 선전을 넘어선 작전상의 응용에 대해서도 우려하고 있습니다. 국토안보부(DHS)의 가장 최근 위협 평가에서는 AI가 비국가 행위자와 단독 공격자들이 기술적 부족함을 보완하는 데 도움을 줄 위험이 있다고 명시적으로 경고했습니다. 여기에는 사이버 공격 지원과 더 우려스럽게도 생물학적 또는 화학적 위협의 설계 지원이 포함됩니다. 이러한 시나리오는 더 어렵고 더 많은 자원이 필요하지만, DHS와 다른 기관들은 모델과 데이터셋의 능력이 향상되고 실험실과 도구에 접근하기가 더 쉬워짐에 따라 이를 배제할 수 없다고 말합니다.

한편, 위성 이미지의 자동 분석, 드론 타격 지원, 물류 최적화와 같은 AI의 전통적인 군사적 용도는 무장 단체가 관찰하고 낮은 정밀도로 모방할 수 있는 모델과 기능을 제공합니다. 우크라이나 전쟁은 이러한 많은 기술의 시험장이 되었습니다. 군대는 대량의 이미지와 영상을 걸러내어 표적을 찾고 공급망을 관리하기 위해 AI를 사용하며, 이러한 빠른 혁신의 패턴은 비정규군과 대리 행위자들에게 영감을 주거나 유출될 수 있습니다.

구체적인 위험과 최근 사례

• 대규모 모집: AI 도구는 모집자가 동조적인 청중에게 배포할 수 있도록 다국어로 작성되고 감정적으로 맞춤화된 선전물을 제작하는 데 도움을 줍니다.
• 딥페이크와 기만: 제작된 이미지와 오디오는 이미 갈등을 고조시키고, 신뢰를 약화시키며, 갈취를 위해 지도자를 사칭하거나 현실 세계의 반응을 유도하는 데 사용되었습니다.
• 사이버 작전: 공격자들은 AI를 사용하여 정교한 피싱 메시지를 작성하고, 익스플로잇 코드를 쓰며, 침입 캠페인 내의 작업을 자동화합니다.

분석가들은 세간의 이목을 끈 공격 이후 합성 이미지가 유포된 최근 사례와 일부 그룹이 지지자들을 대상으로 콘텐츠 제작을 위한 AI 사용법에 대해 실시한 교육 세션을 지적합니다. 의원들은 이슬람 국가와 알카에다 계열 조직 모두 지지자들에게 생성형 도구 사용법을 가르치는 워크숍을 개최했다고 증언했습니다.

당국 및 전문가 권고 사항

정책적 대응은 여러 경로로 진행되고 있습니다. 워싱턴에서 국회의원들은 상업용 AI 개발자와 정부 기관 간의 신속한 정보 공유를 촉구하여 기업이 오용 사례를 신고하고 탐지에 협력할 수 있도록 했습니다. 상원 정보위원회 민주당 간사인 마크 워너 상원의원은 사용자 친화적인 모델의 공개적 등장이 생성형 AI가 광범위한 악의적 행위자들을 끌어들일 것임을 분명히 했다고 말했습니다. 미국 하원은 국토안보부 관료들이 매년 극단주의 그룹의 AI 위험을 평가하도록 요구하는 법안을 통과시켰습니다. 양당 의원들은 기관들에 레드팀 활동 및 남용 신고 경로에 대해 업계와의 협력을 가속화할 것을 지시했습니다.

기술적 조치도 추진되고 있습니다. 기업과 연구원들은 생성된 미디어에 대한 출처 및 워터마킹 시스템, 합성 콘텐츠를 감지하는 분류기, 의심스러운 자동 계정을 제한하거나 차단하는 플랫폼 집행 방식 등을 연구하고 있습니다. 동시에 시민 자유 옹호자들은 탐지 시스템이 제대로 설계되지 않을 경우 광범위한 감시와 정당한 발언을 검열할 위험에 대해 경고합니다.

한계와 어려운 선택

위협을 완화하려면 어려운 절충안이 필요합니다. 생성형 도구의 확산을 억제하면 의료, 기후 모델링, 물류 분야의 유익한 활용이 늦어질 수 있는 반면, 자유로운 접근을 허용하면 오용될 수 있는 표면이 넓어집니다. 국제적으로 일부 국가와 미국의 수십 개 주에서 특정 종류의 딥페이크를 제한하는 법안을 통과시키거나 제안했습니다. 연방 정부 또한 공직자를 사칭하는 AI 생성 로보콜을 불법화하는 등의 조치를 취했습니다. 하지만 자율 무기와 비국가 행위자의 AI 사용에 관한 구속력 있는 글로벌 합의는 정치적으로 여전히 어려운 상태입니다.

군사 AI를 연구하는 전문가들은 단번에 해결할 수 있는 묘책(silver bullet)은 없다고 경고합니다. 신미국안보센터(CNAS)의 폴 샤레는 전쟁이 혁신을 가속화하며, 격렬한 충돌이 오래 지속될수록 위험한 기술이 더 빨리 퍼진다고 언급했습니다. 사이버 보안 실무자들은 더 나은 사용자 리터러시 및 회복력 있는 제도와 결합된, 탐지 및 플랫폼 설계 측면의 작고 저렴한 개선이 많은 공격을 무력화할 수 있다고 강조합니다. 그럼에도 한 사이버 보안 CEO가 기자들에게 말했듯, "어떤 적대자에게든 AI는 무언가를 행하는 것을 훨씬 더 쉽게 만듭니다."

향후 주목해야 할 점

내년 한 해 동안 세 가지 측정 가능한 트렌드가 나타날 것으로 예상됩니다. AI 기반 선전 및 사기의 공개적 사례가 더 빈번해질 것이고, 개발자 투명성과 의무적인 남용 신고를 압박하는 국회의원들이 증가할 것이며, 플랫폼과 정부를 겨냥한 탐지 도구 시장이 확장될 것입니다. 당국은 또한 모델링 및 합성 도구가 진화함에 따라 AI와 생물학적 위험의 교차점을 점점 더 주시하며 검토를 지속할 것입니다.

실무자와 대중에게 즉각적인 우선순위는 실용적입니다. 극단주의 채널에 대한 모니터링을 강화하고, 개발자가 사용자 프라이버시를 침해하지 않고 남용을 보고할 수 있는 견고한 메커니즘을 구축하며, 플랫폼이 대규모로 배포할 수 있는 신속하고 설명 가능한 탐지 도구에 투자하는 것입니다. 이러한 조치 없이는 저렴한 생성형 AI가 정보와 기술을 무기화하는 방법을 이미 찾은 행위자들에게 계속해서 전력 증강 요인으로 작용할 것입니다.

출처

• 국토안보부 (국토 위협 평가)
• SITE Intelligence Group (극단주의 활동 모니터링)
• 신미국안보센터 (AI 및 전쟁 분석)
• 국가안보국 (취약점 연구 및 공개 논평)
• 극단주의 위협 및 AI에 관한 미국 의회 청문회