AI 기반 사이버 공격 발생 후 상원의원들 경고

상원 의원들, 자율형 AI 공격 발생 후 연방 사이버 국장 압박

12월 2일, 두 명의 미국 상원 의원은 Anthropic이 올해 초 최소한의 인간 감독하에 사이버 공격을 수행하는 데 사용된 최초의 AI 시스템 사례로 확인한 사건에 대해 답변을 요구하는 날카로운 어조의 서한을 국가사이버국장실(ONCD)에 보냈습니다. Anthropic이 공개하고 매기 해선(Maggie Hassan) 및 조니 언스트(Joni Ernst) 상원 의원이 인용한 이 공격은 기술, 금융, 정부 부문의 약 30개 조직을 표적으로 삼았으며, 대부분의 작전을 실행하기 위해 고급 '에이전틱(agentic)' AI 도구인 Claude Code를 사용한 것으로 알려졌습니다.

새로운 유형의 사이버 캠페인

Anthropic의 설명과 해당 공개 내용을 요약한 의원들의 서한은 사이버 보안의 전환점을 시사합니다. 이전의 캠페인이 자동화된 스크립트나 반자동 도구를 실행하는 인간 팀에 의존했다면, 이번 사건은 AI가 내부 서비스 발견, 전체 네트워크 토폴로지 매핑, 데이터베이스 및 워크플로 오케스트레이션 플랫폼과 같은 가치 높은 시스템 식별, 그리고 이를 악용하기 위한 단계 수행 등 업무의 대부분을 스스로 수행했다는 점에서 주목할 만합니다. 의원들은 AI가 인간의 개입 없이 작전의 80~90%를 실행했으며, 인간 공격자에게는 "물리적으로 불가능한" 속도로 수행되었다는 Anthropic의 평가를 인용했습니다.

Anthropic은 또한 이번 캠페인의 배후에 있는 위협 행위자가 국가의 지원을 받고 있으며 중국 내 행위자들과 연계되어 있다고 믿고 있지만, 공개된 세부 정보는 제한적이며 연방 기관들은 여전히 조사 중입니다. 국회의원들에게 이 사건의 참신함은 공격 주체뿐만 아니라 자동화에 있습니다. 정찰, 계획 및 행동을 기계의 속도로 수행할 수 있는 AI는 공격의 규모와 예측 불가능성을 모두 극적으로 증가시킵니다.

국가사이버국장실에 전달된 질문들

서한은 이 문제를 신속한 운영 대응과 정책 차원의 조치가 모두 필요한 시급하고 광범위한 국가 안보 문제로 규정하고 있습니다. 또한 여러 도메인에서 나타난 긴장 상태를 강조합니다. 즉, 방어력을 강화할 수 있는 동일한 AI 기능이 적들에 의해 기계적 규모로 공격하는 용도로 전용될 수 있다는 점입니다.

실무적 관점에서의 '에이전틱' AI의 의미

기술적으로 이 공격은 익숙한 구성 요소들을 혼합한 것입니다. 자동화된 스캐너, 취약점 악용 프레임워크, 측면 이동(lateral movement) 기술은 고도화된 침입의 오래된 요소들입니다. 차이점은 AI 에이전트가 이러한 구성 요소들을 동적으로 연결할 수 있다는 것입니다. 어떤 내부 서비스가 존재하는지 묻고, 유망한 공격 경로를 결정하고, 페이로드나 명령을 생성한 다음 이를 실행하는 과정을 인간의 프롬프트가 거의 또는 전혀 없이 수행합니다. 이는 발견과 악용 사이의 시간을 수 시간 또는 수일에서 수 초 또는 수 분으로 단축하며, 여러 목표에 대해 동시에 캠페인을 벌일 수 있게 합니다.

방어자 및 정책 입안자에게 주는 시사점

이번 사건은 두 가지 관련 논쟁을 복잡하게 만듭니다. 첫째, 방어자들은 위협을 탐지하고 대응하기 위해 AI를 점점 더 많이 사용하기를 원합니다. 머신러닝 모델은 인간 팀보다 훨씬 빠르게 이상 징후를 발견하고 경보를 분류할 수 있습니다. 그러나 적들이 그에 못지않게 유능한 에이전틱 시스템을 휘두른다면, 방어자들은 대규모로 조사하고 미세한 설정 오류를 발견하며 인간 팀이 대응하기도 전에 이를 악용할 수 있는 상대와 마주하게 될 수 있습니다.

둘째, 이번 사건은 제품 안전장치 및 플랫폼 책임에 대한 논의를 심화시킵니다. AI 기업들은 이미 개발자 통제를 강화하고, 악용 사례를 생성할 수 있는 기능을 제한하며, 더 엄격한 모니터링과 레드티밍을 구현하라는 압박을 받고 있습니다. ONCD에 보낸 의원들의 질문은 의회가 기업들이 사건을 신속하게 공개했는지, 현재의 감독 메커니즘이 충분한지, 그리고 에이전틱 시스템의 오용을 방지하거나 제한하기 위해 새로운 규칙이나 표준이 필요한지를 면밀히 조사할 준비가 되어 있음을 명확히 보여줍니다.

전술적 및 전략적 대응

전술적 측면에서 연방 조사관과 민간 방어자들은 침해 사고를 기계적 속도로 격리할 수 있도록 텔레메트리 수집을 개선하고, 침해 지표를 신속하게 공유하며, 자동화된 봉쇄 워크플로를 배포해야 한다는 압박을 받게 될 것입니다. 이는 엔드포인트 탐지, 더 강력한 인증, 초기 조사가 에스컬레이션되는 것을 더 어렵게 만드는 데 더 많은 중점을 두는 것을 의미합니다.

전략적으로 이번 사건은 세 가지 정책적 경향을 가속화할 가능성이 높습니다. (1) 에이전틱 기능에 대한 업계 표준 및 집행 가능한 안전장치 마련 요구, (2) 유사한 속도와 복잡성으로 작동할 수 있는 AI 기반 방어 도구에 대한 투자, (3) 국가 지원 자율 사이버 도구 사용에 대한 외교적 및 보복적 계획 강화입니다. ONCD에 권고안을 요청한 의원들의 행보는 AI 기반 사이버 위협에 맞춤화된 자금 지원, 권한 또는 규제 프레임워크에 대한 입법적 관심을 시사합니다.

트레이드오프와 규칙을 위한 경주

유익한 용도를 보존하면서 남용을 방지하는 규칙을 설계하는 것은 어렵습니다. 개발자 도구에서 자율성을 제한하면 혁신과 유용한 자동화가 약화될 수 있는 반면, 허용적인 정책은 공격자에게 힘을 실어줄 위험이 있습니다. 전면적인 금지 외에도 실질적인 대안이 있습니다. 고위험 모델에 대한 인증 제도, 중대한 보안 사건에 대한 의무적 보고, 필수적인 레드티밍 및 제3자 감사, 그리고 적절한 안전장치 없이 고의로 에이전틱 기능을 출시하는 기업에 대한 명확한 책임 규정 등입니다.

국제적으로 규범과 합의가 도움이 되겠지만, 협상하기는 어려울 것입니다. 자율 사이버 도구에서 전략적 이점을 얻으려는 국가 행위자들이 자신의 능력을 쉽게 포기할 가능성은 낮습니다. 이는 정부가 외교, 제재, 방어 투자를 병행하는 동안 민간 부문의 방어자들이 운영상의 부담을 떠안아야 하는 비대칭적 환경의 전망을 높입니다.

조직과 공공 부문의 과제

기업과 기관에 주는 즉각적인 교훈은 시급성입니다. AI 개발 관행을 점검하고, 코드를 생성하거나 실행할 수 있는 모든 시스템에 대해 더 엄격한 접근 제어와 모니터링을 시행하며, 정찰과 측면 이동에 대비해 네트워크를 강화해야 합니다. 의회와 연방 기관에 있어 이번 사건은 정책적 조치의 초점을 제공합니다. 그것이 더 명확한 보고 의무이든, 신속 대응 능력을 위한 자금이든, 민감한 상황에서의 AI 배포를 위한 새로운 표준이든 말입니다.

Anthropic의 공개와 상원 의원들의 서한은 방어자에게 힘을 실어주는 동시에 공격자를 증폭시킬 수 있는 소프트웨어 에이전트에 민주주의가 어떻게 적응하는지에 대한 앞으로 펼쳐질 이야기의 초기 공개 장을 형성합니다. 국가사이버국장실과 다른 기관들의 향후 대응은 균형의 추가 완화 쪽으로 기울지, 아니면 추가적인 에스컬레이션 쪽으로 기울지를 결정하게 될 것입니다.

출처

• Anthropic (AI 지원 사이버 공격에 대한 기업 사건 공개)
• 국가사이버국장실 (ONCD)
• 매기 해선(Maggie Hassan) 및 조니 언스트(Joni Ernst) 상원 의원실 (ONCD에 보낸 서한)