대규모 언어 모델, 생물학적 사보타주를 위한 전술 지침서로 부상

데이비드 렐먼(David Relman) 박사는 수십 년간 미 정부에 생화학전이라는 보이지 않는 위협에 대해 조언해 왔지만, 작년 출시 전 챗봇과 나눈 조용한 대화는 그를 진심으로 흔들어 놓았다. 테스트 과정에서 이 시스템은 병원균의 특성을 건조하게 요약하는 수준을 넘어, 현대 의학적 대응책을 회피하기 위해 특정 병원체를 변형하는 방법을 제시했다. 더 나아가 렐먼이 나중에 “교활하다”고 묘사한 수준의 전술적 세밀함으로, 해당 병원체를 살포했을 때 최대의 피해를 줄 수 있는 대중교통 시스템의 구체적인 취약점까지 지적했다. 이는 코드의 추상성이 대기 중 살포라는 냉혹한 현실과 마주한 순간이었다.

긴장의 핵심은 AI 기업들이 말하는 “그럴듯하게 들리는 텍스트”와 생물 보안 전문가들이 부르는 전술적 교본 사이의 간극에 있다. OpenAI, Google, Anthropic과 같은 업계 선도 기업들은 자신들의 모델이 학술 문헌이나 다크 웹의 심층부에 이미 파묻혀 있는 정보 이상의 “방법론”을 제공하지 않는다고 일관되게 주장해 왔다. 이들은 지나친 신중함으로 인해 수천 건의 합법적인 과학적 질의를 차단하는 내부 안전팀과 “과잉 거부(over-refusal)” 정책을 근거로 제시한다. 그러나 연구자들은 이러한 안전장치가 허술하다는 것을 입증하는 12건 이상의 대화 사례를 공유했다. 일례로 MIT 유전공학자 케빈 에스벨트(Kevin Esvelt)는 ChatGPT가 도시 상공에 생물학적 물질을 살포하기 위해 기상 관측용 풍선을 사용하는 방법을 설명할 수 있음을 보여주었다. 또 다른 사례로 Google의 Gemini는 축산업을 마비시킬 잠재력에 따라 다양한 병원균의 순위를 매기는 데 사용되어, 사실상 경제적 파괴를 위한 타깃 목록을 제공했다.

논쟁의 본질은 챗봇이 독극물 제조법을 쓸 수 있느냐가 아니라, 기본적인 기술적 소양은 갖췄으나 공격을 규모화할 전략적 안목이 부족한 사람을 도울 수 있느냐에 있다. 고위험 병원체 실험실 전문가인 젠스 쿤(Jens Kuhn) 박사는 생화학전의 가장 어려운 부분은 바이러스 배양이 아니라 무기화라고 지적한다. 액체 상태의 슬러리를 안정적인 에어로졸로 바꾸거나, 국제적인 경보를 울리지 않고 물자를 확보하는 물류 과정은 비국가 행위자들이 흔히 실패하는 지점이다. AI 모델은 이제 이러한 이른바 “라스트 마일(last-mile)” 문제를 해결하는 데 놀라울 정도로 능숙함을 입증하고 있다. AI는 조잡한 계획을 실행 가능한 작전으로 다듬어 줄 수 있는 일종의 ‘그림자 멘토’ 역할을 수행한다.

최근 인도 구자라트에서 이슬람 국가(IS)를 위해 테러를 모의한 혐의로 체포된 의사의 사례를 살펴보자. 수사관들은 그가 아주까리에서 리신을 추출하는 방법을 연구하기 위해 AI 기반 검색 엔진과 챗봇을 활용했다는 사실을 밝혀냈다. 비록 리신은 변형된 호흡기 바이러스에 비하면 조잡한 도구이지만, 의도와 실행 사이의 간극을 메우기 위해 AI를 사용하는 것은 더 이상 이론적인 가정이 아니다. 이는 DNA 합성 및 화학적 전구체를 모니터링하는 현행 검사 시스템에 대한 실질적인 스트레스 테스트를 의미한다. 최근 학술지 Science에 발표된 연구에 따르면, AI 도구는 현행 DNA 주문 검사 시스템이 감지하지 못하는 위험한 병원체의 변이 유전자 서열을 수천 개나 생성할 수 있다. 소프트웨어는 이를 모니터링하는 하드웨어보다 빠르게 진화하고 있다.

또한 여기에는 불편한 제도적 모순이 존재한다. 과학적 위험은 커지고 있지만, 이를 감독하려는 정치적 의지는 줄어들고 있다. 현 미 행정부는 중국을 비롯한 글로벌 경쟁자들과의 격차를 유지하기 위해 AI 개발에 대한 규제를 완화하겠다는 신호를 보냈다. 이러한 속도전은 여러 고위 생물 보안 관계자들의 퇴진 및 연방 생물 방어 예산의 대폭 삭감으로 이어졌다. 그 기저에 깔린 가정은 AI 기반 신약 개발이 가져올 경제적·전략적 이익이 생물학적 사건이라는 모호한 위험보다 크다는 것이다. 실제로 그 혜택은 상당하다. Google 과학자들은 최근 단백질 구조에 대한 우리의 이해를 혁신한 AI 시스템인 AlphaFold로 노벨상을 수상했고, “Evo”와 같은 최신 모델은 약물 내성 박테리아를 표적으로 하는 바이러스를 설계하는 데 사용되고 있다. 연구자가 암을 치료하는 단백질을 설계할 수 있게 해주는 바로 그 아키텍처가, 반대로 새로운 독소를 최적화하는 데 사용될 수 있다.

과학계 일각에서는 여전히 회의적인 시각이 존재한다. 전 미 국방부 바이러스학자인 구스타보 팔라시오스(Gustavo Palacios) 박사는 바이러스의 복잡성을 스위스 시계에 비유한다. 그는 상세한 매뉴얼이 있더라도 아마추어가 구성 요소를 재조립하여 작동하는 기계로 만드는 것은 어렵다고 주장한다. 실험실 현장 작업에는 피펫을 다루는 미세한 손동작, 배양기의 온도 변화, 배양물의 시각적 확인 등 아직 챗봇 창을 통해 전달할 수 없는 “암묵적 지식”이 필요하기 때문이다. 그러나 이러한 비판은 나무만 보고 숲을 보지 못하는 것일 수 있다. 위협은 차고에 있는 독학자가 아니라, 불만을 품은 숙련된 과학자나 지름길을 찾는 국가 지원 행위자에게 있기 때문이다. 이러한 사용자들에게 AI는 피펫 사용법을 가르쳐 줄 필요가 없다. 단지 어떤 서열을 합성해야 하는지, 어디에 센서가 가장 취약한지만 알려주면 되는 것이다.

우리는 현재 수조 달러 규모의 거대 기술 기업들이 자체적으로 제품을 관리할 것이라는 “선의”에 의존하는 규제 공백 상태에 놓여 있다. Anthropic이나 OpenAI가 최고의 생물학자들을 고용해 모델의 레드팀(취약점 분석)을 운영하고 있지만, 기업의 우선순위는 여전히 성장과 배포에 있다. 시장에 출시되기 전 생물학적 위험에 대해 모델을 감사할 권한이나 기술적 역량을 갖춘 독립적인 연방 기관은 존재하지 않는다. 대신 우리는 연구자가 기상 관측용 풍선을 이용한 폭탄을 만드는 방법을 발견하면 기업이 해당 프롬프트를 패치하는 식의 반응적 사이클, 즉 쫓고 쫓기는 게임을 계속하고 있다. 이는 생물 보안을 근본적인 시스템적 위험이 아닌 소프트웨어 버그 정도로 취급하는 전략이다.