재귀적 초지능과 2억 달러짜리 직원

이 가치평가의 이면에 숨은 수학적 논리는 투기적만큼이나 냉혹합니다. 20명의 팀과 40억 달러의 기업 가치를 고려할 때, 시장은 사실상 직원 한 명당 2억 달러의 가치를 매기고 있는 셈입니다. 이는 10년 전 딥러닝 붐의 첫 번째 물결 당시 나타났던 '인재 영입(acq-hire)' 최고가를 넘어섭니다. 이는 구글의 벤처 투자 부문과 세계에서 가장 강력한 반도체 기업을 포함한 투자자들이 더 이상 거대언어모델(LLM)의 점진적인 개선에는 관심이 없다는 것을 시사합니다. 그들은 '인간 개입(human-in-the-loop)' 개발 방식에서 벗어날 탈출구를 찾고 있는 것입니다.

코드가 실제로 더 나은 코드를 작성할 수 있을까?

재귀적 초지능(Recursive Superintelligence)의 핵심 전제는 자율적인 개선 주기를 추구하는 데 있습니다. 현재의 AI 개발은 병목 현상이 심한 과정입니다. 인간이 아키텍처를 설계하고, 인간이 데이터셋을 큐레이션하며, 인간이 모델의 환각이나 독성을 방지하기 위한 인간 피드백 기반 강화학습(RLHF)을 제공합니다. 이는 선형적 성장 모델입니다. 재귀적 자기 개선은 모델이 스스로 알고리즘의 비효율성을 파악하고 이를 수정하기 위해 자신의 코드베이스를 다시 작성하는 지수적 성장을 목표로 합니다.

이 분야의 엔지니어들은 이를 종종 '루프 닫기(closing the loop)'라고 부릅니다. 난점은 목적 함수에 있습니다. 모델이 스스로의 추론 능력을 개선하는 임무를 부여받았다면, '새롭고 개선된' 버전이 실제로 더 나은 것인지, 아니면 단순히 더 빠르거나 오류에 대해 더 확신에 차 있는 것뿐인지 검증할 방법이 필요합니다. 물리적 현실이나 형식 논리에 대한 기반(LLM이 태생적으로 결여한 요소)이 없다면, 재귀적 자기 개선은 흔히 '모델 붕괴(model collapse)'로 이어집니다. 이는 AI가 자신의 기벽을 증폭시켜 출력값이 통계적 노이즈가 될 때까지 반복하는 피드백 루프입니다. 리처드 소처(Richard Socher)와 팀 록태셸(Tim Rocktäschel)이 이끄는 Recursive 팀은 상징적 추론이나 자동화된 발견에 대한 그들만의 접근 방식이 이러한 엔트로피를 우회할 수 있다고 자신하고 있습니다.

팀 록태셸이 유니버시티 칼리지 런던(UCL)과 구글 딥마인드에서 쌓은 이력은 기술적 방향에 대한 단서를 제공합니다. 그의 연구는 종종 에이전트가 어떤 과제인지 듣지 않고도 작업을 해결하는 법을 배워야 하는 '오픈 엔디드(open-ended)' 학습에 초점이 맞춰져 있었습니다. 유럽의 산업적 맥락에서 이는 보통 '호라이즌 유럽(Horizon Europe)' 보조금이나 유럽연구이사회(ERC)의 자금 지원을 받는 수준의 고등 연구입니다. 하지만 이곳에서는 미국 벤처 캐피털이 이를 앞질렀으며, 이는 유럽의 학문적 우수성과 그 우수성을 주권적 산업 역량으로 확장하려는 유럽의 능력 사이에 존재하는 지속적인 격차를 극명하게 보여줍니다.

엔비디아(Nvidia)는 특이점의 건물주다

이는 실리콘밸리 생태계 내에 기묘한 순환 경제를 만들어냅니다. 미국 벤처 펀드가 자본을 제공하면, 스타트업은 이 자본을 엔비디아 하드웨어를 사는 데 쓰고, 이것이 엔비디아의 실적을 부풀리며, 결과적으로 벤처 펀드의 출자자들이 의존하는 광범위한 기술 지수를 상승시킵니다. 유럽 관찰자들에게 이 순환 구조는 답답할 정도로 폐쇄적입니다. EU 반도체법(EU Chips Act)이 지역 제조 역량을 구축하려 하지만, 팔로알토에서는 4개월 된 기업에 40억 달러의 가치를 부여하게 만드는 고위험·고수익 소프트웨어-하드웨어 피드백 루프는 베를린이나 파리에서는 상상조차 할 수 없습니다.

세일즈포스(Salesforce)의 전 최고과학책임자(CSO)였던 리처드 소처의 합류는 단순히 학문적인 실험으로 보일 수 있는 사업에 상업적 실용주의를 더합니다. 소처의 경력은 자연어 처리(NLP)를 기업용 솔루션으로 구현하는 데 정의되어 왔습니다. 만약 Recursive Superintelligence가 단순한 '문샷(moonshot)' 실험실에 불과했다면, 지금과 같은 금리 환경에서 5억 달러를 유치하기는 어려웠을 것입니다. 이번 투자의 규모는 설령 부분적인 성공, 즉 추론 비용을 최적화하거나 자체 데이터를 정리할 수 있는 AI 수준의 성공일지라도 포춘 500대 기업에 수십억 달러의 운영 비용 절감 효과를 가져다줄 것이라는 믿음이 깔려 있음을 시사합니다.

'지능 폭발'은 실현 가능한 엔지니어링 목표인가?

재귀적 자기 개선 이론의 비판자들은 '수익 체감' 문제를 지적합니다. 대부분의 엔지니어링 분야에서 시스템을 최적화할수록 추가적인 성과를 얻기는 더욱 어려워집니다. 효율이 98%인 자동차 엔진을 개선하는 것은 40%인 엔진을 개선하는 것보다 훨씬 어렵습니다. '특이점(Singularity)' 서사는 지능은 다르다고 가정합니다. 즉, 인지 능력이 한 단계씩 향상될 때마다 다음 단계의 향상이 더 쉬워진다는 것입니다. 이는 엔지니어링적 사실이 아닌 철학적 가설에 머물러 있습니다.

규제 측면에서 유럽의 AI법(AI Act)은 조만간 단순히 AI를 '사용'하는 기업이 아니라 창조 그 자체가 제품인 기업들과 씨름해야 할지도 모릅니다. 모델이 스스로 코드를 다시 작성하기 시작한다면, 최종 결과물에 대한 책임은 누구에게 있을까요? 원본 프로그래머일까요, 아니면 컴퓨팅 제공업체일까요? 이러한 법적 모호함은 미국 벤처 투자자들이 대수롭지 않게 여기는 반면, 독일의 투자자들이 보험 증권을 찾는 바로 그 이유입니다. 이는 대서양 양안의 격차를 지속적으로 규정하는 근본적인 위험 감수 성향의 차이입니다.

제로에서 5억 달러까지 도달하는 데 걸린 4개월이라는 거래 속도는 다음 시대를 정의할 변화를 놓칠까 두려워하는 시장의 증상입니다. 이는 지속 가능한 비즈니스 모델을 갖추는 것보다 다른 쪽보다 먼저 목적지에 도달하는 것이 중요했던 우주 경쟁 초기 시절을 떠올리게 합니다. 이번 경우, 목적지는 스스로 진화하며 24시간 내내 작동할 수 있는 자율 지능입니다. 만약 Recursive Superintelligence가 성공한다면 5억 달러라는 가격표는 반올림 오차처럼 보일 것입니다. 실패한다면, 사람들을 위해 실제로 무언가를 만드는 기업들보다 스스로 생각하는 기계에 대한 꿈에 더 높은 가치를 매겼던 제2의 AI 거품의 정점으로 기억될 것입니다.

실리콘밸리는 미래를 건설하는 가장 똑똑한 방법은 미래가 스스로를 건설하도록 내버려 두는 것이라고 결론지었습니다. 유럽은 여전히 삼중으로 서류 작업이 제출되기를 기다리고 있습니다.