AI가 AI를 새롭게 만드는 날――Recursive Superintelligence가 제시하는 '자기 개선'의 현실성

AI 업계에서 또 하나의 큰 도박이 시작되었다.

화제의 중심에 있는 사람은 You.com 창업자로 알려진 AI 연구자 Richard Socher 씨다. 그가 새롭게 설립한 Recursive Superintelligence는 6억 5천만 달러의 자금 조달과 46억 5천만 달러의 평가액을 내세우며 스텔스 모드에서 모습을 드러냈다. 게다가 이 회사가 목표로 하는 것은 단순한 고성능 챗봇이나 기업용 AI 에이전트가 아니다.

목표는 AI가 스스로를 개선하는 AI를 만드는 것이다.

더 정확히 말하면, AI가 자신의 약점을 찾아내고, 개선안을 생각하며, 코드나 모델을 변경하고, 그 결과를 검증하는 것이다. 인간이 연구 주제를 제공하고, 실험을 설계하고, 평가하는 기존의 AI 개발 프로세스를 AI 자체가 맡는 구상이다. 이것이 'recursive self-improvement', 즉 재귀적 자기 개선이라고 불리는 것이다.

이 단어만 들으면 SF처럼 느껴질지도 모른다. 하지만 현재의 AI 연구에서는 이미 AI가 코드를 작성하고, 논문을 읽고, 실험을 지원하며, 평가 데이터를 만드는 단계에 접어들고 있다. Recursive가 노리는 것은 그 연장선상에 있는 '연구 개발 자체의 자동화'이다.

'개선'과 '자기 개선'은 다르다

TechCrunch 인터뷰에서 Socher 씨가 강조한 것은 단순히 AI를 사용해 무언가를 개선하는 것과 AI가 스스로를 지속적으로 개선하는 것은 다르다는 점이다.

예를 들어, AI에게 '이 문장을 더 좋게 해줘'라고 요청하는 것은 개선이다. AI에게 '이 기계 학습 모델의 정확도를 높이는 방법을 생각해줘'라고 요청하는 것도 넓은 의미에서는 개선이다. 하지만 그것은 아직 인간이 목적을 제공하고, 실험의 틀을 정하고, 최종적인 판단을 내리고 있는 것이다.

Recursive가 내세우는 자기 개선은 더 깊이 들어간다. 연구 아이디어의 발상, 구현, 검증까지를 자동화하고, AI가 자신의 한계를 관찰하며, 자신을 더 좋게 하기 위한 절차를 만든다. 이 루프가 성립되면 AI 개발 속도는 인간 연구자의 작업 시간에 얽매이지 않게 된다.

여기서 중요한 것이 'open-endedness', 한국어로 말하면 '개방적 탐색'이나 '끝없는 탐색'에 가까운 생각이다. 생물 진화처럼, 어떤 환경에 적응한 개체가 나타나고, 그것에 대항하는 새로운 적응이 생기며, 더 나아가 다음 변화가 일어난다. 정해진 목표에 최단 거리로 도달하는 것이 아니라, 다양한 시행착오가 연쇄되어 예상치 못한 능력이나 구조가 생긴다.

Recursive는 이 개방적인 탐색을 AI 연구에 도입하려 하고 있다. 단순히 벤치마크 점수를 올리는 것이 아니라, AI가 스스로 문제를 발견하고, 도전을 만들고, 개선 방향을 탐색해 나간다. 그 발상은 기존의 '다음 대규모 모델을 만드는' 경쟁과는 조금 다르다.

왜 투자자들은 이렇게 많은 자금을 투자하는가

6억 5천만 달러라는 조달액은 아직 제품을 공개하지 않은 기업으로서는 이례적인 규모다. 평가액은 46억 5천만 달러. 보도에 따르면, GV와 Greycroft가 주도하고, NVIDIA와 AMD Ventures도 참여하고 있다.

이 거액 자금의 배경에는 AI 업계의 초점이 변하고 있다는 것이 있다. 지금까지의 경쟁은 더 큰 모델, 더 많은 데이터, 더 강력한 GPU를 사용해 성능을 올리는 데 집중되어 있었다. 하지만 모델의 거대화만으로는 한계가 있다는 시각도 강해지고 있다.

다음 도약이 있다면, 그것은 'AI 연구를 AI에게 맡기는 것'일지도 모른다. 투자자들이 Recursive에 걸고 있는 것은 바로 이 가설이다.

만약 AI가 연구자처럼 가설을 세우고, 실험을 수행하며, 실패로부터 배우고, 다음 실험을 설계할 수 있다면, AI 개발의 병목은 인간의 수가 아니라 계산 자원이 된다. 즉, 얼마나 빠르게, 얼마나 많은 실험을 돌릴 수 있는지가 경쟁의 중심이 된다.

이것은 AI 업계만의 이야기가 아니다. Socher 씨는 처음에는 AI 연구의 자동화에 착수하고, 장기적으로는 다른 과학 분야로 확장할 구상을 말하고 있다. 의료, 재료 과학, 기후, 에너지, 신약 개발 등 인간 사회가 안고 있는 난제에 대해 AI가 자율적으로 연구를 진행하는 미래가 시야에 들어오고 있다.

하지만 그 미래는 희망만으로 이루어져 있는 것은 아니다.

SNS에서는 기대와 경계가 동시에 확산된다

이 발표에 대한 SNS 상의 반응은 상당히 양극화되어 있다.

LinkedIn에서는 투자자와 AI 관계자를 중심으로 축복과 기대의 목소리가 두드러진다. Recursive 자체의 게시물에는 수백 건 규모의 반응이 모이고, 댓글란에서는 GV나 AMD Ventures 등의 지원 기업이 회사의 팀과 미션에 대한 기대를 표명하고 있다.

Nancy Xu 씨는 Recursive의 구상을 '다음 혁신 르네상스'의 불씨로 자리매김하며, AI가 단순한 업무 자동화가 아니라 지식 발견 자체를 가속하는 존재가 될 것이라는 견해를 보였다. 이는 현재의 AI 에이전트 붐이 '일을 대행하는 AI'에 집중하고 있는 반면, Recursive는 '연구와 발견을 확장하는 AI'를 내세우고 있다는 평가다.

한편, 신중한 목소리도 있다. Recursive의 공식 게시물에 붙은 댓글 중에는 자기 개선형 AI에서는 최종 모델뿐만 아니라 개선의 연쇄 자체를 감사할 필요가 있다는 지적이 있었다. 무엇이 바뀌었는지, 왜 바뀌었는지, 그 변경을 뒷받침하는 증거는 무엇인지. 벤치마크가 왜곡되지 않았는지. 검증이 순환 논법이 되지 않았는지. 능력의 발견이 인간의 감독을 추월하지 않았는지.

이는 매우 중요한 논점이다. AI가 한 번만 답을 내놓는다면 그 답을 평가하면 된다. 하지만 AI가 자신의 설계를 계속 바꾼다면 평가 대상은 출력만으로는 충분하지 않다. 개선 프로세스 자체를 추적하고 검증하며 설명 가능하게 하는 구조가 필요하다.

SNS 상에서는 '대단한 팀이다', '이것은 AI 연구의 다음 S 커브다'라는 목소리와 '어떻게 안전을 보장할 것인가', '자기 개선의 감사는 누가 맡을 것인가'라는 목소리가 동시에 나란히 있다. Recursive의 발표가 큰 주목을 받고 있는 것은 꿈이 크기 때문만은 아니다. 리스크도 또한 그만큼 크기 때문이다.

'AI가 스스로를 고치는' 시대의 안전성

자기 개선형 AI의 안전성을 생각할 때, 가장 어려운 것은 개선 속도와 인간의 이해 속도의 차이다.

인간이 연구를 진행할 경우, 논문을 쓰고, 심사를 받고, 재현 실험을 하고, 커뮤니티 내에서 논의한다. 시간이 걸리지만 그 과정에서 다른 사람의 눈이 들어간다. 오류나 과도한 주장이 검출될 여지가 있다.

하지만 AI가 대량의 가설을 생성하고, 대량의 실험을 돌리고, 차례로 모델이나 알고리즘을 업데이트하게 되면, 인간이 모든 것을 이해하기는 어렵다. 게다가 AI 자체가 평가 기준이나 테스트 환경을 만들 경우, 그 평가가 정말로 타당한가라는 문제도 생긴다.

예를 들어, AI가 '나는 안전해졌다'고 판단했다고 해서 그 판단을 누가 검증할 것인가. AI가 자신에게 유리한 테스트를 만들지 않았다고 할 수 있는가. 능력이 올라가는 과정에서 원래 설정되어 있던 안전 제약이 의도치 않게 변질될 가능성은 없는가.

이 때문에 자기 개선형 AI에서는 모델의 능력 향상뿐만 아니라 감사, 로그, 재현성, 외부 평가, 실험의 독립 검증이 필수적이 된다. Recursive도 안전성을 중시한다고 설명하고 있지만, 그 구체적인 구조는 앞으로의 최대 초점이 될 것이다.

이것은 'AI 연구 회사'인가, 아니면 새로운 산업 인프라인가

Recursive를 단순한 AI 연구 회사로 보면 그 평가액은 과열된 것처럼 보일 수도 있다. 제품은 아직 없다. 직원 수도 적다. 그럼에도 불구하고 수십억 달러 규모의 평가가 붙어 있다.

하지만 투자자들이 보는 것은 현재의 매출이 아니라 AI 연구의 생산 방식 자체가 변할 가능성이다. 만약 연구 개발의 대부분이 자동화된다면, Recursive는 단순한 모델 제공 기업이 아니라 지식 생산의 인프라 기업이 될 수 있다.

이는 클라우드나 반도체에 가까운 발상이다. 한때 기업이 자체 서버를 가지고 있던 시대에서 클라우드 상에서 계산 자원을 빌리는 시대로 옮겨간 것처럼, 장래에는 '연구 능력' 자체를 AI 시스템으로서 이용하는 시대가 올지도 모른다.

어떤 기업이 신소재를 찾고 싶다. 어떤 연구 기관이 새로운 약제 후보를 찾고 싶다. 어떤 정부가 감염증 대책의 시뮬레이션을 고속화하고 싶다. 그때 인간 연구자의 팀에 더해 자기 개선하는 AI 연구 시스템이 가설과 실험을 돌린다. Recursive가 그리는 미래는 그런 세계에 가깝다.

하지만 그곳에서는 계산 자원의 배분이 사회적 문제가 된다. 제한된 GPU와 전력을 어떤 연구에 사용할 것인가. 암 치료인가, 기후 변화인가, 군사 기술인가, 광고 최적화인가. AI가 과학 발견을 가속할 수 있다 하더라도 그 방향을 결정하는 것은 사회이며, 기업이며, 자본이다.

'자기 개선'은 인류에게 무엇을 요구하는가

AI가 스스로를 개선한다는 발상은 예전부터 AI 연구의 꿈이자 동시에 두려움이었다. 잘 되면 인간의 지성으로는 도달하는 데 시간이 걸리는 발견을 단기간에 실현할 수 있을지도 모른다. 질병의 치료법, 청정 에너지, 신소재, 수학의 미해결 문제. 모든 분야에서 연구 속도가 빨라질 가능성이 있다.

하지만 제어할 수 없는 자기 개선은 사회에 큰 리스크가 되기도 한다. AI가 자신의 능력을 높일 뿐만 아니라 인간이 이해하기 어려운 방법으로 목적을 변형시키거나 안전 제약을 우회할 가능성은 무시할 수 없다.

이 문제는 단순히 'AI가 폭주할 것인가'라는 단순한 이야기가 아니다. 더 현실적으로는 누가 그 AI를 소유하는가, 누가 사용할 수 있는가, 누가 감사를 하는가, 실패했을 때 누가 책임을 지는가라는 거버넌스의 문제이다.

Recursive의 등장은 AI 업계가 '더 똑똑한 모델'을 만드는 단계에서 '더 똑똑한 모델을 만드는 시스템'을 만드는 단계로 옮겨가고 있음을 보여준다. 이는 경쟁의 레이어가 한 단계 올라갔음을 의미한다.

AI에 일을 맡기는 시대에서 AI에 연구를 맡기는 시대로. 그리고 AI에 AI 자체의 개선을 맡기는 시대로.

그 문이 열렸을 때 인간의 역할은 사라지는 것이 아니라 오히려 무거워진다. 무엇을 개선시킬 것인가. 어디까지 자율성을 부여할 것인가. 어느 단계에서 멈출 것인가. 어떤 증거가 있으면 안전하다고 볼 것인가. 사회는 그 판단을 AI에 일임할 수 없다.

Recursive Superintelligence의 도전은 AI의 미래를 가속할 가능성을 가지고 있다. 동시에 그 가속에 인간 사회가 따라갈 수 있는가라는 질문을 던지고 있다.

AI가 AI를 새롭게 만드는 시대는 더 이상 먼 SF가 아니다. 문제는 그것이 언제 실현될 것인가뿐만 아니라 그때 인간이 무엇을 지키고, 무엇을 맡기고, 무엇을 계속 결정할 것인가이다.

출처 URL

TechCrunch: Richard Socher 씨와의 인터뷰. Recursive Superintelligence의 구상, 재귀적 자기 개선, open-endedness, 제품 투입 시기, 계산 자원의 중요성 등의 주요 논점.
https://techcrunch.com/2026/05/14/what-happens-when-ai-starts-building-itself/
확인 원본:

Recursive 공식 사이트: 회사가 내세우는 '자기 개선형 슈퍼 인텔리전스', '지식 발견의 자동화', '안전성 중시' 등의 공식 설명.
https://www.recursive.com/
확인 원본:

Recursive 공식 LinkedIn 게시물: 6억 5천만 달러 조달, 46억 5천만 달러 평가, GV·Greycroft·AMD Ventures·NVIDIA의 참여, SNS 상의 축복·우려 댓글.
https://www.linkedin.com/posts/recursive-si_we-are-emerging-from-stealth-with-a-bold-activity-7460256112886353920-DkOg
확인 원본:

Nancy Xu 씨의 LinkedIn 게시물: Recursive의 발표에 대한 투자자·관계자 측의 기대감, '지식 발견', '혁신 르네상스'로서의 평가.
https://www.linkedin.com/posts/xnancy_congratulations-to-recursive-on-announcing-activity-7460406524415356930-NMaP
확인 원본:

Christian Miele 씨의 LinkedIn 게시물: Recursive