2026.10.31 07:39 AM

AI가 더 똑똑한 AI를 만든다...Anthropic 연구개발 26% 'AI 주도'

By 전재희

1년 전 0%에서 8월 26%로 급증...Claude가 차세대 Claude 개발에 직접 참여
업계가 주목하는 '재귀적 자기개선(RSI)' 현실화 조짐
Anthropic "아직 완전 자율은 0%...하지만 예상보다 빨리 올 수 있다"

인공지능(AI)이 이제 단순히 인간의 업무를 보조하는 단계를 넘어, 다음 세대 AI를 직접 개발하는 데 핵심적인 역할을 하기 시작했다. AI 업계에서는 이를 '재귀적 자기개선(Recursive Self-Improvement·RSI)'의 초기 단계로 보고 있으며, 일부 연구자들은 이 변화가 AI 산업과 세계 경제, 나아가 인류의 미래까지 바꿀 수 있는 중요한 전환점이라고 평가하고 있다.

월스트리트저널(WSJ)에 따르면 Anthropic 내부에서 AI가 대부분의 연구개발 업무를 수행하고 인간이 이를 감독하는 'AI leads' 단계의 비중은 지난해 사실상 0%였지만 올해 3월 1%, 8월에는 26%까지 급증했다.

즉 Claude가 다음 세대 Claude를 만드는 작업의 상당 부분을 직접 수행하기 시작한 것이다.

AI가 AI 연구개발의 26% 주도

Anthropic이 최근 공개한 자료는 AI가 AI 개발 과정에서 얼마나 빠르게 역할을 확대하고 있는지를 보여준다.

회사는 AI 연구개발 업무를 여섯 단계로 분류했다.

인간이 전적으로 작업하는 단계에서 시작해 AI가 조금 도움을 주는 단계, 인간과 AI가 협업하는 단계, AI가 대부분의 작업을 하고 인간이 감독하는 단계, 그리고 마지막으로 AI가 완전히 자율적으로 작업하는 단계까지 구분했다.

가장 주목받는 것은 다섯 번째 단계인 'AI leads'다.

이 단계에서는 AI가 연구개발의 대부분을 수행하고 인간은 감독과 검토 역할을 맡는다.

지난해 0%→올해 3월 1%→8월 26%

Anthropic의 자료에 따르면 지난해에는 AI가 AI 연구개발을 주도하는 사례가 거의 없었다.

올해 3월에도 그 비중은 1%에 불과했다.

그러나 불과 5개월 뒤인 8월에는 26%까지 올라갔다.

증가속도 자체가 업계 관계자들을 놀라게 하고 있다.

Anthropic은 8월 이후에도 AI 활용도가 계속 높아졌기 때문에 현재 비중은 당시보다 더 높을 가능성이 크다고 보고 있다.

완전 자율 AI 연구는 아직 0%

다만 AI가 인간을 완전히 배제하고 스스로 다음 세대 AI를 만드는 단계에 도달한 것은 아니다.

Anthropic 자료에서 여섯 번째 단계인 '완전 자율 AI 연구개발'의 비중은 8월 기준 0%였다.

즉 현재는 AI가 대부분의 작업을 수행하더라도 인간 연구자가 여전히 방향을 설정하고 결과를 검토하며 최종 결정을 내린다.

Anthropic도 "우리는 아직 그 단계에 도달하지 않았으며 재귀적 자기개선이 반드시 일어나는 것도 아니다"라고 강조했다.

그러면서도 "대부분의 기관이 준비하는 것보다 더 빨리 올 수 있다"고 경고했다.

AI가 만든 데이터로 AI의 역할 측정

흥미로운 점은 Anthropic이 이 자료를 만드는 과정 자체에도 AI를 대규모로 활용했다는 것이다.

Claude AI 에이전트가 회사 내부 Slack 메시지와 문서를 분석해 약 1만5000개의 AI 연구개발 업무를 찾아냈다.

또 다른 Claude는 각각의 업무가 실제로 어떻게 수행됐는지를 조사했다.

그 뒤 별도의 Claude가 증거를 검토해 인간이 작업했는지, AI가 보조했는지, AI가 주도했는지 등을 여섯 단계로 평가했다.

AI가 자기 자신이 얼마나 AI 개발에 기여하고 있는지를 분석한 셈이다.

'재귀적 자기개선'이란

이 현상을 AI 업계에서는 '재귀적 자기개선', 즉 RSI라고 부른다.

간단히 말하면 AI가 더 뛰어난 AI를 만드는 데 참여하고, 그 결과 탄생한 더 뛰어난 AI가 다시 다음 세대 AI를 더 빠르게 만드는 순환구조다.

Anthropic은 이를 'closing the loop', 즉 자기개선의 순환고리를 닫는 과정이라고 설명한다.

AI가 연구개발 능력을 높이면 AI 개발속도가 빨라지고, 더 뛰어난 AI가 다시 연구개발을 가속하는 구조다.

핵심은 '속도의 자기증폭'

RSI가 주목받는 이유는 단순히 AI가 코딩을 대신해준다는 데 있지 않다.

AI가 자신의 개발과 연구과정 자체를 가속하기 시작하면 기술 발전속도가 인간 연구자 중심일 때보다 훨씬 빨라질 수 있기 때문이다.

예를 들어 AI가 새로운 모델 구조를 설계하고 코드를 작성하며 테스트하고 결과를 분석한 뒤 다음 실험까지 제안한다면 기존에는 며칠이나 몇 주가 걸리던 연구과정을 훨씬 빠르게 반복할 수 있다.

그리고 그 결과 만들어진 더 뛰어난 AI가 같은 과정을 다시 수행한다.

이것이 재귀적 자기개선의 핵심이다.

OpenAI도 "최전선 유지하려면 필수"

AI 업계의 주요 연구자들도 이 현상을 가장 중요한 기술 흐름 가운데 하나로 보고 있다.

OpenAI의 수석과학자는 AI가 AI 연구를 수행하도록 만드는 것이 기술 최전선에 계속 머물기 위한 사실상 유일한 방법이라고 평가했다.

Anthropic 공동창업자 잭 클라크(Jack Clark)는 이를 "세계에서 가장 중요한 기술적 흐름일 수도 있다"고 말했다.

AI 기업들은 차세대 모델의 학습과 테스트, 미세조정에 현재 모델을 적극적으로 활용하는 것이 앞으로의 경쟁에서 필수적이라고 보고 있다.

Claude Code가 변화 가속

Anthropic 내부에서 변화가 급속도로 진행된 가장 큰 이유 가운데 하나는 Claude Code다.

Claude의 코딩 능력이 빠르게 향상되면서 Anthropic의 엔지니어들은 실제 소프트웨어 개발업무 상당 부분을 AI에 맡기기 시작했다.

일부 엔지니어들은 직접 코드를 작성하는 일을 거의 중단한 것으로 전해졌다.

연구자들이 AI를 단순한 보조도구가 아니라 실제 개발자처럼 활용하기 시작하면서 AI의 연구개발 참여 비중도 급속도로 높아졌다.

잭 클라크 "회사에 돌아오니 이상한 일이 벌어지고 있었다"

Anthropic 공동창업자 잭 클라크는 지난해 11월 육아휴직을 떠났다가 올해 2월 회사로 돌아왔다.

불과 몇 달 동안 회사 내부의 개발 방식은 크게 달라져 있었다.

그는 당시 상황을 회상하며 "이상한 일들이 벌어지기 시작했다"고 표현했다.

AI 모델의 능력이 갑자기 충분히 좋아지면서 엔지니어들이 코딩작업을 AI에게 넘기기 시작했고, 일부 직원은 아예 직접 코드를 작성하지 않는 단계까지 갔다.

"몇 년 뒤라고 생각했는데 이미 시작"

클라크는 AI가 AI를 개선하는 단계가 불과 몇 달 전까지만 해도 몇 년 뒤의 일이라고 생각했다.

그러나 기술 발전속도는 그의 예상보다 훨씬 빨랐다.

그는 5월까지만 해도 본격적인 RSI가 2028년 말쯤 가능할 것으로 예상했다.

하지만 이후 예상시점을 다시 앞당겼다.

현재 그는 2028년보다 2027년이 더 가능성이 높은 시점이라고 보고 있다.

IMF 연설서 "그 순간이 왔다"

클라크는 10월 국제통화기금(IMF) 연설에서 자신이 오랫동안 경고해온 상황이 현실이 되고 있다고 말했다.

그는 AI 시스템이 국가안보를 바꾸고 세계 경제의 성장경로를 변화시키며 결국 스스로를 구축하는 능력까지 갖게 될 수 있다고 오랫동안 주장해왔다.

그리고 그는 이제 "그 순간이 왔다"고 말했다.

AI가 스스로 AI를 개발하는 과정이 더 이상 공상과학의 주제가 아니라 실제 연구현장에서 시작되고 있다는 의미다.

1956년부터 꿈꿨던 개념

AI가 스스로를 개선한다는 개념 자체는 새로운 것이 아니다.

현대 AI 연구의 출발점으로 꼽히는 1956년 다트머스 회의에서도 연구자들은 기계가 어떻게 스스로를 개선할 수 있는지에 관심을 가졌다.

당시 회의를 제안했던 과학자 가운데 한 명은 정보이론의 창시자인 수학자 클로드 섀넌(Claude Shannon)이었다.

Anthropic의 Claude라는 이름도 바로 이 섀넌에서 따왔다.

"첫 초지능 기계가 인간의 마지막 발명품"

1960년대 수학자 I.J. 굿(I.J. Good)은 더 극적인 전망을 내놓았다.

그는 인간보다 모든 지적 능력에서 뛰어난 '초지능 기계'가 만들어진다면 그 기계가 더 나은 기계를 설계할 수 있다고 봤다.

그리고 "첫 번째 초지능 기계는 인간이 만들어야 할 마지막 발명품이 될 것"이라고 썼다.

단 하나의 조건도 덧붙였다.

그 기계가 인간에게 자신을 통제하는 방법을 알려줄 만큼 충분히 순종적이어야 한다는 것이었다.

AI 연구자들이 가장 두려워하는 지점

문제는 AI의 자기개선 속도가 인간의 이해와 통제능력을 넘어설 가능성이다.

현재 AI 연구자들은 AI가 연구를 돕는다는 사실 자체를 위험하다고 보는 것은 아니다.

우려하는 것은 자기개선 속도가 점점 빨라져 인간이 각 단계에서 무슨 일이 일어나고 있는지 충분히 이해하기 전에 다음 세대로 넘어가는 상황이다.

AI가 AI의 코드를 작성하고 테스트하며 개선하고, 새로