강좌 강좌
재귀적 자기개선(RSI) 입문: 'AI가 스스로 좋아진다'는 말의 정확한 뜻
'AI가 스스로 좋아진다'는 말은 막연하게 들립니다. 하지만 이 말에는 꽤 분명한 기준이 있습니다. 이 강좌는 재귀적 자기개선의 뜻과 지금 실제로 보고된 범위, 그리고 그 사이의 거리를 초보자 눈높이로 정리합니다.
한 문장으로 이해하기
재귀적 자기개선(RSI, Recursive Self-Improvement)은 AI가 사람의 개입 없이 자기 후속 모델을 설계하고 개발하는 능력을 말합니다. CNBC는 이 개념을 그렇게 설명하면서, 아직 가능하지 않다고 보도했습니다.
이 정의에서 핵심 기준은 성능의 높낮이가 아닙니다. 후속 모델을 설계하고 개발하는 과정 자체에 사람의 지시나 판단이 필요한지가 기준입니다. 그 과정에 사람의 개입이 필요하다면 정의를 충족하지 않습니다.
이 강좌를 마치면 세 가지를 할 수 있습니다. 첫째, RSI의 정의를 사람 개입 여부를 기준으로 자기 말로 설명하기. 둘째, 지금 보고된 연구 자동화와 RSI를 구분해 어떤 사례가 어디에 해당하는지 판정하기. 셋째, RSI 논의의 적용 조건과 측정의 한계를 구분하기. 사전지식은 따로 필요하지 않습니다. 다만 이 강좌에서 ‘AI 에이전트’는 자율적으로 작동하도록 허용된 AI 시스템을 가리킨다는 점만 알아 두면 됩니다.
왜 필요한가
이 개념을 배우는 이유는 기술을 기대하거나 두려워하기 위해서가 아니라, 뉴스에 나오는 말을 정확히 읽기 위해서입니다.
AI 연구에는 사람이 맡는 여러 종류의 일이 있습니다. OpenAI의 설명을 크게 묶으면 세 갈래입니다. 첫째, 무엇을 어떻게 개선할지 방향을 세우고 그 성과를 잴 기준을 마련하는 일. 둘째, 대규모 실험을 돌릴 기반을 준비하고 실행하는 일. 셋째, 학습 과정에서 생긴 문제를 찾아내고 성공한 아이디어를 본체에 합치는 일입니다. OpenAI는 이 가운데 어느 하나가 막혀도 전체 과정이 제약될 수 있다고 설명했습니다.
그래서 ‘이 일들 중 어디까지 AI가 대신하고 있는가’가 뉴스를 읽는 좋은 질문이 됩니다. 다만 이 질문의 답이 곧 RSI 여부를 정해 주지는 않습니다. 여러 연구 작업이 자동화되었다는 사실만으로는, 사람 없이 후속 모델을 설계하고 개발하는 일이 성립했다고 판정할 수 없기 때문입니다.
어떻게 이루어지는가
이해를 돕기 위해 자동화의 정도를 네 칸으로 나눠 보겠습니다. 이는 출처가 확립한 발전 단계가 아니라, 개념을 구분하려고 이 강좌에서 만든 설명 틀입니다. 앞 칸에 있다고 해서 다음 칸으로 자동으로 넘어가지도 않습니다.
- 도구로 쓰기. 사람이 지시한 개별 작업을 AI가 거듭니다.
- 과제를 맡기기. 사람이 잘 정의해 준 과제를 AI가 통째로 수행합니다. OpenAI는 사람의 지시 아래 잘 정의된 연구 과제를 수행하는 시스템을 ‘자동화된 연구 인턴’으로 규정하고, 제공된 글에서 그 목표에 도달했다고 밝혔습니다.
- 판단을 넘기기. 무엇을 연구할지, 어떤 결과를 좇을지까지 AI가 정합니다. OpenAI의 설명에서 연구 우선순위 설정, 결과 판단, 시스템을 확대할지 중단할지 배포할지의 결정은 여전히 사람이 담당합니다.
- 고리의 완성. 사람의 지시나 판단 없이 AI가 자기 후속 모델을 설계하고 개발합니다. 이것이 RSI입니다. 새로 만들어진 후속 모델이 다시 같은 개선 과정에 참여하는 구조로 이해하면 쉽습니다.
칸이 저절로 넘어가지 않는 이유도 있습니다. OpenAI는 자동화하기 어려운 작업이 새로운 병목(전체 속도를 좌우하는 가장 느린 구간)이 될 수 있고, 연산 자원(모델을 학습하고 실험하는 데 쓰이는 컴퓨터 계산 능력)도 연구 진전을 제약할 수 있다고 밝혔습니다.
하나의 예시로 따라가기
네 칸을 하나의 장면으로 이어 보겠습니다. 다음은 이해를 돕기 위한 가상 예시이며 실제 사례가 아닙니다.
어떤 연구실이 ‘모델의 답변 속도를 높이는 방법’을 찾는다고 합시다. 1칸에서 연구자는 AI에게 코드 한 줄의 오류를 묻습니다. 2칸에서는 “이 방식으로 실험 코드를 짜고 결과를 표로 정리해 줘"라고 과제를 통째로 맡깁니다. 여기서 조심할 점이 있습니다. OpenAI가 보고한 범위는 ‘사람의 지시 아래 잘 정의된 연구 과제를 수행한다’는 수준이며, 이 가상 연구실의 세부 행동이 실제로 그대로 확인된 것은 아닙니다.
3칸이라면 AI가 “속도보다 메모리 문제가 더 중요하니 주제를 바꾸자"고 스스로 정합니다. 4칸이라면 AI가 그 판단에 따라 다음 버전 모델을 스스로 설계하고 만들어 내놓고, 그 새 모델이 다시 같은 일을 합니다. 이때 사람이 완성된 결과를 나중에 열어 보는 것은 설계·개발 과정 자체에 개입한 것이 아니므로 판정을 바꾸지 않습니다.
그래서 갈리는 지점은 AI가 얼마나 잘하느냐가 아닙니다. 후속 모델을 만드는 과정 안에서 사람의 지시나 판단이 필요한지를 먼저 확인하면 됩니다.
언제 쓰고 언제 쓰지 않는가
먼저 흔한 오해입니다. AI가 코드를 많이 짜는 것은 RSI가 아닙니다. 사람이 과제를 주고 방향을 정하는 한 그것은 연구 자동화입니다. ‘재귀적 자기개선’이라는 말은 사람 개입 없이 후속 모델을 만드는 능력을 가리킬 때만 정확하고, 오늘의 도구 활용이나 과제 위임에 붙이면 과장이 됩니다.
한계도 분명합니다. CNBC는 정렬(alignment)을 AI 시스템이 사람의 가치와 의도에 맞게 행동하도록 만들려는 작업으로 설명했습니다. OpenAI는 정렬된 완전한 재귀적 자기개선에 안전하게 도달하는 방법을 아직 알지 못하며, 안전과 정렬의 진전이 능력 향상을 따라간다고 가정할 수 없다고 밝혔습니다.
지금 어디까지 왔는지를 재는 일도 쉽지 않습니다. OpenAI는 에이전트 기반 연구의 측정이 아직 예비적이며, 코드 생성량처럼 모으기 쉬운 지표도 실제 연구 진전과의 관계가 불확실해 해석하기 어렵다고 설명했습니다. 또 과제가 복잡해질수록 에이전트가 성공하려면 사람의 상당한 조정이 필요하다고 했습니다. 그래서 ‘얼마나 자동화되었는가’라는 질문에는 지금도 확정된 숫자로 답하기 어렵습니다.
핵심 정리와 확인문제
RSI는 사람의 개입 없이 AI가 자기 후속 모델을 설계하고 개발하는 상태이며, 아직 가능하지 않다고 보도된 개념입니다.
확인문제 1. 재귀적 자기개선(RSI)을 한 문장으로 정의해 보세요.
정답 1. AI가 사람의 개입 없이 자기 후속 모델을 설계하고 개발하는 능력입니다. 해설: 기준은 성능의 높낮이가 아니라 후속 모델의 설계·개발 과정에 사람의 개입이 필요한지 여부입니다. CNBC는 이 개념이 아직 가능하지 않다고 보도했습니다.
확인문제 2. 어떤 연구실에서 AI가 연구자의 지시를 받아 잘 정의된 실험 과제를 수행했습니다. 이것을 RSI라고 부를 수 있습니까?
정답 2. 부를 수 없습니다. 해설: OpenAI가 말한 ‘자동화된 연구 인턴’은 사람의 지시 아래 잘 정의된 과제를 수행하는 시스템이며, 후속 모델을 스스로 설계하고 개발하는 RSI와 구분됩니다.
확인문제 3. 다음 문장은 맞습니까, 틀립니까? “AI가 생성한 코드의 양을 보면 실제 연구 진전이 얼마나 이뤄졌는지 확정할 수 있다.”
정답 3. 틀립니다. 해설: OpenAI는 코드 생성량처럼 모으기 쉬운 지표도 실제 연구 진전과의 관계가 불확실해 해석하기 어렵다고 설명했습니다. 같은 설명에서 에이전트 기반 연구의 측정 자체가 아직 예비적이라고 밝혔습니다.