Theo는 AI 뉴스를 오늘 밤 바로 시도해볼 수 있는 것들로 바꿔 드립니다.
이번 주 AI와 AI 아트의 핵심 소식을 메일로 받아 보세요. 엄선되고 간결하며 무료입니다.
무료입니다. 언제든 구독을 취소할 수 있어요.
컴패니언을 선택하고 이 소식에 대한 생각을 들어보세요
재귀적 AI 자기개선 — AI 시스템이 곧 스스로 코드를 재작성하고, 자체 학습 데이터를 생성하며, 인간의 개입 없이 초지능을 향해 반복 발전한다는 아이디어 — 이 가장 대담한 예측들이 상정했던 것보다 훨씬 단단한 벽에 부딪히고 있다고 MIT Technology Review가 보도했다.
이 약속은 이론상으로는 깔끔하게 들린다. AI가 더 나은 학습 데이터를 작성하고, 더 나은 버전의 자신을 학습시키며, 그 버전이 더욱 나은 학습 데이터를 작성하는 식으로 이어진다. 그러나 실제로는 피드백이 잡음으로 가득하다. 모델이 생성한 합성 데이터는 해당 모델의 맹점을 그대로 물려받는 경향이 있고, AI가 스스로를 최적화하기 위해 작성한 코드는 몇 번의 반복 후에야 드러나는 미묘한 버그를 유발할 수 있다. MIT Technology Review의 분석은 이 복합적 오류 문제를 연구자들이 아직 해결하지 못한 핵심 장애물 중 하나로 설명한다.
그렇다고 아무것도 일어나지 않는다는 뜻은 아니다. LLM들은 이미 칩 설계 워크플로우에 기여하고 있으며, 프로덕션 파이프라인에서 사용되는 학습 세트를 생성하고 있다. 그러나 이러한 기여는 감독된 방식으로 이루어진다 — 실수가 중요한 모든 단계에서 인간이 여전히 루프 안에 있다. 완전히 자율적인 재귀적 개선, 즉 AI가 인간의 체크포인트 없이 스스로 오류를 발견하고 수정하는 것은 출시 가능한 기능이 아니라 여전히 연구 과제로 남아 있다.
재귀적 자기개선 루프: 이론상으로는 유망하지만, 실제로는 취약하다.
씬 팩을 배치 렌더링하는 캐릭터 아티스트나 하루에 수백 가지 변형을 프롬프팅하는 컨셉 디자이너에게 실질적인 질문은 더 단순하다. 모델이 언제 의미 있게 더 나아지며, 얼마나 빠르게 그렇게 되는가? 재귀적 개선 논제가 성립했다면, 폭발적인 역량 도약 — 한 달 사이에 질적으로 다르게 느껴지는 새 모델들 — 을 의미했을 것이다.
이번 연구 결과를 감안할 때 더 가능성 높은 궤적은 점진적이다. 아키텍처 개선, 더 나은 파인튜닝 데이터(여전히 인간이 큐레이션하는), 그리고 더 스마트한 추론 최적화. 이것도 여전히 실질적인 진보다 — 오늘날의 이미지 생성기와 18개월 전 것들 사이의 품질 격차는 사용해본 사람이라면 누구나 알 수 있다 — 그러나 일부 예측가들이 묘사했던 불연속적인 도약과는 다른 종류의 진보다.
어떤 모델을 배울지 결정하는 크리에이터들에게, 이는 사실 계산을 단순하게 만들어준다. 다음 분기에 스스로를 재창조할지도 모르는 시스템과 경쟁할 필요가 없다. 오늘 사용하고 있는 모델 카탈로그는 발전하겠지만, 하룻밤 사이에 바뀌지는 않는다. 현재 도구를 중심으로 쌓은 기술 — 특정 스타일 파이프라인 마스터하기, 정밀한 프롬프팅으로 특정 아키텍처를 조종하는 법 배우기 — 은 과대광고 사이클이 암시했던 것보다 더 오래 그 가치를 유지한다.
또한 이는 오픈 웨이트 생태계에 더 많은 무게를 실어준다. 클로즈드 프론티어 랩들이 가까운 시일 내에 재귀적 자기개선을 실현하지 못한다면, 경쟁 우위는 신중하고 인간이 감독하는 파인튜닝을 수행하고 가중치를 공개적으로 배포하는 팀들에게로 다시 이동한다. Hugging Face 연중 오픈 모델 보고서는 바로 그 트렌드 — 오픈 모델들이 예상보다 빠르게 품질 격차를 좁히고 있다는 것 — 를 기록했으며, MIT 분석은 재귀적 개선 서사가 허용했을 것보다 그 궤적에 더 긴 활주로를 부여한다.
MIT 분석이 드러내는 두 번째 장애물이 있다. AI가 작성한 코드나 합성 데이터가 좋더라도, 연구자들은 그것을 철저한 검증 없이 학습에 다시 투입하는 것을 조심스러워한다. 이 신중함은 부분적으로는 기술적이고, 부분적으로는 제도적이다. 수년간 안전 검토 프로세스를 구축해온 랩들은 모델이 자신의 출력물이 깨끗하다고 주장한다고 해서 그 과정을 우회하지 않을 것이다.
크리에이터들에게 이 제도적 마찰은 조용히 유용하다. 이는 여러분이 사용하는 모델들이 가장 중요한 단계에서 인간이 루프 안에 있었다는 것을 의미한다 — 이것이 바로 /learn의 가이드에서 다루는 프롬프팅과 워크플로우가 여전히 적용되는 이유 중 하나다. 기반 모델의 동작은 안정적인 기술을 구축할 수 있을 만큼 충분히 안정적이며, 자기개선 과대광고가 시사했던 것보다 더 오랫동안 그 상태를 유지할 것이다.
