AlphaEvolve: 진화적 루프

진화를 루프로 돌리다

지금까지 살펴본 에이전틱 루프는 대부분 하나의 에이전트가 태스크를 해결하는 구조다. 시도하고, 관찰하고, 수정하고, 반복한다. AlphaEvolve는 다른 질문을 던진다. 여러 해법 후보를 동시에 유지하고, 좋은 것끼리 교배·변이시키면 어떻게 될까?

DeepMind가 2025년에 공개한 AlphaEvolve는 Gemini 모델을 **돌연변이 연산자(mutation operator)**로 활용하는 진화적 루프(evolutionary loop)다. 이 시스템의 놀라운 점은 적용 결과에 있다. 공개된 수학 문제들의 약 20% 실행에서 기존 최선해를 개선했고, Google 내부에서 TPU 행렬 곱 커널을 최적화하는 데도 활용되었다.

진화적 루프의 구조

AlphaEvolve의 루프는 고전적인 진화 알고리즘의 세 단계 — 선택, 변이, 평가 — 를 LLM으로 보강한 형태다.

┌─────────────────────────────────────────────────────────────────┐
│                    AlphaEvolve 진화적 루프                       │
└─────────────────────────────────────────────────────────────────┘

        ┌──────────────────────────────────┐
        │        집단(Population)           │
        │  [해법 A] [해법 B] [해법 C] ···  │
        │  적합도:  0.72    0.85    0.61   │
        └──────────────────┬───────────────┘
                           │
                    ① 선택 (Selection)
                    상위 적합도 해법 선택
                           │
                           ▼
        ┌──────────────────────────────────┐
        │  ② 변이·교배 (LLM이 담당)        │
        │                                  │
        │  "이 알고리즘을 개선하거나        │
        │   두 해법을 결합하라"            │
        │   → LLM이 새 코드 생성           │
        └──────────────────┬───────────────┘
                           │
                    ③ 평가 (Fitness Evaluation)
                    자동화된 검증기 실행
                    (테스트, 벤치마크, 수치 검증)
                           │
                           ▼
        ┌──────────────────────────────────┐
        │     집단 업데이트                 │
        │  우수한 새 해법 → 집단에 추가    │
        │  열등한 해법 → 퇴출              │
        │                                  │
        │  (최대 집단 크기 유지)            │
        └──────────────────────────────────┘
                    루프 반복

이 구조에서 **LLM의 역할은 탐색(exploration)**이다. 무작위 비트 플립 대신, LLM이 기존 해법을 이해하고 의미 있는 방향으로 변이를 생성한다. “이 정렬 알고리즘의 캐시 지역성을 개선하라”, “두 행렬 분해 기법을 합쳐 보라” 같은 자연어 수준의 변이가 가능하다.

LLM 기반 변이가 기존 진화 알고리즘과 다른 점

고전적인 유전 알고리즘(Genetic Algorithm)은 무작위 돌연변이에 의존한다. 복잡한 코드에서 무작위 변이는 대부분 컴파일조차 안 되거나 성능이 악화된다. 탐색 공간이 너무 넓어 수렴이 느리다.

비교 항목	고전 진화 알고리즘	AlphaEvolve (LLM 변이)
변이 방식	무작위 비트·기호 변경	LLM이 의미 있는 코드 수정 생성
유효 후보 비율	낮음 (컴파일 실패 多)	높음 (구문 유효 코드)
탐색 방향	맹목적	과거 해법 맥락 반영
요구 평가 횟수	매우 많음	상대적으로 적음
적용 조건	단순 표현 가능 문제	자연어로 변이 지시 가능한 문제

적합도 함수: 루프를 닫는 열쇠

AlphaEvolve에서 루프가 의미 있게 수렴하려면 **자동화된 적합도 평가기(fitness evaluator)**가 필수다. 이것이 없으면 루프는 방향을 잃는다.

수학 문제의 경우 적합도는 “이 행렬 곱이 알려진 최선해보다 적은 곱셈 연산으로 같은 결과를 내는가”로 명확히 정의된다. TPU 커널 최적화는 실제 하드웨어에서 측정한 처리량(throughput)이 적합도가 된다. 두 경우 모두 사람이 개입 없이 자동으로 평가할 수 있다.

이 조건이 AlphaEvolve의 적용 가능 범위를 결정한다. 기계적으로 측정 가능한 목적함수가 없으면 진화적 루프는 성립하지 않는다.

연결: MDP 관점에서 본 AlphaEvolve

11-1에서 배운 MDP 용어로 재해석하면, AlphaEvolve는 외부 루프의 정책 π를 집단 수준에서 탐색한다.

• 상태: 현재 집단(해법들의 집합)
• 행동: LLM이 선택된 해법을 변이·교배
• 보상: 적합도 함수 점수
• 정책 개선: 더 높은 적합도의 해법을 집단에 유지

단일 에이전트의 순차적 시도와 달리, 진화적 루프는 병렬 탐색이다. 좋은 해법들을 동시에 유지하면서 서로의 아이디어를 교차 수분(cross-pollination)시킨다.

한계와 주의점

AlphaEvolve는 강력하지만 모든 상황에 적합하지는 않다.

첫째, 평가 비용이 크다. 수백~수천 번의 후보를 평가하려면 실제 벤치마크 실행 인프라가 필요하다. TPU 커널 평가처럼 하드웨어가 필요한 경우 인프라 구축 비용이 상당하다.

둘째, 집단을 유지하는 메모리 비용이 있다. 각 해법 후보는 전체 코드를 포함하므로, 대규모 집단은 저장·관리 비용이 크다.

셋째, LLM 변이는 항상 유효한 코드를 생성하지만 의미 있는 개선을 보장하지는 않는다. 진화 과정이 국소 최적해(local optimum)에 수렴할 수 있다.

다음 챕터에서는 AlphaEvolve보다 한 단계 더 나아간 아이디어를 살펴본다. 에이전트가 알고리즘이나 해법만 개선하는 것이 아니라, 자기 자신의 스캐폴드 코드를 수정하는 Darwin Gödel Machine이다.