바이트댄스 시드 팀, 새로운 AI 에이전트 스케일링 법칙 발견

• 과학적 발견
• 소프트웨어 엔지니어링
• 조합 최적화
• 전문 지식 작업
• 형식 수학
• 인터랙티브 게임

각 과제는 풍부한 다중 수준 피드백 아래 최소 12시간의 연속적인 에이전트 작동을 요구합니다. 연구 논문과 51개의 공개 과제가 포함된 평가 프레임워크는 7월 2일에 발표되었습니다. 연구팀은 스케일링 법칙을 식별하기 위해 이러한 과제 전반에 걸친 약 38,000시간의 에이전트 상호작용 데이터를 분석했습니다.

이것이 중요한 이유: '더 많은 데이터' 스케일링의 종말

전통적인 AI 스케일링 — 더 큰 모델에 더 많은 데이터와 컴퓨팅을 투입하는 방식 — 은 벽에 부딪히고 있습니다. Epoch AI는 공개적으로 이용 가능한 인간 생성 텍스트 데이터가 6년 이내에 고갈될 수 있다고 경고하여, 데이터와 컴퓨팅의 무차별적 확장이 지속 불가능함을 지적합니다.

AI 업계 리더들도 이 문제를 지적해 왔습니다. 안드레이 카파시(Andrej Karpathy)는 옛 '더 많은 데이터, 더 많은 컴퓨팅' 패러다임이 영원히 지속될 수는 없다고 언급한 바 있습니다.

바이트댄스의 발견은 AI 개선의 새롭고 측정 가능한 차원, 즉 배포 후 실제 상호작용을 통한 학습을 열어줍니다. AI 에이전트는 사전 훈련 규모에만 의존하는 대신, 확장된 실제 경험을 통해 예측 가능하게 계속해서 개선될 수 있습니다. 이는 점점 더 큰 데이터셋을 축적하는 것보다 훨씬 덜 자원 제약적인 경로입니다.

로그-시그모이드 법칙의 정밀도(R² = 0.998)는 매우 중요합니다. 이는 초기 상호작용 궤적으로부터 이후 성능을 예측할 수 있게 하여, 에이전트 학습을 예측 불가능한 블랙박스가 아닌 체계적이고 예측 가능한 스케일링 대상으로 만듭니다. 개발자와 기업에게 이는 실제 환경에서 에이전트를 더 오래 실행하도록 하는 투자 수익률(ROI)을 사전에 계산할 수 있음을 의미합니다.

향후 전망

이 발견은 기존 AI 시스템을 개선하는 것을 넘어, 근본적으로 다른 개발 전략을 제시합니다. 연구자들은 유한한 인터넷 데이터로 훈련된 점점 더 큰 모델을 구축하는 대신, 사용을 통해 개선되는 에이전트를 구축할 수 있습니다. 3개월마다 학습 속도가 두 배로 빨라진다는 것은 갓 배포된 에이전트와 숙련된 에이전트 간의 격차가 빠르게 벌어질 것임을 의미하며, 지속적이고 장기 실행되는 에이전트 시스템의 가치를 점점 더 높여줍니다.

사전 훈련 스케일링 붐 이후 다음 성장 동력을 찾고 있는 AI 업계에, 바이트댄스 Seed의 이 발견은 데이터 기반의 답을 제시합니다: 에이전트가 현장에서 학습하도록 두라는 것입니다.