AI 에이전트의 성능은 기반 모델만으로 결정되지 않습니다. 모델에 어떤 지침을 주고, 어떤 도구를 쓸 수 있게 하며, 실행 중 어떤 정책을 적용하느냐도 결과에 영향을 줍니다. 이런 주변 설정을 **하네스(harness)**라고 부릅니다. HarnessPro는 모델의 가중치를 바꾸는 대신 이 하네스를 반복적으로 개선해 성능과 실행 비용 사이의 선택지를 찾는 프레임워크입니다.
3
11
에이전트의 ‘작업 환경’을 고치는 방식
하네스에는 에이전트의 지침과 사용 가능한 도구, 실행 정책 등이 포함됩니다. HarnessPro는 에이전트가 작업을 수행한 기록인 실행 트레이스를 분석해 실패가 반복되는 지점과 비용이 많이 드는 패턴을 찾고, 이를 바탕으로 하네스 변경안을 만듭니다.
11
변경안은 정답이나 공식 테스트에만 의존하지 않고, 새로 만든 테스트로 평가됩니다. 후보 하네스를 시험하고 다시 다듬는 과정을 거듭한다는 점에서, 모델 자체를 재학습시키기보다는 에이전트가 일하는 방식을 진화시키는 접근입니다.
3
11
‘가장 좋은 설정’ 하나 대신 세 가지 선택지
성능을 높이는 설정이 항상 비용 면에서도 유리한 것은 아닙니다. HarnessPro는 이 상충 관계를 고려해 세 가지 운영 지점을 남깁니다.
11
- Lite: 비용을 낮추는 데 초점을 둔 설정
- Medium: 비용과 성능의 균형을 고려한 설정
- Heavy: 더 높은 성능을 우선하는 설정
즉, 모든 팀에 통하는 단일한 ‘최고 설정’을 제시하기보다, 실제 배포에서 무엇을 우선할지에 따라 선택하도록 설계됐습니다.
11
벤치마크에서 보고된 결과
프로젝트 결과 페이지에 따르면 GPT-5.5와 Codex 조합으로 Terminal-Bench 2를 평가했을 때 HarnessPro의 Heavy 설정은 성공률 80.8%, 작업당 비용 0.72달러를 기록했습니다. 같은 비교에서 RHO는 성공률 76.3%, 작업당 1.09달러였습니다.
16 별도의 연구 요약은 보고된 평가 설정에서 RHO 대비 평균 성공률이 2.0%포인트 높아지고 작업당 비용은 26.1% 줄었다고 전합니다.
7
20
이 수치는 특정 모델과 하네스, 벤치마크 조합에서 나온 결과입니다. 다른 작업이나 배포 환경에서도 같은 폭의 개선이 나타난다고 단정할 수는 없습니다. 비용과 성능이 서로 다른 방향으로 움직일 수 있기 때문에, HarnessPro가 여러 설정을 함께 제시한다는 점도 유의할 만합니다.
11
16