AI 에이전트 45개를 풀어놓으면 무슨 일이 생기나: 다중 에이전트 실험의 결과와 경고 (anthropic.com)

한줄 요약

AI 에이전트끼리 협업하면 성능이 올라가지만, 그 상호작용은 아직 아무도 제대로 통제하지 못하고 있다.

다중 에이전트(multiagent) 시스템은 단순한 자동화의 다음 단계가 아니다. 여러 AI가 공유 환경 안에서 서로 조율하고, 역할을 나누고, 결과물을 검토하는 구조는 소프트웨어 개발·보안·시장 운영 등 거의 모든 분야에 침투하고 있다. Anthropic이 공개한 연구는 이 흐름을 정면으로 다루면서, 가능성과 함께 지금껏 잘 논의되지 않은 시스템 수준의 위험을 꺼내 놓았다.

무엇이 달라지나?

Anthropic은 45개의 AI 에이전트에게 각각 가상 머신과 공유 포럼을 제공하고, 15개 오픈소스 프로젝트에서 보안 취약점을 찾도록 했다. 에이전트들은 서로의 발견을 피어리뷰하고, 별도의 중재 에이전트가 최종 판단을 내렸다.

결과는 수치로 확인된다. 협업 에이전트 군집(Claude Mythos Preview 기준)은 약 2,700만 토큰을 소모해 266개의 취약점을 발견했다. 반면 독립적으로 병렬 실행된 에이전트들은 약 650만 토큰으로 21개를 찾는 데 그쳤다. 단순 비교로는 협업 방식이 압도적으로 보이지만, 세부를 보면 이야기가 달라진다.

군집이 찾은 취약점의 약 절반은 독립 에이전트들이 탐색하도록 지정된 핵심 디렉토리 밖에서 나왔다. 탐색 범위를 동일한 영역으로 제한하면 두 방식의 효율은 비슷해진다. 그리고 두 방법이 공통으로 발견한 취약점은 12개에 불과했다. 이는 두 접근법이 경쟁 관계가 아니라 상호 보완적임을 뜻한다.

더 주목할 만한 관찰은 에이전트들이 스스로 도구를 만들고 특정 유형의 취약점 탐지에 자발적으로 특화되기 시작했다는 점이다. 사전에 역할을 부여하지 않았음에도 군집 내부에서 분업 구조가 자연스럽게 형성됐다. Anthropic은 이런 자발적 특화와 조율 방식이 앞으로 비조율 병렬 탐색을 압도할 것이라고 본다.

실무에서 어떤 의미인가?

이 연구가 소프트웨어 개발 현장에 던지는 함의는 크게 두 갈래다.

첫째, 병렬성이 높은 작업—보안 스캐닝, 코드 리뷰, 테스트 자동화—에서는 에이전트 군집이 이미 쓸 만한 수준에 도달했다. 인간이 탐색 범위를 미리 정해주지 않아도 에이전트가 스스로 우선순위를 판단하고 집중할 수 있다는 점은 기존 자동화 도구와 분명히 다르다.

둘째, 에이전트 간 의존성이 생기는 순간 조율 난이도가 급격히 올라간다. Anthropic은 게임 개발이라는 복잡한 협업 태스크에서 여러 에이전트 군집을 실험했다. CEO 역할을 지정하거나 팀 구조를 명시하는 등 프롬프트를 달리해봤지만 결과는 크게 다르지 않았다. 나온 게임들은 인간 수준의 속도로 실행되지 않았고, 인터페이스도 직관적이지 않았다. 에이전트들은 아직 인간 없이 복잡한 창의적 산출물을 만드는 데 한계가 있다.

더 근본적인 문제는 개별 에이전트 수준에서는 무해한 행동 편향이 다수의 에이전트가 상호작용할 때 시스템 전체의 예상치 못한 실패로 증폭될 수 있다는 것이다. 현행 제도와 시스템은 인간 속도의 감독을 전제로 설계되어 있다. 에이전트끼리의 상호작용 규모가 인간 간 상호작용을 넘어서는 시점이 오면, 기존 통제 구조가 작동하지 않을 수 있다.

개발 외주나 자동화 도입을 검토하는 팀이라면 이 지점을 특히 눈여겨볼 필요가 있다. 단일 에이전트 도구를 평가하는 기준과 다중 에이전트 파이프라인을 평가하는 기준은 달라야 한다.

도입 전 체크포인트

다중 에이전트 시스템을 실제 프로젝트에 투입하기 전에 확인해야 할 항목들이다.

태스크 분리 가능성 먼저 따져라. 작업이 독립적인 서브태스크로 쪼개질수록 에이전트 군집의 효과는 높아진다. 반대로 에이전트 간 의존성이 높은 작업은 현 시점에서 기대치를 낮춰야 한다.

탐색 범위를 처음부터 고정하지 마라. 이번 연구에서 협업 군집은 미리 지정되지 않은 영역에서 절반 가량의 취약점을 찾아냈다. 탐색 범위를 좁게 제한하면 에이전트의 강점을 스스로 깎는 셈이다.

출력 검증 구조를 설계에 넣어라. 에이전트가 다른 에이전트의 결과물을 그대로 신뢰하면 오류가 전파된다. 중재 에이전트 또는 인간 검토 단계를 파이프라인에 명시적으로 포함시켜야 한다.

단일 에이전트 기준으로 비용을 추정하지 마라. 군집 방식은 토큰 소비가 단순 병렬 방식보다 훨씬 많다. 성능 향상과 비용 증가 사이의 균형을 구체적인 태스크 기준으로 검토해야 한다.

시스템 수준의 모니터링 계획을 먼저 세워라. 에이전트가 많아질수록 개별 행동을 추적하기 어려워진다. 어떤 에이전트가 무엇을 했는지 로그와 감사 구조를 갖추지 않으면, 장애가 발생했을 때 원인 파악 자체가 불가능해진다.