AI 에이전트 개발, Vision 방식 vs API 방식: IT 에이전시가 알아야 할 비용의 진실 (id.news.hada.io)

한줄 요약

AI 에이전트에 Vision 쓰면 API보다 토큰 비용이 수십 배 치솟는다. 내부 도구엔 API가 답이다.

본문

IT 개발 에이전시 입장에서 AI 에이전트를 클라이언트의 내부 시스템에 붙일 때, 인터페이스 선택 하나가 운영 비용을 수십 배까지 벌려놓는다. Vision 기반 에이전트와 구조화된 API 기반 에이전트는 겉으로는 비슷해 보이지만, 실제 토큰 소비량과 처리 시간에서 극단적인 격차가 발생한다.

Vision 에이전트는 왜 '기본값'이 되는가

클라이언트가 수십 개의 내부 도구를 보유하고 있을 때, 각각에 API 엔드포인트를 만드는 작업은 그 자체로 별도 프로젝트가 된다. 개발 리소스가 부족한 환경에서 Vision 에이전트는 빠른 해법처럼 보인다. 화면을 스크린샷으로 캡처하고, AI가 UI를 직접 조작하는 방식이라 기존 코드를 건드리지 않아도 된다.

문제는 이 '빠른 해법'이 운영 단계에서 조용히 비용을 갉아먹는다는 점이다. 에이전시가 납품 후 유지보수 계약까지 맡는다면, 이 비용은 결국 클라이언트의 불만으로 돌아온다.

Vision vs API, 실제 격차는 어디서 나오나

스크린샷 한 장은 그 자체로 수백에서 수천 개의 토큰을 소비한다. Vision 에이전트는 한 번의 작업을 완료하기 위해 클릭할 때마다 새로운 스크린샷을 찍고, 그것을 다시 해석한 뒤 다음 행동을 결정한다. 이 루프가 수십 번 반복된다.

반면 API 에이전트는 동일한 애플리케이션 로직을 직접 호출한다. 렌더링된 화면 대신 구조화된 데이터 응답을 받기 때문에, 불필요한 중간 상태를 해석할 필요가 없다.

실험적 수치를 보면 격차가 얼마나 큰지 실감할 수 있다. 동일한 업무를 처리할 때 Vision 방식은 평균 50회 이상의 단계를 거치며 약 55만 개의 입력 토큰을 소모한다. API 방식은 8번의 호출로 끝나며 약 1만 2천 개의 토큰만 사용한다. 처리 시간도 Vision은 약 17분, API는 20초 이내로 50배 가까운 차이가 난다.

더 심각한 문제는 변동성이다. API 방식은 매번 동일한 호출 수와 거의 동일한 토큰 수를 보인다. 비용 예측이 가능하다는 뜻이다. Vision 방식은 같은 작업을 반복해도 소요 시간과 토큰 수가 크게 달라진다. 비용 예측이 어렵고, 이는 곧 견적 리스크로 이어진다.

---

에이전시가 간과하기 쉬운 '숨은 엔지니어링 비용'

Vision 에이전트가 제대로 작동하려면 단순한 지시문으로는 부족하다. 화면의 어떤 요소를 클릭해야 하는지, 어디로 이동해야 하는지를 단계별로 상세히 기술한 UI 워크스루가 필요하다. 스크롤 아래에 숨겨진 항목, 탭 전환, 페이지네이션 처리 등 사람이라면 직관적으로 처리하는 것들을 모두 명시해야 한다.

이 가이드를 작성하는 시간과 유지보수하는 비용은 토큰 비용 계산서에 잡히지 않는다. 하지만 UI가 조금만 바뀌어도 가이드를 처음부터 다시 써야 한다. 클라이언트가 관리자 페이지 디자인을 변경하면, 에이전트가 다시 실패하기 시작한다.

API 방식의 엔드포인트를 구성하는 데 드는 초기 비용이 더 크게 느껴질 수 있다. 하지만 한번 만들어두면 UI가 바뀌어도 에이전트는 그대로 동작한다. 장기 운영 관점에서 총 비용(TCO)을 계산하면 API 방식이 압도적으로 유리하다.

어떤 경우에 Vision을 써야 하는가

Vision 에이전트가 실질적으로 유용한 상황은 분명히 존재한다. 에이전시가 소스 코드에 접근할 수 없는 서드파티 SaaS 도구, API를 제공하지 않는 레거시 시스템, 또는 클라이언트가 직접 통제하지 못하는 외부 플랫폼이 그 대상이다.

반대로 클라이언트가 직접 구축하거나 에이전시가 납품하는 내부 도구라면, 처음부터 API 레이어를 함께 설계하는 것이 합리적이다. 최근 일부 프레임워크는 애플리케이션 이벤트 핸들러에서 HTTP 엔드포인트를 자동으로 생성하는 기능을 제공하기 시작했다. API 구성에 드는 엔지니어링 비용 자체가 낮아지고 있다는 의미다.

클라이언트에게 어떻게 설명할 것인가

AI 에이전트 도입을 검토 중인 클라이언트에게 이 차이를 설명할 때, 토큰 단가보다 '작업 하나당 비용'으로 이야기하는 편이 효과적이다. Vision 방식은 같은 결과를 내기 위해 수십 배 더 많은 연산을 소모한다. 이건 모델 성능의 문제가 아니라 아키텍처 구조의 문제다. 더 좋은 AI 모델을 쓴다고 해결되지 않는다.

에이전시로서 가장 중요한 역할은 클라이언트가 잘못된 기본값을 선택하지 않도록 초기 설계 단계에서 방향을 잡아주는 것이다. Vision이 편해 보인다는 이유로 선택하면, 그 비용은 결국 클라이언트의 운영 예산과 에이전시의 신뢰 모두를 갉아먹는다.