AI 에이전트 프로젝트, 맥락 설계가 결과를 가른다 — IT 에이전시가 보는 현실

한줄 요약

AI 에이전트 개발의 핵심은 모델 선택이 아니라, 맥락을 어떻게 설계하느냐에 달려 있다.

---

AI 에이전트 기반 서비스 개발에서 가장 많이 반복되는 실패 패턴은 "좋은 모델을 썼는데 결과물이 뻔하다"는 것이다. 원인은 모델이 아니다. 모델에게 무엇을 어떻게 전달했는지, 즉 맥락(Context) 설계의 문제다. 에이전시 입장에서 이 문제를 제대로 짚지 않으면, 클라이언트의 예산은 계속 낭비되고 산출물은 계속 평범해진다.

클라이언트 브리핑과 AI 컨텍스트 설계는 같은 문제다

에이전시에서 프로젝트를 시작할 때 클라이언트 브리핑이 부실하면 기획 전체가 흔들린다. AI 에이전트 설계도 정확히 같은 구조로 작동한다.

"사용자 알림 기능을 만들어줘"라는 지시와, "우리 서비스는 B2B SaaS고, 주요 사용자는 중간 관리자인데, 이들이 가장 불편해하는 게 업무 우선순위 파악이야. 알림이 너무 많으면 무시하고, 없으면 놓쳐"라는 지시는 완전히 다른 결과물을 만든다.

AI에게 전달하는 컨텍스트도 마찬가지다. 목적, 사용자 감정, 우려 사항, 원하는 경험까지 구체적으로 쏟아낼수록 출력의 밀도가 달라진다. 정리되지 않은 생각이라도 괜찮다. 오히려 날것의 고민이 AI에게는 더 유효한 신호가 된다.

에이전시가 AI 기반 서비스를 개발할 때, 기획 단계에서 이 컨텍스트 설계를 구조화하는 것 자체가 핵심 역량이 된다.

페르소나를 하나의 덩어리로 넣으면 안 되는 이유

AI 에이전트가 복수로 동작하는 시스템, 예컨대 멀티 에이전트 구조를 구현할 때 흔히 저지르는 실수가 있다. 페르소나 정보를 하나의 거대한 프롬프트 블록으로 합쳐버리는 것이다.

이렇게 하면 운영 중 상황이 바뀔 때마다 전체 프롬프트를 다 손대야 한다. 유지보수 비용이 올라가고, 에이전트 행동이 의도치 않게 달라지는 사이드 이펙트가 생긴다.

실무적으로 더 나은 접근은 레이어 분리다.

• 불변 레이어: 서비스나 조직의 정체성, 기본 행동 원칙처럼 거의 바뀌지 않는 요소
• 가변 레이어: 현재 진행 중인 상황, 스프린트 목표, 시즌별 캠페인 등 주기적으로 교체되는 맥락
• 개별 레이어: 각 에이전트 고유의 성격, 역할, 관계 데이터

이 세 레이어를 독립적으로 관리하면, 상황이 바뀌어도 해당 레이어만 수정하면 된다. 에이전트의 개성은 유지되면서 새로운 맥락에 자연스럽게 적응하는 구조가 완성된다. 에이전시가 장기 운영을 전제로 AI 시스템을 납품할 때 반드시 고려해야 할 아키텍처 원칙이다.

메모리 시스템 없이 에이전트는 매번 초면이다

에이전트에게 좋은 페르소나를 부여했다고 끝이 아니다. 대화가 쌓여도 에이전트가 맥락을 기억하지 못하면, 사용자는 매 세션마다 처음부터 설명해야 한다. 이건 서비스 이탈의 직접적 원인이 된다.

메모리 설계에서 중요한 포인트는 두 가지다.

첫째, 과거 대화를 통째로 주입하지 않는다. 토큰 낭비와 노이즈가 늘어날 뿐이다. 대신 핵심 사건, 관계 변화, 감정적으로 유의미했던 순간을 구조화된 데이터로 저장하고, 현재 대화 맥락과 관련된 기억만 선별해서 꺼낸다.

둘째, 중요도 기반 삭제 정책을 설계한다. 기억이 무한정 쌓이면 컨텍스트 윈도우를 잡아먹는다. 감정 태그, 관련성, 최신성 등을 기준으로 덜 중요한 기억을 자동으로 정리하는 로직이 필요하다.

에이전시 입장에서 이 메모리 아키텍처는 백엔드 설계와 LLM 호출 전략이 맞물리는 지점이라, 기획자와 개발자가 함께 설계 단계에서 논의해야 한다.

AI가 제안하는 방향을 그대로 따라가면 생기는 문제

에이전시 실무에서도 동일한 함정이 있다. AI 툴을 적극 활용하다 보면, 어느 순간 프로젝트의 방향이 클라이언트의 의도가 아니라 AI가 생성한 그럴듯한 제안 쪽으로 흘러가는 경우가 생긴다.

AI의 제안 자체가 나쁜 게 아니다. 문제는 판단의 주도권을 AI에게 넘기는 순간이다. AI는 평균적으로 그럴듯한 답을 잘 만들어낸다. 그런데 클라이언트가 원하는 건 평균이 아니다. 특정 맥락에서, 특정 사용자에게, 특정 방식으로 작동하는 해법이다.

에이전시의 역할은 AI의 생산성을 활용하되, 클라이언트의 요구사항과 서비스 본질을 기준으로 끊임없이 필터링하는 것이다. 그 판단력이 에이전시가 단순 구현 업체와 구분되는 지점이고, AI가 대체할 수 없는 역량이다.

API 비용은 기획 단계부터 설계해야 한다

멀티 에이전트 시스템에서 간과하기 쉬운 리스크가 하나 있다. 바로 LLM API 비용이다.

에이전트 수가 늘어나고, 대화 히스토리가 쌓이고, 메모리 조회와 JSON 파싱이 반복될수록 토큰 사용량은 생각보다 훨씬 빠르게 증가한다. 서비스가 잘 될수록 비용도 함께 폭증한다는 구조적 문제가 있다.

에이전시가 클라이언트에게 AI 에이전트 기반 서비스를 제안할 때, 이 비용 구조를 초기 설계에 반영하지 않으면 런칭 이후 수익성이 무너질 수 있다. 호출 횟수 최적화, 캐싱 전략, 배치 처리 가능 여부, 모델 티어 선택 등이 모두 기획 단계에서 함께 논의되어야 할 기술적 의사결정이다.

AI 에이전트 프로젝트에서 에이전시의 진짜 가치는, 멋진 데모를 만드는 것이 아니라 실제 운영 환경에서도 지속 가능한 시스템을 설계하는 것이다.