온디바이스 AI가 스스로 틀렸다고 말한다: Gemma 4 Hybrid의 신뢰도 스코어링 (github.com)

한줄 요약

온디바이스 모델이 자신의 답변에 신뢰도 점수를 붙여, 불확실할 때만 더 큰 모델에 넘기는 하이브리드 AI 추론 기술이 등장했다.

---

온디바이스 AI 모델의 고질적인 딜레마는 단순하다. 빠르고 프라이빗하지만, 틀릴 때가 있다. 그런데 모델이 언제 틀리는지 스스로 알 수 있다면 어떨까? Cactus가 공개한 Gemma 4 E2B Hybrid는 바로 그 문제를 정면으로 다룬다. 모든 답변에 0과 1 사이의 신뢰도(confidence) 점수를 구조화된 데이터로 함께 반환하고, 이 점수가 낮을 때만 더 큰 클라우드 모델로 쿼리를 넘기는 방식이다.

무엇이 달라지나?

기존 하이브리드 AI 아키텍처는 대부분 규칙 기반이었다. "이런 질문은 온디바이스로, 저런 질문은 클라우드로"처럼 미리 분류 기준을 정해두는 식이다. Cactus의 접근은 다르다. 모델 체크포인트 내부에 프로브(probe) 를 심어 추론 과정에서 생성되는 히든 스테이트(hidden state)를 실시간으로 읽고, 해당 답변이 맞을 가능성을 수치로 산출한다. 이 점수는 답변 텍스트에서 파싱하는 게 아니라 별도의 구조화된 필드로 반환된다는 점이 핵심이다.

실제 라우팅 로직은 이렇게 단 세 줄로 표현된다.

if confidence < 0.85:
    answer = ask_a_bigger_model(prompt)

Gemma 4 E2B Hybrid는 쿼리의 15~35%만 Gemini 3.1 Flash-Lite에 넘기고 나머지를 온디바이스에서 처리하면서, 전체 벤치마크 성능은 Flash-Lite 수준에 근접한다고 밝히고 있다. ChartQA 기준으로 FP16 환경에서 15~20%만 클라우드에 핸드오프해도 Flash-Lite와 동등한 성능을 낸다는 수치다.

신뢰도 점수의 품질은 AUROC(수신자 조작 특성 곡선의 면적)로 측정된다. 0.5는 무작위 수준, 1.0은 완벽한 분류다. Cactus Hybrid는 텍스트, 비전, 오디오를 아우르는 12개 벤치마크에서 평균 AUROC 0.814를 기록했다. 단순 토큰 엔트로피 기반 방법의 평균 0.549와 비교하면 상당한 차이다.

특히 주목할 만한 결과가 있다. 프로브는 오디오 데이터를 전혀 학습하지 않았음에도 오디오 관련 4개 벤치마크에서 AUROC 0.79~0.88을 기록했다. 이는 프로브가 특정 모달리티의 패턴을 외운 게 아니라, 히든 스테이트에서 모달리티에 독립적인 '정답 여부 신호'를 읽어내고 있다는 해석을 가능하게 한다.

실무에서 어떤 의미인가?

앱이나 서비스를 개발할 때 AI 기능을 붙이는 방식은 크게 두 가지로 나뉜다. 항상 클라우드 API를 호출하거나, 항상 온디바이스 모델을 쓰거나. 전자는 정확하지만 비용과 레이턴시가 따라오고, 후자는 빠르고 저렴하지만 정확도가 희생된다.

Cactus Hybrid의 접근은 이 선택지를 없애는 방향이다. 쉬운 질문은 온디바이스에서 빠르게 처리하고, 모델 스스로 자신 없는 경우에만 클라우드로 에스컬레이션한다. 개발자 입장에서는 API 호출 비용을 직접 통제할 수 있는 단일 임곗값(confidence < 0.85 같은 수치)이 생기는 셈이다.

지원 프레임워크도 폭넓다. Cactus, MLX, Hugging Face Transformers, llama.cpp 네 가지 환경에서 모두 사용할 수 있고, 각각 복사해서 바로 실행 가능한 코드 스니펫이 공개돼 있다. 특히 llama.cpp는 C++ 패치를 컴파일해야 하는 추가 과정이 있지만, 완성 후에는 표준 llama-server 응답에 confidence 필드가 추가되는 방식으로 동작한다.

모델은 Hugging Face의 Cactus Hybrid 컬렉션에서 무료로 내려받을 수 있으며, MIT 라이선스로 배포된다. 단, 기반 모델인 Gemma의 이용 약관은 별도로 적용된다.

도입 전 체크포인트

이 기술을 실제 프로젝트에 적용하기 전에 확인해야 할 사항들이 있다.

양자화 수준에 따라 클라우드 핸드오프 비율이 크게 달라진다. FP16 기준으로는 대부분의 벤치마크에서 15~35% 핸드오프로 충분하지만, 3-bit 양자화 환경에서는 MMLU-Pro 기준으로 핸드오프 비율이 50% 이상으로 올라갈 수 있다. 배포 환경의 정밀도를 먼저 확인하고 벤치마크를 독립적으로 수행하는 것이 권장된다.

Transformers 버전 호환성에 주의해야 한다. 원문에 따르면 transformers>=5.5.4,<5.6 범위에서만 정상 동작하며, 5.14 이상 버전에서는 세그폴트가 발생할 수 있다고 명시돼 있다.

device_map="auto" 사용 금지. Transformers 환경에서 모델을 로드할 때 device_map="auto" 옵션을 쓰면 안 된다. 프로브가 모듈의 forward() 경로 바깥에서 신뢰도를 계산하는 구조상, meta 디바이스에 남겨진 가중치가 신뢰도 읽기를 망가뜨린다. 반드시 명시적인 .to(device) 방식으로 로드해야 한다.

신뢰도 임곗값은 직접 튜닝해야 한다. 0.85라는 수치는 예시일 뿐, 실제 서비스에서는 허용 오류율과 클라우드 비용 사이의 균형점을 직접 찾아야 한다.

외주 개발이나 서비스 기획 단계에서 AI 기능의 구조를 설계할 때, 이런 하이브리드 추론 패턴이 적합한지 여부는 사용 사례와 비용 구조에 따라 달라진다.