ARCHITECTURE
10분

툴 사용 아키텍처


LLM을 정확하게 만드는 설계

모델의 한계를 도구로 보완하면 정확도와 신뢰가 올라갑니다. 하지만 툴이 늘수록 계약/라우팅/실패전략이 더 중요해집니다.

+

툴 유형

계약 요소

라우팅 단계

∞

모델 교체 가능

왜 툴인가?

LLM이 어려워하는 건 계산, 정확한 조회, 최신 데이터입니다.

모델은 언어에 강하지만, 정확한 숫자 계산이나 DB 조회는 툴이 훨씬 안정적입니다. 툴 사용을 설계하면 환각을 줄이고, 답변의 근거를 강제할 수 있습니다.

툴 유형과 역할

계산기

수학 연산

37 × 892 = ?

DB 조회

데이터 검색

주문 번호로 조회

웹 검색

최신 정보

오늘 환율은?

문서 검색

RAG 검색

정책 문서 조회

툴 계약(Contract): 스키마로 고정

툴 호출은 “함수 호출”입니다. 호출 규격이 흔들리면 전체 시스템이 불안정해집니다.

// 툴 계약 예시
{
"name": "calculate",
"input": { expression: string },
"output": { result: number, error?: string }
}
입력

필수 필드/타입/제약조건

출력

결과 + 메타 + 오류 형식

실패

재시도 가능/불가능 구분

권한

누가 호출할 수 있는가

Tool Router: 언제 어떤 툴을?

1

요청 분류

어떤 유형의 질문인가

2

툴 선택

필요한 툴 최소 선택

3

호출

스키마에 맞게 호출

4

검증

결과 검증 후 응답

핵심 원칙

툴이 많아도 “한 번에 1~2개만” 호출하는 설계가 안정적입니다. 과도한 체인은 디버깅 비용을 키웁니다.

모델은 교체 가능,
시스템은 유지

툴 계약을 스키마로 고정하면
모델이 바뀌어도 시스템은 안정적으로 동작합니다.

#Tools
#Schema
#Router
#Verification
#LLM

2025-12-21 · 럿지 AI 팀