안녕하세요, 강사님. 강의 내용에서 조금 벗어난 질문일 수 있으나, 시스템 아키텍처를 검토하는 과정에서 의견을 구하고 싶어 질문드립니다.

자연어 질문에 답변하는 시스템을 다음 두 가지 구조로 고민하고 있습니다.

① 중계형 구조

질문 → LLM의 의도 분류 → 사전에 정의된 API 호출 → LLM의 응답 생성

② 에이전트 구조

질문 → 처리 계획 수립 → 필요한 도구 선택·호출 → 결과에 따라 추가 조회 또는 계획 수정 → 응답 생성

현재 고민은 중계형 구조에서 API를 충분히 확장하면 다양한 자유질의까지 대응할 수 있는지, 아니면 질문에 따라 처리 과정이 달라질 수 있도록 에이전트 구조로 설계해야 하는지입니다.

저는 정해진 유형의 질문에는 첫 번째 구조가 적합하지만, 질문의 범위가 넓어지고 여러 정보를 조합해야 할수록 두 번째 구조가 필요해진다고 생각하고 있습니다. 다만 API의 기능을 확장하는 것으로 해결할 수 있는 문제를 에이전트가 필요한 문제로 보고 있는 것은 아닌지 확인하고 싶습니다

.

자유질의 대응을 목표로 할 때 이러한 아키텍처 방향이 타당한지, 두 구조를 선택하는 핵심 판단 기준은 무엇인지 강사님의 경험을 바탕으로 조언 부탁드립니다. 감사합니다.