스마트팜 RAG를 위한 질의 적응형 검색 채널 제어

2.1 RAG와 하이브리드 검색

RAG는 외부 지식 검색과 언어 모델 생성을 결합하여 모델의 환각을 줄이고 근거 기반 답변을 제공하는 접근이다[1]. 최근 연구는 단순 검색 후 생성 구조를 넘어 검색기 구성, 질의 변환, 재순위화, 모듈형 파이프라인을 포함하는 다양한 구조로 확장되고 있다[2]. 이러한 연구는 RAG가 도메인 지식 갱신과 사실성 보완에 유용함을 보이지만, 대부분 의미 기반 검색 또는 2채널 검색을 중심으로 한다.

하이브리드 검색은 의미 기반 검색과 키워드 기반 검색을 결합하여 단일 검색 방식의 한계를 보완한다. 밀집 검색은 의미 유사도에 강하지만 수치와 고유명사에 약하고, 희소 검색은 정확한 용어 일치에 강하지만 표현 변형에 약하다[3][4]. 상호 순위 융합과 같은 순위 기반 결합 방식은 서로 다른 점수 체계를 단순하게 통합할 수 있어 실용적이다[5]. 다만 기존 하이브리드 검색은 문서 간 구조적 관계를 명시적으로 추적하기 어렵다는 한계가 있다.

2.2 그래프 기반 RAG와 스마트팜 적용

그래프 기반 RAG는 문서 간 개체와 관계를 명시적으로 표현하여 다중 단계 질의에 필요한 구조적 관계 정보를 제공한다. 선행 연구는 그래프 구조를 활용한 질의 중심 요약과 관계 경로 선택이 그래프 기반 검색 품질에 중요함을 보였다[6][7]. 그러나 그래프 기반 검색은 다중 단계 질의에서는 도움이 될 수 있으나, 단순 질의에서는 불필요한 구조적 관계 정보가 검색 순위에 영향을 줄 수 있으므로 그래프 채널의 활용 여부와 비중을 질의 조건에 따라 조절할 필요가 있다.

스마트팜 연구는 플랫폼 설계, 생산 최적화, 시스템 구현과 같이 현장 적용 가능한 시스템 구조를 중요하게 다루어 왔다[8]. 또한 최근 하이브리드 검색에서는 DAT(Dynamic Alpha Tuning)과 같이 질의 입력마다 검색 채널 가중치를 동적으로 산정하는 방식이 제안되었으나, 실행 시점 LLM 호출은 엣지 환경에서 추가 지연을 유발할 수 있다[9]. 따라서 스마트팜 질의에서 그래프 채널을 언제 억제하고 언제 활용할지, 그리고 이를 엣지 환경에서 어떻게 가볍게 적용할지에 대한 질의 적응형 검색 제어 구조가 필요하다.

3.1 질의 적응형 검색기 구조

그림 1은 질의 적응형 검색 채널 제어 구조의 오프라인-온라인 처리 흐름을 나타낸다. 제안 시스템은 그림 1의 ①-⑥과 같이 오프라인 프로파일 생성 단계와 실행 시점 검색 제어 단계로 구성된다. 오프라인 단계에서는 ① 스마트팜 문서, 재배 매뉴얼, 연구 논문, 작업 기록과 같은 도메인 문서를 처리하고, ② 문서 조각, 벡터 인덱스, 키워드 인덱스, 지식 그래프를 구성한다.

Fig. 1.

Offline-online workflow of query-adaptive retrieval channel control

문서 조각은 답변 생성에 직접 사용되는 근거 단위이며, 그래프는 범주, 상태·조건, 환경, 관리 작업과 같은 도메인 개체를 노드로 구성하고 문서 조각과 개체 사이의 언급 관계 및 개체 간 관계를 엣지로 연결한 보조 색인이다. 그래프 검색은 질의 토큰과 일치하는 개체 주변 이웃을 찾는 저수준 검색과 1-3홉 경로를 탐색하는 고수준 검색을 함께 사용하며, 경로 신뢰도와 홉 길이를 반영해 후보 문서 점수를 계산한다.

동시에 ③ 튜닝 질의를 이용하여 질의 유형별 검색 채널 가중치와 검색 깊이를 탐색하고, 그 결과를 작은 프로파일 테이블로 저장한다. 오프라인 프로파일링 단계에서는 LLM 분석과 벤치마크 결과를 이용해 튜닝 질의를 세그먼트로 나누고, 각 세그먼트별 후보 채널 가중치와 후보 문서 깊이를 평가하여 검색 가중치를 사전 구성한다. 프로파일은 기본 가중치, 세그먼트별 매칭 조건, 채널 가중치, 후보 깊이, 가드레일, 품질 메타데이터를 저장한 경량 JSON 테이블이다. 이 방식은 실행 시점에 매 질의마다 가중치 산정 모델을 호출하는 부담을 줄이기 위한 설계이다.

실행 시점에는 사용자 질의가 입력되면 ④ 경량 질의 특성 추출기를 통해 질의 유형을 판별하고, ⑤ 해당 프로파일을 조회하여 의미 기반 검색, 키워드 기반 검색, 그래프 기반 관계 검색의 가중치를 결정한다. 질의 특성 벡터는 x(q)=[intent, query_length_bucket, entity_hint_presence, relation_hint]로 구성하며, 각 항목은 질의 목적, 질의 길이 구간, 숫자 기반 개체 단서, 도메인 관계 단서 포함 여부를 나타낸다. 이후 ⑥ 세 검색 채널의 결과를 가중 순위 결합 방식으로 통합하여 답변 생성 모델에 전달할 근거 문서를 선정한다.

표 2는 질의 유형별 특성 벡터와 검색 채널 가중치, 검색 깊이의 프로파일 예시를 나타낸다. 최종 반환 문서 수는 모든 프로파일에서 평가 지표와 동일하게 Top-10으로 고정하였다.

Table 2.

Example of query-type retrieval profiles

알고리즘 1은 오프라인 프로파일 생성과 실행 시점 검색 제어의 전체 절차를 나타낸다.

Algorithm 1.

Offline profile generation and runtime retrieval control

3.2 질의 적응형 채널 제어

본 논문에서 제안하는 질의 적응형 채널 제어는 세 검색 채널의 순위 정보를 가중 결합하는 구조이다. 각 채널에서 문서 d가 질의 q에 대해 가지는 순위를 r_c(d,q)라고 할 때, 최종 점수는 식 (1)과 같이 정의한다.

여기서 S(d|q)는 질의 q에 대한 문서 d의 최종 결합 점수이고, C는 의미 기반 검색, 키워드 기반 검색, 그래프 기반 관계 검색의 채널 집합이다. 참조 구현에서는 이를 각각 vector_dense_text, vector_sparse, graph 채널로 매핑한다. r_c(d,q)는 채널 c에서 문서 d가 가지는 순위이고, w_c(q)는 프로파일에서 조회한 채널 가중치로서 $$ \sum _{c\in C}{w}_c\left(q\right)=1$$을 만족한다. k는 상위 순위 문서에 대한 과도한 점수 집중을 완화하기 위한 상수이다. 특정 문서가 어떤 채널의 상위 결과에 포함되지 않으면 해당 채널의 기여도는 0으로 처리한다. 이 수식은 채널별 원점수 보정 없이 순위 정보만으로 결과를 결합할 수 있으며, 질의 유형에 따라 채널별 기여도를 조정할 수 있도록 확장한 것이다.

각 질의 세그먼트에 대해서는 튜닝 질의 집합에서 후보 가중치와 후보 검색 깊이를 탐색한다. 여기서 검색 깊이는 채널별 후보 문서 수와 그래프 채널의 제한 홉 범위를 포함한다. 5겹 교차 검증으로 nDCG@10 평균과 순위 변동성을 함께 고려하여 최적 프로파일을 선택한다. 이때 한 질의에만 맞는 값을 선택하지 않고, 같은 세그먼트에 속한 질의들의 평균 성능과 변동성을 함께 확인한다. 선택된 프로파일은 정적 파일로 저장되고, 실행 시점에는 특성 벡터에서 만든 키를 해시 테이블로 조회한다. 즉, LLM 기반 질의 분석과 가중치 탐색은 오프라인 단계에서 수행되고, 실행 시점에는 사전 프로파일링된 가중치를 참조하는 경량 구조로 동작한다.

단순 수치 확인 질의에서는 의미 기반 및 키워드 기반 검색의 비중을 높이고 그래프 채널은 억제한다. 반대로 원인, 증상, 조치 사이의 구조적 관계 단서가 강한 질의에서는 그래프 채널을 활성화하여 구조적 관계 정보를 보완한다.

제안 구조는 운영 적용 시 고려할 수 있는 세 가지 안전 장치를 포함한다. 첫째, 채널 가중치에는 최소값, 최대값, 연속 질의 간 변화율 제한을 둔다. 둘째, 프로파일의 표본 수와 유효 기간을 확인하는 품질 게이트를 둔다. 셋째, 특정 채널이 유효한 검색 결과를 반환하지 못하면 해당 채널의 가중치를 최소값 또는 0으로 설정한 뒤 나머지 채널 가중치를 재정규화한다.

3.3 구현 환경

참조 구현 측면에서 오프라인 지식 구축은 문서 파싱, 문서 청크 구성, 도메인 용어 기반 개체-관계 추출로 구성된다. 검색 저장소는 벡터 검색과 그래프 저장소를 함께 사용하고, 엣지 실행 환경에서는 경량 추론 엔진 기반 양자화 언어 모델을 사용한다[10]. 농가별 작업 기록과 생육 데이터는 민감한 지식일 수 있으므로, 참조 구현에서는 공개 지식과 농가별 사유 지식을 논리적으로 분리하는 저장 구조를 고려하였다.

4.1 실험 설정

제안 구조의 검색 성능을 평가하기 위해 세 가지 공개 질의응답 데이터를 사용하였다. AgXQA는 농업 영역 질의응답 데이터로, 단일 홉 성격의 질의에서 그래프 채널을 항상 추가할 때 발생할 수 있는 순위 저하와 그래프 채널 억제 효과를 확인하는 데 사용하였다[11]. MuSiQue와 2WikiMHQA는 여러 근거를 연결해야 하는 다중 홉 관계 질의를 포함하므로, 구조적 관계 탐색이 필요한 질의에서 그래프 채널의 조건부 활용 효과를 확인하는 데 사용하였다[12][13]. 이와 같이 데이터셋별 역할을 구분하여 단순 농업 질의와 다중 단계 관계 질의에서 제안 구조의 동작을 함께 평가하였다. 각 데이터셋에서는 모든 비교군에 동일한 근거 문서 집합, 의미 기반 색인, 키워드 기반 색인, 그래프 기반 관계 색인을 사용하였다. 그래프 기반 관계 색인은 문서 제목, 질의 내 핵심 명사구, 명명 개체 표현과 같은 텍스트 단서를 중심으로 개체와 관계 표현을 추출하고, 질의에 포함된 주요 개체를 시작점으로 동일한 제한 홉 조건에서 관련 문서를 탐색하는 방식으로 사용하였다.

비교 대상은 세 가지 검색 구조로 설정하였다. Baseline은 의미 기반 검색과 키워드 기반 검색만 결합한 2채널 구조로, 그래프 채널을 사용하지 않는다. Uniform은 의미 기반, 키워드 기반, 그래프 기반 검색을 1:1:1로 결합한 고정 3채널 구조이다. 이 비교군은 그래프 채널을 항상 같은 비중으로 추가했을 때 단순 질의에서 검색 순위가 저하될 수 있는지를 확인하기 위해 사용하였다. Ours는 질의 유형별 프로파일을 조회하여 세 검색 채널의 가중치를 조절하는 제안 구조이다. Uniform과 Ours는 동일한 그래프 탐색 후보 조건을 사용하며, 차이는 채널 가중치 적용 방식에만 두었다. 단순 질의에서는 그래프 채널을 억제하고, 다중 단계 질의에서는 구조적 관계 정보를 제한적으로 활용하도록 설정하였다. 질의 유형별 프로파일은 오프라인 LLM 분석과 표 1에서 정리한 질의 특성을 함께 사용하여 구성하였다.

가중치 산정 조건도 동일하게 통제하였다. Baseline은 dense/sparse만 사용하고 graph 가중치를 0으로 두었으며, Uniform은 세 채널을 1/3로 고정하였다. Ours는 x(q) 기반 프로파일을 조회하고 무효 채널 보정 후 재정규화하였다. Runtime LLM Baseline은 Qwen3-4B-Q4_K_M GGUF에 질의, 길이, 작물·병해·수치, 원인·비교·동반 증상 단서를 입력하여 ‘dense’, ‘sparse’, ‘graph’ JSON 가중치를 얻고, 결측·음수 제거 후 합이 1이 되도록 정규화하였다.

검색 성능은 정규화 할인 누적 이득(nDCG@10), 평균 역순위, 상위 10개 검색 회수율로 평가하였으며, 상위 검색 결과의 순위 품질을 반영하는 nDCG@10을 주 지표로 해석하였다. 공개 데이터셋별 질의 중 20%는 가중치 프로파일 튜닝에 사용하고, 나머지 80%는 최종 평가에 사용하여 튜닝 질의와 평가 질의가 중복되지 않도록 분리하였다. 20% 튜닝 질의 내부에서는 5겹 교차 검증으로 후보 가중치와 검색 깊이를 선택하였다.

본 논문은 검색 채널 제어 구조가 검색 순위 품질, WASSABI 스마트팜 코퍼스 기반 생성 품질 보조 지표, 엣지 실행 성능에 미치는 영향을 함께 평가하였다. WASSABI 평가는 626개 문서와 11개 유형 54개 질의로 구성하고, 유형별 4-5개 질의를 균형 배치하였다. 생성 품질 보조 평가는 동일 검색 근거와 동일 Qwen3-4B-Q4_K_M GGUF 답변 생성 조건에서 RAGAS Faithfulness를 10회 측정한 평균으로 보고하였으며, 평가모델은 Ollama 기반 gpt-oss:120b로 고정하였다. 질의별 통계 검정은 향후 확장 검증 항목으로 남겨 두었다.

엣지 실행 성능 비교에는 Dynamic Alpha Tuning(DAT) 계열의 실행 시점 LLM 기반 가중치 산정 관점[9]을 단순화한 구조를 추가 비교 대상으로 사용하였다. 해당 방식은 질의 입력마다 Qwen3-4B-Q4_K_M GGUF 모델을 호출하여 dense, sparse, graph 채널 가중치를 계산하는 구조이다. 반면 제안 구조는 오프라인에서 생성한 프로파일을 실행 시점에 조회하므로, 가중치 산정을 위한 추가 모델 호출을 제거한다.

엣지 참조 환경은 NVIDIA Jetson AGX Orin Developer Kit로 구성하였다. 운영체제는 Ubuntu 22.04.5 LTS와 JetPack 6.2.1/L4T 36.4.7을 사용하였고, 서빙 스택은 FastAPI 기반 API 서버, CUDA 기반 llama.cpp 추론 엔진, 벡터 검색 저장소, 그래프 저장소로 구성하였다[10]. 답변 생성에는 Qwen3-4B-Q4_K_M GGUF 양자화 모델을 사용하였다. 지연 시간은 동일 질의 집합에 대해 1회 예열 실행 후 5회 반복 측정한 결과를 집계하였으며, 전체 요청 지연 시간, 검색 단계 평균 지연 시간, 생성 단계 중앙값 지연 시간, 초당 질의 처리량을 비교하였다.

4.2 검색 성능

표 3은 세 공개 데이터에서 Baseline, Uniform, Ours의 검색 성능을 비교한 결과이다. AgXQA에서는 Baseline의 nDCG@10이 0.900이었으나, 그래프 채널을 균등하게 추가한 Uniform은 0.721로 낮아졌다. 이는 단일 단계 농업 질의에서 그래프 채널이 항상 같은 비중으로 필요한 것은 아니며, 관련성이 낮은 구조적 관계 정보가 순위를 흐릴 수 있음을 보여준다. Ours는 nDCG@10을 0.809까지 회복하여 Uniform 대비 0.088의 개선을 보였다. 다만 AgXQA는 단일 홉 농업 질의가 많아 의미 기반 및 키워드 기반 2채널만으로 정답 문서가 상위에 집중되는 경우가 있으므로, 그래프 채널의 보조 정보가 항상 Baseline 이상의 순위 개선으로 이어지지는 않았다. 이 결과는 농업 질의응답 데이터에서 질의 유형별 채널 제어가 고정 3채널 결합으로 인한 순위 저하를 완화할 수 있음을 보여준다.

Table 3.

Retrieval performance comparison on public datasets

다중 단계 질의응답 데이터에서는 Ours가 Baseline보다 높은 nDCG@10을 보였다. MuSiQue에서 Ours는 nDCG@10 0.614를 기록하여 Baseline의 0.568보다 0.046 높았다. 2WikiMHQA에서도 Ours는 0.788로, Baseline의 0.771보다 0.017 높았다.

두 데이터 모두 여러 근거를 연결해야 하는 질의를 포함하므로, 그래프 기반 관계 검색이 제한적으로 활용될 때 구조적 관계 정보가 검색 순위 개선에 기여할 수 있음을 보여준다.

따라서 본 실험 결과는 질의 유형에 따라 그래프 검색 채널의 비중을 조절할 때 단순 질의의 검색 순위 저하를 완화하면서, 다중 단계 질의에서는 구조적 관계 정보를 활용할 수 있음을 뒷받침한다.

실제 스마트팜 적용 도메인에서의 근거 충실성을 보조적으로 확인하기 위해 WASSABI 코퍼스에 대한 RAGAS 평가를 수행하였다. 답변 생성에는 검색 근거와 질의만 제공하였고, 평가모델에는 RAGAS Faithfulness 설정에 따라 질의, 생성 답변, 검색 근거를 입력하였다.

표 4는 WASSABI 기반 보조평가에서 graph 채널 제어가 생성 근거 충실성에 미치는 영향을 확인한 결과이다. 10회 반복 평가의 평균 기준으로 Ours는 Faithfulness 0.972을 기록하여 Uniform의 0.902보다 높게 나타났으며, 이는 고정 3채널 결합보다 질의 특성에 따른 채널 가중치 조정이 현장형 스마트팜 질의의 근거 기반 답변 유지에 유리할 가능성을 시사한다. Baseline은 graph 채널을 사용하지 않는 검색 비교군이므로 graph 채널 제어 효과를 비교하는 표 4에서는 제외하였고, 해당 결과는 주 검색 성능 비교인 표 3에서 보고하였다. 다만 WASSABI 평가는 자체 구축 코퍼스 기반의 보조 검증이므로, 본 논문의 주 실험 결과를 대체하기보다는 스마트팜 도메인 적합성에 대한 추가 근거로 해석하였다.

Table 4.

Domain-fit auxiliary evaluation on the WASSABI corpus

4.3 엣지 실행 성능

제안 구조의 엣지 실행 가능성을 확인하기 위해 앞서 정의한 Jetson AGX Orin 기반 참조 환경에서 Runtime LLM Baseline과 Ours를 비교하였다. Runtime LLM Baseline은 Dynamic Alpha Tuning(DAT) 계열의 실행 시점 LLM 기반 가중치 산정 관점을 단순화한 구조로, 질의마다 모델을 호출하여 검색 채널 가중치를 계산한다. Ours는 사전에 생성한 프로파일을 조회하여 가중치를 적용하는 구조이다. 두 방식은 동일한 검색 저장소, 동일한 생성 모델, 동일한 API 서빙 환경, 동일한 질의 집합에서 실행하였고, 차이는 검색 채널 가중치 산정 방식에만 두었다. 표 5는 엣지 참조 환경에서 Runtime LLM Baseline과 Ours의 실행 성능을 비교한 결과이다. Ours는 전체 지연 시간 중앙값을 11502.89밀리초에서 8545.77밀리초로 줄였으며, 검색 평균 지연 시간은 3821.75밀리초에서 957.71밀리초로 감소하였다. 이는 검색 단계에서 약 74.9%의 지연 시간 감소에 해당한다.

Table 5.

Runtime performance comparison in the edge reference environment

생성 지연 시간은 두 방식이 거의 유사하였다. 따라서 지연 시간 개선은 답변 생성 모델 자체의 변화가 아니라, 검색 단계에서 실행 시점 LLM 호출을 제거한 효과로 해석할 수 있다. 표 3의 검색 순위 품질 결과와 표 4의 도메인 보조 평가 결과를 함께 볼 때, 제안 구조는 Runtime LLM 방식의 실행 시점 가중치 산정을 오프라인 프로파일 조회로 대체하면서도 질의 유형별 적응성을 유지한다. 이는 엣지 환경에서 가중치 산정에 따른 추가 지연을 줄일 수 있음을 보여준다.