LG전자 HVAC AI 챗봇 플랫폼

프로젝트 개요

LG전자 HVAC 고객을 위한 AI 챗봇 플랫폼이다. 제품 설명과 비교, 추천, 견적 상담, 딜러 조회와 카탈로그 요청까지 하나의 대화 흐름에서 처리한다. 에이전트 서버와 코어 API, 관리자 서비스, 벡터 검색 서비스, 웹 클라이언트로 구성했으며 백엔드 아키텍처와 주요 기능을 설계하고 개발했다.

멀티 에이전트 구조

Google ADK를 활용해 21개 에이전트를 조합했다. IntentAgent가 사용자 요청을 8가지 의도로 분류하면 도메인별 에이전트와 상품 상세 후처리, 견적 상태머신이 필요한 작업을 이어서 처리한다.

의도를 나눌 때는 질문의 주제뿐 아니라 최종 응답의 형태와 후속 작업도 함께 고려했다. 제품 비교는 표를, 제품 추천은 이미지와 링크가 포함된 카드를 만들어야 한다. 견적 상담처럼 여러 차례 정보를 확인해야 하는 흐름은 별도의 상태머신으로 분리했다.

백엔드와 실시간 응답

Spring WebFlux와 R2DBC로 비동기 코어 API를 구축하고, 에이전트의 응답을 SSE로 전달했다. 외부 서비스의 장애가 전체 대화 흐름으로 번지지 않도록 호출 구간에 따라 Resilience4j 정책을 나눠 적용했다.

코어 API에서 에이전트를 호출하는 구간에는 재시도와 타임리미터 적용
에이전트에서 벡터 검색을 호출하는 구간에는 서킷 브레이커 적용
외부 API 호출과 스트리밍 응답을 논블로킹 흐름으로 처리

OpenAI Realtime API와 WebSocket을 이용한 실시간 STT 서버도 구현했다. 음성이 중간에 끊기지 않도록 VAD 파라미터를 조정하고, 무음 구간에서 잘못 생성되는 전사 결과를 필터링한 뒤 챗봇 파이프라인과 연결했다.

지식 관리와 RAG

FAQ, 제품 스펙, 마케팅 자료를 관리하는 관리자 서비스를 개발했다. 역할별 권한을 RBAC로 구분하고, 문서 업로드부터 임베딩 요청과 완료 콜백까지 이어지는 비동기 처리 흐름을 구성했다.

문서는 버전 단위로 관리했다. 새 문서를 반영할 때 기존 벡터 컬렉션을 바로 변경하지 않고 별도의 버전과 컬렉션을 만든 뒤 전환할 수 있도록 해, 업데이트 과정에서도 이전 지식 베이스를 유지할 수 있게 했다.

초기 ADK의 한계 보완

프로젝트 당시 사용한 ADK Java 초기 버전에는 운영에 필요한 일부 기능이 없었다. 라이브러리의 업데이트를 기다리기보다 서비스에 필요한 범위를 직접 보완했다.

입력 토큰이 임계값을 넘으면 이전 대화를 요약하고 기존 이벤트를 교체하는 대화 이력 압축 기능 구현
세션 만료 기능이 없는 환경에서 메모리가 계속 쌓이지 않도록 TTL 기반 정리 기능 구성
비Gemini 모델에서도 질문·응답별 토큰 사용량을 확인할 수 있도록 ChatModel 데코레이터 구현

글로벌 확산과 인프라

필리핀 론칭 이후 10개국으로 확산할 수 있는 구조를 설계했다. 국가마다 다른 기능은 Capability Toggle로 제어하고, 언어별 프롬프트와 RAG 리소스는 데이터로 분리했다. 국가가 추가될 때 에이전트 코드를 복제하지 않고 설정과 리소스를 추가하는 방식이다. GDPR 적용 국가를 위해 서비스와 데이터 저장소를 EU 리전에 분리하는 방안도 함께 정리했다.

운영 주체와 국가별 환경에 맞춰 클라우드를 선택할 수 있도록 AWS, GCP, Azure 배포 구성을 설계하고 Terraform으로 관리했다. 개발 환경을 실제 구성했으며, 운영 환경은 같은 모듈을 바탕으로 확장할 수 있도록 클라우드별 모듈과 환경 설정을 분리했다.

결과

필리핀 대상 HVAC AI 챗봇 서비스 론칭
에이전트, 코어 API, 관리자 서비스와 벡터 검색 서비스의 연동 구조 구축
대화 이력 압축, 세션 정리와 토큰 추적 등 초기 ADK의 운영 기능 보완
10개국 확산 아키텍처와 AWS·GCP·Azure 배포 구성 설계

실제 서비스 론칭 범위는 필리핀 1개국이며, 나머지 국가는 확산을 위한 아키텍처와 배포 구성을 설계한 범위다.