Humetro AI Assistant - 부산교통공사 사내 AI 챗봇

배경/문제

부산교통공사는 5,000명 임직원에게 급여, 식단, 근무 규정 등의 정보가 산재되어 있었다. HR 담당자는 같은 질문을 반복 답변해야 했고, 임직원은 필요한 정보를 찾기 어려웠다. 공공기관 특성상 정보 보안이 중요했기에 외부 API나 클라우드 기반 AI는 사용할 수 없었다.

접근

사내 온프레미스 GPU 서버에 RAG 챗봇을 구축했다. KcBERT 임베딩으로 사내 규정서, 급여 안내, 식단표, 근태 규정 등을 벡터화하고 Streamlit 웹 인터페이스로 임직원이 자연어로 질문할 수 있게 설계했다. 행정안전부 장관상 수상작인 노년층 AI 어시스턴트(“AI 컴쌤”) 파이프라인을 기반으로 하여 신뢰성을 확보했다.

결과·지표

5,000명 대상 1년 이상 안정 운영. HR 문의 60% 자동 응대. 2023년 공공분야 초거대AI 활용사례 공모전 행정안전부 장관상(최우수상) 수상.

스택 상세

• 프론트엔드: Streamlit (Python 웹 앱)
• 임베딩: KcBERT 한국어 모델
• 벡터 저장소: 사내 PostgreSQL + pgvector
• LLM 백엔드: 온프레미스 GPU 서버 (NVIDIA)
• 문서 관리: 사내 정책·규정 소스 컴파일

링크

이 프로젝트는 부산교통공사 사내 시스템입니다. 관련 기술 스택과 구현 사례는 설동헌의 포트폴리오를 참고하세요.