"이제는 행정 문서, 찾지 않고 AI에게 물어봐요"

고객 상황 및 과제

공공기관은 문서 작성과 행정자료 검색 등 반복 업무의 부담을 줄이고, 행정심판과 자치법규 입안 등 전문 업무까지 생성형 AI 활용을 확대하고자 했습니다. 이를 위해 기관의 업무 데이터를 외부에 노출하지 않으면서 정확성과 신뢰성을 유지하고, 실제 행정업무에 맞게 AI를 안정적으로 운영할 수 있는 환경이 필요했습니다.

적용 솔루션 및 접근 전략

KT는 자체 LLM인 믿:음 K와 LLMOps를 결합해 기관 내부에서 운영할 수 있는 온프레미스형 생성형 AI 환경을 구축했습니다. 행정업무 특성을 반영해 AI 모델과 데이터를 체계적으로 관리·운영할 수 있도록 구성하고, 문서 작성과 정보 검색부터 전문 행정업무까지 활용할 수 있도록 적용 범위를 확대했습니다.

도입 효과

고객사는 문서 작성과 정보 검색은 물론 행정심판, 자치법규 입안 등 전문 행정업무에도 생성형 AI를 활용할 수 있는 기반을 마련했습니다. 또한 AI 모델과 데이터를 기관 내부에서 안전하게 관리하면서 생성형 AI 활용을 지속적으로 확대할 수 있는 운영 체계를 확보했습니다.