기업용 생성형 AI 솔루션 기업 마인즈앤컴퍼니가 한국중부발전에 발전사 최초로 AI 업무서비스를 폐쇄망 환경에서 성공적으로 구축했다고 12일 밝혔다. 이번 프로젝트는 보고서 요약·생성, 문서 기반 질의응답, 번역 등의 기능을 제공하는 AI 비서를 도입해 임직원의 업무 효율성을 높이는 것을 목표로 한다.

이번 사업을 통해 중부발전 내 다양한 부서에서 AI 업무서비스가 폭넓게 활용될 예정이다. 번역, 문서 요약, 초안 생성과 같은 공통적인 업무 지원뿐만 아니라, 발전설비 고장이력 및 발전정지조사 이력 질의응답 등 발전 전문 부서를 위한 특화 기능도 포함됐다.

특히 한국중부발전은 발전소 업무에 최적화된 ‘에이전트형 AI 업무서비스’의 고도화를 추진하고 있다. 마인즈앤컴퍼니는 AI 기술 지원을 통해 이를 적극 뒷받침하며, 이번 협업이 발전소 업무 혁신의 중요한 전환점이 될 것으로 기대된다.

이번 프로젝트에서 특히 주목할 점은 법률 및 사규 문서 검색 및 질의응답 서비스의 높은 정확성과 만족도다. 법률 및 사규 문서는 AI가 다루기 어려운 영역으로 꼽히지만, 마인즈앤컴퍼니의 기술을 통해 발전업계에서 필요한 법률, 시행령, 내부 가이드라인 등을 정확하게 검색하고 질의응답이 가능하도록 구현했다.

이러한 기능은 발전업계를 넘어 금융업, 제조업, 공공기관 등 규제 변화에 민감한 산업에서도 즉시 활용될 수 있을 것으로 전망된다. AI를 활용한 법률·사규 검색이 기존 업무 방식을 혁신하는 계기가 될 것으로 보인다.

이번에 도입된 AI 업무비서는 대규모 언어 모델(LLM)을 기반으로 문서 작성, 요약, 번역 등의 기본 업무를 수행하며, 상식 질의응답도 지원한다. 또한 최신 정보 검색이 필요한 경우 LLM이 질의 의도를 판단한 후 네이버, 구글 등의 외부 검색 서비스를 연동해 정확한 정보를 제공한다.

업무 매뉴얼, 절차서, 지침서, 결재문서 등에 대한 질의응답 서비스를 위해 중부발전 내 대량의 문서를 활용해 RAG(Retrieval-Augmented Generation) QA 기능도 적용됐다.

발전사에 생성형 AI 업무서비스를 도입하는 과정에서 가장 중요한 요소 중 하나는 보안 문제 해결이다. 이를 위해 마인즈앤컴퍼니는 AI 모델과 서비스를 중부발전 폐쇄망 내 온프레미스(On-Premise) 형태로 설치했다.

특히 Llama 3.1 405B, Tulu 405B와 같은 고성능 오픈API 모델을 사내 반입한 후 서비스 적용을 테스트하고, 발전사 업무에 적합한 모델을 기반으로 AI 업무서비스를 구축하고 있다. 대형 파라미터 모델을 폐쇄망 내 도입함으로써 별도의 파인튜닝 없이도 높은 사용성을 확보했다.

마인즈앤컴퍼니 고석태 대표는 “이번 프로젝트는 발전산업의 디지털 전환을 앞당기는 중요한 사례로, 초대형 AI 모델의 내부망 구축이 가능하다는 것을 입증했다”며 “앞으로도 보안이 중요한 산업군을 중심으로 AI 솔루션을 확대해 나갈 것”이라고 밝혔다.