사내용 LLM + RAG 도입해보신 분 계신가요?

안녕하세요.
개발 경력 15년 차이고, 올해부터 사내용 LLM 시스템을 직접 개발하고 있습니다.

현재는 내부 문서를 벡터화해 검색 가능한 형태로 구성한 뒤, RAG(Retrieval-Augmented Generation) 방식으로 OpenAI API와 연동해서 사내 질의응답 시스템을 만들고 있습니다.
간단히 말해, "사내 문서를 기반으로 대화형 검색이 가능한 GPT 시스템"을 구축 중입니다.

다만, 실제로 사용했을 때 얼마나 효율적일지, 장기적으로 회사 내에서 지속적으로 활용 가능한 구조인지 조금 고민이 되고 있습니다.
관리/보안/업데이트/도입 후 활용률 등 고려할 점이 생각보다 많더라고요.

혹시 이미 비슷한 시스템을 도입하셨거나, 사내에서 RAG 기반 LLM 프로젝트를 진행 중이신 분 계실까요?
구축 과정에서 어떤 어려움이 있었는지, 실제 활용률은 어떤지, 혹은 어떤 방식으로 내부 확산을 시도하셨는지도 궁금합니다.

비슷한 방향 고민하고 계신 분들과 의견 나누고 싶습니다.
감사합니다.