사용자 요청은 사내의 어느 구성으로 이동하나요
PiGNiTO는 Open Source LLM을 기반으로 조직 안에서 작동하는 통합 AI 플랫폼입니다. 사용자 웹 UI와 PiG 에이전트에서 요청을 받고, 코어의 Agent 실행기·RAG 엔진·MCP 클라이언트·자연어 SQL 변환기가 문서 저장소와 사내 DB·시스템을 활용합니다. 추론·임베딩·RAG 검색은 내부에서 수행하며, 외부 도구는 승인한 범위에서 사용합니다.
웹 UI, PiG 에이전트와 외부 임베드 API 중 이용 방식에 맞는 구성을 정합니다.
외부 연결이 제한된 기관의 두 가지 요청
외부 연결이 제한된 기관에서 규정 문의와 운영 현황 조회를 검토하는 예시입니다.
내부 규정에 대한 질문
규정 문의: 내부 문서 저장소에서 관련 내용을 검색해 답변 초안을 준비합니다. 자료의 반입 경로와 프로젝트별 공개 범위를 정합니다.
운영 데이터에 대한 조회
운영 조회: 사내 DB를 조회 대상으로 연결합니다. 조회 가능한 테이블과 계정 권한, 민감 정보가 포함되는 결과를 확인합니다.
모델 처리와 설치 이후의 운영
처리 위치: 사용할 모델과 임베딩·검색 구성이 내부 경계에서 동작하는지 확인합니다. 외부 도구가 필요한 작업은 연결 목적과 승인 범위를 따로 기록합니다.
운영: 설치 후 자료 갱신, 계정 변경, 장애 대응과 업데이트를 누가 수행할지 정합니다. 외부 접속이 제한된 경우 지원 경로도 함께 협의합니다.
모델·검색 저장소·계정 구성의 선택
| 구성 항목 | 선택 시 확인할 점 |
|---|---|
| LLM | OpenAI OSS·Gemma·Llama·Qwen·Deepseek 등에서 적용 모델을 검토합니다. 버전과 필요한 자원, 실제 적용 조합은 설치 환경에 맞춰 정합니다. |
| 검색 저장소 | Pinecone·Milvus·ChromaDB 등을 검토할 수 있습니다. 폐쇄망에서는 실제 배치 방식과 데이터 경로가 내부 운영 조건에 맞는지 확인해야 합니다. |
| 보안·계정 | 프로젝트별 권한과 사용 이력을 관리하며, SSO·LDAP·AD 연동은 환경에 맞춰 설계합니다. |
사양과 견적을 정할 때 필요한 입력
- 예상 동시 이용자와 등록 이용자, 사용할 모델과 문서·데이터 규모를 알려 주세요. 필요한 CPU·GPU·메모리와 처리 용량은 해당 조건에 맞춰 산정합니다.
- 연동할 시스템의 수와 종류, 추가 개발과 도메인 특화 학습의 필요에 따라 구축 범위와 비용이 달라집니다.
- 하드웨어·네트워크 비용은 별도로 확인합니다. 초기 운영 지원과 운영 담당자 교육을 제공하며, 지원 시간과 장애 대응 조건은 협의합니다.
서버가 내부에 있다는 설명과 실제 데이터 흐름이 일치하는지 구성도로 확인하세요. 모델 호출, 검색 저장소, 외부 도구와 기술 지원 경로를 함께 점검해야 설치 환경에 맞는 제안을 비교할 수 있습니다.
내부 설치 조건을 함께 검토하세요
현재 인프라와 네트워크 제한, 우선 적용 업무를 알려 주세요.