Skip to content

[Feat] BGE-M3 수집과 Ollama RAG 호출 지표 연결 - #481

Merged
Gimini-3 merged 8 commits into
developfrom
feat/479
Oct 10, 2026
Merged

Gimini-3 merged 8 commits into
developfrom
feat/479

Conversation

@Gimini-3

Copy link
Copy Markdown
Contributor

Closes #479

변경

  • OllamaClient의 complete/partial/failure 호출 수·소요 시간과 응답이 제공한 input/output 토큰 수를 저카디널리티 Micrometer 지표로 기록합니다. 프롬프트·답변·사용자 식별자는 레이블에 넣지 않습니다.
  • BGE /metrics는 배포 설정에서 지정한 관측 클라이언트만 허용합니다. /embed는 기존 앱 경로를 유지합니다.
  • Prometheus의 로컬 BGE target을 파일 탐색으로 분리하고 GCP 관측 VM에는 BGE 대상·태그 제한 방화벽을 적용했습니다.

검증

  • Java 16/16, BGE Python 23/23, promtool config 통과.
  • GCP 앱 A→BGE /health 200·/metrics 403; 관측 VM→/metrics 200; Prometheus up=1.
  • 공개 PDF 검색 4건 후 Grafana 인증 자료원에서 BGE 요청 2건, Ollama partial 1건·177.659초·출력 토큰 350개를 확인했습니다.
  • 첫 Worker 시도의 시험 프로필 누락으로 앱 기동 실패·공개 503이 발생했습니다. 원복 후 필수 프로필을 포함해 재시험했으며 문서에 숨기지 않았습니다.

한계·종료

  • 이 GCP 실요청의 답변은 SUCCESS였지만 부분 답변(69자, 정답 마커 미포함)입니다. complete/failure 지표는 로컬 테스트로만 검증했습니다.
  • 시험 후 Ollama·BGE VM은 중지, 앱 A/B·부하·관측 VM은 원래 실행 상태로 복귀했습니다. 현재 BGE 최신 up=0일 수 있습니다.

상세: docs/test-results/gimin-479-gcp-rag-observability-20261010.md

@coderabbitai

coderabbitai Bot commented Oct 10, 2026 •

Copy link
Copy Markdown

Important

  • 🔍 Trigger review

This repository does not receive automatic reviews because it has fewer than 10 stars.

⚙️ Run configuration
  • Configuration used: Repository: DocGrid/docgrid/.coderabbit.yaml
  • Review profile: CHILL
  • Plan: Advanced
  • Run ID: 4f80442f-8c38-499d-8fbb-1787c0c578ce

  • Autofix · Keep fixing CodeRabbit findings and required CI, and resolving merge conflicts

Thanks for using CodeRabbit! It's free for OSS, and your support helps us grow. If you like it, consider giving us a shout-out.

❤️ Share

Comment @coderabbitai help to get the list of available commands.

@Gimini-3
Gimini-3 merged commit 3b666f8 into develop Oct 10, 2026
2 checks passed
@Gimini-3 Gimini-3 self-assigned this Oct 13, 2026
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

[Feat] GCP BGE-M3·Ollama RAG 관측 지표 연결

1 participant