• 요약
• 동기
  • 목표
• 결정 사항

Cloud Connector 아키텍처 진화

요약

이 설계 문서는 Cloud Connector 기술 기반의 아키텍처 결정 사항과 제안된 변경 사항을 다룹니다. 현재 상태에 대한 정확한 설명은 공식 아키텍처 문서를 참조하세요.

동기

우리의 “해결해야 할 큰 문제”는 SaaS 및 Self-Managed 제공에 기능 동등성을 제공하는 것입니다. 지금까지 SaaS 및 Self-Managed (SM) GitLab 인스턴스는 AI gateway에서만 기능을 소비했으며 해당 gateway는 주어진 요청이 해당 AI 기능 엔드포인트에 액세스할 수 있는지 확인하는 Access Layer를 구현합니다.

이 접근 방식은 우리에게 많은 도움이 되었습니다. 왜냐하면:

• 아키텍처적으로 SM 사용자가 우리가 호스팅하는 AI 기능을 소비할 수 있도록 하는 데 필요한 변경이 최소화되었습니다.
• GitLab.com의 지속적인 개발에 최소한의 마찰을 유발했습니다.
• 시장에 진입하는 시간을 줄였습니다.

그러나 AI gateway만으로는 더 넓은 종류의 기능에 충분히 추상화되지 못합니다. AI gateway는 정의상 AI 기능만 제공하도록 설계되었기 때문입니다.

목표

이 설계도를 사용하여 Cloud Connector의 기술적 프레임워크에 점진적인 변경을 가해 SaaS 및 Self-Managed/GitLab Dedicated 고객을 오늘날의 AI gateway와 동일하게 대상으로 하는 다른 백엔드 서비스를 가능하게 할 것입니다. 이것은 모든 GitLab 고객에게 기능 동등성을 제공하는 우리의 미션을 직접적으로 지원할 것입니다.

우리가 집중하고 있는 주요 영역은 다음과 같습니다:

• 고객을 위한 단일 액세스 포인트 제공 고객들은 계속 증가하는 GitLab 호스팅 서비스 목록에 대한 아웃바운드 트래픽을 허용하기 위해 웹 프록시와 방화벽을 구성하는 데 거부감을 느끼는 것으로 밝혀졌습니다. 따라서 우리는 cloud.gitlab.com에 글로벌로 로드 밸런스된 진입점을 설치하기로 결정했습니다. 이 진입점은 요청된 경로를 기반으로 간단한 라우팅 결정을 내릴 수 있어 Cloud Connector가 covered하는 기능 범위를 확대하는 과정에서 다양한 백엔드 서비스를 대상으로 할 수 있게 합니다.
  • 상태: 완료. 이 결정은 ADR001로 문서화되었습니다.
• 인스턴스 관리자가 제품 사용 데이터를 제어할 수 있게 함 Cloud Connector 서비스의 텔레메트리는 현재 AI telemetry의 장기적 비전인 Unified Internal 이벤트 추적과 독립적으로 구현되어 있습니다. Cloud Connector가 AI 이상의 사용 사례를 추가로 구현함에 따라 AI 관련 텔레메트리를 기존의 기술적 선택과 일치시키고자 합니다.
  • 상태: 발견 중.
• Rate-limiting 기능 트래픽이 증가하는 경우 Cloud Connector와 통합된 AI gateway나 TanuKey 등의 백엔드는 리소스 제약 사항을 경험할 수 있습니다. GitLab은 결정되어야 하는 어떤 인스턴스를 다른 인스턴스보다 우선시해야 하는지에 대한 일관된 전략을 적용해야 합니다. 이 전략은 모든 Cloud Connector 서비스에 걸쳐 균일하게 적용되어야 합니다.
  • 상태: 계획 중.

결정 사항

• ADR-001: 단일 진입점으로 로드 밸런서 사용