참조 아키텍처: 최대 50,000 사용자까지

Tier: Premium, Ultimate Offering: Self-Managed

이 페이지에서는 최대 50,000명의 사용자 부하를 고려한 GitLab 참조 아키텍처에 대해 설명합니다. 이 아키텍처는 상당한 여유를 가지고 있습니다.

참조 아키텍처 전체 목록은 사용 가능한 참조 아키텍처를 참조하세요.

참고:
이 아키텍처를 배포하기 전에, 먼저 메인 설명서를 읽는 것이 좋습니다. 특히 시작하기 전에사용할 아키텍처 결정 섹션을 참조하세요.

  • 대상 부하: API: 1000 RPS, 웹: 100 RPS, Git (Pull): 100 RPS, Git (Push): 20 RPS
  • 고가용성: 가능 (Praefect는 고가용성을 위해 타사 PostgreSQL 솔루션을 필요로 합니다.)
  • 예상 비용: 비용 테이블 참조
  • 클라우드 네이티브 하이브리드 대체 옵션: 가능
  • 어떤 참조 아키텍처를 사용해야 하는지 확신이 없나요? 자세한 정보를 위해 여기로 이동
서비스 노드 수 구성 GCP AWS Azure
외부 로드 밸런서3 1 16 vCPU, 14.4 GB 메모리 n1-highcpu-16 c5.4xlarge F16s v2
Consul1 3 2 vCPU, 1.8 GB 메모리 n1-highcpu-2 c5.large F2s v2
PostgreSQL1 3 32 vCPU, 120 GB 메모리 n1-standard-32 m5.8xlarge D32s v3
PgBouncer1 3 2 vCPU, 1.8 GB 메모리 n1-highcpu-2 c5.large F2s v2
내부 로드 밸런서3 1 16 vCPU, 14.4 GB 메모리 n1-highcpu-16 c5.4xlarge F16s v2
Redis/Sentinel - Cache2 3 4 vCPU, 15 GB 메모리 n1-standard-4 m5.xlarge D4s v3
Redis/Sentinel - Persistent2 3 4 vCPU, 15 GB 메모리 n1-standard-4 m5.xlarge D4s v3
Gitaly5 3 64 vCPU, 240 GB 메모리6 n1-standard-64 m5.16xlarge D64s v3
Praefect5 3 4 vCPU, 3.6 GB 메모리 n1-highcpu-4 c5.xlarge F4s v2
Praefect PostgreSQL1 1+ 2 vCPU, 1.8 GB 메모리 n1-highcpu-2 c5.large F2s v2
Sidekiq7 4 4 vCPU, 15 GB 메모리 n1-standard-4 m5.xlarge D4s v3
GitLab Rails7 12 32 vCPU, 28.8 GB 메모리 n1-highcpu-32 c5.9xlarge F32s v2
모니터링 노드 1 4 vCPU, 3.6 GB 메모리 n1-highcpu-4 c5.xlarge F4s v2
오브젝트 스토리지4 - - - - -

각주:

  1. 신뢰할 수 있는 서드파티 외부 PaaS PostgreSQL 솔루션에서 선택적으로 실행할 수 있습니다. 자세한 내용은 사용자 고유의 PostgreSQL 인스턴스 제공를 참조하세요.
  2. 신뢰할 수 있는 서드파티 외부 PaaS Redis 솔루션에서 선택적으로 실행할 수 있습니다. 자세한 내용은 사용자 고유의 Redis 인스턴스 제공를 참조하세요.
    • Redis는 주로 단일 스레드이며 CPU 코어 증가로부터 큰 이점을 받지 않습니다. 이러한 규모의 아키텍처의 경우, 최적의 성능을 위해 별도의 캐시 및 지속 인스턴스를 구분하는 것이 강력히 권장됩니다.
  3. 신뢰할 수 있는 서드파티 로드 밸런싱 서비스 (LB PaaS)에서 선택적으로 실행할 수 있습니다. 자세한 내용은 권장되는 클라우드 제공업체 및 서비스를 참조하세요.
  4. 신뢰할 수 있는 클라우드 제공자 또는 Self-Managed 솔루션에서 실행해야 합니다. 자세한 내용은 오브젝트 스토리지 구성를 참조하세요.
  5. Gitaly 클러스터는 결함 허용의 이점을 제공하지만 추가적인 설정 및 관리 복잡성이 동반됩니다. Gitaly 클러스터 배포 전에 기술적 제약 사항 및 고려 사항을 검토하세요. 샤딩된 Gitaly를 원하는 경우 Gitaly의 사양은 위와 동일하게 사용하세요.
  6. Gitaly 사양은 주로 건강한 상태의 사용 패턴 및 저장소 크기의 고 백분위 범위를 기반으로 합니다. 그러나 만약 대규모 단일 레포지토리 (몇 기가바이트보다 큰)나 추가적인 워크로드가 있다면, Git 및 Gitaly 성능에 크게 영향을 미치며 추가적인 조정이 필요할 수 있습니다.
  7. 컴포넌트는 상태 데이터를 저장하지 않으므로 Auto Scaling 그룹 (ASG)에 배치할 수 있습니다. 그러나 GitLab Rails의 경우 마이그레이션Mailroom과 같은 일부 프로세스는 하나의 노드에서만 실행되어야 합니다.

참고:
인스턴스를 구성하는 PaaS 솔루션의 경우, 견고한 클라우드 아키텍처 관행에 부합하기 위해 최소 3개의 노드를 3개의 다른 가용 영역에 구현하는 것이 강력히 권장됩니다.

요구 사항

시작하기 전에 참조 아키텍처를 위해 요구 사항을 참조하십시오.

테스트 방법론

50k 아키텍처는 많은 워크플로우를 커버하도록 설계되었으며 정기적으로 품질 엔지니어링 팀에 의해 스모크 및 성능 테스트가 아래의 엔드포인트 스루풋 목표에 대해 진행됩니다:

  • API: 1000 RPS
  • 웹: 100 RPS
  • Git (Pull): 100 RPS
  • Git (Push): 20 RPS

위의 목표는 실제 고객 데이터를 기반으로 선정되었으며, CI 및 기타 워크로드와 함께 추가 큰 여유가 고려되었습니다.

만일 위의 엔드포인트 목표 대비 정기적인 더 높은 스루풋을 갖는 메트릭이 있다면, 대규모 모노 저장소 또는 주목할만한 추가 워크로드가 성능 환경에 큰 영향을 미칠 수 있으며, 추가적인 조정이 필요할 수 있습니다. 이 경우, 링크된 문서를 참조하고, 더 나아가 고객 성공 매니저지원팀에 연락하여 추가 지침을 얻는 것이 강력히 권장됩니다.

테스트는 정기적으로 GitLab 성능 도구 (GPT)와 해당 데이터셋을 통해 수행되며, 이는 누구나 사용할 수 있습니다. 이 테스트의 결과는 GPT 위키에서 공개적으로 제공됩니다. 테스트 전략에 대한 자세한 정보는 문서의 이 섹션을 참조하세요.

테스트에 사용된 로드 밸런서는 리눅스 패키지 환경의 HAProxy이거나 클라우드 네이티브 하이브리드의 경우 등가의 클라우드 제공자 서비스를 사용합니다. 이러한 선택은 특정 요구사항이나 추천사항을 나타내는 것이 아니며,신뢰할 수 있는 로드 밸런서의 대부분이 잘 작동할 것으로 기대됩니다.

구성 요소 설정

50,000명의 사용자를 수용하기 위해 GitLab 및 해당 구성 요소를 다음과 같이 설정하십시오:

  1. 외부 로드 밸런서 구성
    • GitLab 애플리케이션 서비스 노드의 로드 밸런싱을 처리합니다.
  2. 내부 로드 밸런서 구성
    • 로드 처리
  3. Consul 구성
  4. PostgreSQL 구성: GitLab의 데이터베이스
  5. PgBouncer 구성
  6. Redis 구성
  7. Gitaly Cluster 구성
    • Git 저장소에 대한 액세스를 제공합니다.
  8. Sidekiq 구성
  9. 기본 GitLab Rails 애플리케이션 구성
    • Puma, Workhorse, GitLab Shell 실행 및 모든 프론트엔드 요청 (UI, API, Git over HTTP/SSH 포함) 서비스
  10. Prometheus 구성: GitLab 환경 모니터링
  11. 객체 저장소 구성
    • 공유 데이터 객체에 사용됨
  12. 고급 검색 구성 (선택 사항): 전체 GitLab 인스턴스에서 더 빠르고, 더욱 고급 코드 검색을 위함입니다.

서버는 동일한 10.6.0.0/24 사설 네트워크 범위에서 시작하여 서로에게 여유롭게 연결할 수 있습니다.

다음 목록에는 각 서버 및 해당 할당된 IP에 대한 설명이 포함되어 있습니다:

  • 10.6.0.10: 외부 로드 밸런서
  • 10.6.0.11: Consul 1
  • 10.6.0.12: Consul 2
  • 10.6.0.13: Consul 3
  • 10.6.0.21: PostgreSQL 기본
  • 10.6.0.22: PostgreSQL 보조 1
  • 10.6.0.23: PostgreSQL 보조 2
  • 10.6.0.31: PgBouncer 1
  • 10.6.0.32: PgBouncer 2
  • 10.6.0.33: PgBouncer 3
  • 10.6.0.40: 내부 로드 밸런서
  • 10.6.0.51: Redis - 캐시 기본
  • 10.6.0.52: Redis - 캐시 복제 1
  • 10.6.0.53: Redis - 캐시 복제 2
  • 10.6.0.61: Redis - 지속적인 기본
  • 10.6.0.62: Redis - 지속적인 복제 1
  • 10.6.0.63: Redis - 지속적인 복제 2
  • 10.6.0.91: Gitaly 1
  • 10.6.0.92: Gitaly 2
  • 10.6.0.93: Gitaly 3
  • 10.6.0.131: Praefect 1
  • 10.6.0.132: Praefect 2
  • 10.6.0.133: Praefect 3
  • 10.6.0.141: Praefect PostgreSQL 1 (비 HA)
  • 10.6.0.101: Sidekiq 1
  • 10.6.0.102: Sidekiq 2
  • 10.6.0.103: Sidekiq 3
  • 10.6.0.104: Sidekiq 4
  • 10.6.0.111: GitLab 애플리케이션 1
  • 10.6.0.112: GitLab 애플리케이션 2
  • 10.6.0.113: GitLab 애플리케이션 3
  • 10.6.0.114: GitLab 애플리케이션 4
  • 10.6.0.115: GitLab 애플리케이션 5
  • 10.6.0.116: GitLab 애플리케이션 6
  • 10.6.0.117: GitLab 애플리케이션 7
  • 10.6.0.118: GitLab 애플리케이션 8
  • 10.6.0.119: GitLab 애플리케이션 9
  • 10.6.0.120: GitLab 애플리케이션 10
  • 10.6.0.121: GitLab 애플리케이션 11
  • 10.6.0.122: GitLab 애플리케이션 12
  • 10.6.0.151: 프로메테우스

외부 로드 밸런서 구성

다중 노드 GitLab 구성에서는 애플리케이션 서버로의 트래픽을 라우팅하기 위해 외부 로드 밸런서가 필요합니다.

어떤 로드 밸런서를 사용할지 또는 정확한 구성은 GitLab 문서의 범위를 벗어나지만 일반적인 요구 사항에 대한 자세한 정보는 로드 밸런서를 참조하십시오. 이 섹션은 선택한 로드 밸런서를 구성하는 내용에 중점을 둘 것입니다.

준비 확인

외부 로드 밸런서가 모니터링 엔드포인트를 갖춘 작동하는 서비스로만 라우팅하는지 확인하십시오. 준비 확인은 모든 추가 구성이 모니터링/ip_whitelist에서 노드에 필요합니다. 그렇지 않으면 외부 로드 밸런서가 연결할 수 없게 됩니다.

포트

사용할 기본 포트는 아래 표에 나와 있습니다.

LB 포트 백엔드 포트 프로토콜
80 80 HTTP (1)
443 443 TCP 또는 HTTPS (1) (2)
22 22 TCP
  • (1): 웹 터미널 지원을 위해서는 로드 밸런서가 WebSocket 연결을 올바르게 처리해야 합니다. HTTP 또는 HTTPS 프록시를 사용할 때는 로드 밸런서가 ConnectionUpgrade hop-by-hop 헤더를 통과시키도록 구성되어야 합니다. 자세한 내용은 웹 터미널 통합 가이드를 참조하십시오.
  • (2): 포트 443에 HTTPS 프로토콜을 사용하는 경우, 로드 밸런서에 SSL 인증서를 추가해야 합니다. SSL을 GitLab 애플리케이션 서버에서 종료하려면 TCP 프로토콜을 사용하십시오.

GitLab Pages를 사용하는 경우 사용자 지정 도메인을 지원하려면 몇 가지 추가 포트 구성이 필요합니다. GitLab Pages는 별도의 가상 IP 주소가 필요합니다. 새 가상 IP 주소에 /etc/gitlab/gitlab.rbpages_external_url을 지정하도록 DNS를 구성하십시오. 자세한 내용은 GitLab Pages 문서를 참조하십시오.

LB 포트 백엔드 포트 프로토콜
80 다양 (1) HTTP
443 다양 (1) TCP (2)
  • (1): GitLab Pages의 백엔드 포트는 gitlab_pages['external_http']gitlab_pages['external_https'] 설정에 따라 다릅니다. 자세한 내용은 GitLab Pages 문서를 참조하십시오.
  • (2): GitLab Pages의 포트 443은 항상 TCP 프로토콜을 사용해야 합니다. 사용자는 로드 밸런서에서 SSL을 종료시키는 경우 사용자 정의 SSL로 사용자 정의 도메인을 구성할 수 있습니다.

대체 SSH 포트

일부 조직은 SSH 포트 22를 열지 않는 정책을 가지고 있습니다. 이 경우 사용자가 443번 포트에서 SSH를 사용할 수 있는 대체 SSH 호스트 이름을 구성하는 것이 도움이 될 수 있습니다. 대체 SSH 호스트 이름은 다른 GitLab HTTP 구성에 비해 새 가상 IP 주소가 필요할 것입니다.

altssh.gitlab.example.com과 같은 대체 SSH 호스트 이름의 DNS를 구성하십시오.

LB 포트 백엔드 포트 프로토콜
443 22 TCP

SSL

다음 질문은 환경에서 SSL을 어떻게 다룰지입니다. 여러 가지 옵션이 있습니다.

응용 프로그램 노드에서 SSL 종료

로드 밸런서를 구성하여 포트 443에서의 연결을 HTTP(S) 프로토콜이 아닌 TCP로 전달하십시오. 이렇게 하면 연결이 응용 프로그램 노드의 NGINX 서비스로 그대로 전달됩니다. NGINX는 SSL 인증서를 갖고 443번 포트에서 수신합니다.

SSL 인증서 관리 및 NGINX 구성에 대한 자세한 내용은 HTTPS 문서를 참조하십시오.

백엔드 SSL 없이 로드 밸런서가 SSL 종료

로드 밸런서를 구성하여 TCP 대신 HTTP(S) 프로토콜을 사용하도록 설정하십시오. 로드 밸런서는 SSL 인증서를 관리하고 SSL을 종료할 것입니다.

로드 밸런서와 GitLab 간의 통신이 안전하지 않기 때문에 추가 구성이 필요합니다. 자세한 내용은 프록시 SSL 문서를 참조하십시오.

로드 밸런서가 백엔드 SSL로 SSL을 종료합니다.

로드 밸런서를 ‘TCP’가 아닌 ‘HTTP(S)’ 프로토콜을 사용하도록 구성하십시오. 로드 밸런서는 최종 사용자가 볼 SSL 인증서를 관리할 것입니다.

이 시나리오에서는 로드 밸런서와 NGINX 간에 트래픽도 안전합니다. 연결이 안전하게 이루어지기 때문에 프록시된 SSL 구성을 추가할 필요가 없습니다. 그러나 GitLab에 SSL 인증서를 구성해야 합니다. SSL 인증서를 관리하고 NGINX를 구성하는 자세한 내용은 HTTPS 문서를 참조하십시오.

내부 로드 밸런서 구성

다중 노드 GitLab 구성에서 내부 로드 밸런서를 구성해야 할 것입니다. 이로써 필요한 경우 PgBouncerPraefect (Gitaly 클러스터)와 같은 내부 구성 요소로의 트래픽을 라우팅할 수 있습니다.

사용할 로드 밸런서나 정확한 구성 등은 GitLab 문서의 범위를 벗어나지만, 자세한 요구 사항에 대한 자세한 내용은 로드 밸런서를 참조하십시오. 이 섹션은 선택한 로드 밸런서의 구체적인 구성에 중점을 둘 것입니다.

다음 IP가 예시로 사용됩니다:

  • 10.6.0.40: 내부 로드 밸런서

다음은 HAProxy를 사용하여 수행하는 방법입니다:

global
    log /dev/log local0
    log localhost local1 notice
    log stdout format raw local0

defaults
    log global
    default-server inter 10s fall 3 rise 2
    balance leastconn

frontend internal-pgbouncer-tcp-in
    bind *:6432
    mode tcp
    option tcplog

    default_backend pgbouncer

frontend internal-praefect-tcp-in
    bind *:2305
    mode tcp
    option tcplog
    option clitcpka

    default_backend praefect

backend pgbouncer
    mode tcp
    option tcp-check

    server pgbouncer1 10.6.0.31:6432 check
    server pgbouncer2 10.6.0.32:6432 check
    server pgbouncer3 10.6.0.33:6432 check

backend praefect
    mode tcp
    option tcp-check
    option srvtcpka

    server praefect1 10.6.0.131:2305 check
    server praefect2 10.6.0.132:2305 check
    server praefect3 10.6.0.133:2305 check

자세한 지침은 선호하는 로드 밸런서의 문서를 참조하십시오.

Consul 구성

이제 Consul 서버를 설정합니다.

참고: Consul은 홀수 개수의 3개 노드 이상으로 배포되어야 합니다. 이는 노드가 다수결의 일부로 투표를 수행할 수 있도록 하는 것입니다.

다음 IP가 예시로 사용됩니다:

  • 10.6.0.11: Consul 1
  • 10.6.0.12: Consul 2
  • 10.6.0.13: Consul 3

Consul을 구성하려면:

  1. Consul을 호스팅할 서버에 SSH로 로그인합니다.
  2. 선택한 리눅스 패키지를 다운로드하고 설치합니다. 페이지의 설치 단계 1 및 2만 따르고 현재 설치와 동일한 버전 및 유형(커뮤니티 또는 엔터프라이즈 에디션)의 올바른 리눅스 패키지를 선택해야 합니다.
  3. /etc/gitlab/gitlab.rb를 편집하고 다음 내용을 추가합니다:

    roles(['consul_role'])
    
    ## Prometheus를 위한 서비스 검색 활성화
    consul['monitoring_service_discovery'] =  true
    
    ## Consul 서버 노드의 IP
    ## FQDN을 사용하거나 IP와 혼용하여 사용할 수도 있습니다.
    consul['configuration'] = {
       server: true,
       retry_join: %w(10.6.0.11 10.6.0.12 10.6.0.13),
    }
    
    # 수출자가 청취할 네트워크 주소 설정
    node_exporter['listen_address'] = '0.0.0.0:9100'
    
    # 업그레이드 시 데이터베이스 마이그레이션 자동 실행 방지
    gitlab_rails['auto_migrate'] = false
    
  4. 첫 번째 리눅스 패키지 노드에서 /etc/gitlab/gitlab-secrets.json 파일을 복사하여 이 서버의 동일한 이름의 파일을 추가하거나 교체합니다. 이 서버가 구성하는 첫 번째 리눅스 패키지 노드인 경우에는 이 단계를 건너뛸 수 있습니다.

  5. 변경 사항이 적용되려면 GitLab을 다시 구성합니다.

  6. 모든 다른 Consul 노드에 대해 단계를 다시 진행하고 올바른 IP를 설정했는지 확인해야 합니다.

3번째 Consul 서버의 프로비저닝이 완료되면 Consul 리더가 _선출_됩니다. Consul 로그 sudo gitlab-ctl tail consul을 보면 ...[INFO] consul: New leader elected: ...가 표시됩니다.

현재의 Consul 멤버(서버, 클라이언트)를 나열할 수 있습니다:

sudo /opt/gitlab/embedded/bin/consul members

GitLab 서비스가 실행 중인지 확인할 수 있습니다:

sudo gitlab-ctl status

출력은 다음과 유사해야 합니다:

run: consul: (pid 30074) 76834s; run: log: (pid 29740) 76844s
run: logrotate: (pid 30925) 3041s; run: log: (pid 29649) 76861s
run: node-exporter: (pid 30093) 76833s; run: log: (pid 29663) 76855s

PostgreSQL 구성

이 섹션에서는 GitLab과 함께 사용되는 고가용성 PostgreSQL 클러스터를 구성하는 방법에 대해 안내받게 됩니다.

자체 PostgreSQL 인스턴스 제공

선택적으로 서드 파티 외부 PostgreSQL 서비스를 사용할 수 있습니다.

이를 위해서는 신뢰할 수 있는 공급 업체나 솔루션이 필요합니다. Google Cloud SQLAmazon RDS가 작동하는 것으로 알려져 있습니다. 그러나 Amazon Aurora는 14.4.0부터 기본적으로 활성화된 로드 밸런싱과 호환되지 않습니다. 자세한 정보는 권장하는 클라우드 제공업체 및 서비스를 참조하세요.

서드 파티 외부 서비스를 사용하는 경우:

  1. 서드 파티 외부 서비스를 사용할 때, HA Linux 패키지 PostgreSQL 설정은 PostgreSQL, PgBouncer, 그리고 Consul을 포함합니다. 이러한 구성요소는 더 이상 필요하지 않을 것입니다.
  2. 데이터베이스 요구 사항 문서에 따라 PostgreSQL을 설정합니다.
  3. 원하는대로 gitlab 사용자를 설정하고 비밀번호를 지정합니다. gitlab 사용자는 gitlabhq_production 데이터베이스를 생성할 권한이 필요합니다.
  4. GitLab 애플리케이션 서버를 적절한 세부 정보로 구성합니다. 이 단계는 GitLab Rails 애플리케이션 구성에서 다룹니다.
  5. HA를 달성하기 위해 필요한 노드 수는 Linux 패키지와는 다를 수 있으며, 일치시킬 필요는 없습니다.
  6. 그러나 추가적인 성능 향상을 위해 Read Replica를 통한 데이터베이스 로드 밸런싱이 원하는 경우, 참조 아키텍처의 노드 수를 따르는 것이 권장됩니다.

스탠드얼론 PostgreSQL(Linux 패키지 사용)

복제 및 장애 조치를 위한 PostgreSQL 클러스터를 위한 권장 Linux 패키지 구성은 다음과 같습니다:

  • PostgreSQL 노드 최소 세 개
  • Consul 서버 노드 최소 세 개
  • 기본 데이터베이스 읽기 및 쓰기를 추적하고 처리하는 최소 세 개의 PgBouncer 노드
  • 데이터베이스 로드 밸런싱 활성화

    각 PostgreSQL 노드에 구성된 지역 PgBouncer 서비스를 참조하세요. 이는 기본적인 PgBouncer 클러스터와 별도로 구성됨에 유의하세요.

다음과 같은 IP를 예시로 사용합니다:

  • 10.6.0.21: PostgreSQL 기본
  • 10.6.0.22: PostgreSQL 보조 1
  • 10.6.0.23: PostgreSQL 보조 2

먼저, 각 노드에 리눅스 GitLab 패키지를 설치합니다. 단계를 따라, 첫 번째 단계에서 필요한 종속성을 설치하고, 두 번째 단계에서 GitLab 패키지 저장소를 추가합니다. 두 번째 단계에서 GitLab을 설치할 때, EXTERNAL_URL 값을 제공하지 않습니다.

PostgreSQL 노드

  1. PostgreSQL 노드 중 하나에 SSH로 접속합니다.
  2. PostgreSQL 사용자/비밀번호 쌍을 위한 비밀번호 해시를 생성합니다. 여기서는 기본 사용자 gitlab을 사용할 것으로 가정합니다 (권장). 이 명령은 비밀번호와 확인을 요청할 것입니다. 이 명령에서 생성된 값은 다음 단계에서 <postgresql_password_hash>의 값으로 사용합니다:

    sudo gitlab-ctl pg-password-md5 gitlab
    
  3. PgBouncer 사용자/비밀번호 쌍을 위한 비밀번호 해시를 생성합니다. 여기서는 기본 사용자 pgbouncer를 사용할 것으로 가정합니다 (권장). 이 명령은 비밀번호와 확인을 요청할 것입니다. 이 명령에서 생성된 값은 다음 단계에서 <pgbouncer_password_hash>의 값으로 사용합니다:

    sudo gitlab-ctl pg-password-md5 pgbouncer
    
  4. PostgreSQL 복제 사용자/비밀번호 쌍을 위한 비밀번호 해시를 생성합니다. 여기서는 기본 사용자 gitlab_replicator를 사용할 것으로 가정합니다 (권장). 이 명령은 비밀번호와 확인을 요청할 것입니다. 이 명령에서 생성된 값은 다음 단계에서 <postgresql_replication_password_hash>의 값으로 사용합니다:

    sudo gitlab-ctl pg-password-md5 gitlab_replicator
    
  5. Consul 데이터베이스 사용자/비밀번호 쌍을 위한 비밀번호 해시를 생성합니다. 여기서는 기본 사용자 gitlab-consul을 사용할 것으로 가정합니다 (권장). 이 명령은 비밀번호와 확인을 요청할 것입니다. 이 명령에서 생성된 값은 다음 단계에서 <consul_password_hash>의 값으로 사용합니다:

    sudo gitlab-ctl pg-password-md5 gitlab-consul
    
  6. 모든 데이터베이스 노드에서 /etc/gitlab/gitlab.rb 파일을 수정하여 # START user configuration 섹션에 주석 처리된 값들을 대체합니다:

    # Patroni, PgBouncer 및 Consul을 제외한 모든 구성 요소 비활성화
    roles(['patroni_role', 'pgbouncer_role'])
    
    # PostgreSQL 구성
    postgresql['listen_address'] = '0.0.0.0'
    
    # `max_replication_slots`를 데이터베이스 노드의 두 배로 설정합니다.
    # Patroni는 복제 시작 시 노드 당 하나의 추가 슬롯을 사용합니다.
    patroni['postgresql']['max_replication_slots'] = 6
    
    # `max_wal_senders`를 클러스터 내 복제 슬롯 수에 1을 더한 값으로 설정합니다.
    # 이는 복제가 모든 사용 가능한 데이터베이스 연결을 사용하지 못하도록 합니다.
    patroni['postgresql']['max_wal_senders'] = 7
    
    # 업그레이드 시 자동으로 데이터베이스 마이그레이션을 실행하지 않도록 설정
    gitlab_rails['auto_migrate'] = false
    
    # Consul 에이전트 구성
    consul['enable'] = true
    consul['services'] = %w(postgresql)
    ## Prometheus를 위한 서비스 검색 활성화
    consul['monitoring_service_discovery'] =  true
    
    # START user configuration
    # 필수 정보 섹션에서 설명된 대로 실제 값을 설정하세요
    #
    # PGBOUNCER_PASSWORD_HASH를 생성된 md5 값으로 대체합니다
    postgresql['pgbouncer_user_password'] = '<pgbouncer_password_hash>'
    # POSTGRESQL_REPLICATION_PASSWORD_HASH를 생성된 md5 값으로 대체합니다
    postgresql['sql_replication_password'] = '<postgresql_replication_password_hash>'
    # POSTGRESQL_PASSWORD_HASH를 생성된 md5 값으로 대체합니다
    postgresql['sql_user_password'] = '<postgresql_password_hash>'
    
    # Patroni API에 기본 인증 설정 (모든 노드에 동일한 사용자 이름/비밀번호 사용)
    patroni['username'] = '<patroni_api_username>'
    patroni['password'] = '<patroni_api_password>'
    
    # 네트워크 주소로 대체
    postgresql['trust_auth_cidr_addresses'] = %w(10.6.0.0/24 127.0.0.1/32)
    
    # 데이터베이스 로드 밸런싱을 위한 지역 PgBouncer 서비스
    pgbouncer['databases'] = {
       gitlabhq_production: {
          host: "127.0.0.1",
          user: "pgbouncer",
          password: '<pgbouncer_password_hash>'
       }
    }
    
    # 모니터링을 위해 수신 대기할 네트워크 주소 설정
    node_exporter['listen_address'] = '0.0.0.0:9100'
    postgres_exporter['listen_address'] = '0.0.0.0:9187'
    
    ## Consul 서버 노드의 IP
    ## FQDN을 사용하고 IP와 혼합하여 사용할 수도 있습니다
    consul['configuration'] = {
       retry_join: %w(10.6.0.11 10.6.0.12 10.6.0.13),
    }
    #
    # END user configuration
    

    Patroni가 관리하는 PostgreSQL은 기본적으로 충돌 처리를 위해 기본적으로 pg_rewind를 사용합니다. 대부분의 장애 조치 처리 방법과 마찬가지로, 이는 데이터 손실의 소소한 가능성이 있습니다. 자세한 내용은 여러 Patroni 복제 방법을 참조하세요.

  7. 첫 번째 Linux 패키지 노드에서 /etc/gitlab/gitlab-secrets.json 파일을 복사하여 이 서버의 동일한 이름의 파일을 추가하거나 대체합니다. 이것이 구성중인 첫 번째 Linux 패키지 노드라면, 이 단계를 건너뛰셔도 됩니다.

  8. 변경 사항이 적용되려면 GitLab을 재구성하세요.

필요한 경우 고급 구성 옵션을 지원하며 추가할 수 있습니다.

PostgreSQL 포스트 구성

기본 사이트 중 하나의 Patroni 노드로 SSH 연결합니다.

  1. 리더 및 클러스터 상태를 확인합니다:

    gitlab-ctl patroni members
    

    출력은 다음과 유사해야 합니다:

    | Cluster       | Member                            | Host      | Role   | State   | TL  | Lag in MB | Pending restart |
    | ------------- | --------------------------------- | --------- | ------ | ------- | --- | --------- | --------------- |
    | postgresql-ha | <PostgreSQL primary hostname>     | 10.6.0.21 | Leader | running | 175 |           | *               |
    | postgresql-ha | <PostgreSQL secondary 1 hostname> | 10.6.0.22 |        | running | 175 | 0         | *               |
    | postgresql-ha | <PostgreSQL secondary 2 hostname> | 10.6.0.23 |        | running | 175 | 0         | *               |
    

만약 어떤 노드의 ‘State’ 열이 “running”이 아니라면 진행하기 전에 PostgreSQL 복제 및 장애 조치 문제 해결 섹션을 확인하세요.

PgBouncer 구성

이제 PostgreSQL 서버들이 모두 설정되었으므로, 주 데이터베이스에 대한 읽기/쓰기를 추적하고 처리하기 위해 PgBouncer를 구성해 보겠습니다.

참고: PgBouncer는 단일 스레드이며 CPU 코어의 증가로 인해 유의미한 혜택을 받지 않습니다. 자세한 정보는 스케일링 문서를 참조하세요.

다음 IP들은 예시로 사용됩니다:

  • 10.6.0.31: PgBouncer 1
  • 10.6.0.32: PgBouncer 2
  • 10.6.0.33: PgBouncer 3
  1. 각 PgBouncer 노드에서 /etc/gitlab/gitlab.rb 파일을 편집하고, 이전에 설정한 암호 해시로 <consul_password_hash><pgbouncer_password_hash>를 대체하세요:

    # Pgbouncer 및 Consul 에이전트 외의 모든 구성요소 비활성화
    roles(['pgbouncer_role'])
    
    # PgBouncer 구성
    pgbouncer['admin_users'] = %w(pgbouncer gitlab-consul)
    pgbouncer['users'] = {
       'gitlab-consul': {
          password: '<consul_password_hash>'
       },
       'pgbouncer': {
          password: '<pgbouncer_password_hash>'
       }
    }
    
    # Consul 에이전트 구성
    consul['watchers'] = %w(postgresql)
    consul['configuration'] = {
    retry_join: %w(10.6.0.11 10.6.0.12 10.6.0.13)
    }
    
    # Prometheus용 서비스 검색 활성화
    consul['monitoring_service_discovery'] = true
    
    # Exporter가 청취할 네트워크 주소 설정
    node_exporter['listen_address'] = '0.0.0.0:9100'
    
  2. 첫 번째 Linux 패키지 노드에서 /etc/gitlab/gitlab-secrets.json 파일을 복사하여 이 서버의 동일한 이름의 파일을 추가하거나 대체하세요. 이것이 구성하는 첫 번째 Linux 패키지 노드이면 이 단계를 건너뛸 수 있습니다.

  3. 변경 사항이 적용되도록 GitLab을 다시 구성하십시오.

    execute[generate databases.ini] 오류가 발생하면, 이는 기존의 알려진 문제로 인한 것입니다. 이는 다음 단계 이후에 두 번째 reconfigure를 실행할 때 해결됩니다.

  4. Consul이 PgBouncer를 다시로드할 수 있도록 .pgpass 파일을 생성하세요. 두 번 물어본다면 PgBouncer 암호를 입력하세요:

    gitlab-ctl write-pgpass --host 127.0.0.1 --database pgbouncer --user pgbouncer --hostuser gitlab-consul
    
  5. 이전 단계에서 발생한 잠재적인 오류를 해결하기 위해 GitLab을 다시 구성하세요.

  6. 각 노드가 현재 주 노드와 통신하도록 확인하세요:

    gitlab-ctl pgb-console # PGBOUNCER_PASSWORD를 입력해야 합니다
    
  7. 콘솔 프롬프트가 사용 가능하면, 다음 쿼리를 실행하세요:

    show databases ; show clients ;
    

    출력은 다음과 유사해야 합니다:

            name         |  host       | port |      database       | force_user | pool_size | reserve_pool | pool_mode | max_connections | current_connections
    ---------------------+-------------+------+---------------------+------------+-----------+--------------+-----------+-----------------+---------------------
     gitlabhq_production | MASTER_HOST | 5432 | gitlabhq_production |            |        20 |            0 |           |               0 |                   0
     pgbouncer           |             | 6432 | pgbouncer           | pgbouncer  |         2 |            0 | statement |               0 |                   0
    (2 rows)
    
     type |   user    |      database       |  state  |   addr         | port  | local_addr | local_port |    connect_time     |    request_time     |    ptr    | link | remote_pid | tls
    ------+-----------+---------------------+---------+----------------+-------+------------+------------+---------------------+---------------------+-----------+------+------------+-----
     C    | pgbouncer | pgbouncer           | active  | 127.0.0.1      | 56846 | 127.0.0.1  |       6432 | 2017-08-21 18:09:59 | 2017-08-21 18:10:48 | 0x22b3880 |      |          0 |
    (2 rows)
    

Redis 구성

확장 가능한 환경에서 Redis를 사용하면 x 복제 위상을 가진 Redis Sentinel 서비스를 사용하여 장애 조치 절차를 자동으로 감시하고 시작할 수 있습니다.

::노트:: Redis 클러스터는 홀수 개의 3개 노드 이상으로 각각 배포되어야 합니다. 이는 Redis Sentinel이 과반수 퀘러럼의 일부로 투표할 수 있도록 보장하기 위한 것입니다. 이는 클라우드 공급업체 서비스와 같이 외부에서 Redis를 구성할 때는 적용되지 않습니다.

::노트:: Redis는 주로 단일 스레드이며 CPU 코어를 증가시키는 것에서 크게 이점을 얻지 못합니다. 이러한 크기의 아키텍처에는 최적의 성능을 얻기 위해 별도의 캐시 및 지속 인스턴스를 권장합니다. 자세한 내용은 스케일링 문서를 참조하세요.

Sentinel를 사용하려면 Redis를 사용할 때 인증이 필요합니다. 자세한 내용은 Redis 보안 문서를 참조하세요. Redis 서비스를 안전하게 보호하기 위해 Redis 암호와 엄격한 방화벽 규칙의 조합을 권장합니다. Redis를 GitLab과 함께 구성하기 전에 Redis Sentinel 문서를 자세히 읽는 것이 좋습니다. 이를 통해 전체적인 위상 및 아키텍처를 완전히 이해할 수 있습니다.

Redis 설정에 대한 요구 사항은 다음과 같습니다:

  1. 모든 Redis 노드는 서로 통신하고 Redis(6379) 및 Sentinel(26379) 포트로 들어오는 연결을 수락해야 합니다(기본 포트를 변경하지 않는 한).
  2. GitLab 애플리케이션을 호스팅하는 서버는 Redis 노드에 액세스할 수 있어야 합니다.
  3. 외부 네트워크(인터넷)에서 노드에 액세스하지 못하도록 방화벽을 사용해야 합니다.

이 섹션에서는 GitLab과 사용하기 위해 두 개의 외부 Redis 클러스터를 구성하는 방법에 대해 안내합니다. 다음 IP가 예시로 사용됩니다:

  • 10.6.0.51: Redis - 캐시 주요
  • 10.6.0.52: Redis - 캐시 복제 1
  • 10.6.0.53: Redis - 캐시 복제 2
  • 10.6.0.61: Redis - 지속 주요
  • 10.6.0.62: Redis - 지속 복제 1
  • 10.6.0.63: Redis - 지속 복제 2

고유한 Redis 인스턴스 제공

다음 안내를 따라 Redis 캐시 및 지속성 인스턴스를 위한 제3자 외부 서비스를 선택적으로 사용할 수 있습니다:

  • 이에 대해 신뢰할 수 있는 공급업체나 솔루션을 사용해야 합니다. Google MemorystoreAWS ElastiCache가 작동하는 것으로 알려져 있습니다.
  • Redis Cluster 모드는 구체적으로 지원되지 않지만 Redis Standalone with HA는 지원됩니다.
  • 설정에 따라 Redis 축출 모드를 설정해야 합니다.

자세한 내용은 권장 클라우드 제공업체 및 서비스를 참조하세요.

Redis 캐시 클러스터 구성

이 섹션에서는 새로운 Redis 캐시 인스턴스를 설치하고 설정하는 방법에 대해 안내합니다.

주요 및 복제 Redis 노드는 각각 redis['password']에 정의된 동일한 암호가 필요합니다. 장애 조치 시 언제든지 Sentinels는 노드를 다시 구성하고 해당 상태를 주요에서 복제(또는 그 반대)로 변경할 수 있습니다.

주요 Redis 캐시 노드 구성

  1. Redis 서버에 SSH로 로그인합니다.
  2. 선택한 Linux 패키지를 다운로드하고 설치합니다. 페이지에서 설치 단계 1과 2를 따르고 현재 설치된 버전 및 유형(커뮤니티 또는 엔터프라이즈 에디션)과 동일한 Linux 패키지를 선택해야 합니다.
  3. /etc/gitlab/gitlab.rb을 편집하고 다음 내용을 추가합니다:

    # Sentinel와 함께 Redis 마스터 역할로 서버 역할 지정 및 Consul 에이전트 활성화
    roles(['redis_sentinel_role', 'redis_master_role', 'consul_role'])
    
    # Redis Sentinel 서비스를 위한 IP 바인드 주소와 퀘러럼 번호 설정
    sentinel['bind'] = '0.0.0.0'
    sentinel['quorum'] = 2
    
    # 다른 머신이 연결할 수 있는 로컬 IP를 가리키는 IP 주소
    # 모든 인터페이스에서 수신 대기하도록 바인드하는 '0.0.0.0'을 설정할 수도 있음
    # 외부 접근 가능한 IP에 바인딩해야 하는 경우, 무단 액세스를 방지하기 위해 추가 방화벽 규칙을 추가해야 함
    redis['bind'] = '10.6.0.51'
    
    # Redis 및 복제에 대한 암호 인증 설정(모든 노드에 동일한 암호 사용 필요)
    redis['password'] = '첫 번째 클러스터의 REDIS_PRIMARY_PASSWORD'
    redis['master_password'] = '첫 번째 클러스터의 REDIS_PRIMARY_PASSWORD'
    
    ## Redis 노드 전체에서 동일해야 함
    redis['master_name'] = 'gitlab-redis-cache'
    
    ## 이 주요 Redis 노드의 IP
    redis['master_ip'] = '10.6.0.51'
    
    # Redis 캐시 인스턴스를 LRU로 설정
    # 사용 가능한 RAM의 90%(MB 단위)
    redis['maxmemory'] = '13500mb'
    redis['maxmemory_policy'] = "allkeys-lru"
    redis['maxmemory_samples'] = 5
    
    ## Prometheus의 서비스 검색 활성화
    consul['monitoring_service_discovery'] =  true
    
    ## Consul 서버 노드의 IP
    ## FQDN을 사용하거나 IP와 혼합하여 사용할 수도 있음
    consul['configuration'] = {
       retry_join: %w(10.6.0.11 10.6.0.12 10.6.0.13),
    }
    
    # Exporter가 수신 대기할 네트워크 주소 설정
    node_exporter['listen_address'] = '0.0.0.0:9100'
    redis_exporter['listen_address'] = '0.0.0.0:9121'
    redis_exporter['flags'] = {
         'redis.addr' => 'redis://10.6.0.51:6379',
         'redis.password' => '여기에 Redis 암호 입력',
    }
    
    # 업그레이드 시 자동으로 데이터베이스 마이그레이션 실행 방지
    gitlab_rails['auto_migrate'] = false
    
  4. 첫 번째 Linux 패키지 노드에서 /etc/gitlab/gitlab-secrets.json 파일을 복사하고 이 서버의 동일한 이름의 파일에 추가하거나 교체합니다. 이것이 처음 구성하는 Linux 패키지 노드인 경우 이 단계를 건너뛰어도 됩니다.

  5. 변경 사항이 적용되려면 GitLab 재구성을 수행하세요.

레디스 캐시 레플리카 노드 구성

  1. 레플리카 Redis 서버에 SSH로 로그인합니다.
  2. 원하는 리눅스 패키지를 다운로드하고 설치합니다. 페이지의 설치 단계 1과 2를 반드시 따르고, 현재 설치된 것과 동일한 버전 및 유형(커뮤니티 또는 엔터프라이즈 버전)의 올바른 리눅스 패키지를 선택해야 합니다.
  3. /etc/gitlab/gitlab.rb를 편집하고 이전 섹션의 주 노드와 동일한 내용을 추가하여 redis_master_noderedis_replica_node로 바꿉니다:

    # Sentinel와 함께 서버 역할을 'redis_replica_role'로 지정하고 Consul 에이전트를 활성화합니다.
    roles(['roles_sentinel_role', 'redis_replica_role', 'consul_role'])
    
    # Redis Sentinel 서비스를 위한 IP 바인드 주소 및 퀘러럼 번호를 설정합니다.
    sentinel['bind'] = '0.0.0.0'
    sentinel['quorum'] = 2
    
    # 다른 머신이 연결할 수 있는 로컬 IP를 가리키는 IP 주소를 설정합니다.
    # 모든 인터페이스에서 수신 대기하도록 `bind`를 '0.0.0.0'로 설정할 수도 있습니다.
    # 외부 접근 가능한 IP에 바인딩할 경우, 무단 액세스를 방지하기 위해 추가 방화벽 규칙을 추가합니다.
    redis['bind'] = '10.6.0.52'
    
    # 다른 머신이 연결할 수 있게끔 Redis가 TCP 요청을 수신할 포트를 정의합니다.
    redis['port'] = 6379
    
    ## Sentinel을 위한 기본 Redis 서버 포트, 비 기본 포트로 변경하려면 비활성화합니다. 기본값은 `6379`입니다.
    #redis['master_port'] = 6379
    
    # Redis 및 레플리카에 대한 암호 인증을 설정합니다 (모든 노드에서 동일한 암호를 사용합니다).
    redis['password'] = 'REDIS_PRIMARY_PASSWORD_OF_FIRST_CLUSTER'
    redis['master_password'] = 'REDIS_PRIMARY_PASSWORD_OF_FIRST_CLUSTER'
    
    ## 모든 Redis 노드에서 동일해야 합니다.
    redis['master_name'] = 'gitlab-redis-cache'
    
    ## 주 키싱(메모리 최대 사용 한계)메모리 최대 사용 한계.
    # RAM의 90%로 설정(단위: MB)
    redis['maxmemory'] = '13500mb'
    redis['maxmemory_policy'] = "allkeys-lru"
    redis['maxmemory_samples'] = 5
    
    # Prometheus를 위한 서비스 검색 기능을 활성화합니다.
    consul['monitoring_service_discovery'] =  true
    
    ## Consul 서버 노드의 IP
    ## FQDN을 사용하거나 IP와 혼합하여 사용할 수 있습니다.
    consul['configuration'] = {
       retry_join: %w(10.6.0.11 10.6.0.12 10.6.0.13),
    }
    
    # 익스포터가 수신 대기할 네트워크 주소를 설정합니다.
    node_exporter['listen_address'] = '0.0.0.0:9100'
    redis_exporter['listen_address'] = '0.0.0.0:9121'
    redis_exporter['flags'] = {
         'redis.addr' => 'redis://10.6.0.52:6379',
         'redis.password' => 'redis-password-goes-here',
    }
    
    # 업그레이드시 자동으로 데이터베이스 마이그레이션을 방지합니다.
    gitlab_rails['auto_migrate'] = false
    
    1. 처음 리눅스 패키지 노드에서 /etc/gitlab/gitlab-secrets.json 파일을 복사하여 이 서버의 동일한 이름 파일을 추가하거나 대체합니다. 이것이 구성하는 첫 번째 리눅스 패키지 노드인 경우, 이 단계를 건너뛸 수 있습니다.

    2. 변경 내용이 적용하려면 GitLab을 다시 구성하십시오.

    3. 다른 레플리카 노드에 대해 위 단계를 다시 수행하고 IP를 올바르게 설정해야 합니다.

필요한 경우 고급 구성 옵션을 지원하며 추가할 수 있습니다.

Redis 영구 클러스터 구성

이 섹션에서는 새로운 Redis 대기열 인스턴스를 설치하고 설정합니다.

주 노드 및 레플리카 Redis 노드는 redis['password']에서 정의된 동일한 암호가 필요합니다. 장애 조치 중에 Sentinel은 노드를 다시 구성하고 그 상태를 주 노드에서 레플리카로 변경할 수 있습니다(그 반대도 마찬가지입니다).

주 Redis 영구 노드 구성

  1. Redis 서버에 SSH로 로그인합니다.
  2. 원하는 리눅스 패키지를 다운로드하고 설치합니다. 페이지의 설치 단계 1과 2를 반드시 따르고, 현재 설치된 것과 동일한 버전 및 유형(커뮤니티 또는 엔터프라이즈 버전)의 올바른 리눅스 패키지를 선택해야 합니다.
  3. /etc/gitlab/gitlab.rb를 편집하고 다음 내용을 추가합니다:

    # Sentinel와 함께 서버 역할을 'redis_master_role'로 지정하고 Consul 에이전트를 활성화합니다.
    roles ['redis_sentinel_role', 'redis_master_role', 'consul_role']
    
    # Redis Sentinel 서비스를 위한 IP 바인드 주소와 퀘러럼 번호를 설정합니다.
    sentinel['bind'] = '0.0.0.0'
    sentinel['quorum'] = 2
    
    # 다른 머신이 연결할 수 있는 로컬 IP를 가리키는 IP 주소를 설정합니다.
    # 모든 인터페이스에서 수신 대기하도록 `bind`를 '0.0.0.0'로 설정할 수도 있습니다.
    # 외부 접근 가능한 IP에 바인딩할 경우, 무단 액세스를 방지하기 위해 추가 방화벽 규칙을 추가합니다.
    redis['bind'] = '10.6.0.61'
    
    # 다른 머신이 연결할 수 있게끔 Redis가 TCP 요청을 수신할 포트를 정의합니다.
    redis['port'] = 6379
    
    ## Sentinel을 위한 기본 Redis 서버 포트, 비 기본 포트로 변경하려면 비활성화합니다. 기본값은 `6379`입니다.
    #redis['master_port'] = 6379
    
    # Redis 및 레플리카에 대한 암호 인증을 설정합니다 (모든 노드에서 동일한 암호를 사용합니다).
    redis['password'] = 'REDIS_PRIMARY_PASSWORD_OF_SECOND_CLUSTER'
    redis['master_password'] = 'REDIS_PRIMARY_PASSWORD_OF_SECOND_CLUSTER'
    
    ## 모든 Redis 노드에서 동일해야 합니다.
    redis['master_name'] = 'gitlab-redis-persistent'
    
    ## 이 주 Redis 노드의 IP입니다.
    redis['master_ip'] = '10.6.0.61'
    
    ## Prometheus를 위한 서비스 검색 기능을 활성화합니다.
    consul['monitoring_service_discovery'] =  true
    
    ## Consul 서버 노드의 IP
    ## FQDN을 사용하거나 IP와 혼합하여 사용할 수 있습니다.
    consul['configuration'] = {
       retry_join: %w(10.6.0.11 10.6.0.12 10.6.0.13),
    }
    
    # 익스포터가 수신 대기할 네트워크 주소를 설정합니다.
    node_exporter['listen_address'] = '0.0.0.0:9100'
    redis_exporter['listen_address'] = '0.0.0.0:9121'
    
    # 업그레이드시 자동으로 데이터베이스 마이그레이션을 방지합니다.
    gitlab_rails['auto_migrate'] = false
    
  4. 처음 리눅스 패키지 노드에서 /etc/gitlab/gitlab-secrets.json 파일을 복사하여 이 서버의 동일한 이름 파일을 추가하거나 대체합니다. 만약 이가 구성하는 첫 번째 리눅스 패키지 노드라면 이 단계를 건너뛸 수 있습니다.

  5. 변경 내용이 적용하려면 GitLab을 다시 구성하십시오.

복제 Redis 지속 노드 구성

  1. 복제 Redis 지속 서버에 SSH 연결합니다.
  2. 선택한 Linux 패키지를 다운로드하고 설치합니다. 페이지에서 설치 단계 1과 2를 따르는 것만 그리고 현재 설치된 것과 동일한 버전 및 유형(Community 또는 Enterprise editions)의 올바른 Linux 패키지를 선택하세요.
  3. /etc/gitlab/gitlab.rb 파일을 편집하고 아래 내용을 추가하세요.

    # 지도자 역할을 Sentinel과 함께 'redis_replica_role'로 지정하고 Consul 에이전트를 활성화합니다.
    roles ['redis_sentinel_role', 'redis_replica_role', 'consul_role']
    
    # Redis Sentinel 서비스에 대한 IP 바인드 주소와 승인 수를 설정합니다.
    sentinel['bind'] = '0.0.0.0'
    sentinel['quorum'] = 2
    
    # 다른 머신이 연결할 수 있는 로컬 IP를 가리키는 IP 주소입니다.
    # 모든 인터페이스에서 수신 대기하도록 bind를 '0.0.0.0'로 설정할 수도 있습니다.
    # 외부에서 접근 가능한 IP에 bind해야 하는 경우
    # 무단 액세스를 방지하는 추가 방화벽 규칙을 추가해야 합니다.
    redis['bind'] = '10.6.0.62'
    
    # TCP 요청을 위해 Redis가 수신 대기할 포트를 정의합니다. 이를 통해 다른
    # 머신이 Redis에 연결할 수 있습니다.
    redis['port'] = 6379
    
    ## Sentinel을 위한 기본 Redis 서버의 포트, 비기본값으로 변경하려면 주석 제거. 기본값
    ## `6379`입니다.
    #redis['master_port'] = 6379
    
    # 기본 노드에서 설정한 Redis 인증용 동일한 비밀번호입니다.
    redis['password'] = 'REDIS_PRIMARY_PASSWORD_OF_SECOND_CLUSTER'
    redis['master_password'] = 'REDIS_PRIMARY_PASSWORD_OF_SECOND_CLUSTER'
    
    ## 모든 Redis 노드에서 동일해야 합니다.
    redis['master_name'] = 'gitlab-redis-persistent'
    
    # 기본 Redis 노드의 IP입니다.
    redis['master_ip'] = '10.6.0.61'
    
    ## Prometheus를 위한 서비스 탐색 활성화
    consul['monitoring_service_discovery'] =  true
    
    ## Consul 서버 노드의 IP
    ## FQDN(Fully Qualified Domain Name) 및 IP를 혼용하여 사용할 수도 있습니다.
    consul['configuration'] = {
       retry_join: %w(10.6.0.11 10.6.0.12 10.6.0.13),
    }
    
    # 익스포터가 수신 대기할 네트워크 주소를 설정합니다.
    node_exporter['listen_address'] = '0.0.0.0:9100'
    redis_exporter['listen_address'] = '0.0.0.0:9121'
    
    # 업그레이드 시 데이터베이스 마이그레이션을 자동으로 방지합니다.
    gitlab_rails['auto_migrate'] = false
    
  4. 처음 Linux 패키지 노드에서 /etc/gitlab/gitlab-secrets.json 파일을 복사하여 이 서버의 동일한 이름의 파일에 추가하거나 교체합니다. 이것이 처음 구성하는 Linux 패키지 노드인 경우, 이 단계를 건너뛸 수 있습니다.

  5. 변경 사항이 적용되려면 GitLab을 다시 구성하세요.

  6. 다른 복제 노드에 대해 위 단계를 다시 진행하고 IP를 올바르게 설정했는지 확인하세요.

고급 구성 옵션은 필요한 경우 지원되며 추가할 수 있습니다.

Gitaly 클러스터 구성

Gitaly 클러스터는 Git 저장소를 저장하기 위한 GitLab에서 제공하고 권장하는 고장 허용 솔루션입니다. 이 구성에서 모든 Git 저장소는 클러스터의 모든 Gitaly 노드에 저장되며 하나가 주요로 지정되며, 주요 노드가 다운되면 자동으로 장애 조치가 수행됩니다.

경고: Gitaly 사양은 사용량 패턴 및 저장소 크기의 높은 백분위에 기반합니다. 그러나 대형 단일 저장소(여러 기가바이트보다 큰 경우)나 추가 워크로드가 있다면 이는 환경의 성능에 중대한 영향을 미칠 수 있으며 추가 조정이 필요할 수 있습니다. 이 경우, 연결된 문서를 참조하거나 고객 성공 관리자 또는 지원팀에 문의하여 추가 지침을 얻는 것이 강력히 권장됩니다.

Gitaly 클러스터는 고장 허용의 이점을 제공하지만 추가적인 설정 및 관리의 복잡성을 동반합니다. Gitaly 클러스터를 배포하기 전에 기술적인 제한 사항 및 고려 사항을 검토하세요.

다음 구성 요소가 권장 클러스터 설정에 포함됩니다:

  • 3개의 Gitaly 노드: Git 저장소의 복제 저장.
  • 3개의 Praefect 노드: Gitaly 클러스터의 라우터 및 트랜잭션 관리자.
  • 1개의 Praefect PostgreSQL 노드: Praefect용 데이터베이스 서버. Praefect 데이터베이스 연결의 고가용성을 위해서는 타사 솔루션이 필요합니다.
  • 1개의 로드 밸런서: Praefect에 대한 로드 밸런서가 필요합니다. 내부 로드 밸런서가 사용됩니다.

이 섹션에서는 권장 표준 구성을 순서대로 구성하는 방법에 대해 자세히 설명합니다. 더 고급의 설정에 대해서는 독립 Gitaly 클러스터 문서를 참조하세요.

Praefect PostgreSQL 구성

Praefect는 Gitaly Cluster의 라우팅 및 트랜잭션 관리자로, Gitaly Cluster 상태 데이터를 저장하기 위한 별도의 데이터베이스 서버를 필요로 합니다.

고가용성(High Availability) 설치를 하려면, Praefect는 타사 PostgreSQL 데이터베이스가 필요합니다. 내장 솔루션은 진행 중입니다.

Praefect 비-HA PostgreSQL 스탠드얼론 사용(리눅스 패키지)

다음 IP가 예시로 사용됩니다:

  • 10.6.0.141: Praefect PostgreSQL

먼저, Praefect PostgreSQL 노드에 Linux GitLab 패키지를 설치해야 합니다. 그 다음 단계를 따라, 1단계에서 필요한 종속성을 설치하고, 2단계에서 GitLab 패키지 저장소를 추가하세요. 두 번째 단계에서 GitLab을 설치할 때, EXTERNAL_URL 값을 제공하지 마세요.

  1. Praefect PostgreSQL 노드로 SSH를 연결합니다.
  2. Praefect PostgreSQL 사용자에게 사용할 강력한 암호를 만듭니다. 이 암호를 <praefect_postgresql_password>로 사용할 수 있도록 기록해 두세요.
  3. Praefect PostgreSQL 사용자/암호 쌍에 대한 암호 해시를 생성합니다. 기본 사용자 이름을 praefect로 사용할 것으로 가정합니다(권장됨). 이 명령은 암호 <praefect_postgresql_password> 및 확인을 요청할 것입니다. 이 명령이 출력하는 값을 <praefect_postgresql_password_hash>의 값으로 사용하세요:

    sudo gitlab-ctl pg-password-md5 praefect
    
  4. /etc/gitlab/gitlab.rb 파일을 편집하여 # START user configuration 섹션에 주석된 값들을 바꿉니다:

    # PostgreSQL과 Consul 이외의 모든 구성요소 비활성화
    roles(['postgres_role', 'consul_role'])
    
    # PostgreSQL 구성
    postgresql['listen_address'] = '0.0.0.0'
    
    # 자동으로 업그레이드 시 데이터베이스 마이그레이션을 방지
    gitlab_rails['auto_migrate'] = false
    
    # Consul 에이전트 구성
    ## Prometheus를 위한 서비스 디스커버리 활성화
    consul['monitoring_service_discovery'] =  true
    
    # START user configuration
    # 필수 정보 섹션에서 설명된대로 실제 값을 설정하세요
    #
    # PRAEFECT_POSTGRESQL_PASSWORD_HASH를 생성된 md5 값으로 바꿉니다
    postgresql['sql_user_password'] = "<praefect_postgresql_password_hash>"
    
    # XXX.XXX.XXX.XXX/YY 값을 네트워크 주소로 바꿉니다
    postgresql['trust_auth_cidr_addresses'] = %w(10.6.0.0/24 127.0.0.1/32)
    
    # 모니터링을 위해 익스포터가 수신 대기할 네트워크 주소 설정
    node_exporter['listen_address'] = '0.0.0.0:9100'
    postgres_exporter['listen_address'] = '0.0.0.0:9187'
    
    ## Consul 서버 노드의 IP
    ## IP와 FQDN을 혼합하여 사용할 수 있습니다
    consul['configuration'] = {
       retry_join: %w(10.6.0.11 10.6.0.12 10.6.0.13),
    }
    #
    # END user configuration
    
  5. 첫 번째 Linux 패키지 노드에서 /etc/gitlab/gitlab-secrets.json 파일을 복사하고 이 서버의 동일한 이름의 파일에 추가하거나 덮어씁니다. 이것이 처음 구성하는 Linux 패키지 노드라면, 이 단계를 생략할 수 있습니다.

  6. 변경 사항이 적용되려면 GitLab을 다시 구성하세요.

  7. 포스트 구성을 따르세요.

Praefect HA PostgreSQL 타사 솔루션

언급된 대로, 고가용성을 원한다면 Praefect의 데이터베이스에 대해 타사 PostgreSQL 솔루션이 권장됩니다.

PostgreSQL HA를 위한 많은 타사 솔루션이 있습니다. Praefect와 함께 작동하려면 다음이 필요합니다:

  • 장애 조치(failover) 시 변경되지 않는 모든 연결을 위한 정적 IP
  • LISTEN SQL 기능 지원

참고: 타사 구성을 사용하면 Praefect의 데이터베이스를 본 GitLab 데이터베이스와 편리하게 동일한 서버에 위치시킬 수 있습니다. 단, Geo를 사용하는 경우, 복제 처리를 올바르게 수행하기 위해 별도의 데이터베이스 인스턴스가 필요합니다. 이러한 구성에서는 영향이 최소화되어 본 데이터베이스 구성 사양을 변경할 필요가 없어야 합니다.

신뢰할 수 있는 공급업체나 솔루션을 사용해야 합니다. Google Cloud SQLAmazon RDS가 작동한다는 것이 알려져 있습니다. 그러나 Amazon Aurora는 14.4.0에서 기본적으로 사용 가능한 로드 밸런싱과 호환되지 않습니다. 자세한 내용은 권장 클라우드 제공업체 및 서비스를 참조하세요.

위의 내용에는 Google의 Cloud SQL 또는 Amazon RDS가 포함될 수 있습니다.

데이터베이스를 설정한 후, 포스트 구성을 따르세요.

Praefect PostgreSQL 포스트 구성

Praefect PostgreSQL 서버를 설정한 후에는 Praefect가 사용할 사용자와 데이터베이스를 구성해야 합니다.

사용자의 이름을 praefect로, 데이터베이스의 이름을 praefect_production으로 설정하는 것을 권장하며, 이를 PostgreSQL에서 표준으로 구성할 수 있습니다. 사용자의 암호는 이전에 구성한 <praefect_postgresql_password>와 동일합니다.

리눅스 패키지 PostgreSQL 설정 예시는 다음과 같습니다:

  1. Praefect PostgreSQL 노드에 SSH로 로그인합니다.
  2. 관리 액세스로 PostgreSQL 서버에 연결합니다. 리눅스 패키지에서 기본적으로 추가되는 gitlab-psql 사용자를 여기에서 사용해야 합니다. template1 데이터베이스는 모든 PostgreSQL 서버에 기본적으로 생성되기 때문에 여기에 사용됩니다.

    /opt/gitlab/embedded/bin/psql -U gitlab-psql -d template1 -h POSTGRESQL_SERVER_ADDRESS
    
  3. <praefect_postgresql_password>를 대체하여 새 사용자 praefect를 생성합니다:

    CREATE ROLE praefect WITH LOGIN CREATEDB PASSWORD '<praefect_postgresql_password>';
    
  4. 이번에는 praefect 사용자로 PostgreSQL 서버에 다시 연결합니다:

    /opt/gitlab/embedded/bin/psql -U praefect -d template1 -h POSTGRESQL_SERVER_ADDRESS
    
  5. 새 데이터베이스 praefect_production을 생성합니다:

    CREATE DATABASE praefect_production WITH ENCODING=UTF8;
    

Praefect 구성

Praefect는 Gitaly 클러스터의 라우터 및 트랜잭션 관리자이며, Gitaly에 대한 모든 연결은 이를 통해 이루어집니다. 이 섹션에서는 Praefect의 구성 방법에 대해 설명합니다.

주의: Praefect는 3개 이상의 노드로 배포되어야 합니다. 이는 노드가 쿼럼의 일부로서 투표를 할 수 있도록 보장하기 위한 것입니다.

Praefect에는 클러스터 전체의 통신을 보안하는 몇 가지 비밀 토큰이 필요합니다.

  • <praefect_external_token>: Gitaly 클러스터에 호스팅된 저장소에 사용되며, 이 토큰을 지닌 Gitaly 클라이언트만 액세스할 수 있습니다.
  • <praefect_internal_token>: Gitaly 클러스터 내부의 복제 트래픽에 사용됩니다. 이는 praefect_external_token과 구분됩니다. 외부 Gitaly 클라이언트가 Praefect 클러스터의 내부 노드에 직접 액세스하지 못하게 해야 하므로 데이터 손실을 방지합니다.
  • <praefect_postgresql_password>: 이전 섹션에서 정의한 Praefect PostgreSQL 암호도 이 설정에서 필요합니다.

Gitaly 클러스터 노드는 가상 저장소를 통해 Praefect에 구성됩니다. 각 저장소에는 클러스터를 구성하는 각 Gitaly 노드의 세부 정보가 포함되어 있습니다. 각 저장소에는 이름이 지정되며, 이 이름은 구성의 여러 영역에서 사용됩니다. 본 설명서에서는 저장소의 이름을 default로 지정할 것입니다. 또한, 본 설명서는 새로운 설치를 대상으로 하며, 기존 환경을 Gitaly 클러스터를 사용하도록 업그레이드하는 경우 다른 이름을 사용해야 할 수 있습니다. 추가 정보는 Praefect 문서를 참고하세요.

다음과 같은 IP 주소가 예제로 사용될 것입니다:

  • 10.6.0.131: Praefect 1
  • 10.6.0.132: Praefect 2
  • 10.6.0.133: Praefect 3

Praefect 노드를 구성하려면 각 노드에서 다음을 수행하세요:

  1. Praefect 서버에 SSH로 로그인합니다.
  2. 원하는 리눅스 패키지를 다운로드하고 설치합니다. 페이지에서 설치 단계 1과 2만 따르도록 하십시오.
  3. /etc/gitlab/gitlab.rb 파일을 편집하여 Praefect를 구성합니다:

    주의: GitLab이 이를 필요로 하기 때문에, virtual_storages에서 default 항목을 제거할 수 없습니다.

    # Praefect 서버에서 불필요한 서비스 실행을 방지합니다
    gitaly['enable'] = false
    postgresql['enable'] = false
    redis['enable'] = false
    nginx['enable'] = false
    puma['enable'] = false
    sidekiq['enable'] = false
    gitlab_workhorse['enable'] = false
    prometheus['enable'] = false
    alertmanager['enable'] = false
    gitlab_exporter['enable'] = false
    gitlab_kas['enable'] = false
    
    # Praefect 구성
    praefect['enable'] = true
    
    # 업그레이드 시 자동으로 데이터베이스 마이그레이션을 방지
    praefect['auto_migrate'] = false
    gitlab_rails['auto_migrate'] = false
    
    # Consul 에이전트 구성
    consul['enable'] = true
    ## Prometheus의 서비스 검색 기능 활성화
    consul['monitoring_service_discovery'] = true
    
    # 사용자 구성 시작
    # 필수 정보 섹션에 설명된 대로 실제 값을 지정해주세요
    #
    
    praefect['configuration'] = {
       # ...
       listen_addr: '0.0.0.0:2305',
       auth: {
         # ...
         #
         # Praefect External Token
         # 이 토큰은 Praefect 클러스터와 같이 외부 클라이언트 (예: GitLab Shell)가 통신할 때 필요합니다
         token: '<praefect_external_token>',
       },
       # Praefect 데이터베이스 설정
       database: {
         # ...
         host: '10.6.0.141',
         port: 5432,
         # `no_proxy` 설정은 캐싱을 위한 항상 직접적인 연결이어야 합니다
         session_pooled: {
            # ...
            host: '10.6.0.141',
            port: 5432,
            dbname: 'praefect_production',
            user: 'praefect',
            password: '<praefect_postgresql_password>',
         },
       },
       # Praefect Virtual Storage 구성
       # 저장소 해시의 이름은 GitLab 서버의 git_data_dirs ('praefect') 및 Gitaly 노드 ('gitaly-1')의 gitaly['configuration'][:storage]에 사용되는 저장소 이름과 일치해야 합니다
       virtual_storage: [
          {
             # ...
             name: 'default',
             node: [
                {
                   storage: 'gitaly-1',
                   address: 'tcp://10.6.0.91:8075',
                   token: '<praefect_internal_token>'
                },
                {
                   storage: 'gitaly-2',
                   address: 'tcp://10.6.0.92:8075',
                   token: '<praefect_internal_token>'
                },
                {
                   storage: 'gitaly-3',
                   address: 'tcp://10.6.0.93:8075',
                   token: '<praefect_internal_token>'
                },
             ],
          },
       ],
       # 모니터링을 위해 Praefect가 청취하는 네트워크 주소를 설정합니다
       prometheus_listen_addr: '0.0.0.0:9652',
    }
    
    # 모니터링을 위해 노드 익스포터가 청취하는 네트워크 주소를 설정합니다
    node_exporter['listen_address'] = '0.0.0.0:9100'
    
    ## Consul 서버 노드의 IP 주소
    ## FQDN을 사용하거나 IP와 섞어서 사용할 수 있습니다
    consul['configuration'] = {
       retry_join: %w(10.6.0.11 10.6.0.12 10.6.0.13),
    }
    #
    # 사용자 구성 종료
    
  4. 첫 번째 리눅스 패키지 노드에서 /etc/gitlab/gitlab-secrets.json 파일을 복사하고, 해당 서버에 있는 동일한 이름의 파일을 추가하거나 교체합니다. 첫 번째로 구성하는 리눅스 패키지 노드인 경우 이 단계를 건너뛰어도 됩니다.

  5. Praefect에는 주요 GitLab 애플리케이션과 마찬가지로 데이터베이스 마이그레이션을 실행해야 합니다. 이 작업은 하나의 Praefect 노드만 마이그레이션을 실행해야 합니다. 이 노드를 _배포 노드_라고 합니다. 다음과 같이 이 노드를 구성해야 합니다:

    1. /etc/gitlab/gitlab.rb 파일에서 praefect['auto_migrate'] 설정 값을 false에서 true로 변경합니다.

    2. 업그레이드 중 자동으로 데이터베이스 마이그레이션이 실행되지 않도록 하기 위해 다음을 실행합니다:

    sudo touch /etc/gitlab/skip-auto-reconfigure
    
    1. 변경 사항이 적용되도록 GitLab을 재구성하고 Praefect 데이터베이스 마이그레이션을 실행합니다.
  6. 다른 Praefect 노드에서도 변경 사항이 적용되도록 GitLab을 재구성합니다.

Gitaly 구성

클러스터를 구성하는 Gitaly 서버 노드는 데이터 및 부하에 따라 요구 사항이 의존적입니다.

경고: Gitaly 사양은 사용량 패턴 및 리포지토리 크기의 높은 백분위에 기반합니다. 그러나 대형 모노리포(여러 기가바이트보다 큼)나 추가 작업량이 있는 경우 환경의 성능에 상당한 영향을 미칠 수 있으며 추가 조정이 필요할 수 있습니다. 이 경우에 해당하는 경우 링크된 문서를 참조하고 Customer Success Manager지원팀에 문의하여 자문을 얻는 것이 강력히 권장됩니다.

Gitaly의 중요한 입력 및 출력 요구 사항으로, 모든 Gitaly 노드가 고체 상태 드라이브(SSD)를 사용하는 것을 강력히 권장합니다. 이러한 SSD는 읽기 작업에 대해 초당 8,000회 이상의 입출력 작업(IOPS) 및 쓰기 작업에 대해 2,000회의 IOPS 처리량이 있어야 합니다. 클라우드 제공업체에서 환경을 실행 중인 경우 해당 클라우드 제공업체의 입출력 작업(IOPS) 구성 방법에 대해 확인하십시오.

Gitaly 서버는 기본적으로 암호화되지 않은 Gitaly 네트워크 트래픽으로 인해 공개 인터넷에 노출되어서는 안 됩니다. 방화벽을 사용하여 Gitaly 서버 접근을 제한하는 것이 강력히 권장됩니다. 또 다른 옵션은 TLS를 사용하는 것입니다.

Gitaly를 구성하기 위해 다음 사항을 주의해야 합니다:

  • gitaly['configuration'][:storage]는 특정 Gitaly 노드의 저장 경로를 반영하도록 구성해야 합니다.
  • auth_tokenpraefect_internal_token과 동일해야 합니다.

다음 IP 주소는 예시로 사용됩니다:

  • 10.6.0.91: Gitaly 1
  • 10.6.0.92: Gitaly 2
  • 10.6.0.93: Gitaly 3

각 노드에서:

  1. 선택한 리눅스의 패키지를 다운로드하고 설치하십시오. 페이지의 설치 단계 1 및 2만 따르고, EXTERNAL_URL 값을 제공하지 마십시오.
  2. Gitaly 서버 노드의 /etc/gitlab/gitlab.rb 파일을 편집하여 저장 경로를 구성하고 네트워크 리스너를 활성화하고 토큰을 구성하십시오:

    # Gitaly 서버에서 불필요한 서비스를 실행하지 않도록 설정
    postgresql['enable'] = false
    redis['enable'] = false
    nginx['enable'] = false
    puma['enable'] = false
    sidekiq['enable'] = false
    gitlab_workhorse['enable'] = false
    prometheus['enable'] = false
    alertmanager['enable'] = false
    gitlab_exporter['enable'] = false
    gitlab_kas['enable'] = false
    
    # 업그레이드 시 데이터베이스 마이그레이션을 자동으로 실행하지 않도록 설정
    gitlab_rails['auto_migrate'] = false
    
    # Gitlab Rails 내부 API URL 구성. 이 구성이 없으면 `git push`가 실패합니다. 이는 'front door' GitLab URL이나 내부 로드 밸런서가 될 수 있습니다.
    gitlab_rails['internal_api_url'] = 'https://gitlab.example.com'
    
    # Gitaly
    gitaly['enable'] = true
    
    # Consul 에이전트 구성
    consul['enable'] = true
    ## Prometheus의 서비스 검색 활성화
    consul['monitoring_service_discovery'] = true
    
    # 사용자 구성 시작
    # 필요한 정보 섹션에 설명된 대로 실제 값을 설정하십시오
    #
    ## Consul 서버 노드의 IP
    ## FQDN을 사용하거나 IP와 혼용할 수 있습니다
    consul['configuration'] = {
       retry_join: %w(10.6.0.11 10.6.0.12 10.6.0.13),
    }
    
    # 모니터링을 위해 노드 익스포터가 수신 대기할 네트워크 주소를 설정
    node_exporter['listen_address'] = '0.0.0.0:9100'
    
    gitaly['configuration'] = {
       # Gitaly가 모든 네트워크 인터페이스에서 연결을 허용하도록 설정. 이 주소/포트로의 액세스를 제한하려면 방화벽을 사용해야 합니다.
       # TLS 연결만 지원하려면 다음 줄을 주석 처리하십시오
       listen_addr: '0.0.0.0:8075',
       # 모니터링을 위해 Gitaly가 수신 대기할 네트워크 주소를 설정
       prometheus_listen_addr: '0.0.0.0:9236',
       auth: {
          # Gitaly 인증 토큰
          # praefect_internal_token과 동일해야 함
          token: '<praefect_internal_token>',
       },
       pack_objects_cache: {
          # Gitaly Pack-objects 캐시
          # 성능 향상을 위해 활성화하는 것이 좋지만 디스크 I/O를 상당히 늘릴 수 있음
          # 자세한 내용은 https://docs.gitlab.com/ee/administration/gitaly/configure_gitaly.html#pack-objects-cache를 참조하십시오
          enabled: true,
       },
    }
    
    #
    # 사용자 구성 끝
    
  3. 각 서버의 /etc/gitlab/gitlab.rb에 다음을 추가하십시오:
    • Gitaly 노드 1:

      gitaly['configuration'] = {
         # ...
         storage: [
            {
               name: 'gitaly-1',
               path: '/var/opt/gitlab/git-data',
            },
         ],
      }
      
    • Gitaly 노드 2:

      gitaly['configuration'] = {
         # ...
         storage: [
            {
               name: 'gitaly-2',
               path: '/var/opt/gitlab/git-data',
            },
         ],
      }
      
    • Gitaly 노드 3:

      gitaly['configuration'] = {
         # ...
         storage: [
            {
               name: 'gitaly-3',
               path: '/var/opt/gitlab/git-data',
            },
         ],
      }
      
  4. 첫 번째 리눅스 패키지 노드에서 /etc/gitlab/gitlab-secrets.json 파일을 복사하고 해당 서버의 동일한 이름의 파일을 추가하거나 교체하십시오. 이것이 구성하는 첫 번째 리눅스 패키지 노드라면 이 단계를 건너뛸 수 있습니다.

  5. 파일을 저장한 후 GitLab을 재구성하십시오.

Gitaly Cluster TLS 지원

Praefect는 TLS 암호화를 지원합니다. 안전한 연결을 수신 대기하는 Praefect 인스턴스와 통신하려면 다음을 수행해야 합니다:

  • GitLab 구성에서 해당 저장소 항목의 gitaly_addresstls:// URL 스킴을 사용합니다.
  • 자동으로 제공되지 않기 때문에 고유한 인증서를 사용해야 합니다. 각 Praefect 서버에 해당하는 인증서를 설치해야 합니다.

또한 인증서 또는 해당 인증 기관은 모든 Gitaly 서버와 모든 Praefect 클라이언트에 설치되어야 하며, 이는 GitLab 사용자 정의 인증서 구성에서 설명된 절차를 따라야 합니다(아래에 반복됨).

다음을 주의해야 합니다:

  • 인증서는 Praefect 서버에 액세스하는 데 사용하는 주소를 지정해야 합니다. 호스트 이름 또는 IP 주소를 인증서의 대체 이름으로 추가해야 합니다.
  • Praefect 서버는 암호화되지 않은 수신 대기 주소 listen_addr와 암호화된 수신 대기 주소 tls_listen_addr를 동시에 구성할 수 있습니다. 이를 통해 필요한 경우 암호화되지 않은 트래픽에서 암호화된 트래픽으로 점진적으로 변경할 수 있습니다. 암호화되지 않은 수신 대기자를 비활성화하려면 praefect['configuration'][:listen_addr] = nil로 설정하십시오.
  • 내부 로드 밸런서도 인증서에 액세스하고 TLS 패스스루를 허용하도록 구성해야 합니다. 이에 대한 구성 방법은 로드 밸런서 문서를 참조하십시오.

TLS를 사용하도록 Praefect를 구성하려면 다음을 수행하십시오:

  1. Praefect 서버용으로 인증서를 생성합니다.

  2. Praefect 서버에서 /etc/gitlab/ssl 디렉토리를 생성하고 여기에 키 및 인증서를 복사합니다:

     sudo mkdir -p /etc/gitlab/ssl
     sudo chmod 755 /etc/gitlab/ssl
     sudo cp key.pem cert.pem /etc/gitlab/ssl/
     sudo chmod 644 key.pem cert.pem
    
  3. /etc/gitlab/gitlab.rb 파일을 편집하고 다음을 추가합니다:

     praefect['configuration'] = {
        # ...
        tls_listen_addr: '0.0.0.0:3305',
        tls: {
           # ...
           certificate_path: '/etc/gitlab/ssl/cert.pem',
           key_path: '/etc/gitlab/ssl/key.pem',
        },
     }
    
  4. 파일을 저장하고 GitLab을 재구성합니다.

  5. Praefect 클라이언트(각 Gitaly 서버를 포함)에서 인증서 또는 해당 인증 기관을 /etc/gitlab/trusted-certs에 복사합니다:

     sudo cp cert.pem /etc/gitlab/trusted-certs/
    
  6. Praefect 클라이언트(Gitaly 서버 제외)에서 /etc/gitlab/gitlab.rb에서 git_data_dirs를 다음과 같이 편집합니다:

     git_data_dirs({
       "default" => {
         "gitaly_address" => 'tls://로드_밸런서_서버_주소:3305',
         "gitaly_token" => 'PRAEFECT_EXTERNAL_TOKEN'
       }
     })
    
  7. 파일을 저장하고 GitLab을 재구성합니다.

Sidekiq 구성

Sidekiq는 Redis, PostgreSQLGitaly 인스턴스에 연결이 필요합니다. 또한 권장되는 대로 Object Storage에도 연결해야 합니다.

참고: 데이터 객체에 대해 NFS 대신 객체 저장소를 사용하는 것이 권장됩니다. 따라서 다음 예제는 객체 저장소 구성을 포함합니다.

참고: 환경의 Sidekiq 작업 처리가 오랜 대기열과 느린 경우 해당 노드를 적절하게 확장할 수 있습니다. 자세한 내용은 확장 문서를 참조하십시오.

  • 10.6.0.101: Sidekiq 1
  • 10.6.0.102: Sidekiq 2
  • 10.6.0.103: Sidekiq 3
  • 10.6.0.104: Sidekiq 4

Sidekiq 노드를 구성하려면 각 노드에서 다음을 수행하십시오:

  1. Sidekiq 서버에 SSH로 로그인합니다.
  2. 선택한 Linux 패키지를 다운로드하고 설치합니다. 페이지의 설치 단계 1과 2를 준수해야 합니다.
  3. /etc/gitlab/gitlab.rb 파일을 생성하거나 편집하고 다음 구성을 사용하십시오:

     # https://docs.gitlab.com/omnibus/roles/#sidekiq-roles
     roles(["sidekiq_role"])
    
     # 외부 URL
     ## 외부 로드 밸런서의 URL과 일치해야 합니다.
     external_url 'https://gitlab.example.com'
    
     # Redis
     ## Redis 연결 세부 정보
     ## 캐시 데이터를 호스팅하는 첫 번째 클러스터
     gitlab_rails['redis_cache_instance'] = 'redis://:<첫_클러스터_REDIS_기본_비밀번호>@gitlab-redis-cache'
        
     gitlab_rails['redis_cache_sentinels'] = [
       {host: '10.6.0.51', port: 26379},
       {host: '10.6.0.52', port: 26379},
       {host: '10.6.0.53', port: 26379},
     ]
    
     ## 다른 모든 영구 데이터를 호스트하는 두 번째 클러스터
     redis['master_name'] = 'gitlab-redis-persistent'
     redis['master_password'] = '<두_클러스터_REDIS_기본_비밀번호>'
    
     gitlab_rails['redis_sentinels'] = [
       {host: '10.6.0.61', port: 26379},
       {host: '10.6.0.62', port: 26379},
       {host: '10.6.0.63', port: 26379},
     ]
    
     # Gitaly
     # git_data_dirs는 Praefect 가상 저장소에 구성되며
     # 주소는 Praefect의 내부 로드 밸런서입니다.
     # 토큰은 praefect_external_token입니다.
     git_data_dirs({
       "default" => {
         "gitaly_address" => "tcp://10.6.0.40:2305", # 내부 로드 밸런서 IP
         "gitaly_token" => '<praefect_external_token>'
       }
     })
        
     # PostgreSQL
     gitlab_rails['db_host'] = '10.6.0.20' # 내부 로드 밸런서 IP
     gitlab_rails['db_port'] = 6432
     gitlab_rails['db_password'] = '<postgresql_사용자_비밀번호>'
     gitlab_rails['db_load_balancing'] = { 'hosts' => ['10.6.0.21', '10.6.0.22', '10.6.0.23'] } # PostgreSQL IP들
    
     ## 업그레이드 시 자동으로 데이터베이스 마이그레이션을 방지합니다.
     gitlab_rails['auto_migrate'] = false
    
     # Sidekiq
     sidekiq['enable'] = true
     sidekiq['listen_address'] = "0.0.0.0"
    
     ## 사용 가능한 CPU 수와 동일한 Sidekiq 대기열 프로세스 수를 설정합니다.
     sidekiq['queue_groups'] = ['*'] * 4
    
     # 모니터링
     consul['enable'] = true
     consul['monitoring_service_discovery'] =  true
    
     consul['configuration'] = {
        retry_join: %w(10.6.0.11 10.6.0.12 10.6.0.13)
     }
    
     # 수신 대기할 모니터링 노드의 네트워크 주소 설정
     node_exporter['listen_address'] = '0.0.0.0:9100'
    
     ## 모니터링 노드의 IP 주소를 모니터링 화이트리스트에 추가합니다.
     gitlab_rails['monitoring_whitelist'] = ['10.6.0.151/32', '127.0.0.0/8']
    
     # 객체 저장소
     ## GCP에서 객체 저장소를 구성하는 예시
     ## 필요에 따라 선택한 객체 저장소 제공자로 이 구성을 바꿉니다.
     gitlab_rails['object_store']['enabled'] = true
     gitlab_rails['object_store']['connection'] = {
       'provider' => 'Google',
       'google_project' => '<gcp-프로젝트-이름>',
       'google_json_key_location' => '<gcp-서비스-계정-키-경로>'
     }
     gitlab_rails['object_store']['objects']['artifacts']['bucket'] = "<gcp-artifacts-버킷-이름>"
     gitlab_rails['object_store']['objects']['external_diffs']['bucket'] = "<gcp-external-diffs-버킷-이름>"
     gitlab_rails['object_store']['objects']['lfs']['bucket'] = "<gcp-lfs-버킷-이름>"
     gitlab_rails['object_store']['objects']['uploads']['bucket'] = "<gcp-uploads-버킷-이름>"
     gitlab_rails['object_store']['objects']['packages']['bucket'] = "<gcp-packages-버킷-이름>"
     gitlab_rails['object_store']['objects']['dependency_proxy']['bucket'] = "<gcp-dependency-proxy-버킷-이름>"
     gitlab_rails['object_store']['objects']['terraform_state']['bucket'] = "<gcp-terraform-state-버킷-이름>"
    
     gitlab_rails['backup_upload_connection'] = {
       'provider' => 'Google',
       'google_project' => '<gcp-프로젝트-이름>',
       'google_json_key_location' => '<gcp-서비스-계정-키-경로>'
     }
     gitlab_rails['backup_upload_remote_directory'] = "<gcp-백업-상태-버킷-이름>"
    
     gitlab_rails['ci_secure_files_object_store_enabled'] = true
     gitlab_rails['ci_secure_files_object_store_remote_directory'] = "gcp-ci_secure_files-버킷-이름"
    
     gitlab_rails['ci_secure_files_object_store_connection'] = {
       'provider' => 'Google',
       'google_project' => '<gcp-프로젝트-이름>',
       'google_json_key_location' => '<gcp-서비스-계정-키-경로>'
     }
    
  4. 이전에 구성된 첫 번째 Linux 패키지 노드에서 /etc/gitlab/gitlab-secrets.json 파일을 복사하고 이 서버의 동일한 이름의 파일을 추가하거나 교체합니다. 이것이 구성 중인 첫 번째 Linux 패키지 노드이면 이 단계를 건너뛸 수 있습니다.

  5. 재구성 시 데이터베이스 마이그레이션을 업그레이드에서 자동으로 실행하고 아닌 대로 하려면 다음을 실행합니다:

     sudo touch /etc/gitlab/skip-auto-reconfigure
    

    지정된 노드 한 대에서만 마이그레이션을 처리해야 함에 대한 자세한 내용은 GitLab Rails 후 구성 섹션을 참조하십시오.

  6. 변경 사항이 적용되려면 GitLab을 재구성합니다.

GitLab Rails 구성

이 섹션에서는 GitLab 애플리케이션 (Rails) 구성 방법에 대해 설명합니다.

Rails는 Redis, PostgreSQLGitaly 인스턴스에 연결이 필요합니다. 또한 권장 사항으로 객체 저장소에 연결해야 합니다.

참고: 데이터 객체에 NFS 대신 객체 저장소를 사용하는 것이 권장되므로 다음 예제에는 객체 저장소 구성이 포함됩니다.

다음 IP는 예시로 사용됩니다. - 10.6.0.111: GitLab 애플리케이션 1 - 10.6.0.112: GitLab 애플리케이션 2 - 10.6.0.113: GitLab 애플리케이션 3 - 10.6.0.114: GitLab 애플리케이션 4 - 10.6.0.115: GitLab 애플리케이션 5 - 10.6.0.116: GitLab 애플리케이션 6 - 10.6.0.117: GitLab 애플리케이션 7 - 10.6.0.118: GitLab 애플리케이션 8 - 10.6.0.119: GitLab 애플리케이션 9 - 10.6.0.120: GitLab 애플리케이션 10 - 10.6.0.121: GitLab 애플리케이션 11 - 10.6.0.122: GitLab 애플리케이션 12

각 노드에서 다음을 수행하십시오:

  1. 원하는 Linux 패키지를 다운로드하고 설치하십시오. 페이지의 설치 단계 1과 2만 따르십시오.

  2. /etc/gitlab/gitlab.rb 파일을 편집하고 다음 구성을 사용하십시오. 노드 간에 링크의 일관성을 유지하려면, 응용 프로그램 서버의 external_url은 사용자가 GitLab에 액세스하는데 사용할 외부 URL을 가리켜야 합니다. 이는 GitLab 애플리케이션 서버로 트래픽을 라우팅할 외부 로드 밸런서의 URL일 것입니다.

    external_url 'https://gitlab.example.com'
    
    # git_data_dirs은 Praefect 가상 저장소를 위해 구성됩니다.
    # 주소는 Praefect의 내부 로드 밸런서입니다.
    # 토큰은 praefect_external_token입니다.
    git_data_dirs({
      "default" => {
        "gitaly_address" => "tcp://10.6.0.40:2305", # 내부 로드 밸런서 IP
        "gitaly_token" => '<praefect_external_token>'
      }
    })
    
    ## GitLab 애플리케이션 서버에 없을 컴포넌트 비활성화
    roles(['application_role'])
    gitaly['enable'] = false
    nginx['enable'] = true
    sidekiq['enable'] = false
    
    ## PostgreSQL 연결 세부 정보
    # 응용 프로그램 노드에서 PostgreSQL 비활성화
    postgresql['enable'] = false
    gitlab_rails['db_host'] = '10.6.0.20' # 내부 로드 밸런서 IP
    gitlab_rails['db_port'] = 6432
    gitlab_rails['db_password'] = '<postgresql_user_password>'
    gitlab_rails['db_load_balancing'] = { 'hosts' => ['10.6.0.21', '10.6.0.22', '10.6.0.23'] } # PostgreSQL IPs
    
    # 업그레이드시 데이터베이스 마이그레이션을 자동으로 실행하지 않도록 함
    gitlab_rails['auto_migrate'] = false
    
    ## Redis 연결 세부 정보
    ## 캐시 데이터를 호스팅하는 첫 번째 클러스터
    gitlab_rails['redis_cache_instance'] = 'redis://:<REDIS_PRIMARY_PASSWORD_OF_FIRST_CLUSTER>@gitlab-redis-cache'
    
    gitlab_rails['redis_cache_sentinels'] = [
      {host: '10.6.0.51', port: 26379},
      {host: '10.6.0.52', port: 26379},
      {host: '10.6.0.53', port: 26379},
    ]
    
    ## 나머지 영구 데이터를 호스팅하는 두 번째 클러스터
    redis['master_name'] = 'gitlab-redis-persistent'
    redis['master_password'] = '<REDIS_PRIMARY_PASSWORD_OF_SECOND_CLUSTER>'
    
    gitlab_rails['redis_sentinels'] = [
      {host: '10.6.0.61', port: 26379},
      {host: '10.6.0.62', port: 26379},
      {host: '10.6.0.63', port: 26379},
    ]
    
    # 모니터링에 사용되는 수출자가 청취할 네트워크 주소 설정
    node_exporter['listen_address'] = '0.0.0.0:9100'
    gitlab_workhorse['prometheus_listen_addr'] = '0.0.0.0:9229'
    puma['listen'] = '0.0.0.0'
    
    # 모니터링 노드의 IP 주소를 모니터링 화이트리스트에 추가하고
    # NGINX 메트릭을 스크래이핑할 수 있도록 허용
    gitlab_rails['monitoring_whitelist'] = ['10.6.0.151/32', '127.0.0.0/8']
    nginx['status']['options']['allow'] = ['10.6.0.151/32', '127.0.0.0/8']
    
    #############################
    ###     객체 저장소     ###
    #############################
    
    # GCP에서 객체 저장소를 구성하는 예시
    # 이 구성은 원하는 객체 저장소 공급업체로 대체하십시오
    gitlab_rails['object_store']['enabled'] = true
    gitlab_rails['object_store']['connection'] = {
      'provider' => 'Google',
      'google_project' => '<gcp-project-name>',
      'google_json_key_location' => '<path-to-gcp-service-account-key>'
    }
    gitlab_rails['object_store']['objects']['artifacts']['bucket'] = "<gcp-artifacts-bucket-name>"
    gitlab_rails['object_store']['objects']['external_diffs']['bucket'] = "<gcp-external-diffs-bucket-name>"
    gitlab_rails['object_store']['objects']['lfs']['bucket'] = "<gcp-lfs-bucket-name>"
    gitlab_rails['object_store']['objects']['uploads']['bucket'] = "<gcp-uploads-bucket-name>"
    gitlab_rails['object_store']['objects']['packages']['bucket'] = "<gcp-packages-bucket-name>"
    gitlab_rails['object_store']['objects']['dependency_proxy']['bucket'] = "<gcp-dependency-proxy-bucket-name>"
    gitlab_rails['object_store']['objects']['terraform_state']['bucket'] = "<gcp-terraform-state-bucket-name>"
    
    gitlab_rails['backup_upload_connection'] = {
      'provider' => 'Google',
      'google_project' => '<gcp-project-name>',
      'google_json_key_location' => '<path-to-gcp-service-account-key>'
    }
    
    gitlab_rails['backup_upload_remote_directory'] = "<gcp-backups-state-bucket-name>"
    gitlab_rails['ci_secure_files_object_store_enabled'] = true
    gitlab_rails['ci_secure_files_object_store_remote_directory'] = "gcp-ci_secure_files-bucket-name"
    
    gitlab_rails['ci_secure_files_object_store_connection'] = {
       'provider' => 'Google',
       'google_project' => '<gcp-project-name>',
       'google_json_key_location' => '<path-to-gcp-service-account-key>'
    }
    
  3. Gitaly에 TLS 지원을 사용하는 경우 git_data_dirs 항목이 tcp 대신 tls로 구성되었는지 확인하십시오:

    git_data_dirs({
      "default" => {
        "gitaly_address" => "tls://10.6.0.40:2305", # 내부 로드 밸런서 IP
        "gitaly_token" => '<praefect_external_token>'
      }
    })
    
    1. /etc/gitlab/trusted-certs로 인증서를 복사하십시오:

      sudo cp cert.pem /etc/gitlab/trusted-certs/
      
  4. 처음 구성하는 Linux 패키지 노드에서 /etc/gitlab/gitlab-secrets.json 파일을 복사하여이 서버의 동일한 이름의 파일을 추가하거나 교체하십시오. 이것이 구성하는 첫 번째 Linux 패키지 노드인 경우에는이 단계를 건너 뛸 수 있습니다.
  5. 데이터베이스 마이그레이션을 다시 구성시에만 실행되도록하려면 다음을 실행하십시오:

    sudo touch /etc/gitlab/skip-auto-reconfigure
    

    GitLab Rails 후 구성 섹션에 자세히 설명 된 대로, 마이그레이션을 처리할 수있는 단일 지정 노드만 처리해야합니다.

  6. 변경 사항을 적용하려면 GitLab을 다시 구성하십시오.
  7. 증분 로깅을 활성화.
  8. 노드가 Gitaly에 연결할 수 있는지 확인하십시오:

    sudo gitlab-rake gitlab:gitaly:check
    

    그런 다음 요청을 확인하려면 로그를 보십시오:

    sudo gitlab-ctl tail gitaly
    
  9. 선택적으로, Gitaly 서버에서 Gitaly가 내부 API에 콜백을 수행할 수 있는지 확인하십시오:
    • GitLab 15.3 이상의 경우, sudo /opt/gitlab/embedded/bin/gitaly check /var/opt/gitlab/gitaly/config.toml 실행
    • GitLab 15.2 이하의 경우, sudo /opt/gitlab/embedded/bin/gitaly-hooks check /var/opt/gitlab/gitaly/config.toml 실행

앞선 예제에서와 같이 external_urlhttps를 지정하면, GitLab은 SSL 인증서가 /etc/gitlab/ssl/에 있어야한다고 예상합니다. 인증서가 없는 경우, NGINX가 시작하지 않습니다. 자세한 내용은 HTTPS 문서를 참조하십시오.

GitLab Rails 포스트 구성

  1. 설치 및 업데이트 중 데이터베이스 마이그레이션을 실행할 애플리케이션 노드를 지정하세요. GitLab 데이터베이스를 초기화하고 모든 마이그레이션이 실행되었는지 확인하세요:

    sudo gitlab-rake gitlab:db:configure
    

    이 작업은 Rails 노드가 기본 데이터베이스에 직접 연결하도록 구성되어 있어야 합니다. PgBouncer 우회가 필요합니다. 마이그레이션이 완료되면 노드를 다시 PgBouncer로 지나가도록 구성해야 합니다.

  2. 데이터베이스에서 SSH 키의 빠른 조회를 구성하세요. 여기를 참조하세요.

Prometheus 구성

Linux 패키지를 사용하여 Prometheus를 실행하는 독립형 모니터링 노드를 구성할 수 있습니다.

다음 IP를 예로 들어 사용하겠습니다:

  • 10.6.0.151: Prometheus

모니터링 노드를 구성하려면:

  1. 모니터링 노드에 SSH로 연결합니다.
  2. 원하는 Linux 패키지를 다운로드하고 설치하세요. 페이지에서 설치 단계 1과 2만 따르도록 하세요.

  3. /etc/gitlab/gitlab.rb 파일을 편집하고 다음 내용을 추가하세요:

    roles(['monitoring_role', 'consul_role'])
    
    external_url 'http://gitlab.example.com'
    
    # Prometheus
    prometheus['listen_address'] = '0.0.0.0:9090'
    prometheus['monitor_kubernetes'] = false
    
    # Prometheus를 위한 서비스 검색 활성화
    consul['monitoring_service_discovery'] =  true
    consul['configuration'] = {
       retry_join: %w(10.6.0.11 10.6.0.12 10.6.0.13)
    }
    
    # Prometheus에 대한 스크래핑할 서비스 구성
    prometheus['scrape_configs'] = [
       {
          'job_name': 'pgbouncer',
          'static_configs' => [
             'targets' => [
             "10.6.0.31:9188",
             "10.6.0.32:9188",
             "10.6.0.33:9188",
             ],
          ],
       },
       {
          'job_name': 'praefect',
          'static_configs' => [
             'targets' => [
             "10.6.0.131:9652",
             "10.6.0.132:9652",
             "10.6.0.133:9652",
             ],
          ],
       },
    ]
    
    nginx['enable'] = false
    
  4. 파일을 저장하고 GitLab 재구성을 수행합니다.

객체 저장소 구성

GitLab은 다양한 종류의 데이터를 보관하기 위해 객체 저장소 서비스를 사용할 수 있습니다. 이는 데이터 객체에 대해 NFS보다 권장되며 일반적으로 성능, 신뢰성 및 확장성 면에서 훨씬 우수합니다. 자세한 내용은 권장되는 클라우드 제공업체 및 서비스를 참조하세요.

GitLab에서 객체 저장소 구성을 지정하는 두 가지 방법이 있습니다:

가능한 경우 통합 형식이 사용됩니다.

참고: GitLab 14.x 및 이전 버전에서 스토리지별 형식을 사용할 때는 직접 업로드 모드를 활성화해야 합니다. 14.9에서 폐기된 이전 백그라운드 업로드 모드는 NFS와 같은 공유 저장소가 필요합니다.

각 데이터 유형에 대해 별도의 버킷을 사용하는 것이 GitLab의 권장 방법입니다. 이렇게 하면 GitLab이 저장하는 다양한 유형의 데이터 간 충돌이 없어집니다. 미래에는 단일 버킷 사용을 지원할 계획입니다.

증분 로깅 활성화

기본값으로 GitLab Runner는 작업 로그를 조각조각 반환하며, 통합된 객체 저장소를 사용할 때에도 Linux 패키지가 기본적으로 /var/opt/gitlab/gitlab-ci/builds에 임시로 디스크에 캐시합니다. 기본 구성으로는 이 디렉토리를 NFS를 통해 GitLab Rails 및 Sidekiq 노드에서 공유해야 합니다.

NFS를 통해 작업 로그를 공유하는 것은 지원되지만, NFS를 사용하는 필요성을 피하기 위해 증분 로깅을 활성화하는 것이 권장됩니다(NFS 노드가 배포되지 않은 경우 필요함). 증분 로깅은 작업 로그의 임시 캐싱에 디스크 공간 대신 Redis를 사용합니다.

고급 검색 구성

Elasticsearch를 활용하여 GitLab 인스턴스 전체에서 더 빠르고 고급 코드 검색을 활성화할 수 있습니다.

Elasticsearch 클러스터 설계와 요구 사항은 특정 데이터에 따라 다릅니다. 인스턴스와 함께 Elasticsearch 클러스터를 설정하는 권장 사항에 대한 자세한 내용은 최적의 클러스터 구성 선택을 참조하세요.

Helm Charts를 사용한 클라우드 네이티브 하이브리드 참조 아키텍처 (대안)

클라우드 네이티브 GitLab의 선택된 구성 요소를 Kubernetes에서 GitLab Helm 차트를 사용하여 실행할 수 있습니다. 이 설정에서는 Kubernetes 클러스터인 Webservice에서 GitLab Rails의 동등한 부분을 실행할 수 있습니다. 또한 Kubernetes 클러스터인 Sidekiq에서 Sidekiq 노드의 동등한 부분을 실행할 수 있습니다. 또한 다음과 같은 다른 지원 서비스도 지원됩니다: NGINX, Toolbox, 마이그레이션, Prometheus.

하이브리드 설치는 클라우드 네이티브 및 전통적인 컴퓨팅 배포의 이점을 활용합니다. 이를 통해 상태 없는 구성 요소는 클라우드 네이티브 워크로드 관리의 이점을 누리고, 상태 있는 구성 요소는 Linux 패키지 설치를 통해 컴퓨팅 VM에서 배포하여 증가된 영속성 이점을 얻을 수 있습니다.

Kubernetes 및 백엔드 구성 요소 간에 동기화해야 하는 GitLab 비밀을 안내하는 포함된 지침을 비롯한 설정 지침에 대해서는 Helm 차트 고급 구성 문서를 참조하세요.

참고: 이것은 고급 설정입니다. Kubernetes에서 서비스를 실행하는 것은 복잡하다는 것으로 잘 알려져 있습니다. 이 설정은 Kubernetes에 대해 강력한 지식과 경험이 있는 경우에만 권장됩니다. 이 섹션의 나머지 부분은 이를 전제로 합니다.

경고: Gitaly Cluster는 Kubernetes에서 실행할 수 없습니다. 자세한 내용은 epic 6127를 참조하세요.

클러스터 토폴로지

다음 표와 다이어그램은 전형적인 환경과 동일한 형식을 사용하여 하이브리드 환경을 상세히 설명합니다.

먼저, Kubernetes에서 실행되는 구성 요소가 있습니다. 이들은 여러 노드 그룹에 걸쳐 실행되지만 최소 CPU 및 메모리 요구 사항을 준수하는 한 원하는 대로 전체 구성을 변경할 수 있습니다.

서비스 노드 그룹 노드 구성 GCP AWS 최소할당 가능 CPU 및 메모리
Webservice 16 32 vCPU, 28.8 GB 메모리 n1-highcpu-32 c5.9xlarge 510 vCPU, 472 GB 메모리
Sidekiq 4 4 vCPU, 15 GB 메모리 n1-standard-4 m5.xlarge 15.5 vCPU, 50 GB 메모리
지원 서비스 2 4 vCPU, 15 GB 메모리 n1-standard-4 m5.xlarge 7.75 vCPU, 25 GB 메모리
  • 이 설정에서는 권장하며 정기적으로 테스트를 진행합니다. Google Kubernetes Engine (GKE)Amazon Elastic Kubernetes Service (EKS)를 사용하는 것이 좋습니다. 다른 Kubernetes 서비스도 작동할 수 있지만, 상황에 따라 달라질 수 있습니다.
  • 노드 구성은 해당 비율을 강제하기 위해 표시됩니다. 성능 테스트 중에 스케일링을 피하도록 CPU 레이트 및 메모리 레이트를 할당하는 것이 좋습니다.
    • 프로덕션 배포에서는 특정 노드에 pod를 할당할 필요가 없습니다. 3개 이상의 노드를 권장하며 이들은 서로 다른 가용 영역에 배치하는 것이 좋은 실전 클라우드 아키텍처 기준을 준수하는 데 큰 도움이 됩니다.

그 다음, Linux 패키지를 사용하여 정적 컴퓨팅 VM에서 실행되는 백엔드 구성 요소가 있습니다(또는 해당하는 경우 외부 PaaS 서비스):

서비스 노드 구성 GCP AWS
Consul1 3 2 vCPU, 1.8 GB 메모리 n1-highcpu-2 c5.large
PostgreSQL1 3 32 vCPU, 120 GB 메모리 n1-standard-32 m5.8xlarge
PgBouncer1 3 2 vCPU, 1.8 GB 메모리 n1-highcpu-2 c5.large
내부 로드 밸런서3 1 16 vCPU, 14.4 GB 메모리 n1-highcpu-16 c5.4xlarge
Redis/Sentinel - Cache2 3 4 vCPU, 15 GB 메모리 n1-standard-4 m5.xlarge
Redis/Sentinel - Persistent2 3 4 vCPU, 15 GB 메모리 n1-standard-4 m5.xlarge
Gitaly5 3 64 vCPU, 240 GB 메모리6 n1-standard-64 m5.16xlarge
Praefect5 3 4 vCPU, 3.6 GB 메모리 n1-highcpu-4 c5.xlarge
Praefect PostgreSQL1 1+ 2 vCPU, 1.8 GB 메모리 n1-highcpu-2 c5.large
객체 저장소4 - - - -

각주:

  1. 신뢰할 수 있는 타사 외부 PaaS PostgreSQL 솔루션에서 선택적으로 실행할 수 있습니다. 자세한 내용은 자체 PostgreSQL 인스턴스 제공를 참조하세요.
  2. 신뢰할 수 있는 타사 외부 PaaS Redis 솔루션에서 선택적으로 실행할 수 있습니다. 자세한 내용은 자체 Redis 인스턴스 제공를 참조하세요.
    • Redis는 주로 단일 스레드이며 CPU 코어 증가로 큰 이점을 얻지 못합니다. 이러한 크기의 아키텍처에서는 최적의 성능을 위해 별도의 캐시 및 영구 인스턴스를 둘 수 있도록 권장됩니다.
  3. 추천된 클라우드 제공업체 및 서비스에 대한 자세한 내용은 권장 클라우드 제공업체 및 서비스를 참조하세요.
  4. 신뢰할 수 있는 클라우드 제공업체 또는 자체 관리 솔루션에서 실행해야 합니다. 자세한 내용은 객체 저장소 구성하기를 참조하세요.
  5. Gitaly Cluster는 장애 허용 이점을 제공하지만 추가 복잡성이 동반됩니다. Gitaly Cluster 배포 전 기술적 제한사항과 고려 사항을 리뷰하세요. 샤딩된 Gitaly를 원하는 경우에는 Gitaly에 대해 동일한 사억을 사용하십시오.
  6. Gitaly 사억은 건강한 상태에서 사용 패턴 및 저장소 크기의 높은 백분위를 기반으로 하며 정확한 사억은 으되크게 영향을 받습니다. 이 경우 Git과 Gitaly 성능에 중대한 영향을 줄 수 있고 추가 조정이 필요할 수 있습니다.

참고: 인스턴스를 구성하는 PaaS 솔루션에 대해서는 신뢰할 수 있는 클라우드 아키텍처 방식에 맞게 서로 다른 가용 영역에 3개 이상의 노드를 구현하는 것이 강력히 권장됩니다.

리소스 사용량 설정

다음 공식은 리소스 제약 조건 내에서 배포할 수 있는 팟 수를 계산하는 데 도움을 줍니다. 50k 레퍼런스 아키텍처 예제 값 파일 은 Helm 차트에 계산된 구성을 적용하는 방법을 문서화합니다.

웹서비스

웹서비스 팟은 일반적으로 각 워커 당 약 1CPU 및 1.25GB의 메모리가 필요합니다. 각 웹서비스 팟은 기본적으로 4개의 워커 프로세스가 생성되며 각 팟에는 다른 작은 프로세스가 실행되기 때문에 추천된 토폴로지를 사용하면 웹서비스 팟당 대략적으로 4CPU 및 5GB의 메모리를 사용합니다.

50,000명의 사용자를 위해 Puma 워커 수를 대략 320개로 권장합니다. 제공된 권장 사항에 따르면 이를 통해 기본 설정에서 추가로 최대 80개의 웹서비스 팟을 배포할 수 있으며 팟당 워커가 4개이며 노드당 5개의 팟을 확장할 수 있습니다. 추가로 이용 가능한 리소스를 확장하려면 추가 웹서비스 팟 당 각각 1CPU당 1.25GB의 메모리 비율을 사용합니다.

리소스 사용에 대한 자세한 정보는 웹서비스 리소스를 참조하십시오.

Sidekiq

일반적으로 Sidekiq 팟은 0.9 CPU 및 2GB의 메모리가 필요합니다.

제공된 시작 지점을 통해 최대 14개의 Sidekiq 팟을 배포할 수 있습니다. 추가 팟을 위해 0.9 CPU 당 2GB 메모리 비율을 사용하여 이용 가능한 리소스를 확장합니다.

리소스 사용에 대한 자세한 정보는 Sidekiq 리소스를 참조하십시오.

Supporting

Supporting 노드 풀은 웹서비스 및 Sidekiq 풀에 필요하지 않은 모든 지원 배포를 수용할 수 있도록 설계되었습니다.

이에는 클라우드 제공업체의 구현 및 NGINX 또는 GitLab Shell과 같은 GitLab 배포와 관련된 다양한 배포물이 포함됩니다.

모니터링과 같은 추가 배포를 원하는 경우, 가능한 경우 이러한 배포물을 Supporting 노드 풀에 배포하는 것이 좋으며 웹서비스 또는 Sidekiq 풀이 아닌 곳에 배포하는 것이 좋습니다. Supporting 풀은 몇 가지 추가 배포를 수용할 수 있도록 명시적으로 설계되었습니다. 그러나 제공된 풀에 배포물이 맞지 않는 경우 노드 풀을 그에 맞게 확장할 수 있습니다.