자체 호스팅된 모델에 액세스하도록 GitLab 구성하기

Tier: 한정 기간 동안 Ultimate. 2024년 10월 17일에 GitLab Duo Enterprise로 업그레이드합니다. Offering: Self-managed Status: Beta

플래그: 이 기능의 가용성은 피처 플래그로 제어됩니다. 자세한 내용은 히스토리를 참조하세요.

사용 가능한 자체 호스팅된 모델에 GitLab 인스턴스를 구성하려면 다음을 수행하세요:

  1. 자체 호스팅된 모델을 구성하십시오.
  2. GitLab Duo 기능을 사용하여 자체 호스팅된 모델을 구성하십시오.

자체 호스팅된 모델 구성하기

전제 조건: - 관리자여야 합니다.

자체 호스팅된 모델을 구성하려면:

  1. 왼쪽 사이드바에서 아래쪽에 있는 관리를 선택합니다.
  2. AI 기반 기능을 선택합니다.
    • AI 기반 기능 메뉴 항목이 없는 경우, 구매 후 구독을 동기화하십시오.
      1. 왼쪽 사이드바에서 구독을 선택합니다.
      2. 구독 세부 정보에서 오른쪽에 마지막 동기화 옆의 동기화 구독()을 선택합니다.
  3. 모델을 선택합니다.
  4. 새로운 자체 호스팅된 모델을 선택합니다.
  5. 다음 필드를 작성합니다:
    • 모델 이름을 입력합니다. 예: Mistral.
    • 모델 패밀리 드롭다운 목록에서 모델을 선택합니다. 이 목록에는 GitLab에서 승인한 모델만 포함됩니다.
    • Endpoint에서 자체 호스팅된 모델 엔드포인트를 선택합니다. 예: 모델을 호스팅하는 서버.
    • 선택 사항. API 토큰에 접근하려면 API 키를 추가하십시오.
    • 선택 사항. 모델 식별자에 모델이 호스팅된 클라우드 제공업체를 입력하고 해당 모델을 위해 클라우드 제공업체가 사용하는 이름을 입력하십시오 (예: anthropic/claude-3-5-sonnet-20240620).
  6. 모델 생성을 선택합니다.

GitLab Duo 기능을 사용하여 자체 호스팅된 모델 구성하기

전제 조건: - 관리자여야 합니다.

구성된 기능 보기

  1. 왼쪽 사이드바에서 아래쪽에 있는 관리를 선택합니다.
  2. AI 기반 기능을 선택합니다.
    • AI 기반 기능 메뉴 항목이 없는 경우, 구매 후 구독을 동기화하십시오.
      1. 왼쪽 사이드바에서 구독을 선택합니다.
      2. 구독 세부 정보에서 오른쪽에 마지막 동기화 옆의 동기화 구독()을 선택합니다.
  3. 기능을 선택합니다.

기능을 자체 호스팅된 모델로 구성하기

GitLab Duo 기능을 구성하여 구성된 자체 호스팅된 모델로 쿼리를 전송하도록 설정합니다:

  1. 기능에서 설정하려는 기능을 선택하여 편집을 선택합니다. 예: 코드 생성.
  2. 기능을 위한 모델 제공업체를 선택합니다:
    • 목록에서 자체 호스팅된 모델을 선택합니다.
    • 사용하려는 자체 호스팅된 모델을 선택합니다. 예: Mistral.
  3. 변경 사항 저장을 선택합니다.

기능을 GitLab AI 공급업체 모델로 구성하기

GitLab AI 공급업체를 선택하여 GitLab Duo 기능의 모델 제공업체로 설정할 수 있습니다. 그럼 해당 기능은 GitLab Cloud Connector를 통해 GitLab에서 호스팅하는 모델을 사용합니다:

  1. 기능에서 설정하려는 기능을 선택하여 편집을 선택합니다.
  2. 기능의 모델 제공업체 목록에서 AI 공급업체를 선택합니다.
  3. 변경 사항 저장을 선택합니다.