Providers에서 제공업체와 엔드포인트 연결하기

제공업체(provider)란

Nexus에서 제공업체는 “모델이 어디에 있고 어떻게 닿는가”를 알려 주는 항목입니다. 온라인 API일 수도 있고, 직접 주소를 넣는 호환 엔드포인트일 수도 있고, 게이트웨이 뒤에 놓인 로컬 런타임일 수도 있습니다.

Console 왼쪽 메뉴 Library 묶음의 Providers에서 연결, 시험, 동기화, 켜기, 끄기, 삭제를 합니다.

Studio에서 제공업체 키를 넣는 방법은 온라인 제공업체 연결하기에 따로 있습니다. Nexus는 키를 앱마다 넣는 대신 Runtime 한곳에만 넣는다는 점이 다릅니다.

지원하는 제공업체 종류

종류	설명
OpenAI	OpenAI API 모델. 대화, 임베딩, Responses, 이미지, 오디오와 관련 OpenAI 방식 경로(제공되는 범위에서)
Anthropic	Anthropic Messages와 토큰 수 세기
OpenRouter	OpenRouter를 거치는 OpenAI 방식, Anthropic 방식 경로
OpenAI-compatible local API	사용자가 직접 운영하는 로컬 엔드포인트. Nexus가 요청을 보낼 수는 있지만 프로세스를 관리하지는 않습니다
Ollama	Nexus가 관리하거나, 찾아낸 Ollama 런타임
llama.cpp	Nexus가 관리하거나, 찾아낸 llama.cpp 런타임
MLX	macOS 기기에서 Nexus가 관리하는 MLX 런타임
CLI Proxy	구독 계정 기반의 로컬 API 모델(제공되는 범위에서)

지금 기기에서 쓸 수 있는 제공업체 종류와 동작은 GET /v1/capabilities로도 확인할 수 있습니다.

Nexus 사이트와 변경 기록은 0.6.0에서 AWS Bedrock과 Azure AI 제공업체가 추가되었다고 안내합니다. 다만 Providers 문서의 종류 목록에는 이 둘이 아직 없고, 연결 절차도 공식 문서에는 설명이 없습니다. Nexus 요금 비교표는 이 두 제공업체를 Pro와 Enterprise에 표시합니다.

클라우드 제공업체 추가하기

1. Add Provider를 누릅니다.
2. OpenAI, Anthropic, OpenRouter 또는 호환 템플릿을 고릅니다.
3. 필요하면 표시 이름과 기본 주소(base URL)를 정합니다.
4. 제공업체 키를 한 번 붙여 넣습니다.
5. 저장합니다.
6. Test를 실행합니다.
7. 모델을 동기화하거나 자동 제공업체 모델을 켭니다.

자격 증명은 쓰기 전용입니다. 저장한 뒤 제공업체 정보를 조회하면 credentialConfigured(설정되어 있음) 여부만 나오고, 키나 저장소 참조 값은 나오지 않습니다.

호환 엔드포인트 추가하기

다른 서비스가 이미 OpenAI 호환 또는 Anthropic 호환 API를 내놓고 있을 때 씁니다. 사내에 따로 띄운 추론 서버가 그런 예입니다(설명을 위한 예입니다).

문서의 안내는 네 가지입니다.

• 제공업체 ID를 분명하게 정합니다. 모델 ID가 이 값을 앞에 달고 만들어지므로, 나중에도 예측할 수 있어야 합니다.
• 기본 주소는 그 제공업체 API의 루트로 맞춥니다.
• 그 제공업체가 실제로 지원하는 엔드포인트 계열만 켭니다.
• 프리셋이나 route pack에 배정하기 전에 먼저 시험합니다.

엔드포인트가 같은 컴퓨터에 있다면, 다른 기기가 접속해야 하는 경우가 아닌 한 루프백(127.0.0.1) 주소를 쓰는 편이 좋다고 문서는 권합니다.

이미 돌고 있는 로컬 런타임 찾기

호환되는 로컬 앱이나 서버가 이미 실행 중이면 Find Local Runtimes를 씁니다. Nexus가 호환되는 로컬 엔드포인트를 찾아 등록하면, 그 모델을 게이트웨이로 쓸 수 있게 됩니다.

찾아낸 후보는 네 가지 상태 가운데 하나로 표시됩니다.

• 준비됨(ready)
• 이미 등록됨
• 오프라인
• 응답이 올바르지 않음

찾아서 등록한 런타임도 등록 뒤에는 다른 제공업체와 똑같은 규칙(제공업체와 모델에 관한 계약)을 따릅니다. Nexus가 직접 설치하고 관리하는 엔진은 Local Runtimes에서 다룹니다.

자동 제공업체 모델과 수동 등록

autoProxyModels를 켜면, 제공업체가 돌려준 모델을 카탈로그에 하나씩 등록하지 않아도 제공업체 접두어가 붙은 이름으로 바로 내놓습니다.

방식	이런 때 씁니다
자동 제공업체 모델	제공업체의 모델 목록을 믿을 때, 새 모델이 빨리 보이기를 바랄 때, 모델마다 별도 정보나 별칭이 필요 없을 때
수동 카탈로그 등록	표시 이름이나 별칭을 고정해야 할 때, 엔드포인트 계열을 제한하고 싶을 때, 모델 목록을 숨기거나 골라서 보여 줘야 할 때

같은 ID를 가진 모델이 양쪽에 있으면 수동으로 등록한 쪽이 우선합니다.

제공업체 모델 동기화

동기화는 저장된 자격 증명으로 지원되는 온라인 제공업체에서 모델 기록을 가져옵니다. 안전한 카탈로그 정보만 저장하고, 그 제공업체에서 예전에 가져왔지만 이제 없는 항목은 정리합니다. 정리 대상은 Nexus가 가져와 관리하던 항목뿐입니다.

동기화는 백그라운드 작업으로 돕니다. 진행 상황은 화면의 activity strip이나 jobs API로 봅니다. 작업 정보에 제공업체 키가 들어가는 일은 없습니다.

Test가 알려 주는 것

Test는 읽기만 하는 동작입니다. 설정, 자격 증명 유무, 제공업체에 닿는지, 그리고 지원되는 경우 모델 목록 응답의 형식을 확인합니다.

결과는 고정된 상태값으로 나옵니다.

상태값	뜻
ready	쓸 준비가 됨
disabled	제공업체가 꺼져 있음
missing_credential	필요한 자격 증명이 없음
invalid_configuration	설정이 올바르지 않음
rejected	제공업체가 요청을 거부함
unreachable	제공업체에 닿지 않음
invalid_response	응답 형식이 예상과 다름
unsupported	지원되지 않음

오른쪽 뜻풀이는 상태값 이름을 풀어 쓴 것입니다. 문서는 값 목록만 싣고 각 값의 자세한 조건은 설명하지 않습니다.

진단 결과에는 제공업체가 돌려준 원본 응답, 자격 증명 값, 저장소 참조, 네트워크 오류 원문이 들어가지 않습니다.

끄기와 삭제

• 끄기(disable): 그 제공업체의 모델이 게이트웨이에서 보이지 않게 됩니다. 설정은 지워지지 않습니다.
• 삭제(delete): 모델, 프리셋, route pack이 더 이상 그 제공업체에 의존하지 않을 때만 합니다.

삭제가 RESOURCE_IN_USE로 실패하면, 그 제공업체를 쓰는 모델, 프리셋, route pack을 먼저 바꾸거나 지웁니다.

시험이 실패할 때 확인할 것

Troubleshooting 문서의 점검 항목입니다.

• 제공업체가 켜져 있는가
• 필요한 자격 증명이 설정되어 있는가
• 기본 주소가 맞는가
• 그 제공업체 계정으로 모델 목록을 볼 수 있는가
• 쓰려는 엔드포인트 계열을 그 제공업체가 지원하는가

참고한 문서

• Nexus 문서: Providers
• Nexus 문서: Troubleshooting
• Msty Nexus 변경 기록
• Msty Nexus 요금