Local Runtimes로 로컬 엔진 설치하고 관리하기

Msty Nexus · 글 19편

Msty Nexus

이 글에서 다루는 것Nexus가 관리하는 Ollama, llama.cpp, MLX, CLI Proxy 엔진의 설치, 시작, 업데이트, 되돌리기와 소유권 경계, 설정 항목, 자주 나는 문제를 정리합니다.

로컬 런타임이란

로컬 런타임은 지금 컴퓨터에서 모델을 실제로 돌리는 엔진입니다. Nexus는 이 엔진을 직접 관리하거나, 이미 돌고 있는 엔진으로 요청을 보냅니다.

엔진마다 설치 방법과 조작법이 다르지만, 앱은 그 차이를 알 필요가 없습니다. Nexus가 엔진의 켜고 끄기를 게이트웨이 API 뒤에 숨겨 주기 때문입니다.

화면은 두 곳에 나뉘어 있습니다.

하려는 일	여는 곳
엔진 카드에서 설치, 시작	Providers
저장 위치와 성능 설정	Settings

Nexus가 제공하는 엔진 네 가지

서비스	맡는 일
Nexus Ollama	Ollama 카탈로그 모델과 임베딩을 로컬 게이트웨이 뒤에서 제공
Nexus llama.cpp	로컬 llama.cpp 서버와 자체 라우터로 GGUF 모델 제공
Nexus MLX	Apple Silicon에 맞춘 MLX 모델
Nexus CLI Proxy	구독 계정 기반의 Claude, Gemini, Codex 등 로컬 API 모델(제공되는 범위에서)

일부 서비스는 플랫폼 제한이 있습니다. MLX의 설치·실행 관리와 동기화는 macOS에서만 됩니다.

엔진에 할 수 있는 동작

엔진 동작은 모두 백그라운드 작업으로 실행됩니다.

동작	뜻
`install`	설치
`start` / `stop` / `restart`	시작, 정지, 다시 시작
`update`	업데이트
`rollback`	이전 버전으로 되돌리기
`uninstall`	제거
`enable` / `disable`	켜기, 끄기

작업은 진행률, 상태, 경고, 안전한 오류 코드를 내놓습니다. 오래 걸리는 작업은 화면의 activity strip이나 /v1/jobs/{id}로 따라가라고 문서는 안내합니다.

설치와 업데이트의 출처

Nexus는 런타임 소프트웨어를 설치하거나 업데이트하기 전에 검증합니다. 어디서 받아 오는지는 조직이 Nexus를 어떻게 관리하느냐에 따라 달라집니다.

방식	출처
Msty-managed updates	서명된 Msty 런타임 피드
Organization-managed updates	조직이 승인한 서명된 매니페스트
Existing installations	기기에 이미 있는 호환 런타임
Updates disabled	설치와 업데이트를 막습니다. 다른 안전한 동작은 그대로 쓸 수 있습니다

연결된 앱이 추론 요청을 통해 업데이트 출처나 신뢰 설정을 바꿀 수는 없습니다.

Nexus가 건드리는 것과 건드리지 않는 것

이 부분은 실수로 파일을 잃지 않기 위해 알아 두어야 합니다. Nexus는 자기가 소유했거나 명시적으로 기록한 런타임만 조작합니다.

밖에서 따로 시작한 프로세스는 Nexus가 종료하지 않습니다.
정지와 다시 시작은 Nexus가 시작한 프로세스 기록에만 작동합니다.
제거(uninstall)는 Nexus가 관리하는 런타임 실행 파일과 설치 정보만 지웁니다.
제거해도 모델 캐시와 모델 카탈로그 기록은 남습니다.
원래 있던 설치는 사용자 소유로 남습니다. 제거할 때 Nexus가 그 파일을 지우지 않습니다.

문서는 이 경계를 둔 이유를, 로컬 조작 한 번으로 사용자 소유의 런타임 파일이 지워지는 일을 막기 위해서라고 설명합니다.

런타임 설정 항목

항목	내용
Models directory	모델을 두는 폴더
Managed runtime root status	Nexus가 관리하는 런타임 위치의 상태
Model cache status	모델 캐시 상태
Install policy posture	설치 정책 상태
Runtime tuning	Ollama와 llama.cpp의 성능 조정
Acceleration engine	가속 엔진 선택(지원되는 경우)

모델은 설정한 models directory 아래에 엔진별 하위 폴더로 나뉘어 저장됩니다. 앱이 저장 용량 요약을 보여 줄 수는 있지만, Runtime은 실제 저장 경로를 공개 진단에 넣지 않습니다.

Ollama와 llama.cpp의 세부 조정값은 Nexus Settings 항목별 안내에 있습니다.

서비스 진단

서비스 진단은 읽기 전용이고, 다음 정보를 합쳐 보여 줍니다.

런타임 카탈로그 정보
지원되는 동작
설치 상태
관리 버전 식별자
정리된 상태 점검 결과
실행 파일이 있는지 여부
설정이 있는지 여부(있다, 없다로만 표시)

진단에 나오지 않는 것도 분명히 정해져 있습니다. 실행 파일의 실제 경로, 로컬 모델 폴더, 런타임 위치, 명령줄, 프로세스 ID, 생성된 설정 파일 경로, 제공업체 자격 증명, 네트워크 오류 원문은 노출되지 않습니다.

계정으로 쓰는 모델

일부 런타임은 계정에 연결된 로컬 모델을 지원합니다. CLI Proxy는 구독 계정의 모델을 서비스 계정 경로로 내놓을 수 있습니다.

로그인 절차는 Runtime이 맡습니다. 앱은 로그인 흐름을 시작하고 진행 상태를 확인하며, 계정이 연결되면 모델 동기화가 이어서 실행됩니다. 비밀 값은 Runtime이나 운영체제의 자격 증명 저장소에 남고 화면 쪽으로 돌려보내지 않습니다.

어떤 구독이 지원되는지, 구독 약관상 허용되는지는 공식 문서에는 설명이 없습니다.

자주 나는 문제

Local Runtimes 문서가 정리한 다섯 가지입니다.

증상	조치
런타임이 설치되어 있지 않음	로컬 런타임 카드에서 설치합니다
실행 파일이 없음	Nexus로 다시 설치하거나, 카탈로그에 등록된 실행 파일을 `PATH`에 넣습니다
포트 충돌	그 런타임 포트를 쓰는 프로세스를 멈춘 뒤 다시 시작합니다
런타임을 밖에서 시작했음	Nexus의 관리 기능을 쓰고 싶으면 직접 멈춘 뒤 Nexus에서 시작합니다
업데이트 전에 정지가 필요함	관리 버전을 업데이트하기 전에 런타임을 멈춥니다

Troubleshooting 문서는 런타임 동작이 실패할 때 다음도 확인하라고 덧붙입니다.

이 기기에서 지원되는 런타임인가
런타임이 켜져(enabled) 있는가
같은 런타임을 대상으로 하는 다른 작업이 이미 돌고 있지 않은가
포트가 비어 있는가
경로로 지정한 설치라면 실행 파일이 실제로 있는가

Nexus는 자기가 시작한 프로세스만 조작합니다. 런타임을 Nexus 밖에서 시작했다면, Nexus의 관리 동작을 쓰기 전에 직접 멈춰야 합니다.

다음 단계

엔진이 준비되면 모델을 받아야 합니다. 내려받기, 가져오기, 메모리 관리, GPU 배치는 Models에서 모델 관리하기에서 다룹니다. Ollama 자체가 처음이라면 로컬 AI 학습 글을 먼저 보는 것도 방법입니다.