사무실 네트워크에서 한 대의 모델 같이 쓰기

언제 필요한가

모든 PC에 모델을 받아 돌리기는 어렵습니다. 사무용 PC는 메모리가 넉넉하지 않고, 사람마다 모델을 받고 관리하는 것도 번거롭습니다. 그래픽카드가 있는 PC나 서버 한 대에 Ollama를 띄우고, 나머지 PC는 그 주소로 요청만 보내면 이 문제가 줄어듭니다.

구분	각자 PC에서 실행	한 대를 같이 쓰기
필요한 사양	모든 PC가 모델을 감당해야 함	한 대만 좋으면 됨
모델 관리	사람마다 따로	한 곳에서
자료의 이동	PC 밖으로 나가지 않음	사내 네트워크 안에서 그 PC까지 이동
동시에 쓸 때	서로 영향 없음	요청이 몰리면 느려짐
그 PC가 꺼지면	영향 없음	모두 못 씀

주소부터 정리합니다

이 설정에서 가장 자주 헷갈리는 부분입니다.

주소	뜻
localhost, 127.0.0.1	지금 이 PC 자신. 다른 PC에서는 닿지 않음
192.168.x.x, 10.x.x.x, 172.16.x.x~172.31.x.x	사무실이나 집 안에서만 쓰는 사설 주소
0.0.0.0	“이 PC에 들어오는 모든 경로에서 요청을 받겠다”는 설정용 표기

Ollama는 기본으로 127.0.0.1:11434에서만 요청을 받습니다. 그래서 설치 직후에는 같은 PC의 프로그램만 부를 수 있습니다. 다른 PC에서 부르게 하려면 요청을 받는 범위를 넓혀야 합니다.

모델을 띄울 PC에서 할 일

1. 받는 범위 넓히기

환경 변수 OLLAMA_HOST를 설정합니다. Windows PowerShell에서 다음을 실행합니다.

setx OLLAMA_HOST "0.0.0.0:11434"

Mac과 Linux에서는 설치 방식에 따라 환경 변수를 넣는 자리가 다릅니다. Ollama 공식 문서의 FAQ에서 운영체제별 방법을 확인합니다.

2. Ollama 다시 시작하기

환경 변수는 프로그램이 시작될 때 읽습니다. 작업 표시줄의 Ollama 아이콘에서 종료한 뒤 다시 실행합니다. 종료하지 않고 창만 닫으면 반영되지 않습니다.

3. 이 PC의 주소 확인하기

Windows에서는 다음을 실행합니다.

ipconfig

사용 중인 연결의 IPv4 주소를 적어 둡니다. 아래에서는 예시로 192.168.0.25라고 하겠습니다.

4. 방화벽에서 포트 허용하기

Windows 방화벽은 밖에서 들어오는 요청을 기본으로 막습니다. Ollama를 다시 실행했을 때 접근 허용을 묻는 창이 뜨면 개인 네트워크만 허용합니다. 창이 뜨지 않았다면 Windows Defender 방화벽 > 고급 설정 > 인바운드 규칙에서 TCP 11434 포트를 허용하는 규칙을 추가합니다. 조직에서 관리하는 PC라면 이 단계는 전산 담당 부서의 승인이 필요합니다.

5. 모델 받아 두기

다른 PC에서 부를 모델을 이 PC에 받아 둡니다.

ollama pull gemma4:e4b

다른 PC에서 확인하기

같은 네트워크의 다른 PC에서 브라우저를 열고 주소창에 넣습니다.

http://192.168.0.25:11434

Ollama is running이 보이면 연결된 것입니다. 모델 목록은 다음 주소에서 볼 수 있습니다.

http://192.168.0.25:11434/api/tags

프로그램에서 주소만 바꿉니다

앞의 글들에서 만든 코드는 주소의 localhost 자리만 바꾸면 그대로 쓸 수 있습니다.

Python:

URL = "http://192.168.0.25:11434/api/chat"

엑셀 VBA:

Private Const OLLAMA_URL As String = "http://192.168.0.25:11434/api/generate"

엑셀 추가 기능을 부서에 나눌 때 이 방식이 편합니다. 받는 사람의 PC에 Ollama를 설치할 필요가 없고, 함수가 든 파일만 등록하면 됩니다. 만드는 방법은 엑셀에서 Ollama 부르기: VBA로 AI 함수 만들기에 있습니다.

주소를 코드 안에 박아 두지 말고 설정 시트나 설정 파일에서 읽게 해 두면, 모델을 띄운 PC의 주소가 바뀌어도 코드를 다시 나누지 않아도 됩니다.

열기 전에 확인할 것

편한 만큼 조심할 것이 생깁니다. 열기 전에 다음을 확인합니다.

사용자 확인 절차가 없습니다. 기본 상태의 Ollama API에는 로그인이나 접속 키가 없습니다. 주소와 포트를 아는 사람은 같은 네트워크에서 누구나 모델을 부를 수 있고, 모델을 받거나 지우는 요청도 보낼 수 있습니다.

사내 네트워크 안에서만 엽니다. 공유기의 포트 전달 설정 등으로 인터넷에서 이 포트에 닿게 만들지 않습니다. 카페나 공용 와이파이처럼 믿을 수 없는 네트워크에 연결할 때는 이 설정을 끄거나 방화벽 규칙을 꺼 둡니다.

자료가 그 PC까지 이동합니다. 내 PC 안에서만 처리되던 것이 사내 네트워크를 지나 다른 PC로 갑니다. 그 PC를 누가 관리하는지, 기록을 남기는지 정해 둡니다.

조직의 승인을 받습니다. 업무망에서 PC 한 대를 서버처럼 여는 것은 보안 정책에 걸릴 수 있습니다. 강의에서 제안하는 방향은 “허용되지 않은 것은 전부 금지”가 아니라 조건을 정하고 그 조건을 채우면 허용하는 것입니다. 로컬 모델의 조건으로는 검증된 모델만 쓸 것, 외부 통신을 막을 것을 듭니다. 이 조건을 문서로 정리해 전산 담당 부서와 먼저 의논합니다.

접근할 수 있는 범위를 좁힙니다. 방화벽 규칙에서 허용할 상대 주소를 부서의 주소 범위로 제한하면, 같은 건물의 다른 부서에서 닿는 것을 막을 수 있습니다.

여러 사람이 쓸 때 생기는 일

• 요청이 몰리면 느려집니다. 모델은 한 번에 처리할 수 있는 양이 정해져 있습니다. 엑셀에서 수백 행을 한꺼번에 돌리는 사람이 있으면 다른 사람의 답이 늦어집니다. 큰 작업은 시간을 정해 돌립니다.
• 모델을 여러 개 부르면 메모리가 찹니다. 사람마다 다른 모델을 부르면 그때마다 모델이 메모리에 올라오고 내려갑니다. 같이 쓸 모델을 한두 개로 정해 둡니다.
• 그 PC가 꺼지면 모두 멈춥니다. 절전 모드로 들어가지 않게 전원 설정을 바꾸고, PC를 켤 때 Ollama가 자동으로 시작되게 합니다.
• 누가 관리하는지 정합니다. 모델을 바꾸거나 지울 때 미리 알리는 사람을 한 명 정해 둡니다.

되돌리기

같이 쓰기를 그만두려면 설정을 지웁니다. Windows에서는 시스템 속성 > 환경 변수에서 OLLAMA_HOST를 삭제하고 Ollama를 다시 시작합니다. 추가한 방화벽 규칙도 지웁니다. 그 뒤 다른 PC에서 접속이 되지 않는지 확인합니다.

안 될 때 점검 순서

1. 모델을 띄운 PC에서 curl http://localhost:11434가 되는가. 안 되면 Ollama가 꺼진 것입니다.
2. 그 PC에서 자기 주소로 해 봅니다. curl http://192.168.0.25:11434가 안 되면 OLLAMA_HOST 설정이 반영되지 않은 것입니다. Ollama를 완전히 종료했다가 다시 실행했는지 봅니다.
3. 다른 PC에서 안 되면 방화벽입니다. 인바운드 규칙을 확인합니다.
4. 두 PC가 같은 네트워크에 있는가. 유선과 무선이 서로 다른 대역으로 나뉘어 있는 사무실이 있습니다. 두 PC의 주소 앞 세 덩어리가 같은지 봅니다.
5. 주소가 바뀌지 않았는가. 공유기가 주소를 새로 나눠 주면 바뀝니다. 그 PC의 주소를 고정하는 설정을 전산 담당자에게 요청합니다.
6. HTML 파일에서만 안 되면 브라우저의 보안 규칙 문제입니다. HTML 파일 하나로 Ollama 챗봇 만들기의 해당 항목을 봅니다.

사람이 늘어나면

여기까지는 PC 한 대를 몇 사람이 나누어 쓰는 방법입니다. 수십 명이 쓰거나, 사용자 확인과 사용 기록이 필요하면 이 방식으로는 부족합니다. 그때는 접속 관리 기능이 있는 도구나 별도의 서버 구성을 검토합니다. 인터넷이 차단된 업무망에서의 구성은 이 사이트의 폐쇄망 시리즈에서 다룹니다.

다음에 읽을 글

• 업무에서 AI를 쓸 때의 안전 습관
• Ollama가 느리거나 안 될 때 점검 순서