Ollama 실전 · 글 8편
Ollama 실전이 글에서 다루는 것모델을 받고, 무엇이 메모리에 올라와 있는지 확인하고, 멈추고 지우는 일상적인 관리 방법과 대화 중에 쓰는 명령을 정리합니다.
이 글에서 다루는 것
Ollama 처음 시작하기에서 설치하고 첫 모델을 받았다면, 그다음은 매일 쓰는 관리 방법입니다. 강의에서는 “명령어 다섯 개면 충분하다”고 안내합니다. 이 글은 그 다섯 개를 상황별로 풀고, 서버 상태를 확인하는 방법과 대화 중에 쓰는 명령을 더합니다.
Ollama는 두 부분으로 되어 있습니다
- 서버: 뒤에서 계속 떠 있으면서 모델을 메모리에 올리고 답을 만듭니다. 내 PC의
11434번 포트에서 요청을 기다립니다. - 명령어(
ollama): 터미널에서 서버에 일을 시키는 창구입니다.
Windows와 Mac에서 설치 파일로 설치하면 서버가 자동으로 시작되고, 작업 표시줄이나 메뉴 막대에 아이콘이 나타납니다. 대화창을 닫아도 서버는 계속 떠 있습니다.
서버가 떠 있는지 확인하기
브라우저 주소창에 http://localhost:11434를 넣거나 터미널에서 다음을 실행합니다.
curl http://localhost:11434Ollama is running이라고 나오면 정상입니다. 설치 자체를 확인하려면 버전을 봅니다.
ollama --version서버가 꺼져 있으면 Ollama 앱을 다시 실행합니다. 터미널에서 직접 띄울 수도 있습니다.
ollama serve이 명령은 창을 차지한 채 계속 돌아갑니다. 창을 닫으면 서버도 꺼집니다. 이미 앱으로 서버가 떠 있는데 이 명령을 또 실행하면 포트가 사용 중이라는 오류가 납니다. 서버가 이미 있다는 뜻이므로 그대로 쓰면 됩니다.
명령어 다섯 개
| 하려는 일 | 명령 |
|---|---|
| 모델을 받기만 함 | ollama pull gemma4:e4b |
| 실행해 대화 시작. 없으면 먼저 받음 | ollama run gemma4:e4b |
| 받아 둔 모델 목록 | ollama ls |
| 지금 메모리에 올라온 모델 | ollama ps |
| 모델 지우기 | ollama rm gemma4:e4b |
ollama ls는 ollama list로 써도 같습니다. 모델 이름은 예시입니다. 받기 전에 Ollama 라이브러리에서 지금 있는 이름을 확인하세요.
받기
ollama pull gemma4:e4b- 모델 이름은 라이브러리 페이지의 복사 버튼으로 가져옵니다. 손으로 치면 콜론이나 철자 하나 차이로 받지 못합니다.
- 태그(콜론 뒤)를 생략하면 기본 태그를 받습니다. 기본 태그가 큰 경우가 있으므로 크기를 직접 적습니다.
- 받는 도중 끊겨도 같은 명령을 다시 실행하면 이어서 받습니다.
- 이미 받은 모델에 같은 명령을 다시 실행하면 새 판이 있는지 확인하고 바뀐 부분만 받습니다.
목록 보기
ollama ls이름, 크기, 받은 시점이 나옵니다. 디스크를 얼마나 쓰고 있는지 여기서 확인합니다.
메모리에 올라온 모델 보기
ollama ps목록이 비어 있으면 서버는 떠 있지만 모델은 메모리에 없는 상태입니다. run으로 부르거나 다른 프로그램이 호출하면 그때 올라옵니다. 출력에는 모델이 차지하는 메모리 크기와 CPU, GPU 중 어디에서 처리되는지가 함께 나옵니다.
모델은 두 개 이상 동시에 올라올 수 있습니다. 메모리가 부족한 PC에서는 쓰지 않는 모델을 내려 줍니다.
메모리에서 내리기
ollama stop gemma4:e4b모델 파일은 그대로 두고 메모리에서만 내립니다. 일정 시간 쓰지 않으면 자동으로 내려가기도 합니다.
지우기
ollama rm gemma4:e4b디스크에서 모델을 지웁니다. 다시 쓰려면 새로 받아야 합니다.
한 번만 묻고 끝내기
대화를 열지 않고 질문 하나만 던질 수 있습니다.
ollama run gemma4:e4b "대한민국의 수도는?"답을 출력하고 바로 끝납니다. 모델이 제대로 받아졌는지 확인하거나, 여러 모델에 같은 질문을 차례로 넣어 비교할 때 편합니다.
대화 중에 쓰는 명령
ollama run으로 대화가 열리면 >>> 표시가 나옵니다. 여기에 슬래시로 시작하는 명령을 넣을 수 있습니다.
| 명령 | 하는 일 |
|---|---|
/? |
쓸 수 있는 명령 보기 |
/set system "..." |
이 대화의 시스템 프롬프트 정하기 |
/set parameter temperature 0.3 |
설정값 바꾸기 |
/bye |
대화 끝내기 |
예를 들어 답을 짧고 일정하게 받고 싶으면 이렇게 넣습니다.
>>> /set system "너는 민원 상담 담당자다. 3줄 이내로 존댓말로 답한다."
>>> /set parameter temperature 0.3
>>> 주차 단속 이의 신청은 어떻게 하나요?이 설정은 대화를 끝내면 사라집니다. 계속 쓰려면 Modelfile로 저장합니다. 방법은 Modelfile과 파라미터로 업무용 모델 만들기에 있습니다.
디스크 정리 순서
모델 하나가 수 GB라서 몇 개만 받아도 수십 GB가 찹니다. 한 달에 한 번쯤 다음 순서로 정리합니다.
ollama ls로 목록과 크기를 봅니다.- 같은 계열의 예전 판, 시험만 해 본 모델을 고릅니다.
ollama rm으로 지웁니다.- 자주 쓰는 모델은 두세 개만 남깁니다. 예: 빠른 작은 모델 하나, 품질이 나은 중간 모델 하나.
Modelfile로 만든 내 모델은 원본 모델의 파일을 같이 씁니다. 그래서 목록에는 크기가 각각 표시되어도 디스크를 그만큼 두 번 차지하지는 않습니다.
작업이 끝나면
서버는 쓰지 않을 때 자원을 거의 쓰지 않지만, 모델이 메모리에 올라와 있는 동안은 그만큼 메모리를 잡고 있습니다. 다른 무거운 작업을 해야 하면 ollama stop으로 내립니다. 서버 자체를 끄려면 작업 표시줄(또는 메뉴 막대)의 Ollama 아이콘에서 종료를 고릅니다.
Msty와 같이 쓸 때
Msty Studio는 Ollama를 자체적으로 내려받아 관리합니다. 터미널로 따로 설치한 Ollama를 Msty에 연결하는 절차는 Msty 공식 문서에 나와 있지 않으므로, 터미널에서 받은 모델이 Msty 목록에 그대로 나타난다고 기대하지 않는 편이 안전합니다. Msty 쪽의 모델 관리는 Msty에서 Ollama 모델 쓰기를 참고하세요.
흔한 실수
- 이름 오타:
gemma4:e4b를gemma4-e4b나gemma:4b로 치는 경우입니다. 복사해서 넣습니다. ps가 비었다고 고장으로 생각함: 모델이 메모리에서 내려간 정상 상태입니다.- 서버를 두 번 띄움: 앱이 떠 있는데
ollama serve를 실행해 포트 오류가 나는 경우입니다. - 큰 모델을 무선 인터넷으로 받다 끊김: 같은
pull을 다시 실행하면 이어 받습니다. - 받아 놓고 잊음: 디스크가 가득 찬 뒤에야 알게 됩니다.
ollama ls를 가끔 봅니다.