Ollama 처음 시작하기

Ollama 실전 · 글 8편

Ollama 실전

이 글에서 다루는 것Ollama를 설치하고 명령 한 줄로 모델을 받아 대화합니다.

Ollama란

Ollama는 언어 모델을 내 컴퓨터에 받아 실행하는 오픈소스 도구입니다. 터미널에서 명령 한 줄로 모델을 받고 바로 대화할 수 있습니다. Msty를 비롯한 여러 로컬 AI 앱이 Ollama를 엔진으로 씁니다.

Ollama 다운로드 페이지에서 운영체제에 맞는 설치 파일을 받습니다. 터미널로 설치할 수도 있습니다.

macOS와 Linux:

curl -fsSL https://ollama.com/install.sh | sh

Windows (PowerShell):

irm https://ollama.com/install.ps1 | iex

터미널에서 다음을 입력합니다. 모델이 없으면 먼저 내려받고, 끝나면 대화가 시작됩니다.

ollama run gemma4

Gemma 4는 구글 딥마인드의 공개 모델입니다. 기본 태그는 내려받는 크기가 6.6GB 이상이므로 디스크와 메모리 여유를 먼저 확인합니다. 어떤 크기를 골라야 할지는 내 PC 사양으로 돌릴 수 있는 모델 고르기를 참고하세요.

받기만 하고 실행하지 않으려면 pull을 씁니다.

ollama pull gemma4

받아 둔 모델 목록:

ollama ls

지금 메모리에 올라와 있는 모델:

ollama ps

실행 중인 모델 멈추기:

ollama stop gemma4

모델 지우기:

ollama rm gemma4

Ollama는 내 PC에서 API를 제공합니다. 공식 예시는 http://localhost:11434/api/chat 주소를 씁니다. 다른 프로그램이 이 주소로 모델을 불러 쓸 수 있습니다.

명령줄이 불편하면 Msty Studio를 씁니다. Msty는 Ollama를 직접 내려받아 관리하므로 화면에서 모델을 검색하고 받을 수 있습니다. 방법은 Msty에서 Ollama 모델 쓰기에 있습니다.