글 49편
로컬 AI 학습
로컬 모델의 기초부터 Ollama, RAG와 임베딩, 폐쇄망 활용, 직접 만들어 보기까지 순서대로 읽습니다.
시리즈 1
로컬 AI 기초
- 로컬 AI 학습 순서 한눈에 보기
- 로컬 AI와 클라우드 AI는 무엇이 다른가
- 로컬에서 AI를 돌리는 이유와 한계
글 11편
시리즈 2
Ollama 실전
- Ollama 처음 시작하기
- Ollama 모델 관리: 받기, 확인, 정리
- Modelfile과 파라미터로 업무용 모델 만들기
글 8편
시리즈 3
RAG와 임베딩
- RAG란 무엇인가 - 넣기, 쪼개기, 찾기, 답하기
- 문서를 붙여 넣을까, RAG를 만들까
- 임베딩이란 무엇인가
글 11편
시리즈 4
폐쇄망·공공기관 활용
- 폐쇄망에서 할 수 있는 AI 업무와 할 수 없는 업무
- 외부 전용 AI 서비스를 폐쇄망에서 대신하는 방법
- 로컬 AI 설치 전에 전산·보안 담당자에게 물어볼 것
글 8편
시리즈 5
만들어 보기
- 코딩 에이전트로 작은 로컬 AI 도구 만드는 법
- 로컬 채팅 웹앱 만들기
- 요약 창 프로그램 만들기
글 11편
1로컬 AI 기초11편
로컬 AI 기초
로컬 AI 학습 순서 한눈에 보기
로컬 AI를 처음 시작하는 사람이 어떤 순서로 익히면 좋은지 여덟 단계로 정리하고, 단계마다 이 사이트에서 읽을 글을 연결합니다.
02로컬 AI 기초
로컬 AI와 클라우드 AI는 무엇이 다른가
내 PC에서 돌리는 AI와 서버에 접속해 쓰는 AI의 차이를 처리 위치, 모델 크기, 필요한 도구로 나누어 정리합니다.
03로컬 AI 기초
로컬에서 AI를 돌리는 이유와 한계
보안, 비용, 오프라인이라는 세 가지 이유와 속도·성능의 한계를 같이 놓고, 로컬 모델에 맡기기 좋은 일을 정리합니다.
04로컬 AI 기초
내 PC 사양으로 돌릴 수 있는 모델 고르기
메모리와 그래픽카드를 확인하고 내 PC에 맞는 모델 크기를 고르는 방법입니다.
05로컬 AI 기초
토큰, 컨텍스트 윈도우, 파라미터, 환각
로컬 모델을 고르고 설정할 때 계속 마주치는 네 가지 용어를 뜻과 실무에서의 의미로 나누어 설명합니다.
06로컬 AI 기초
공개 모델 계열과 모델 이름 읽는 법
Gemma, Llama, Phi, Qwen 같은 공개 모델 계열을 알아보고, gemma4:e4b나 Q4_K_M 같은 이름에서 크기·양자화·용도를 읽어 내는 방법입니다.
07로컬 AI 기초
양자화란 무엇인가
큰 모델을 PC에서 돌릴 수 있게 줄이는 방법인 양자화를 원리, 장단점, 고르는 기준 순서로 설명합니다.
08로컬 AI 기초
CPU, GPU, 메모리가 하는 일
로컬 모델을 돌릴 때 메모리, 그래픽카드, CPU, Apple Silicon이 각각 무엇을 결정하는지와 내 PC의 속도를 직접 재는 방법입니다.
09로컬 AI 기초
작업별로 로컬 모델과 온라인 모델 고르기
자료의 민감도와 작업의 난이도 두 가지로 로컬 모델과 온라인 모델을 나누어 쓰는 기준과, 둘을 섞어 쓰는 방법입니다.
10로컬 AI 기초
작은 모델에서 더 중요한 프롬프트 기본기
1B~4B급 로컬 모델에서 결과를 안정시키는 지시문 작성법을 다섯 요소, 세 가지 원칙, 고쳐 쓰기 예시로 정리합니다.
11로컬 AI 기초
업무에서 AI를 쓸 때의 안전 습관
무엇을 넣으면 안 되는지, 로컬이라도 조심할 것은 무엇인지, 결과를 어떻게 확인하는지를 습관 단위로 정리합니다.
2Ollama 실전8편
Ollama 실전
Ollama 처음 시작하기
Ollama를 설치하고 명령 한 줄로 모델을 받아 대화합니다.
02Ollama 실전
Ollama 모델 관리: 받기, 확인, 정리
모델을 받고, 무엇이 메모리에 올라와 있는지 확인하고, 멈추고 지우는 일상적인 관리 방법과 대화 중에 쓰는 명령을 정리합니다.
03Ollama 실전
Modelfile과 파라미터로 업무용 모델 만들기
시스템 프롬프트와 설정값을 Modelfile에 담아 이름 붙은 업무용 모델로 저장하는 방법과, 설정값을 바꾸는 세 가지 경로를 설명합니다.
04Ollama 실전
Ollama API를 Python에서 부르기
내 PC의 Ollama 주소로 요청을 보내 답을 받는 구조를 curl로 확인하고, Python으로 한 건 처리와 여러 건 일괄 처리를 만듭니다.
05Ollama 실전
HTML 파일 하나로 Ollama 챗봇 만들기
설치 없이 브라우저로 여는 HTML 파일 하나에서 JavaScript로 Ollama를 불러 대화하는 화면을 만들고, 브라우저가 막을 때의 해결 방법을 정리합니다.
06Ollama 실전
엑셀에서 Ollama 부르기: VBA로 AI 함수 만들기
엑셀 셀에서 =AI_SUMMARIZE(A2)처럼 로컬 모델을 부르는 사용자 정의 함수를 VBA로 만들고, 추가 기능 파일로 부서에 나누는 방법입니다.
07Ollama 실전
Ollama가 느리거나 안 될 때 점검 순서
연결이 안 됨, 모델이 안 올라감, 답이 느림, 답이 이상함의 네 갈래로 나누어 원인을 찾는 순서와 대응을 정리합니다.
08Ollama 실전
사무실 네트워크에서 한 대의 모델 같이 쓰기
사양이 좋은 PC 한 대에 Ollama를 띄우고 같은 네트워크의 다른 PC에서 불러 쓰도록 여는 설정과, 열기 전에 확인할 보안 사항입니다.
3RAG와 임베딩11편
RAG와 임베딩
RAG란 무엇인가 - 넣기, 쪼개기, 찾기, 답하기
RAG를 네 단계의 동사로 풀어 설명합니다. 문서를 넣고, 쪼개고, 질문과 관련된 조각을 찾고, 그 조각만 보고 답하게 하는 구조입니다.
02RAG와 임베딩
문서를 붙여 넣을까, RAG를 만들까
문서 몇 건은 대화창에 그대로 넣는 편이 낫습니다. 문서 수와 질문 유형에 따라 직접 넣기, 키워드 검색, 임베딩 검색 중 무엇을 고를지 기준을 정리합니다.
03RAG와 임베딩
임베딩이란 무엇인가
임베딩은 글이나 그림을 비교할 수 있는 숫자 목록으로 바꾸는 일입니다. 숫자 세 개짜리 작은 예제로 유사도 계산을 직접 따라가 봅니다.
04RAG와 임베딩
로컬 임베딩 모델 고르기
내 PC에서 돌릴 수 있는 임베딩 모델의 예시와 고르는 기준을 정리합니다. 한국어 문서에서 확인할 점, 접두어 규칙, 벡터 차원을 줄이는 방법을 다룹니다.
05RAG와 임베딩
문서를 청크로 나누기
긴 문서를 검색 단위로 나누는 방법입니다. 크기와 겹침의 출발값, 조항·안건 단위로 나누는 기준, 조각마다 남겨야 할 정보, 표와 예외 조항에서 생기는 문제를 정리합니다.
06RAG와 임베딩
키워드 검색, 의미 검색, 하이브리드 검색
키워드 검색은 같은 말을, 의미 검색은 같은 뜻을 찾습니다. 두 방식의 차이, 임베딩 없이 검색 품질을 높이는 방법, 둘을 합치는 하이브리드 검색과 재순위를 정리합니다.
07RAG와 임베딩
로컬 의미 검색 만들기 - 젬마 임베딩 실습 따라 읽기
젬마 계열 임베딩 모델로 만든 로컬 사진 검색 실습 프로젝트의 코드를 단계별로 읽습니다. 색인, 캐시, 질문 임베딩, 유사도 계산의 구조를 본 뒤 같은 뼈대를 문서 검색으로 바꾸는 방법을 정리합니다.
08RAG와 임베딩
RAG 답변 평가와 자주 생기는 실패
정답 세트 20건을 먼저 만들고 정답률을 재는 방법입니다. 검색 실패와 생성 실패를 나눠 진단하는 순서와 자주 만나는 실패 유형별 처방을 정리합니다.
09RAG와 임베딩
RAG, 긴 컨텍스트, 파인튜닝, LLM Wiki 비교
내 자료로 답하게 하는 네 가지 방법을 비교합니다. 문서를 미리 위키로 정리해 두고 질문 때 위키를 읽는 LLM Wiki 방식의 구조와 운영 규칙, 한계를 함께 다룹니다.
10RAG와 임베딩
RAG가 잘 되도록 사무 문서 준비하기
HWP, PDF, 엑셀 같은 사무 문서를 검색 가능한 상태로 만드는 준비 작업입니다. 텍스트 추출에서 생기는 문제, 표 처리, 문서 목록과 버전 관리, 폴더 규칙을 정리합니다.
11RAG와 임베딩
내부 문서를 색인할 때의 개인정보와 보안
로컬에서 돌려도 확인할 것이 있습니다. 색인 파일에 원문이 남는 문제, 온라인 모델로 조각이 전송되는 경로, 접근 권한, 문서 속 지시문, 다른 PC로 옮길 때의 점검 항목을 정리합니다.
4폐쇄망·공공기관 활용8편
폐쇄망·공공기관 활용
폐쇄망에서 할 수 있는 AI 업무와 할 수 없는 업무
AI 업무 활용 교육과정 보드의 망 환경 표시를 기준으로, 인터넷이 막힌 업무 PC에서 되는 일과 안 되는 일을 나눠 정리합니다.
02폐쇄망·공공기관 활용
외부 전용 AI 서비스를 폐쇄망에서 대신하는 방법
외부망에서만 되는 AI 활용 22가지에 대해 교육과정 보드가 제시하는 폐쇄망 대안을 업무 영역별 표로 정리하고, 대안을 고를 때 알아 둘 점을 적습니다.
03폐쇄망·공공기관 활용
로컬 AI 설치 전에 전산·보안 담당자에게 물어볼 것
업무 PC에 로컬 AI를 설치하기 전에 확인할 질문 목록과, 외부망에서 받아 폐쇄망으로 옮기는 반입 절차의 점검표를 정리합니다.
04폐쇄망·공공기관 활용
외부 AI와 로컬 모델 중 무엇을 쓸지 정하는 기준
자료 등급, 웹 정보 필요 여부, 작업 종류를 차례로 따져 외부 AI 서비스와 로컬 모델을 나눠 쓰는 방법을 표와 실습으로 정리합니다.
05폐쇄망·공공기관 활용
로컬 모델로 문서 업무 하기
회의록 정리, 긴 보고서 요약, 공문 교정, 회신문 초안, 인수인계서 작성을 로컬 대화창에서 하는 순서와 예시 프롬프트입니다.
06폐쇄망·공공기관 활용
부서 문서를 로컬에서 검색하고 근거로 답하게 하기
부서 지침·규정·회의록을 인터넷 없이 찾는 방법을 단어 검색, 지식 베이스, RAG 구축 세 단계로 나누고, 문서 정비와 답변 품질 점검 방법을 함께 정리합니다.
07폐쇄망·공공기관 활용
로컬 모델로 데이터 정리와 회의록 만들기
엑셀 수식 받기, 민원·설문 의견 대량 분류, 회의 녹음 전사와 회의록 작성을 인터넷 없이 하는 순서와 AI에게 줄 지시문을 정리합니다.
08폐쇄망·공공기관 활용
작은 로컬 모델의 한계와 검수 방법
일반 PC에서 도는 작은 언어 모델이 잘 못하는 일을 증상별로 정리하고, 결과를 업무에 쓰기 전에 확인하는 방법을 점검표로 만듭니다.
5만들어 보기11편
만들어 보기
코딩 에이전트로 작은 로컬 AI 도구 만드는 법
로컬 모델 서버, 작은 백엔드, 단순한 화면으로 이루어진 공통 구조와 코딩 에이전트에게 도구를 설명하고 결과를 확인하는 방법을 정리합니다.
02만들어 보기
로컬 채팅 웹앱 만들기
FastAPI와 WebSocket으로 Ollama의 답을 글자 단위로 받아 보여 주는 채팅 웹 페이지를 만듭니다.
03만들어 보기
요약 창 프로그램 만들기
Python 기본 내장 tkinter로 브라우저 없이 뜨는 요약 창을 만들고, 같은 뼈대로 번역·문서 작성 도구로 바꾸는 방법입니다.
04만들어 보기
엑셀에서 로컬 모델을 함수로 부르기
엑셀 VBA로 Ollama를 호출하는 사용자 정의 함수를 만들어 셀에서 요약·분류·번역을 실행하는 방법입니다.
05만들어 보기
CSV를 한 줄씩 분류하는 도구 만들기
CSV 파일을 올리면 로컬 모델이 행마다 분류와 한 줄 요약을 붙여 주고, 결과를 다시 CSV로 내려받는 HTML 도구를 만듭니다.
06만들어 보기
문서 한 개에 질문하는 도구 만들기
텍스트 문서를 단락으로 나누고 질문의 낱말로 관련 단락을 찾아 로컬 모델에 넘기는, 임베딩 없이 만드는 문서 질문 도구입니다.
07만들어 보기
자연어로 DB를 조회하는 도구 만들기
질문을 입력하면 로컬 모델이 SQL을 쓰고 SQLite에서 실행해 표로 보여 주는 도구를, 검증과 재시도 단계까지 포함해 만듭니다.
08만들어 보기
로컬 OCR 문서 도구 만들기
스캔 PDF와 사진을 내 PC에서 마크다운으로 바꾸고, 이어서 Ollama 모델로 요약·질문·항목 추출까지 하는 도구를 만듭니다.
09만들어 보기
영상·음성 더빙 파이프라인 만들기
음성 인식(faster-whisper), 로컬 모델 번역(Ollama), 음성 합성, ffmpeg를 이어 붙여 영상의 말을 다른 언어 음성으로 바꾸는 명령줄 도구를 만듭니다.
10만들어 보기
개인정보 점검 도구 만들기
문서 텍스트에서 주민등록번호·전화번호·이메일 같은 개인정보 후보를 브라우저 안에서 찾아 가려 주는 도구를 만들고, 로컬 모델로 보완하는 방향을 정리합니다.
11만들어 보기
문서 폴더에 요약과 태그 붙이기
폴더 안의 문서를 차례로 읽어 로컬 모델로 요약·태그·예상 질문을 JSON으로 받아 붙이는 Node.js 도구를, 모델이 없을 때의 처리까지 포함해 만듭니다.