로컬 AI 설치 전에 전산·보안 담당자에게 물어볼 것

왜 먼저 물어봐야 하나

로컬 AI는 질문과 문서가 내 PC 밖으로 나가지 않는 방식입니다. 그렇다고 기관 PC에 아무 절차 없이 설치해도 된다는 뜻은 아닙니다. 설치 파일과 수 GB짜리 모델 파일을 외부에서 받아 들여와야 하고, 프로그램이 내 PC에서 포트를 열어 동작하기 때문입니다.

교육과정 보드의 “로컬·기관 AI 대화창 준비” 모듈도 설치보다 먼저 반입 절차와 점검표, 보안 점검표 작성을 실습으로 둡니다. 이 글은 그 실습 항목과 용어 사전의 오류 설명을 바탕으로 물어볼 것을 정리했습니다.

담당자에게 물어볼 질문

설치와 실행

질문	물어보는 이유
업무 PC에 프로그램을 설치할 권한이 있습니까?	설치형 대화창은 설치 권한이 필요합니다. Msty Studio의 Windows 설치는 관리자 권한으로 하되 내 사용자 계정에만 설치하는 방식입니다
허용된 소프트웨어 목록에 로컬 AI 도구가 있습니까?	목록에 없으면 사용 승인 절차를 먼저 거쳐야 합니다
새로 들여온 실행 파일을 백신이 막으면 어디에 요청합니까?	문제없는 프로그램을 백신이 잘못 막는 일이 있습니다. 임의로 백신을 끄지 않고 담당자에게 확인합니다
PowerShell 스크립트나 Excel 매크로 실행이 허용됩니까?	코드를 실행하는 단계로 가면 실행 정책과 매크로 차단을 만납니다. 허용 범위를 먼저 확인합니다

반입

질문	물어보는 이유
외부망에서 받은 파일을 업무망으로 옮기는 절차가 무엇입니까?	설치 파일과 모델 파일을 모두 옮겨야 합니다
한 번에 옮길 수 있는 파일 크기에 제한이 있습니까?	모델 파일 하나가 수 GB에서 수십 GB입니다
모델을 바꾸거나 프로그램을 올릴 때마다 같은 절차를 거칩니까?	모델 교체와 업데이트도 반입입니다. 주기를 미리 정해 둡니다

자료와 기록

질문	물어보는 이유
로컬 AI에 넣어도 되는 자료 등급은 어디까지입니까?	PC 안에서 처리되더라도 기관 기준을 따릅니다
대화 기록이 PC에 남는 것은 괜찮습니까? 보관·삭제 기준이 있습니까?	대화 내용과 넣은 문서가 PC에 저장됩니다
부서 공용 PC나 서버에 설치해 여럿이 쓸 수 있습니까?	여럿이 쓰면 접근 권한과 기록 관리가 필요해집니다

모델

질문	물어보는 이유
사용할 수 있는 모델에 기준이 있습니까?	공개된 모델도 라이선스에 따라 업무 사용 조건이 다릅니다
기관이 이미 운영하는 LLM이 있습니까?	있다면 PC에 따로 설치하지 않고 그것을 쓰는 편이 낫습니다

반입 절차 점검표

질문에 답을 받았다면 아래 순서로 준비합니다.

외부망 PC에서

1. 업무 PC의 메모리와 그래픽카드를 먼저 확인합니다. 방법은 내 PC 사양으로 돌릴 수 있는 모델 고르기에 있습니다.
2. 사양에 맞는 모델 크기를 고릅니다. 후보를 두 개쯤 정해 둡니다.
3. 대화창 프로그램의 설치 파일을 공식 페이지에서 받습니다.
4. 모델 파일을 받습니다. 폐쇄망에서는 프로그램이 모델을 스스로 내려받지 못하므로 파일로 가져가야 합니다.
5. 받은 파일 목록, 출처 주소, 버전, 모델 라이선스를 한 장에 적습니다. 반입 신청서에 붙이기 좋습니다.

업무 PC에서

6. 기관 절차에 따라 파일을 옮깁니다.
7. 프로그램을 설치합니다.
8. 모델 파일을 불러옵니다. Msty Studio는 가지고 있는 GGUF 파일을 가져오는 기능이 있습니다. 화면 위치는 Msty에서 Ollama 모델 쓰기에 있습니다.
9. 인터넷이 끊긴 상태에서 첫 대화가 되는지 확인합니다.
10. 응답 속도와 메모리 사용량을 보고, 너무 느리면 더 작은 모델로 바꿉니다.

Msty Studio가 첫 설정 때 로컬 AI 서비스를 내려받지 못하는 환경이라면, 공식 문서가 안내하는 대로 직접 받은 압축 파일을 지정하는 방법을 씁니다. 첫 실행과 모델 받기의 “로컬 AI 설치가 실패할 때”에 적어 두었습니다.

설치한 뒤에 확인할 것

보드는 설치 실습의 마지막에 “대화 기록 저장 위치 확인과 지우는 방법, 보안 점검표 작성”을 둡니다. 다음을 확인해 적어 둡니다.

• 대화 기록이 PC의 어느 폴더에 저장되는지
• 기록을 지우는 방법과, 지워도 남는 파일이 없는지
• 지식 베이스에 넣은 문서의 사본이 어디에 만들어지는지
• PC를 반납하거나 교체할 때 무엇을 지워야 하는지
• 온라인 제공업체가 연결되어 있지 않은지

마지막 항목은 Msty처럼 로컬 모델과 온라인 모델을 함께 쓰는 도구에서 중요합니다. 온라인 제공업체를 연결하면 질문이 해당 업체 서버로 전송됩니다. 폐쇄망에서는 연결이 되지 않겠지만, 인터넷이 되는 PC에서 내부 자료를 다룬다면 지금 고른 모델이 로컬인지 매번 확인합니다.

자주 만나는 걸림돌

증상	원인과 할 일
설치나 내려받기 중 인증서(SSL) 오류	기관망 보안 장비가 인증서를 바꿔 끼워 외부 연결 확인이 실패한 것입니다. 전산 담당자에게 프록시·인증서 설정 방법을 받습니다. 인증서 검사를 끄는 방법은 쓰지 않습니다
실행 파일이 사라지거나 실행되지 않음	백신 오탐일 수 있습니다. 담당자에게 예외 등록을 요청합니다
“포트가 이미 사용 중”이라는 오류	같은 포트를 다른 프로그램이 쓰고 있습니다. 이미 띄워 둔 창이 있는지 확인합니다
스크립트를 실행할 수 없다는 오류	PowerShell 실행 정책이 막고 있습니다. 관리자에게 허용 범위를 먼저 확인합니다
답이 매우 느림	모델이 PC 사양보다 큽니다. 더 작은 모델로 바꿉니다

함께 정해 두면 좋은 것

설치가 끝나면 부서 안에서 다음을 문서로 남깁니다. 보드는 이것을 “로컬 AI 설치·반입 점검표”와 “업무별 모델 선택표”라는 산출물로 둡니다.

• 설치한 프로그램과 모델의 이름, 버전, 반입일
• 어떤 업무에 어떤 모델을 쓰는지
• 넣어도 되는 자료와 안 되는 자료
• 기록 삭제 주기와 담당자

자료 등급을 나누는 방법은 외부 AI와 로컬 모델 중 무엇을 쓸지 정하는 기준에서 이어집니다. 용어가 낯설면 용어 풀이의 “폐쇄망과 보안” 묶음을 봅니다.