오픈소스 LLM 자체 호스팅 — 공공기관 보안 적합
Ollama·vLLM·LiteLLM로 내부망 LLM 인프라 직접 구축
📦 다운로드 가능 파일: PDF, EPUB3, WIABOOK
💡 EPUB3로 다운받으면 각 앱의 프리미엄 AI 음성으로 자동 낭독(오디오북). PDF는 텍스트 선택 후 음성 읽기가 가능하지만 자동 낭독은 리더별로 제한적입니다. 최고의 음성 독서 경험은 EPUB3를 추천합니다.
📖 책 소개
공공기관과 기업의 폐쇄망에서 안전하게 AI를 활용하는 방법을 완벽히 담은 실무 교과서입니다. Ollama, vLLM, LiteLLM 같은 검증된 오픈소스 도구로 자체 서버에 프로덕션 수준의 LLM 인프라를 직접 구축하고 운영하는 전 과정을 상세히 배웁니다. 모델 양자화, 서빙 최적화, 게이트웨이 설계, 보안 강화, 실시간 모니터링을 체계적으로 다루며, 조직의 가장 민감한 데이터도 외부 클라우드로 절대 전송되지 않고 최고 수준으로 안전하게 처리할 수 있습니다.
📑 목차
- 오픈소스 LLM 자체 호스팅 — 공공기관 보안 적합
- 표제지
- Chapter 01: 왜 자체 호스팅인가 — 보안·비용·데이터 주권
- Chapter 02: 오픈 웨이트 모델 지형 — Llama·Qwen·Gemma·Mistral·DeepSeek
- Chapter 03: 라이선스 읽기 — Apache·MIT vs 커뮤니티 라이선스
- Chapter 04: GPU·메모리 기초 — 모델은 메모리에 어떻게 올라가나
- Chapter 05: 양자화 — GGUF·AWQ·GPTQ로 GPU를 아낀다
- Chapter 06: [실습] Ollama로 첫 모델 띄우기
- Chapter 07: Ollama vs vLLM vs SGLang — 언제 무엇을
- Chapter 08: vLLM — PagedAttention·연속 배칭으로 다중 사용자
- Chapter 09: SGLang — RadixAttention·프리픽스 캐시
- Chapter 10: [실습] vLLM로 OpenAI 호환 API 서버 구축
- Chapter 11: LiteLLM — 통합 게이트웨이·라우팅·비용 추적
- Chapter 12: Docker·Kubernetes 배포 — WIA SOOM 패널로
- Chapter 13: 내부망·망분리 적합 구성 — 외부 전송 0
- Chapter 14: 성능 튜닝 — 배칭·KV 캐시·LoRA·동시성
- Chapter 15: 모니터링·관측 — 처리량·지연·GPU 사용률
- Chapter 16: [프로젝트] 내부망 LLM 게이트웨이 구축과 다음 단계
- 부록 A: vLLM·Ollama·LiteLLM 명령 치트시트
- 부록 B: 오픈 모델·라이선스 비교표
- 부록 C: WIA SOOM SSH·Docker·K8s 단축키
- 부록 D: 양자화·서빙 리소스 목록
- 부록 E: 용어 사전(핵심 용어 30선)
💬 독자 리뷰
리뷰를 작성하려면 로그인이 필요합니다
로그인📦 다운로드 가능 파일
📚 WIA Book eBook 이용 안내
📄 파일 형식 안내
- PDF다운로드 가능 고정 레이아웃 · 모든 기기 호환 · Adobe Reader 등에서 열람
- EPUB다운로드 가능 리플로우형 · 글자 크기 조절 가능 · EPUB3 접근성 메타데이터 자동 적용
- EPUB3 (A11Y)다운로드 가능 최신 표준 · 접근성 최적화 · 스마트폰 음성 독서(VoiceOver/TalkBack) 지원
- WIABOOK다운로드 전용 점자 · 수어 · TTS · VR 통합 접근성 포맷 (WIABOOK 포맷 제공 도서에 한함 · 2 Credit)
📖 다운로드 및 독서 방법
- 구매 즉시 WIA Book 유니버설 리더에서 열람 가능 (PDF · EPUB2 · EPUB3 · Flip Book)
- PDF, EPUB, EPUB3 파일은 다운로드하여 범용 리더에서도 이용 가능
- WIABOOK 포맷 도서는 VR/AR/WIAverse에서 몰입형 독서 가능 (WIABOOK 포맷 제공 도서에 한함)
⚙️ 이용 정책
- 한 번 구매로 다운로드 횟수 제한 없이 이용 가능
- 다운로드한 PDF, EPUB, EPUB3 파일은 제한 없이 이용 가능
- WIA Book 유니버설 리더는 브라우저에서 바로 이용 (설치 불필요)
💳 환불 정책
- 다운로드 전 또는 리더 열람 전 7일 이내 전액 환불
- 다운로드 또는 리더 열람 후 환불 불가
- 기술적 문제 발생 시 고객센터를 통해 지원
💰 WIA Credit 적립 · 사용 안내
WIA Credit이란?
WIA Book에서 도서를 구매하면 정가의 5%가 WIA Credit으로 적립됩니다. 적립된 Credit은 도서 구매 및 유료 서비스에 사용할 수 있으며, 166개 통화 기준으로 언제든 현지 가치를 확인할 수 있습니다.
📋 적립 정책
- 1 WIA Credit = $1 USD (전 세계 동일 기준)
- 모든 도서 구매 시 정가의 5% 자동 적립 (전 세계 동일)
- 환율 기준: 국제 환율(166개 통화, USD 기준) · 매일 UTC 00:00 자동 갱신
- 적립된 Credit은 WIA Book 내 도서 구매 및 유료 서비스에 사용 가능 (현금 출금은 별도 유료 결제 후 인세 적립분에 한함)
- Credit 유효기간:
- 도서 구매 적립금: 적립일로부터 90일 (사용 유도)
- 가입·인증·이벤트 보너스: 무기한 (소멸 없음)
- 유효기간 내 언제든지 사용 가능 (만료 30일 전 알림)
📥 적립 방법
- 도서 구매 완료 시 자동 적립
- 현지 가격 → USD 환산 → 5% 계산 → WIA Credit 적립
- 내 적립금은 166개 통화 중 원하는 통화로 확인 가능
📤 사용 방법
- 결제 화면에서 WIA Credit 사용 가능
- 사용 시점의 환율로 현지 통화 가치 자동 환산
- 전액 또는 일부 사용 가능
💡 적립 · 사용 예시
₩15,000 도서 (정가)
10% 할인 → ₩13,500 결제
₩15,000 → $10.87 환산
$10.87 × 5% = 0.54 Credit 적립
$99.00 도서 (정가)
10% 할인 → $89.10 결제
$99.00 × 5% = 4.95 Credit 적립
4.95 Credit = $4.95
¥2,200 도서 (≈ $14.67)
10% 할인 → ¥1,980 결제
$14.67 × 5% = 0.73 Credit 적립
0.73 Credit ≈ ¥110
₫125,000 도서 (≈ $4.99)
10% 할인 → ₫112,500 결제
$4.99 × 5% = 0.25 Credit 적립
0.25 Credit ≈ ₫6,250
₦7,800 도서 (≈ $4.99)
10% 할인 → ₦7,020 결제
$4.99 × 5% = 0.25 Credit 적립
0.25 Credit ≈ ₦390
₹899 도서 (≈ $10.71)
10% 할인 → ₹809 결제
$10.71 × 5% = 0.54 Credit 적립
0.54 Credit ≈ ₹45
- 1일차: 0.54 Credit 적립 (90일 만료)
- 30일차: 4.95 Credit 적립 (90일 만료)
- 누적 잔액: 5.49 Credit ($5.49)
- 30일 전 알림 → 만료 전 사용 권장
- 가입 보너스 +10 Credit (무기한)
- 본인인증 +90 Credit (무기한)
- 합계: 100 Credit ($100)
- 소멸 없음 — 언제든 사용 가능
- 도서 1권 구매 → 0.5 Credit 적립 (90일)
- 가입 보너스 100 Credit 보유 (무기한)
- 차감 우선순위: 도서 적립금(만료 임박) → 보너스
- 만료 임박 적립금 자동 우선 사용
🌍 166개 통화 가격 표시
WIA Book은 전 세계 166개 통화로 도서 가격과 적립금을 표시합니다. 방문자의 위치에 따라 자동으로 현지 통화가 표시되며, 원하는 통화로 변경할 수도 있습니다.