무료 머신러닝, 딥러닝 및 강화학습 추천 교재 가이드

이 문서는 인공지능과 데이터 과학 분야를 연구하고 설계하는 개발자를 위해 무료로 제공되는 핵심 대표 교재들을 정리하고 상호 연결합니다.

1. 머신러닝 및 딥러닝 기초 이론

  • Foundations of Machine Learning (머신러닝의 기초)
    • 핵심 주제: 머신러닝의 이론적 토대, 일반화 경계(Generalization Bounds), SVM, 부스팅, 학습 이론(PAC Learning) 등 수학적 접근.
    • 공식 사이트: Foundations of Machine Learning
  • Understanding Deep Learning (딥러닝의 이해)
    • 핵심 주제: 현대 딥러닝의 기하학적 직관 및 수학적 정합성. CNN, RNN, 트랜스포머부터 확산 모델(Diffusion Model)까지 포함.
    • 공식 사이트: Understanding Deep Learning
  • Deep Learning (딥러닝)
    • 저자: Ian Goodfellow, Yoshua Bengio, Aaron Courville
    • 핵심 주제: 딥러닝 분야의 바이블로 불리며 선형대수, 확률론 등 기본 수학부터 심층 신경망 설계, 순방향/순환망 및 생성 모델 분석.
    • 공식 사이트: Deep Learning Book

2. 강화학습 (Reinforcement Learning) 및 에이전트

  • Reinforcement Learning: An Introduction (2nd Edition)
    • 저자: Richard S. Sutton and Andrew G. Barto
    • 핵심 주제: 강화학습의 이론적 기초. MDP(마르코프 결정 과정), 몬테카를로 방법, TD 학습, 함수 근사(Function Approximation).
    • 공식 사이트: Sutton & Barto Book
  • Distributional Reinforcement Learning (분포적 강화학습)
    • 핵심 주제: 기대값 대신 보상의 분포 자체를 모델링하는 최신 분포적 강화학습(Distributional RL) 이론 및 알고리즘 분석.
    • 공식 사이트: Distributional RL Book
  • Multi-Agent Reinforcement Learning (멀티 에이전트 강화학습)
    • 핵심 주제: 게임 이론, 다중 에이전트 간의 협동 및 경쟁 메커니즘, MARL 알고리즘 설계.
    • 공식 사이트: MARL Book

3. 실무 시스템 및 공정성

  • Introduction to Machine Learning Systems (머신러닝 시스템 입문)
    • 핵심 주제: 프로덕션 환경에서의 ML 파이프라인 설계, 데이터 엔지니어링, 실시간 서빙, 모니터링 및 모델 드리프트(Model Drift) 탐지.
    • 공식 사이트: ML Systems Book
  • Fairness and Machine Learning (공정성과 머신러닝)

4. 케임브리지 대학 무료 AI/ML 및 수학 교재 10선

케임브리지 대학에서 인공지능 연구원과 실무 엔지니어를 위해 무료 개방한 머신러닝, 딥러닝 및 수학적 기초 교재 모음입니다:

  1. Understanding Machine Learning (머신러닝의 이해)
    • 저자: Shai Shalev-Shwartz, Shai Ben-David
    • 핵심 주제: 머신러닝 이론, PAC 학습, VC 차원 및 대표 알고리즘의 이론적 기초.
    • 자료 링크: Understanding Machine Learning PDF
  2. Mathematical Foundations of Machine Learning (머신러닝의 수학적 기초)
    • 핵심 주제: 선형대수, 다변수 미적분, 최적화 이론 등 머신러닝 수학 기초 체계화.
  3. Mathematical Analysis of Machine Learning Algorithms (머신러닝 알고리즘의 수학적 분석)
    • 핵심 주제: 통계적 학습 이론, 알고리즘 안정성 및 수렴 속도에 대한 엄밀한 수학적 분석.
  4. Theoretical Principles of Deep Learning (딥러닝의 이론적 원리)
    • 핵심 주제: 심층 신경망의 표현력(Expressivity), 최적화 지형(Loss Landscape) 및 일반화 원리.
  5. Neural Networks and Learning Machines (신경망과 학습 기계)
    • 저자: Simon Haykin
    • 핵심 주제: 전통적 인공신경망, 자기조직화 지도(SOM), 서포트 벡터 머신 및 커널 기법의 집대성.
  6. Graph Deep Learning (그래프 딥러닝)
    • 핵심 주제: 그래프 신경망(GNN), 기하학적 딥러닝(Geometric Deep Learning) 및 지식 그래프 응용.
  7. Machine Learning: A Probabilistic Perspective (머신러닝: 확률적 관점)
    • 저자: Kevin P. Murphy
    • 핵심 주제: 베이지안 추론, 그래피컬 모델(Probabilistic Graphical Models), MCMC 및 변분 추론.
  8. Probability Theory: Theory and Examples (확률론: 이론과 예제)
    • 저자: Rick Durrett
    • 핵심 주제: 측도론 기반 확률론, 마틴게일(Martingale), 중심극한정리 등 고급 통계 이론.
  9. Fundamentals of Applied Probability (응용 확률론의 기초)
    • 핵심 주제: 공학 및 데이터 분석 실무에 적용되는 확률 과정 및 마르코프 연쇄.
  10. Advanced Data Analysis (고급 데이터 분석)
    • 핵심 주제: 고차원 회귀 분석, 모델 선택(Model Selection), 비모수 통계 및 인과 추론.

5. 실습형 From-Scratch LLM 엔지니어링 실습

  • MiniMind: 단일 GPU 풀스택 경량 LLM 학습 및 강화학습 파이프라인
    • 상세 분석: MiniMind-From-Scratch-LLM-Training-Pipeline.md
    • 핵심 특징: 단일 RTX 3090(24GB) 1장으로 약 2시간($3) 만에 64M Dense 및 198M-A64M MoE 모델을 스크래치부터 완주. 토크나이저 -> 사전학습(32K RoPE) -> SFT -> LoRA -> DPO -> PPO -> GRPO -> CISPO 및 vLLM/Ollama 서빙까지 전 과정 코드 제공.
    • GitHub: jingyaogong/minimind

🔗 관련 문서 링크