Машинное обучение (ML)
Обучение на опыте (с учителем, без учителя, с подкреплением). Алгоритмы, улучшающиеся на основе данных.
Машинное обучение (ML)
Обучение с учителем
Supervised learning: обучение на размеченных данных (входы X, метки y), цель — найти функцию f: X→y. Два типа задач: классификация (y дискретный, примеры: спам/не спам, распознавание цифр 0-9) и регрессия (y непрерывный, примеры: цена дома, температура). Алгоритмы: линейная регрессия (f(x)=w·x+b, минимизация MSE), логистическая регрессия (σ(w·x), classification), деревья решений (CART, ID3), SVM (maximum margin classifier), нейросети (универсальные аппроксиматоры). Оценка: train/test split, cross-validation, метрики (accuracy, precision, recall, F1, RMSE)
Обучение без учителя
Unsupervised learning: обучение на неразмеченных данных (только X, нет y), цель — найти структуру/паттерны в данных. Задачи: кластеризация (группировка похожих объектов: K-means делит на k кластеров минимизируя WCSS, DBSCAN детектирует кластеры произвольной формы по плотности, иерархическая agglomerative/divisive), снижение размерности (PCA — Principal Component Analysis проецирует на главные компоненты, t-SNE для визуализации), поиск ассоциаций (Apriori/FP-growth для market basket analysis: {молоко, хлеб} → {масло}). Применение: segmentation клиентов, anomaly detection, сжатие данных
Обучение с подкреплением
Reinforcement learning: агент взаимодействует со средой, получает rewards/penalties, цель — максимизировать cumulative reward. Формализм: Markov Decision Process (MDP) — состояния S, действия A, переходы P(s'|s,a), награды R(s,a,s'), discount factor γ ∈ [0,1]. Методы: Q-learning (обновление Q(s,a) ← Q(s,a) + α[r + γ·max Q(s',a') - Q(s,a)], off-policy), SARSA (on-policy вариант Q-learning), Policy Gradient (REINFORCE, оптимизация π(a|s) напрямую), Actor-Critic (комбинация value и policy). Применение: игры (AlphaGo, Dota 2, StarCraft), роботы, рекомендации
Переобучение и регуляризация
Переобучение: модель запоминает обучающие данные, плохо обобщает. Борьба: регуляризация (L1/L2), dropout, ранняя остановка, кросс-валидация, больше данных.
Признаковая инженерия
Создание и выбор признаков для модели. Нормализация, кодирование категорий (one-hot), обработка пропусков, создание новых признаков. Часто важнее выбора модели.
Эмбеддинги (Embeddings)
Метод представления данных в виде числовых векторов. Word2Vec (2013), GloVe, fastText, BERT-эмбеддинги. Основа поиска, рекомендаций и NLP.