MLOps и безопасность

Путь модели в production. Контейнеризация: Docker, Kubernetes для масштабирования. Inference серверы: TensorFlow Serving, TorchServe, Triton (Nvidia). API: REST, gRPC. Батч vs online inference. A/B тестирование моделей. Мониторинг: latency, throughput, data drift. Платформы: MLflow, Kubeflow, Vertex AI.

AI Alignment: согласование целей ИИ с человеческими ценностями (MIRI, Anthropic). RLHF как частичное решение. Риски: jailbreaks (обход ограничений), prompt injection, adversarial examples. Регулирование: EU AI Act (2024), US Executive Order (2023). Interpretability: понимание решений модели (SHAP, attention visualization).

Bias в данных и моделях: COMPAS (расовая предвзятость в судебных прогнозах), Amazon hiring tool. Fairness metrics: demographic parity, equalized odds. Deepfakes и дезинформация. Авторское право: обучение на чужих данных (NYT vs OpenAI). Рабочие места: автоматизация 300M рабочих мест (Goldman Sachs 2023).

Оценка LLM-систем — повторяемая проверка поведения на задачах, которые система должна решать. Набор примеров задаёт входы и ожидаемые свойства ответа; критерии могут измерять точность факта, соблюдение схемы, качество retrieval, корректность вызова инструмента, безопасность или оценку человека. Для RAG и агента полезно измерять как итоговый ответ, так и компоненты цепочки: найденные документы, переданные аргументы, исход операции и обработку отказа.

Ни одна оценка не покрывает все возможные запросы: набор может быть нерепрезентативен, загрязнён данными обучения, а автоматический judge — иметь собственные смещения. Поэтому результаты нужно сопоставлять с человеческой проверкой и реальными целевыми условиями, анализировать типы ошибок и повторять тест после изменения модели, промпта, данных или инструмента. Оценка — свидетельство на конкретном наборе и критерии, а не сертификат общей надёжности.