ТФП-условия в машинном обучении¶
ТФП-условия (TFP constraints, от англ. TensorFlow Probability constraints) — это математические ограничения, накладываемые на параметры вероятностных моделей в библиотеке TensorFlow Probability (TFP), обеспечивающие корректность и интерпретируемость обучаемых моделей. В контексте вероятностного машинного обучения условия ТФП определяют множество допустимых значений для весов, дисперсий, вероятностей и других параметров, гарантируя, что обученная модель остаётся математически согласованной.
¶Назначение и роль
При обучении вероятностных моделей — например, вариационных автоэнкодеров (VAE), нормализующих потоков (normalizing flows), байесовских нейронных сетей — часть параметров должна удовлетворять определённым свойствам. Примеры таких требований:
- Положительность: дисперсия, стандартное отклонение, масштаб (scale) должны быть строго положительными.
- Нормированность: вероятности должны суммироваться к единице, веса категориального распределения лежат в отрезке [0, 1].
- Симметрия: ковариационная матрица должна быть симметричной положительно определённой.
- Ограниченность: параметры вида «вероятность успеха» биномиального распределения принадлежат интервалу (0, 1).
Без явного ограничения оптимизатор (например, Adam) может вывести параметр за пределы допустимого множества — дисперсия станет отрицательной, вероятность выйдет за единицу, — и вычисление плотности распределения станет невозможным или бессмысленным.
¶Механизм работы
В TensorFlow Probability ограничения реализованы как объекты класса tfp.util.TransformedVariable или через механизм bijector-ов (биективных преобразований). Базовый принцип: обучаемая «сырая» переменная хранится в неограниченном пространстве (например, вся вещественная ось), а поверх неё применяется обратимое преобразование, отображающее её в допустимое множество.
Пример: чтобы гарантировать положительность параметра σ, вводится переменная u ∈ ℝ, а фактическое значение вычисляется как σ = softplus(u) = log(1 + exp(u)). Функция softplus гладкая, монотонная и отображает всю вещественную ось в положительные числа. Для ограничения интервалом (0, 1) используется сигмоида, для положительно определённой ковариации — биективное преобразование FillScaleTriL.
¶Основные ограничения TFP
| Ограничение | Допустимое множество | Типичное применение |
|---|---|---|
positive | (0, +∞) | Дисперсии, масштабы, положительные веса |
sigmoid / interval | (a, b) | Вероятности, доли |
softplus | (0, +∞) | Параметры масштаба в нормальных распределениях |
FillScaleTriL | положительно определённые матрицы | Ковариационные матрицы |
identity | без ограничений | Средние, смещения |
Каждое ограничение реализует прямое преобразование (forward), обратное (inverse) и вычисление логарифма модуля якобиана — что необходимо для корректного пересчёта плотности вероятности при обучении методом ELBO или максимального правдоподобия.
¶Применение в вероятностных моделях
¶Вариационные автоэнкодеры
В VAE параметры вариационного распределения q(z|x) — средние и логарифмы дисперсий — требуют ограничений: логарифм дисперсии формально неограничен, но сама дисперсия обязана быть положительной. TFP-условия позволяют хранить «сырой» параметр и применять softplus при вычислении плотности.
¶Нормализующие потоки
В моделях вида RealNVP или Masked Autoregressive Flow масштабовые коэффициенты должны быть положительными, чтобы преобразование оставалось обратимым. Ограничения TFP гарантируют это на уровне архитектуры.
¶Байесовские нейронные сети
При сэмплировании из апостериорного распределения на веса с помощью биективных преобразований (методы VI, HMC с репараметризацией) условия ТФП обеспечивают корректную подстановку в формулу изменения переменных.
¶Отличие от других механизмов
Простой подход «взять экспоненту от сырого параметра» (σ = exp(u)) также обеспечивает положительность, но обладает худшей обусловленностью: при больших отрицательных u градиент экспоненты стремится к нулю (проблема исчезающих градиентов), при больших положительных — к взрыву. TFP-ограничения, построенные на softplus и подобных преобразованиях, лучше сбалансированы численно. Альтернативный подход — проекция градиентного шага на допустимое множество — применяется реже, так как нарушает естественную геометрию оптимизации.
¶Связанные концепции
- Репараметризация: градиентный оценщик ELBO требует, чтобы сэмплирование было дифференцируемым; ТФП-условия совместимы с репараметризационным трюком.
- Биективные преобразования: математическая основа ограничений — гладкая взаимно однозначная функция с обратной и вычисляемым якобианом.
- Параметризация Логит: стандартный способ ограничить вероятность интервалом (0, 1) через логарифм отношения p/(1−p).
Источники:
- TensorFlow Probability documentation (tensorflow.org/probability)
- Dillon, J. V. et al. «TensorFlow Distributions» (arXiv:1711.10604)
- Kingma, D. P., Welling, M. «Auto-Encoding Variational Bayes» (arXiv:1312.6114)
- Papamakarios, G. et al. «Normalizing Flows for Probabilistic Modeling and Inference» (arXiv:1912.02762)