Распознавание образов и машинное обучение. Чтение 40. Гауссовские процессы: автоматическое определение значимости, классификация
Продолжаем изучать способы применения модели гауссовских процессов к задачам машинного обучения.
1. Снова обращаемся к методу оценки гиперпараметров ядра, используемого для построения матрицы ковариации гауссовского процесса. Мы рассматривали способ, основанный на максимизации функции правдоподобия (с замечанием, что максимизация апостериорного распределения делается похожим образом). Сейчас же мы отмечаем, что на место квадрата расстояния между входными векторами в стандартном экспоненциальном ядре можно поставить взвешенную сумму квадратов разностей координат этих векторов. Коэффициенты этой суммы можно подбирать процедурой оптимизации гиперпараметров. Чем выше получится коэффициент для некоторой координаты, тем больший вклад эта координата будет вносить в ослабление ковариации, тем свободнее может быть разброс целевых значений при разбегании входных значений по этой координате, тем значимее сама эта координата для предсказания целевого значения.
2. Начинаем погружать задачу двоичной классификации в модель гауссовских процессов. Мы используем уже известное нам разделение задачи на композицию логистической сигмоиды и функции активации: σ∘a. Это необходимо, потому что значения гауссовского процесса не ограничены, а целевая переменная должна лежать на отрезке [0, 1]. После нехитрых байесовских преобразований мы приходим к уже известному нам интегралу, для аналитической работы с которым потребуется вспомнить искусство лапласовых приближений.
#теорвер и #machinelearning, #иммуроран и прикладной #матан
5 views
393
136
3 months ago 00:01:52 1
MIXA-#МИР #ЛЮДЕЙ.-(PROD. BY MIXA).-(OFFICIAL MUSIC VIDEO 2024).-(#NEURAL #NETWORK).
3 months ago 00:07:23 1
ОБЖ 10 класс (Урок№8 - Основы медицинских знаний и профилактика инфекционных заболеваний.)
3 months ago 00:05:18 1
Искусственный интеллект. Световое шоу_1
3 months ago 01:59:38 19
Острые состояния в кардиологии. Место ПОАК
3 months ago 00:00:44 1
Нейросеть. Анализ и обеспечение безопасности_4
3 months ago 02:31:06 1
Вудуисты на 100%. Прохождение Cyberpunk 2077 на максимальной сложности. Призрачная свобода 17
3 months ago 00:29:01 1
Как дактилоскопия стала основным методом идентификации людей