Распознавание образов и машинное обучение. Чтение 41. Гауссовские процессы: классификация, или no pain, no gain
Продолжаем разбирать решение задачи бинарной классификации в модели гауссовских процессов. Нам нужно оценить распределение p(a[N 1] | t[N]) ([] использованы как указания нижних индексов). После несложных преобразований понимаем, что для этого нам нужно вычислить распределение p(a[N] | t[N]). Остальные компоненты возникающих интегралов нам известны из предположения о том, что функции активации a – гауссовский процесс. Аналитически найти это распределение мы не можем, поэтому будем строить к нему нормальное распределение, чтобы хотя бы аналитически взять интеграл для p(a[N 1] | t[N]). Существуют разные методы приближения, мы выбираем уже знакомое приближение Лапласа. Этот метод требует найти сначала некоторую моду распределения p(a[N] | t[N]). Её поиск осложняется нелинейностью сигмоиды, которая входит в выражение производной ln(p(a[N] | t[N])) по вектору a[N] (это вектор из N значений гауссовского процесса). Приходится искать моду итерационным методом, методом Ньютона-Рафсона, для которого требуется вычисление гессиана (итеративное). Усилия по вычислению гессиана не пропадают зря, ведь, как мы знаем, он является матрицей точности искомого приближающего p(a[N] | t[N]) нормального распределения. Дальнейшие – вычисление распределение p(a[N 1] | t[N]) и вычисление по нему предсказывающего распределения p(t[N 1] | t[N], X[N]) – дело уже известной нам техники.
#теорвер и #machinelearning, #иммуроран и прикладной #матан
1P.S. Опять я заблудился в матричном анализе. Но, как говорится: no pain, no gain.
11 views
398
129
4 weeks ago 01:11:49 1
Семинар “Поведение собак при обнаружении больного животного по запаху“ // Марина Юрьевна Кочевалина
4 weeks ago 00:15:02 1
ТОП 15 ЛОВУШЕК ЦИФРОВОГО ОБРАЗОВАНИЯ - для чего внедряют цифровые технологии в школах ?
4 weeks ago 01:58:16 1
Владимир Фридман. Угнетение, господство и эмансипация
4 weeks ago 00:59:45 1
Магия звука: как работает слух? Вера Толченникова
4 weeks ago 00:54:09 1
Секретные факты: Кто управляет Россией и правда ли Путин жив?
1 month ago 00:35:42 1
РАСПОЗНАВАНИЕ ОБРАЗОВ | Cyberpunk 2077
1 month ago 00:04:20 1
Биология 8 класс (Урок№11 - Анализаторы слуха и равновесия.)
1 month ago 00:09:36 1
Биометрические данные в Сбербанке. Биометрия - это не чипирование, но у Вас есть право отказаться.
1 month ago 00:07:23 1
ОБЖ 10 класс (Урок№8 - Основы медицинских знаний и профилактика инфекционных заболеваний.)
1 month ago 01:14:05 1
Просветлённый старец разоблачает религии! Рептилоиды, черная магия и демоны в церквях – Лев Клыков
1 month ago 00:00:58 1
Просветлённый старец разоблачает религии! Рептилоиды, черная магия и демоны в церквях — Лев Клыков
1 month ago 00:00:59 151
Учимся говорить на японском. Просто. Визуально. Интерактивно.
1 month ago 01:06:01 34
Распознавание образов и машинное обучение. Чтение 39. Регрессия через гауссовский процесс
1 month ago 01:14:33 23
Распознавание образов и машинное обучение. Чтение 38. Гауссовские процессы
1 month ago 01:10:35 1
На пути к технологиям нейроинтерфейсов. Александр Каплан. Часть 2
1 month ago 00:54:18 1
[ИТ-лекторий] Как применить технологии компьютерного зрения в бизнес-реалиях