Главная страница
qrcode

Вмк, мгу


НазваниеВмк, мгу
АнкорYandex1.pdf
Дата06.02.2017
Формат файлаpdf
Имя файлаYandex1.pdf
оригинальный pdf просмотр
ТипАнализ
#35921
Каталогhypecontrolla

С этим файлом связано 63 файл(ов). Среди них: Терминология SMM.docx, Все статистические сайты мира.doc, digital_advertising_in_2014_by_doubleclick.pdf, Yandex_-_Maly_ShAD_-_Lingvistika_v_poiske.pdf, drive_mistakes.pdf, Fiziologia_emotsiiy_Valter_Kennon.pdf, Tochki_kontakta_s_klientom_plan_deystviy.pdf, growthhackingacademylaunch.pdf, Kak_agitirovat_-_sovety_argumenty_voprosy.pdf и ещё 53 файл(а).
Показать все связанные файлы

Структурный метод опорных векторов и его применение для настройки графических моделей настройки графических моделей
Д.П. Ветров
Руководитель группы Байесовских методов,
ВМК, МГУ
(
http://bayesgroup.ru
)

План доклада

Байесовские методы в машинном обучении

Задачи с взаимозависимыми скрытыми переменными

Вероятностные графические модели

Метод опорных векторов и его обобщение для настройки параметров графических моделей параметров графических моделей

Машинное обучение

Поиск зависимостей между наблюдаемыми переменными
X и скрытыми переменными T

Данные представляют собой совокупность независимых объектов

Скрытые компоненты объектов из обучающей выборки

Скрытые компоненты объектов из обучающей выборки известны

Зависимость моделируется путем настройки параметров
(весов) W решающего правила


Зависимости между наблюдаемыми и скрытыми компонентами моделируются в виде совместного распределения p(X,T,W)

В классической постановке
Байесовские методы

Появляется возможность задавать предпочтения на значения весов

Возможность учесть специфику конкретной задачи!

В последние 10 лет бум байесовских методов в мире

Взаимозависимости между объектами

Ряд прикладных задач не может быть описан в терминах множеств независимых объектов

Особый интерес представляют случаи, когда скрытые переменные объектов зависимы между собой

Отличный способ введения дополнительной

Отличный способ введения дополнительной регуляризации!

Сегментация изображений

Видеотрекинг

Анализ социальных сетей

Вписывание 2D и 3D моделей

Декодирование зашумленных сообщений

Имитационное моделирование

Глубинное обучение (deep learning)

Коллаборативная фильтрация

Графические модели
Совместные распределения большой арности могут быть промоделированы путем задания системы факторизации по пересекающимся подмножествам переменных, определяемым кликами графа зависимостей

Основные задачи

Поиск наиболее вероятной конфигурации скрытых переменных

Определение нормировочной константы Z

Обучение с учителем

Обучение с учителем

Обучение без учителя

Подсчет маргинальных распределений

Структурная классификация

Пусть скрытые переменные принимают конечное число значений

Обобщение задачи классификации

Энергетическая формулировка

Парно-сепарабельные энергии

Заметим, что даже задача принятия решения (при известных X, W) является, в общем случае, NP-трудной комбинаторной задачей

Линейная модель

Парно-сепарабельная энергия

Параметризация потенциалов

Вопрос, как определить W ?

Метод опорных векторов (SVM)

Разработан для стандартной задачи классификации

Строит оптимальную разделяющую гиперплоскость

Допускает нелинейное обобщение путем применения т.н. ядрового перехода

Не зависит от выбора начального приближения

Не зависит от выбора начального приближения

Обучение метода опорных векторов

Стандартная формулировка. Дана обучающая выборка

Эквивалентная формулировка:
Прямое следствие

Решающее правило:

Специфика задачи структурной классикаиции

Не можем классифицировать каждый объект независимо от других

Экспоненциально много вариантов классификации

Ошибки в классификации не равнозначны! (аналогия с регрессией)
регрессией)

Направления текущих исследований SSVM

Релаксация оракула и внесение его в оптимизируемый функционал (Finley et al., ICML2008)

Применение ядрового перехода (Bertelli et al., CVPR2011)

Обучение по слабо-размеченным выборкам (Шаповалов и др., ИОИ2012)
и др., ИОИ2012)

Использование разных функций расстояния (McAllester et al., NIPS2011)

Настройка потенциалов высоких порядков (Park et al.,
ECCV2012)

И др.

перейти в каталог файлов


связь с админом