Моисеев Ярослав | Кластеризация сообщений абонентов, Various ML applications - Data Fest 2022
Спикер: Моисеев Ярослав
Кластеризация сообщений пользователей чат-бота
В этом докладе вы узнаете:
• В чем заключается подход Sentence-transformers для получения эмбеддингов предложений
• Какие есть недостатки у классических внутренних метрик, в том числе у силуэта
• Какие внутренние метрики умеют корректно оценивать плохо разделимые кластеры несферической формы
• Какой способ является лучшим для обработки шума при расчёте внутренних метрик
• Какая модель эмбеддингов, пайплайн кластеризации и внутренняя метрика оказались лучшими в ходе экспериментов
Таймкоды:
00:00 Вступление
00:23 Зачем кластеризовать сообщения пользователей чат-бота?
00:53 Как выглядит пайплайн кластеризации?
01:03 Какие существуют подходы получения эмбеддингов предложений?
01:13 В чем заключается подход Sentence-transformers? Cosine similarity loss и hard triplet loss.
2:43 Алгоритмы кластеризации. HDBSCAN и BIRCH.
3:37 Внешние и внутренние метрики кластеризации.
4:46 Недостатки классических внутренних метрик. Чем плох коэффициент силуэта?
5:04 Какие есть внутренние метрики для оценки качества кластеров произвольной формы?
5:48 Как понять какая внутренняя метрика лучше?
6:12 Что нам говорят сравнения внутренних метрик в статьях?
7:06 Какие есть способы сделать метрику устойчивой к наличию выбросов?
07:51 Схема и результаты первой части экспериментов.
9:18 Эксперименты. Модели Sentence-transformers.
9:35 Эксперименты. Ускорение кластеризации в 23 раза с CuML на GPU.
9:59 Схема второй части экспериментов.
11:02 Результаты экспериментов.
12:19 Визуализация эмбеддингов и сравнение алгоритмов детекции выбросов. HDBSCAN и IsolationForest.
12:51 Выводы.
Ссылки из презентации:
1. P. Bojanowski et al. (2016), Enriching Word Vectors with Subword Information
2. D. Cer et al. (2018), Universal Sentence Encoder
3. M. Artetxe, H. Schwenk (2018), Massively Multilingual Sentence Embeddings for Zero-Shot Cross-Lingual Transfer and Beyond
4. F. Feng et al. (2020), Language-agnostic BERT Sentence Embedding
5. N. Reimers, I. Gurevych (2019), Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks
6. Introduction to Dense Text Representations - Part 2
7.
8.
9. P. Andritsos (2002), Data Clustering Techniques
10.
11. M. Halkidi and M. Vazirgiannis (2008), A density-based cluster validity approach using multi-representatives
12. D. Moulavi et al. (2014), Density-based clustering validation ~zimek/publications/SDM2014/
13. L. Hu, C. Zhong (2019), An Internal Validity Index Based on Density-Involved Distance
14. D. Cheng et al. (2018), A Novel Cluster Validity Index Based on Local Cores
15. F. Boudane, A. Berrichi (2020), Gabriel graph based connectivity and density for internal validity of clustering
16. J.C. Rojas-Tomas et al. (2017), New internal index for clustering validation based on graphs,
17. S. Liang (2020), Cluster validity index for irregular clustering results
18.
19.
20.
21.
22.
23.
24.
25.
Data Fest Online 2022:
Хаб MegaFon:
Трек Various ML applications: RecSys, MLOps, NLP, Physics, Geo:
Наши соц.сети
Telegram:
Вконтакте:
Twitter:
16 views
168
62
3 months ago 00:03:43 2
АЛЕКСЕЙ ГЛЫЗИН - ЕЩЁ МИНУТА (Армандо Мансанеро - Регина Лисиц) Ese Momento (Armando Manzanero)
3 months ago 00:06:41 1
ЗИМНИЙ САД (Виктор Чайка - Симон Осиашвили, 1988 г.) АЛЕКСЕЙ ГЛЫЗИН (2024 г.)
4 months ago 00:04:29 1
Алексей Глызин - Поздний вечер в Сорренто (музыка Владимир Бородин, слова Александр Бережной)
4 months ago 00:03:03 3
CHEBANOV - На лавочке (Премьера клипа, 2024)
5 months ago 02:26:09 1
Российские РАМ-системы для контроля привилегированного доступа
6 months ago 00:04:20 1
АлисА - Левша. Live-клип (неофициальный) 2013 г. 55-летию К.Е. и 30-летию группы посвящается!
6 months ago 00:04:59 1
АЛЕКСЕЙ ГЛЫЗИН - СОЛЁНОЕ МОРЕ (Илья Словесник - Игорь Шаферан, 1986 г.)
7 months ago 00:04:14 1
АЛЕКСЕЙ ГЛЫЗИН - ПОЗДНИЙ ВЕЧЕР В СОРРЕНТО (Владимир Бородин - Александр Бережной)
7 months ago 00:03:39 1
АЛЕКСЕЙ ГЛЫЗИН - ЕЩЁ МИНУТА (Новая съёмка) (Армандо Мансанеро - Регина Лисиц) Ese Momento
7 months ago 00:22:05 1
Владимир Надёжин. КДОИ: мы делали музеи в СССР.
8 months ago 00:00:00 1
Чемпионат города Москвы по боксу среди мужчин и женщин. Тех-запись. День 4.
8 months ago 00:00:00 1
Чемпионат города Москвы по боксу среди мужчин и женщин. День 4.
8 months ago 06:13:01 1
КРИМИНАЛЬНЫЕ ПРИКЛЮЧЕНИЯ! Встречное течение (Морской патруль 3). ВСЕ СЕРИИ
9 months ago 01:01:43 1
Российские селебрити, забывшие о поддержке ЛГБТ: Тату, Лолита, Алёна Швец, Борис Моисеев
9 months ago 01:50:00 1
Фільм НАШІ КОТИКИ/Lethal Kittens. 2020 р.
9 months ago 00:04:08 2
АЛЕКСЕЙ ГЛЫЗИН - ВЕСЕННИЙ БЛЮЗ (Светом Твоим Заворожённый) ( Муз. и сл. - Сергей Трофимов)
10 months ago 00:00:00 1
Футбол 6х6. Чемпионат ОПК. Второй дивизион. Зевс - ФК Горцы
10 months ago 00:00:00 1
Первенство Центрального федерального округа по боксу среди юношей 13-14 лет. Воронеж. День 2.
10 months ago 06:53:42 1
ВС среди студентов по боксу памяти А.И. Киселёва среди юниоров и юниорок 18-25 лет. Сочи. День 2.
10 months ago 02:06:19 7
Водное поло. XXXVI МССИ. Второй игровой день
10 months ago 00:13:07 15
HARD CHALLENGE. Сезон 4. Выпуск 2. Никита Войнов/Никита Сульженко/Семен Каплин/Максим Никаноров
10 months ago 00:04:23 1
АЛЕКСЕЙ ГЛЫЗИН - СТАНУ ЛИ Я СЧАСТЛИВЕЙ (Олег Шаумаров - Наталья Касимцева) март 2024
10 months ago 00:05:29 1
АЛЕКСЕЙ ГЛЫЗИН - ЭПИЗОД (Олег Сорокин - Борис Салибов, 1985 г.) март 2024
10 months ago 00:05:14 2
СОЛЁНОЕ МОРЕ (Илья Словесник - Игорь Шаферан, 1986 г.) Поёт АЛЕКСЕЙ ГЛЫЗИН