Нейропоиск информации по базе знаний медиа агентства / Разработка QnA-бот на базе локальной LLM+RAG

Рассказываем о нашем решении победителе международного хакатона “Цифровой прорыв: сезон ИИ“ 2024 года. Вы узнаете, как мы разработали QnA бота с технологиями LLM RAG под капотом. Под капотом у бота только локальные опенсорсные модели. Все работает без вызова проприетарных/платных API. В этом видео мы рассказываем: - Про проблематику кейса - Об архитектуре решения LLM RAG - О мультимодальном поиске и анализе информации VLM RAG - Про метрики оценки качества - Об эффектах от внедрения Демонстрируем веб-интерфейс решения и функции AI-поиска и ответов на вопросы по текстовым, графическим, табличным документам. Показываем способности проводить арифметические операции и анализировать информацию используя визуальную большую языковую модель. Результаты впечатляют! Новая эра поиска информации наступила! Пишите в комментариях, что вы думаете о нашем решении... А еще больше кейсов, методов и лайфхаков в нашем Telegram-канале: 📲 #LLM #RAG #QnA #VLM #нейропоиск #bot