Дани Эль-Айясс (Sber) «Из модели в сервис: Flask + Gunicorn + Docker»
🚀 @SBERLOGABIG online seminar on data science:
👨🔬 Дани Эль-Айясс (Sber) «Из модели в сервис: Flask Gunicorn Docker»
⌚️ Четверг 08 сентября, по Москве
В real-world задачах почти всегда бывает недостаточно просто обучить sklearn / pytorch модель и сделать ее dump в .pickle / .joblib / .pth.
Нужно подготовить полноценный сервис в рамках изолированного окружения, который будет ждать запросы пользователя, обрабатывать их и возвращать обратно результат работы модели.
В этом нам могут помочь:
— фреймворки для создания web-приложений / API, такие как Flask / Django / FastAPI
— WSGI, такие как Gunicorn / uWSGI
— Docker для создания контейнеров
В рамках данного доклада / workshop’а хочется рассмотреть связку Flask Gunicorn Docker и обсудить следующие вопросы:
— зачем все это нужно в ML
— поговорить о внедрении моделей / сервисов
Ссылка на репозиторий:
P.S. Подписывайтесь на канал докладчика: @cats_shredinger - самые интересные сюжеты о NLP и DS
2 views
8
8
9 months ago 00:41:43 1
«GigaChat: наш опыт обучения LLM»
1 year ago 08:37:45 3
Practical ML Conf 2023. Зал 1.
2 years ago 01:28:26 2
Дани Эль-Айясс (Sber) «Из модели в сервис: Flask + Gunicorn + Docker»
3 years ago 00:23:43 1
Web-сервис для генерации текстовых эмбеддингов - Дани Эль-Айясс