[I’ML] Чем сложны LLM

— Привет, ГигаЧат! Мы в компании разрабатываем LLM. Расскажи, с какими сложностями можем столкнуться? — Современные модели LLM сталкиваются с рядом сложностей, которые могут затруднять их использование... Может, лучше спросим об этом одного из моих создателей, Сергея Маркова? Он как раз будет рассказывать о разработке языковых моделей. В новом подкасте I’ML — 13 декабря в 13:30. Сергей расскажет про сдвиг парадигм в ML и челленджи, с которыми столкнулись при моем создании: — работу с данными, претрейн и токенизацию; — эксперименты с параметрами обучения; — кратно растущие требования к GPU и другому железу; — мультимодальность и встраивание LLM в экосистему; — починку фактологии и походы в поиск. Ведущим выпуска стал Александр Толмачев. Он руководит аналитикой, хранилищем и моделированием в Ozon. А еще преподает в Яндекс Практикуме, ВШЭ и Skolkovo. -------------------- Еще больше про ML скоро на сайте