Подпишись на авторов видео в Телеграме, чтобы не пропустить новые материалы: Павел Комаровский и Игорь Котенков
Следующие видео из серии про ИИ:
- Что нового привнесла GPT-4 —
- О противостоянии человечества и ИИ —
Текстовая версия материала про эволюцию языковых моделей:
Лекция Игоря Котенкова про принципы работы трансформеров:
Прослушать выпуск как аудиоподкаст:
- SoundCloud —
- Яндекс Музыка —
- Другие агрегаторы подкастов —
Поддержи проект RationalAnswer:
- Patreon (в валюте) –
- Boosty (в рублях) –
СОДЕРЖАНИЕ:
00:00 – Интро
00:31 – T9: языковая модель в телефоне
02:43 – Откуда нейросети берут вероятности слов?
05:41 – Почему языковые модели умеют в творчество
08:16 – 2018: GPT-1 и архитектура Трансформера
11:47 – 2019: GPT-2, или 7000 Шекспиров в нейросети
15:25 – Как измеряется сложность и размер моделей
22:07 – 2020: GPT-3, или Невероятный Халк
26:13 – Промпты, или как правильно уламывать модель
28:06 – Январь 2022: InstructGPT, или воспитание строптивой
33:51 – Ноябрь 2022: ChatGPT – хайпуют все!
38:05 – Подводим итоги