Listen

Description

Подпишись на авторов видео в Телеграме, чтобы не пропустить новые материалы: Павел Комаровский https://t.me/RationalAnswer и Игорь Котенков https://t.me/seeallochnaya 

Текстовая версия материала про эволюцию языковых моделей: https://vc.ru/future/623774 

Посмотреть выпуск на YouTube: https://www.youtube.com/watch?v=VVfFf_XW8zw 

Поддержи проект RationalAnswer: 

- Patreon (в валюте) – https://www.patreon.com/RationalAnswer 

 - Boosty (в рублях) – https://boosty.to/RationalAnswer 

СОДЕРЖАНИЕ: 

00:31 – T9: языковая модель в телефоне 

02:43 – Откуда нейросети берут вероятности слов? 

05:41 – Почему языковые модели умеют в творчество 

08:16 – 2018: GPT-1 и архитектура Трансформера 

11:47 – 2019: GPT-2, или 7000 Шекспиров в нейросети 

15:25 – Как измеряется сложность и размер моделей 

22:07 – 2020: GPT-3, или Невероятный Халк
26:13 – Промпты, или как правильно уламывать модель 

28:06 – Январь 2022: InstructGPT, или воспитание строптивой 

33:51 – Ноябрь 2022: ChatGPT – хайпуют все! 

38:05 – Подводим итоги