Как работает ChatGPT: объясняем нейросети просто

Подпишись на авторов видео в Телеграме, чтобы не пропустить новые материалы: Павел Комаровский https://t.me/RationalAnswer и Игорь Котенков https://t.me/seeallochnaya

Следующие видео из серии про ИИ:
- Что нового привнесла GPT-4 —    • GPT-4: Чему научилась новая нейросеть  
- О противостоянии человечества и ИИ —    • ChatGPT: Человечество против искусств...  

Текстовая версия материала про эволюцию языковых моделей: https://vc.ru/future/623774

Лекция Игоря Котенкова про принципы работы трансформеров:    • Transformer, explained in detail | Ig...  

Прослушать выпуск как аудиоподкаст:
- SoundCloud —   / 94-how-chatgpt-works  
- Яндекс Музыка — https://music.yandex.ru/album/23836417
- Другие агрегаторы подкастов — https://pod.link/1457434451/episode/1...

Поддержи проект RationalAnswer:
- Patreon (в валюте) –   / rationalanswer  
- Boosty (в рублях) – https://boosty.to/RationalAnswer

СОДЕРЖАНИЕ:
00:00 – Интро
00:31 – T9: языковая модель в телефоне
02:43 – Откуда нейросети берут вероятности слов?
05:41 – Почему языковые модели умеют в творчество
08:16 – 2018: GPT-1 и архитектура Трансформера
11:47 – 2019: GPT-2, или 7000 Шекспиров в нейросети
15:25 – Как измеряется сложность и размер моделей
22:07 – 2020: GPT-3, или Невероятный Халк
26:13 – Промпты, или как правильно уламывать модель
28:06 – Январь 2022: InstructGPT, или воспитание строптивой
33:51 – Ноябрь 2022: ChatGPT – хайпуют все!
38:05 – Подводим итоги