razinkov.ai

Добрый вечер!

Завтра в 13:30 по московскому времени планирую провести 5-ю лекцию про LLM: про архитектуры и их эволюцию. Есть небольшой шанс отмены или сдвига по времени вперед.

Ссылку на стрим на YouTube пришлю непосредственно перед лекцией.

Добрый день!
Стрим про инференс LLM начинается:
https://youtube.com/live/sfxOllA8PSA?feature=share

Добрый вечер!
Завтра в 12:00 по Москве будет открытый стрим – четвертая лекция курса про LLM. Обзорная про этап инференса.

С наступающим Новым годом, дорогие подписчики! 🎄

Всего вам самого доброго! Спасибо за поддержку и теплые слова на протяжении всего года! Надеюсь, в следующем году смогу снимать для вас больше лекций на актуальные темы)

Список студентов, которым мы предлагаем бесплатное участие в AI-школе:
- Эмиль, МГУ им. М.В. Ломоносова
- Вадим, МАИ
- Юрий, ИТМО
- Анна, МГУ им. М.В. Ломоносова
- Алина, МАИ
- Булат, Дальневосточный федеральный университет
- Илья, СамГТУ
- Алексей, ДонНТУ
- Юлия, ННГУ им. Лобачевского

Кто попал в список – поздравляю! Мы завтра напишем вам в телеграме и добавим в чат второго потока, если вы еще не там.

Спасибо всем, кто оставил заявку – очень много классных ребят! Не смог сократить список до 5 ну никак, измучился весь) По времени поста даже видно, я думаю)
Взять хотелось бы куда больше, чем можем себе позволить сейчас.

Мы обязательно продолжим приглашать талантливых студентов на бесплатные места в будущих потоках.

Мы начинаем)

https://youtube.com/live/ii4H-KZ1m3k?feature=share

В пятницу определим тех, кто сможет принять участие во втором потоке AI-школы бесплатно.

Если Вы являетесь студентом профильных специальностей (математика/IT), имеете средний балл близкий к 5.0 и хотите окунуться в ML, пожалуйста, заполните заявку здесь:
https://forms.yandex.ru/cloud/672a3f0949363955016ff483/

Всем привет)

Я пробую новый формат видео: беседы с фаундерами AI-стартапов.

Первый выпуск посвящен поиску первых инвестиций в “долине”. Беседую с фаундерами AI-стартапа askera.ai – Максимом Косенко и Игорем Зильбергом, которые на момент записи находились в Сан-Франциско и занимались привлечением первых инвестиций. Они делятся впечатлениями о процессе.

Формат для меня новый, буду очень признателен за обратную связь – интересно вам такое или нет)

Приятного просмотра:
https://youtu.be/7440jMLq6z0

Добрый день!

В эту среду, 13 ноября, в 13:00 по московскому времени я проведу стрим, где расскажу про новый поток AI-школы, который начинается 18 ноября 2024 и продлится 11 месяцев (10 месяцев вебинаров и месяц на capstone project).

Ссылка на стрим: https://youtube.com/live/ii4H-KZ1m3k?feature=share

Всем привет!

Мы решили снизить стоимость нашей AI-школы. С лёгким переживанием, что наша экономика не сойдётся, решили удержать стоимость ниже 150 тыс. даже при помесячной оплате, как надеялись изначально.

В итоге снижаем стоимость примерно на 10%. Новые цены:
Полный курс при полной оплате: 127 000 рублей (помесячно: 14900 в месяц, 10 месяцев).
- Advanced-часть при полной оплате: 112 000 рублей (помесячно: 17000 в месяц, 7 месяцев).
- Advanced-часть при полной оплате до 1 декабря 2024: 102 000 рублей.

Всем привет!

Открываю регистрацию на второй поток AI-школы: “AI: от основ до языковых моделей”.

Начинаем: 18.11.2024.

Наша главная цель: принципы машинного обучения и основные AI-архитектуры должны стать понятными и прозрачными. Как и всегда, акцент на реализации всех архитектур с нуля. Никаких fit/predict.

КУРСЫ
Основной курс:
– AI: от основ до языковых моделей (теория и практика)

Дополнительные курсы (включены в стоимость):
– Math for AI
– Python for AI
– Decision making in AI
– MLOps

НОВЫЕ ТЕМЫ (по сравнению с первым потоком):
– Анализ временных рядов с помощью Transformer;
– Deep metric learning в комьютерном зрении (задачи распознавания лиц и подобные);
– Сегментация изображений;
– Архитектурные элементы современных LLM: SwiGLU, Group Query Attention, RoPE.

CAPSTONE PROJECT:
– Реализация с нуля своей языковой модели (как Llama 3, только маленькая) и обучение на генерацию текстов на русскоязычном датасете. С подъёмом на сервере в собранном вами Docker-контейнере.

ЦЕНЫ (обновлено)
- Полный курс при полной оплате: 127 000 рублей (помесячно: 14900 в месяц, 10 месяцев).
- Advanced-часть при полной оплате: 112 000 рублей (помесячно: 17000 в месяц, 7 месяцев).
- Advanced-часть при полной оплате до 1 декабря 2024: 102 000 рублей.

Если вас не устраивает качество материалов, вы можете вернуть деньги за все оставшиеся оплаченные месяцы и последний прошедший месяц.

ПОДРОБНОСТИ И ОТЗЫВЫ
Подробности по ценам, количеству материалов и отзывы здесь:
https://razinkov.ai/school/about

СТРИМ С ПОДРОБНОСТЯМИ
В среду, 13 ноября, в 13:00 по Москве, по ссылке:
https://youtube.com/live/ii4H-KZ1m3k?feature=share

РЕГИСТРАЦИЯ
https://forms.yandex.ru/cloud/6729e2bef47e733d56c3ca15/

❗️ВАЖНО: у нас будет от 5 БЕСПЛАТНЫХ МЕСТ для талантливых студентов (точное количество будет известно, когда получим все заявки).
Если Вы являетесь студентом профильных специальностей (математика/IT), имеете средний балл близкий к 5.0 и хотите окнунуться в ML, пожалуйста, заполните заявку здесь:
https://forms.yandex.ru/cloud/672a3f0949363955016ff483/

Добрый вечер, уважаемые подписчики!)

Некоторые подробности о предстоящей AI-школе)

Дата старта: 18 ноября.

Стоимость базовой + продвинутой части при полной оплате - ₽141 000 (10 месяцев)

Стоимость только продвинутой части при полной оплате - ₽125 000 (7 месяцев)
Early Bird: при полной оплате до 01.12.2024 скидка 10% - ₽112 000

Если дойти до конца:
+ последний месяц (Capstone Project)
+ 6 месяцев доступа к курсам по окончании
- бесплатные.

Доступна помесячная оплата, при помесячной оплате стоимость участия за один месяц будет выше.

С подробностями можно ознакомиться по ссылке:
https://razinkov.ai/school/about

Добрый день!

Десятая часть разбора статьи про Llama 3.1: как уменьшают количество галлюцинаций и делают модель более управляемой:
https://youtu.be/voNTtvyy-_U

Добрый день!
Стрим про первый поток нашей онлайн-школы начинается:
https://youtube.com/live/v1TRbW0AizI?feature=share

Всем доброго дня!

Завтра, в субботу, в 12:00 по московскому времени я проведу стрим, расскажу, как прошел первый поток нашей AI-школы) Со статистикой и отзывами)

Предварительно зарегистрироваться на второй поток (начнется в ноябре) можно здесь:
https://razinkov.ai/school

Всем привет!

Записал вот такое оптимистичное послание AI-специалистам:
https://youtu.be/kqJjUm3LYDk

Edit: звук исправлен)

Добрый вечер!

Продолжаем разбор Llama 3.1) часть 9: long context & tool use 👍

https://youtu.be/t2pSGz9sm6k

Добрый вечер!

Восьмая часть рабора статьи про Llama 3.1: multilinguality & reasoning!
https://youtu.be/caljKjCcC38

Тем временем вышла Llama 3.2 🥲
https://ai.meta.com/blog/llama-3-2-connect-2024-vision-edge-mobile-devices/

Добрый вечер!

Llama 3.1: разбор статьи. Часть 7 😱

Разбираем, как генерируется качественный код для файн-тюнинга Llama:
https://youtu.be/dhDCWEeIOZg

Добрый день!
А вот и шестая часть разбора статьи по Llama 3.1: Post-training data.

Для тех, кто не сдается, от тех, кто не сдается)

https://youtu.be/RLAiyZP-Fvw

Добрый день!
Пятая часть разборы статьи про Llama 3.1. Тема: Direct Preference Oprimization:
https://youtu.be/2_RDSMu61YQ

Релевантные статьи
Direct Preference Optimization: Your Language Model is Secretly a Reward Model
Мы можем файн-тюнить модель на предпочтениях людей без модели наград и обучения с подкреплением, а просто за счет DPO-лосса.
https://arxiv.org/abs/2305.18290

Iterative Reasoning Preference Optimization
NLL-компонента для DPO-лосса. Улучшает) Плюс позволяет сохранять форматирующие токены (в отличие от ванильного DPO)
https://arxiv.org/abs/2404.19733

Добрый вечер!

Четвертая часть разбора Llama 3.1. Reward model & supervised fine-tuning:

https://youtu.be/4aUYhAgW5h4

Добрый вечер!
Llama 3.1, разбор статьи, часть 3:
https://youtu.be/1Ut-3-Ost0w

Добрый день!
Третья часть разбора статьи про Llama 3.1 будет в пятницу, а вот плейлист:
https://www.youtube.com/playlist?list=PL6-BrcpR2C5QXuCaev_DJ_o9lqYkAxSmo

Хорошая обзорная статья для первого знакомства с миром агентов. Хайповая тема сейчас)

A Survey on Large Language Model based Autonomous Agents
https://arxiv.org/abs/2308.11432

Доброе утро!
Продолжаем разбирать статью про Llama 3.1, на этот раз читаем разделы Model Architecture и Scaling Laws:
https://youtu.be/fR8flHXcvLs

При обучении LLM в последних 10-20% итераций повышают долю качественных и domain-specific данных и получают ощутимый прирост на многих бенчмарках.

Этот прием используется и в Llama 3.1 (см. Data Annealing)

Does your data spark joy? Performance gains from domain upsampling at the end of training
https://arxiv.org/abs/2406.03476

Добрый день!
Вы не спрашивали, конечно, но вот классный туториал по PCA :)

Разбор статьи про Llama 3.1. Часть 1. Продолжение следует)

https://youtu.be/YoRsqImynUE

Over-training – обучение модели, неоптимальной с точки зрения scaling laws (соотношение между FLOPs, количеством параметров и количеством токенов), когда компьюта выделено непропорционально больше. А размер модели получается меньше. В этом есть плюс на этапе инференса с вычислительной точки зрения.

Language models scale reliably with over-training and on downstream tasks
https://arxiv.org/abs/2403.08540

Вместо warmup+cosine annealing LR schedule предлагается warmup+constant+cooldown.

Cooldown – снижение к финальному LR за сравнительно небольшое количество итераций в конце обучения.

Не надо заранее принимать решение, сколько итераций будем обучать.

Как понимаю, сейчас всё равно используют cosine, но вместе с cooldown.

Scaling Laws and Compute-Optimal Training Beyond Fixed Training Durations
https://arxiv.org/abs/2405.18392

Если после пре-трейнинга LLM с cosine learning rate decay на одном датасете вы получили еще большой датасет. Что делать – объединять датасеты и учить с нуля (дорого)? Дообучать? Если второе – что делать с LR? Продолжать с последнего значения неэффективно, оно слишком мало.

В статье предлагается: re-warming & re-decaying, то есть линейно повысить до исходного значения, и снова уменьшать с cosine decay.

Это о проблемах cosine annealing при обучении LLM.

Simple and Scalable Strategies to Continually Pre-train Large Language Models
https://arxiv.org/abs/2403.08763