Ivan Oseledets’ Channel

Продолжаем серию Больших Семинаров AIRI. Спикером следующего мероприятия будет доктор философии, доктор физико-математических наук, заслуженный профессор Оксфордского университета, профессор Сколтеха Александр Михайлович Корсунский.

Наша цель — не ограничиваться докладом, а создать пространство для живого общения и обмена идеями в научном сообществе.

→ Подробности и регистрация: https://t.me/airi_research_institute/761

Недавно был в гостях у экономиста Михаила Хазина на передаче «Экономика по-русски».

Поговорили об искусственном интеллекте и его применении в разных сферах. Я рассказал, как обучают большие языковые модели, и из каких этапов состоит этот процесс. Также мы обсудили то, как учить модели на противоречивой информации и многое другое.

Делюсь ссылкой на запись программы: https://www.youtube.com/watch?v=0C9YpPi9j6Q

В этом году, в честь Дня российской науки, мы снова поддерживаем благотворительные инициативы: https://t.me/airi_research_institute/755?single

Покупка слота на аукционе дает возможность встретиться с исследователем, задать вопросы и обсудить актуальные темы в области искусственного интеллекта. В прошлом году мы поддержали фонд «Большая Перемена», который помогает воспитанникам сиротских учреждений получить образование.

Коротко о важности фактчекинга: https://t.me/ia_panorama/20400

На фоне шумных новостей о DeepSeek и Stargate поговорили с Черменом Дзгоевым из редакции @snobru про то, как ИИ перестраивает глобальную экономику и куда нас ведет эра высоких вычислений.

Делюcь: https://snob.ru/science/iskusstvennyi-intellekt-i-bolshie-dengi-kto-pobedit-v-bitve-za-budushchee/

Сегодня буду в гостях у РБК на передаче «Что дальше?» с ведущей Еленой Спиридоновой, трансляцию можно смотреть по ссылке, начинаем в 16:20.

Поговорим про итоги года в сфере ИИ: какие прорывы были совершены, что с регулированием этой сферы и что будет дальше. Второй гость программы — исполнительный директор Института экономики роста им. Столыпина П.А Антон Свириденко.

Спасибо @bechinproducer за приглашение.

⚡️ Путешествие в Сколтех начинается сегодня: мы открыли приём заявок на конкурсный отбор в магистратуру!

В этот раз отбор будет особенным, потому что кандидаты смогут пройти его как на английском, так и на русском языке.
Мы понимаем, что прохождение вступительных испытаний и обучение в непривычной языковой среде может стать преградой даже для талантливых молодых людей. С помощью нововведения мы хотим проявить заботу и дать дополнительную возможность развить свой потенциал тем, кто этого заслуживает.

Теперь у кандидата будет возможность выбрать:

🔹 англоязычный трек: вы получите дополнительные баллы в конкурсном отборе. Сам процесс остаётся прежним;
🔸 русскоязычный трек: вы сможете пройти все этапы на русском языке, включая собеседование с профессорами. Успешные кандидаты приедут в Сколтех на месяц раньше, чтобы пройти English Bootcamp, работая над повышением своего уровня владения языком. Важно: этот трек можно выбрать только в том случае, если ваш уровень английского не ниже B1 — тестирование пройдёт на последнем этапе отбора.

Получить дополнительные баллы и больше отдохнуть летом или отбор на родном языке и языковой лагерь — решать только вам.

👉 Нажмите кнопку, чтобы начать свой путь в Сколтех.

Съездил в Якутск в Северо-Восточный Федеральный университет.

Там есть прекрасная лаборатория «Многомасштабного математического моделирования и компьютерных вычислений», созданная при участии Петра Николаевича Вабищевича, Василия Ивановича Васильева, потом мегагрант Ялчина Эфендиева (это отдельная и очень крутая история).

Появилось много молодых ученых. Сам был оппонентом и представителем ведущей организации на защите двух китайских аспирантов, оба с 9 статьями Q1. И, что особенно интересно, появилось несколько тем для совместных научных работ. Атмосфера Якутска в декабре непередаваемая 🙂

Побывал в гостях у подкаста «Деньги любят техно». Вместе с заместителем руководителя департамента анализа данных и моделирования ВТБ Денисом Суржко поговорили про современных учёных, работу с людьми и будущем ИИ.

Еще раз озвучил мысль о том, что топовые кадры можно получить только с учетом баланса между погружением в практику и поэтапным освоением академической программы. Не стоит хватать смышленых студентов на первом курсе и нагружать их рутинной работой. Бизнесу лучше подождать нормального выпуска, выстраивая при этом взаимодействие с живыми лабораториями, где студент научится применять получаемые знания для решения конкретной задачи. Тогда не будет ломаться система подготовки научных кадров, а у бизнеса по-прежнему будет доступ к талантливой молодежи.

→ Делюсь ссылкой на наш разговор.

Поделился подробностями нашего исследования с «Ъ-наукой», прочитать можно тут.

Конференция AI Journey 2024 завершилась😁

Записи докладов исследователей AIRI уже можно посмотреть по ссылке.

До встречи в следующем году! #AIRIзация

Извините, не могу удержаться.

Очень рад, что Александр Николаевич присоединился к нашей команде. Один из наших сотрудников даже написал, что в школе читал его статьи, чтобы разобраться в нейросетях :)

Открытие лаборатории искусственного интеллекта, анализа данных и моделирования — это важный шаг не только для AIRI и Центрального университета, но и для всей научной экосистемы России. Уверен, что под руководством Александра Николаевича лаборатория станет центром прорывных исследований и подготовки нового поколения специалистов в области ИИ.

https://t.me/airi_research_institute/705

На прошлой неделе я выступил с лекцией в Ставропольском аграрном университете, был обрадован и городом, и университетом и студентами. Многие из них уже были знакомы с моими проектами в области сельского хозяйства, что сделало нашу встречу особенно ценной. Считаю, что очень важно работать с заинтересованными людьми в регионах, подобные лекции могут вдохновить студентов на новые идеи и развитие.

На фото мы с проректором СтГАУ Игорем Скляровым. А ещё делюсь снимком ставропольского завтрака, который запомнился своим размахом и гостеприимством.

Запись моего доклада можно посмотреть по ссылке.

Сегодня закончили трехдневную научную отчетную сессию AIRI, на которой исследователи, от младших научных сотрудников до директоров лабораторий, поделились итогами работы за этот год и планами на следующий. За 3 дня мы прослушали 45 докладов и обсудили 159 постеров.

Всем участникам — большое спасибо за интересные выступления, активные обсуждения и вовлеченность! Вместе мы делаем науку сильнее.

Делюсь записью подкаста, в котором принял участие на прошлой неделе: https://youtu.be/_GuhwMCJHcs?si=T-EVBTHpzhrMNWPA

Продолжаю рассказывать про статьи AIRI, принятые на NeurIPS 2024:

Исследователи AIRI из группы «Адаптивные агенты» и лаборатории исследований искусственного интеллекта T-Bank AI Research при участии студентов из МФТИ, Сколтеха и Университета Иннополис создали первую открытую среду для исследований и разработки алгоритмов в области контекстного обучения с подкреплением — XLand-MiniGrid 💡

Это опубликованная в открытом доступе виртуальная среда, в которой искусственный интеллект обучается принимать решения и выполнять новые действия. В ней собрано 100 миллиардов примеров поведения ИИ, охватывающих 30 тысяч различных задач.

Эксперименты в XLand-MiniGrid уже провели исследователи из Google DeepMind, Калифорнийского университета в Беркли и Оксфордского университета. Научная статья принята на NeurIPS 2024.

Подробнее про исследование — в материале ТАСС.

Вышла моя колонка в Forbes Russia про то, как оценивать работу DeepTech-исследователей.

Каждый пятый «единорог» — это DeepTech, то есть технологические решения, требующие долгих научных исследований и чаще всего больших вложений. При этом инвесторы все еще с опаской относятся к таким проектам.

Наукоемкие проекты — это симбиоз бизнес-показателей и data science метрик, которые зачастую не совпадают. Ключевое, что должна понимать административная команда, несмотря на то что любой бизнес заточен на извлечение прибыли, — значительная доля всех усилий команды регулярно будет уходить на фундаментальные и поисковые исследования. Не на старте, но всегда.

Трудно не только подобрать и организовать ученых, но и оценить результаты их работы. А значит, неясно, как прогнозировать сроки проекта и мотивировать сотрудников, считает генеральный директор Института AIRI и профессор «Сколтеха» Иван Оселедец.

В колонке для Forbes Иван Оселедец разбирает, какими могут быть KPI у таких исследователей на примере ИИ-стартапов

📸: Getty Images

Запускаем хакатон SafeSpeak2024! 🚀

Хакатон, который мы проводим совместно с МТУСИ, посвящен разработке технологий обнаружения аудио-спуфинга и нацелен на решение актуальных проблем безопасной голосовой аутентификации, а также защиту биометрических систем от атак.

🔷Что вас ждет?
Участникам необходимо разработать легкие и высокопроизводительные модели для обнаружения атак аудио-спуфинга с акцентом на вычислительную эффективность и практическое применение в реальном мире.

🔷Кто может участвовать?
Студенты бакалавриата, магистратуры, специалитета и аспирантуры из технических университетов стран БРИКС и СНГ. Участвовать можно в командах от 1 до 4 человек.

🔷 Призовой фонд
225 тысяч рублей.

🔷Важные даты
Регистрация открыта до 26 ноября, старт хакатона — 22 ноября.

Регистрируйтесь по ссылке и готовьтесь к старту!

Как называется обучение у научника с биполяркой?

Contrastive learning

Начали вчера серию рассказов про 17 статей AIRI на Neurips. Вижу, что по сети идет. Это хорошо, не только же людям обращать внимание на CORE-B статьи, надо и на A* :)

А вообще, одно из интересных применений — полигон для испытаний гипотез, которые сложно/долго/дорого проверить на людях. В этой статье — изучение влияния эмоций на принятие решений.

В среду я был на сессии про «Ответственный ИИ» на ежегодном мероприятии РБК Tech.

Форумов много, но в этот раз собеседники были новые, включая гуманиста и трансгуманиста. Что интересно, что вслух прозвучали мысли про «мошенничество и ИИ», и то, что «эксперты считают, что не работает» (за точность не ручаюсь, можно посмотреть трансляцию). Эти соображения, к сожалению, пока еще остаются, и пришлось на них ответить. Зато получилось живо.

→ Делюсь ссылкой на трансляцию.

«Мёртвые» нейроны делают функцию энергии плоской. Мы смогли это исправить и доработали выводы Хопфилда и Кротова.

Мы с соавтором изучили, как выглядит ландшафт функции энергии, и выяснили, что она не подходит для многих современных нейронных сетей. Оказывается, что в случае, если какие-то активационные функции нейронов насыщаются, энергия становится плоской.

Так же как и фонари на улицах, нейроны могут гаснуть или, как говорят ученые, «умирать». «Мертвые» нейроны могут привести к образованию плоских областей в энергетическом ландшафте нейросетей. После этого узнать, что происходит в этих областях, становится невозможно.

Мы выяснили, что даже в сложных ситуациях можно собрать полезную информацию о сети и доказали, что если устойчивое состояние стабильно, то вся область вокруг него тоже стабильна, и сеть может эффективно работать, даже если некоторые нейроны мертвы.

→ Ссылка на нашу статью.

Приглашаю всех на второй Большой Семинар AIRI, который пройдет в нашем офисе в Сити. Спикером будет доктор юридических наук и профессор Александр Яковенко.

→ Подробности и регистрация: https://t.me/airi_research_institute/667

В Иннополисе открылась конференция ICOMP. Главная тема заявлена по вычислительной оптимизации, но работ по методам ИИ тоже довольно много. В том числе мы тоже представляем две наши статьи: по MARL с доработкой алгоритма QMIX и совместную работу с Александром Безносиковым по продвинутым методам монте-карло оптимизации в RL алгоритмах семейства актор-критик. В первый день были доклады от ведущих зарубежных исследователей по оптимизации: Питер Рихтарик, Франческо Орабона, Мартин Такак. После обеда и были коллеги из AIRI, в т.ч. по мультимодальности выступал Андрей Кузнецов.

Конференция организована на реальном международном уровне: прием и рецензирование статей с ребуталом через openreview, красивая идентика, ресепшен, кофе-брейки и даже пакет участника с футболкой😁 Надеюсь, в следующие годы конференция будет расти и выйдет на уровень A/B.

Хинтону и Хопфилду дали Нобель по физике.

Все-таки не стоит забывать, что премии по конкретным наукам нужно давать за достижения именно в них. В физике есть немало значимых исследований.

А еще это крайне выборочная история. Машина Больцмана сейчас уже никому не нужна, ассоциативной памятью Хопфилда никто не пользуется. Они пионеры и их вклад в развитие ИИ захотели отметить, но почему тогда не отметили ЛеКуна, Бенджио или Шмидхубера?

Уж точно есть о чем подумать.

✅ Будем развивать технологии генеративного проектирования в строительстве

В рамках международном форума «Digital Innopolis Days 2024 & Innopolis AI Conference» в Иннополисе договорились с AIRI о совместном развитии научно-исследовательской деятельности в сфере ИИ.

Соглашение подписали Александр Лукьянов, и.о. генерального директора «ДОМ.PФ Технологии» (входит в группу ДОМ.PФ) и Иван Оселедец, генеральный директор AIRI.

➡️ ДОМ.PФ также будет оказывать взаимную техническую, информационно-методическую поддержу, займёмся планированием, организацией и проведением рабочих встреч, научных семинаров и других мероприятий по ИИ в строительстве.

Поздравляю всю команду AIRI с новым рекордом — 17 статей принято на Neurips 2024!

Вчера подписали трехстороннее соглашение со Сбером и акционерным обществом «Рублево‑Архангельское». Будем работать над генеративным проектированием, созданием мультиагентной среды и дообучением GigaChat-а.

Делюсь видео с подписания. В кадре вместе со мной — Михаил Сусов, вице-президент, директор Департамента недвижимости и эксплуатации Сбербанка, и Андрей Лихачёв, генеральный директор АО СЗ «Рублёво-Архангельское».

Амбициозность проекта вдохновляет, ну и вживую увидеть Михаила Валерьевича, которого в детстве смотрел в «ЧГК», когда он «платил деньги за ответы», было прикольно :)

Добавим желтизны. В интернете появилась информация о смене ректора МФТИ, и возникла моя фамилия.

Никто со мной не связывался, поэтому слухи не имеют под собой особых оснований. Физтех мне не чужой — я выпускник 2006 года, очень благодарен вузу и слежу за его развитием. Более того, существует вероятность того, что в рамках программы ИИ360 я даже прочитаю в следующем году курс лекций на физтехе, так как давно хочется «отдать долг» альма-матер, да и учат там линейной алгебре *неправильно*. Но ничего более.

Еще немного атмосферы ивента:

7 сентября выступил на Фестивале «Портал 2030–2050», который прошел в ИЦ «Сколково» со StandUp-ом «Супер ИИ. Гений, помощник, творец, филантроп». Название, конечно, от gpt (сорри), но пару идей сформулировал. Сам фестиваль забавный. После доклада сцену переделали под сцену электронной музыки.

→ Запись доклада уже выложили, мое выступление начинается с таймкода 3:21:45

Сегодня у нас первый юбилей — 1000 подписчиков. Спасибо, что читаете и рекомендуете мой канал! Продолжу радовать вас постами дальше и рассказывать про ивенты и научные открытия :)

На этой неделе я выступил c пленарным докладом на очень представительной международной конференции по нелинейной физике "Frontiers of Nonlinear Physics". Тематика довольно далекая с одной стороны, а с другой стороны — много интересного возникает именно на таких конференциях. Доклады про климаты, про установки мегасайнс (в Дубне построили реально огромный коллайдер NICA), также были доклады про нейросети.

Отдельно про формат: конференция была на теплоходе, где а) вкусно кормили б) отличные каюты в) катали по крутым и очень красивым местам. А когда плывешь с лодки деваться некуда — на докладах все.

Такой формат очень понравился, будем сами пробовать 🙂
Тем более, у нас есть куда плыть и что смотреть.