Дратути Антон

лучшее

спасибо за подгон Мишане (@tut_pro_art) — сгенерировали с помощью @AIMemeArenaBot

Сгенерировал пару мемов с помощью @AIMemeArenaBot на основе текстов из прошлых постов.

Мой мир просто: 🤯

Structured Output в LLMках

Скорее всего все уже знают про то, что с помощью LLMок можно генерить не просто какой-то текст, а даже структурированную информацию (например, json) 🌿. Этакий llm json mode.

Мне стало интересно, как это работает на самом деле (привет Коннор) под капотом, поэтому решил погуглить чего есть для json. Итак, что я нагуглил:

1. https://blog.dottxt.co/coalescence.html
Спойлер: по сути, мы ограничиваем генерацию стейт-машиной. Из-за этого модель жестко ограничена только тем, что заложили в грамматику этой стейт-машины. Приходится напрягаться и подчиняться.

2. https://github.com/noamgat/lm-format-enforcer#how-does-it-work
Спойлер: строят префиксное дерево для токенизатора и парсер для схемки json. Потом ходят двумя указателями (по одному в каждом дереве) и ходят туда, куда могут пойти сразу оба.

У первого способа есть проблема холодного старта и нужно построить стейт-машину, что дольше, чем строить деревья. Но если всё же словарь огромный, то деревья становятся жирнючими и долгими (в построении) 👨‍🦳, поэтому дешевле стейт-машину завозить.

Вендоры же стараются просто заюзать подобные подходы и либы, просто оптимизируя узкие места (например, стейт-машину) 🤯.

Вопросики 😍: может кто-то еще знает каких-то подробностей, как оно работает? Может быть еще какие-то либы, примеры, алгоритмы?

Особый вклад в найм

Вчера была совершенно неожиданная для меня тусовка, которую устроила компания для тех, кто очень много приносит пользы в процессе найма. И это так классно, что за такую штуку, которую ты просто считаешь своей работой, к тебе приходят и говорят — спасибо 😍!

Нам подарили классную джинсовку и подложили карточку, что сейчас вы можете наблюдать на фотографии.

Что же я такого сделал для найма? Если честно — просто делал свою работу. Собеседования — это очень интересное занятие, на мой вкус. Мне кажется, очень сложно найти такое место, где можно услышать сотню разных (и правильных!) мнений по тому или иному вопросу.

Ну и на самом деле я успел пообщаться уже с большим количеством людей: кто-то только начал свой путь, а кто-то уже тёртый калач, кто-то просит советов, а у кого-то ты во время собеседования и сам учишься.

С другой стороны — это дело трудозатратное. К собеседованию нужно готовиться, потом его нужно оценить и дать внятный фидбек. Это всё занимает времени, но оно того стоит. Я очень рад, что часть людей, которая прошла через меня, уже работает в компании, а с кем-то мы работаем даже бок-о-бок!

DeepSeek-R1 для чайников

Ну и наделала же DeepSeek шуму. Мне пришлось целый хабропост написать 😁

TLDR: мало слов про сравнение с ChatGPT и метрики, много слов про технические детали обучения, датасеты, GRPO и якобы эмерджентный «Aha! moment».

Комментаторы в интернете нашли логотип для полноценного релиза o3 от OpenAi

MLE шатает Produnction — В С Ё

Антон поменял канал — ИЗМЕНИЛ название и аватарку. Люди негодуют и не понимают КАКОГО ХРЕНА?

😶😶😶 😶😶😶😶😶😶

Антон продолжит деятельность канала под новым названием. Почему это произошло уже разобрали в этом посте.

P.S. Протите котика 😊

Коротко об успехах Deepseek. @banksta

Про итоги

А теперь, наконец-то — про итоги поездки.

Я весьма классно пообщался с бабушкой. Это было невероятно, потому что весь день можно было общаться, а вчером-ночью поработать!

Меня просто закормили холодцами, пирогами, борщами и всем тем, чем любят потчевать внуков их бабушки 😁!

Я подзарядился воздухом и атмосферой абсолютного спокойствия. Замедлился настолько маскимально, насколько это возможно в современном мире. Этого правда очень сильно не хватало.

Кроме того, я немного работал. Когда я общался с ребятами по зуму — все положительно отзывались о ковре, который был не фоном, а настоящим!

После этого я подумал, что пора произвести редизайн канала. И вот оно случилось 😂!

Дратути Антон pinned «Привет! Меня зовут Антон Клочков — и ко мне можно на ты! Сейчас руковожу R&D командой в Яндексе. Про нас лучше всего расскажет этот лендинг! В прошлом — ML инженер в области компьютерного зрения. Поделал всякое (детекторы, классификаторы, сегментаторы, SLAMы)…»

Привет! Меня зовут Антон Клочков — и ко мне можно на ты! Сейчас руковожу R&D командой в Яндексе. Про нас лучше всего расскажет этот лендинг!

В прошлом — ML инженер в области компьютерного зрения. Поделал всякое (детекторы, классификаторы, сегментаторы, SLAMы) для всякого: gpu-poor девайсов (например, rpi), gpu-rich серверов. Реализовал фичи как для себя, так и для миллионов пользователей по всему миру. Во всей деятельности меня привлекала прежде всего инженерная сторона вопроса.

Люблю говорить про оптимизации и ускорения, находить странности в языках программирования, а также высказываться на интересующие меня топики.

В этом блоге вы можете почитать душные посты про разработку, непонятные мысли про управление, и даже очень понятные мемы, к которым питаю слабость!

Channel name was changed to «Дратути Антон»

Channel photo updated

Perforator — наконец-то в опенсорсе!

Одним прекрасным вечером я пытался понять, как нам снять профиль у сервиса в рантайме, для того, чтобы понять узкие места для оптимизации ресурсов. Я начал искать по интранету, чего у нас такое есть и нашёл ещё тогда никому не известный perforator. С тех пор мы с ним друзья.

Я видел, как всё больше и больше этот инструмент влезает к нам в инфраструктуру и позволяет делать важные выводы о производительности сервисов. Однажды это стало возможным делать без каких-либо приседаний: любой человек мог натыкать себе сервис и посмотреть, как у этого сервиса дела.

А потом большие запуски, рассказы на всю компанию и вот сегодня — релиз в опенсорс. Я очень рад за ребят, большой фундаментальный труд! Спасибо им большое!

P.S. Ребята в статье расскажут лучше меня, что это вообще такое: https://habr.com/ru/companies/yandex/articles/875070/

Я всё пропустил, но получается так?

😀

Китайский ИИ DeepSeek за один день покорил Уолл-Стрит, потому что упорно отказывается программировать на С++, а значит имеет сознание

Визибилити

На выходных просмотрел роликов несколько роликов с канала: https://www.youtube.com/@tobecto. Мне, конечно, рано быть 😀, но всегда интересно послушать людей, которые думают на больших масштабах. Я кайфанул с многих роликов, но по вайбу заполнился Эмиль Абдулнасыров, CTO Ламоды. Ролик про человека, который явно что-то понял в этой жизни 🔼!

Но среди всего есть еще и видео про визибилити: https://www.youtube.com/watch?v=A8OK2mvH17Y. Он выбивается из формата, о чём ребята сразу же и говорят. Мне бы этот ролик, да года 4 назад 🥺.

Весь подкаст ребята пытаются построить определение, что же такое "визибилити". Это может быть прозрачность действий, это может быть личная видимость на разных уровнях. В общем, термин многогранен.

Для себя я подчерпнул следующее:
1. Модель для донесения информации о том, чем ты сейчас занимаешься, может быть следующей: продукт, технологии, люди.
2. Нужно понимать, на каком уровне мыслит руководитель и поставлять в понятном для него виде информацию. Ну, например, странно будет придти СТО и рассказывать 10 минут о том, как вы чинили какой-то мелкий баг 👨‍🦳;
3. Информация должна быть записана и доступна. У руководителя всегда должен быть доступ к информации о текущем статусе проекта.
4. Визибилити иногда решает, кому доверить проект. В ролике была озвучена аналогия с ремонтной бригадой: когда люди обычно выбирают, с кем делать ремонт, в первую очередь они спрашивают у знакомых, редко оперируя терминами, подходящими под KPI. Типа: "Ну норм ребятам сделали, да были пару косяков, но в целом хорошо".

Также было и правда много интересных мыслей между делом. Записал себе на проработку, через пару месяцев вернусь, гляну — ок не ок 😍.

Это, кстати, один из тех роликов про образ мышления людей старше. Рекомендую смотреть всем 🌿

Это гениально, я считаю

Команда, давайте соберёмся и обсудим почему наши встречи такие непродуктивные. Предлагаю серию из пяти встреч по два часа. На последней встрече обсудим необходимость шестой встречи для подведения итогов предыдущих пяти.

150 инженеров работали над небольшим pet-проектом 😀

Каждый человек, погружаясь в новую предметную область, проходит три стадии: дилетант, знаток, эксперт. Не все проходят дальше первой, но я сейчас говорю про работу и рабочие задачи, где ожидается, что сотрудник, взяв задачу, разберётся в ней до экспертного уровня.

У руководителя всё то же самое, только задача обычно масштабнее, предметная область шире, а процесс прохождения стадий более публичный — потому что руководитель в процессе взаимодействует с большим количеством людей и демонстрирует свою некомпетентность на ранних стадиях.

Как это обычно происходит.

Сначала ты «ебанько»: не шаришь в деталях, задаёшь тупые вопросы, складываешь паззл в голове. Это самый тяжёлый этап: очень большая когнитивная нагрузка сопровождается гнетущим ощущением, что ты дебил. Многие, попробовав на своей шкуре эти волшебные ощущения, навсегда перестают вписываться в новое, лишь бы не повторять этот психологический ад.

Дальше, если не сдался, ты набираешь экспертизу, начинаешь задавать правильные вопросы, пресекаешь булшит. Твои идеи местами всё еще тупые, но не все и не полностью. Ты уже можешь предметно спорить со специалистами и вырабатывать решения — это уже продуктивный уровень.

А потом, набрав экспертности, ты уже всех ебешь, тыкаешь острой заточкой в мягкий бок и заставляешь работать как надо и куда надо. На этом этапе самые кайфовые ощущения: ты как демон, парящий над полем битвы, видишь его насквозь, пронзая острой мыслью пространство и время. Ты быстро принимаешь решения, по большей части верные. Из этого состояния сложнее всего выходить, но необходимо — иначе это карьерный тупик.

Поэтому ты двигаешься дальше, находишь новую предметную область, круг повторяется. Чисто Роланд из «Темной башни».

Фишка в том, что набрать экспертности в какой-то области можно гораздо быстрее, чем создать эту область. Ну то есть сидели вот чуваки три года, пилили проект, а ты влетел, за пару недель разобрался базово, потом еще месяц детали доуточнил — и всё, ты на равных с ними.

Не нужно бояться выглядеть дурачком, при должном старании это быстро проходит.

Задачку решили быстро!

А теперь другой вопрос. Как супер быстро просимулировать это решение, чтобы хоть раз получить минимальное значение? А чтобы прям гарантированно?

Пора размять мозги

Коллега на работе прислал интереснейшую задачку 🤯. Предлагаю решить и вам.

Итак, есть код:

#include <atomic>
#include <chrono>
#include <cstdlib>
#include <iostream>
#include <thread>

std::atomic<uint8_t> n;

void P() {
    uint8_t temp;
    for (size_t ii = 0; ii < 10; ++ii) {
        temp = n.load() + 1;
        n.store(temp);
    }
}

int main() {
    std::thread t1{P}; std::thread t2{P};
    t1.join(); t2.join();
    std::cout << "n = " << uint64_t(n) << std::endl;
}

Вопрос: какое минимальное значение n может получиться в результате исполнения программы?

Господа-бояре с O1 и похожими приблудами, потестите, решит ли сеточка эту задачу. GPT4o не справилась.

Готовлю для вас пост по итогам моей недельной поездки на родину!

А пока, надеюсь, что фоточки донесут немного вайба до вас☺️

Явторы

Мы тут с ребятками из компани собрались и сделали папку телеграм-каналов! Кто-то пишет про маркетинг, кто-то про дизайн, есть и про управление, есть и про общие тренды в IT. Я был лично поражен обилию интересного контента, который генерируют ребята. 🤯

Папочка большая, но можете выбрать себе каналы по вкусу: https://t.me/addlist/2pmoCpZ1zWczOWYy

POV: планируете спринт со своей лучшей командой 👉

Приехал к бабушке и меня уже встречают!

Сразу видно — откормили 😀

Я тут понял, что накуролесил случайно, и заставлял людей для комментов вступать в группу 👨‍🦳.

Пофикшено, больше не нужно этим страдать!

Мой сетап для чтения статей 😁

Итак, в течение своего путешествия я решил не только книжки почитать, да и статейки про VLM/MMLM. Уже положил штук 10, глянем, есть ли там что-то интересное 😍.

Я уже писал, что купил себе ipad mini для чтения и заметок. Спустя несколько месяцев могу утверждать, что не жалею о своём решении — это очень компактно и удобно, поставленные задачи решает 🌿.

Для чтения статей я использую Zotero. Там удобно оставлять заметки, использовать хайлайтер, отлично синхронизируется между всеми девайсами — у меня это ipad, iphone, macbook (но в целом, можно было подключить еще и ПК, на котором у меня ubuntu и windows).

Я активно юзаю систему тегов, чтобы помечать избранные статьи, чтобы различать прочитанные и нетронутые статьи. Использую папки, чтобы структурировать статьи по разным, интересным мне, разделам.

Также я использую расширение для браузера, которое позволяет сразу добавлять нужные мне статьи просто по клику 🤯.

Единственная проблема, с которой я столкнулся — это как сделать большое хранилище для синхронизации заметок, потому что 300Мб — ну это очень мало (у меня, при не очень активном использовании уже 1Гб накопился), а платить почти два бакса за 2Гб — это как-то расточительно. Я решил эту проблему достаточно быстро (хоть и не так, как хотел), если интересно — напишите и я сделаю еще один пост про это 🤓.

Если кто-то тоже использует Zotero, расскажите, какие плагины вы используете?

Командый вайб

Почти каждого на работе происходит достаточно много взаимодействия с командой: мемы, кеки, обсуждения, помощь, брейнштормы — и куча всего того, что придумали либо вы, либо ваш коллега, либо тимлид. И среди всех этих активностей есть такие, которые позволяют тебе понимать, что вы действительно не сборище людей 😀, а команда или даже что-то большее.

У нас почти каждую неделю происходят встреча службы, на которой собираются все команды и мы слушаем либо про какие-то запуски, либо про какие-то проекты, либо просто обсуждаем всякое и кушаем пиццу 😍. Но сегодня...

Сегодня была мега вайбовая встреча. Она была посвящена тому, как каждый из нас провёл новый год и выходные дни. И я был поражён!

По ощущениям, мы как будто относительно небольшой командой побывали на всей планете и перепробовали кучу всего. Кто-то был на склонах, кто-то ходил по мероприятиям, кто-то посетил города из других стран, о которых я никогда не слышал, rто-то наготовил салатов на "год вперёд"🤔. И я был так удивлён, что так по разному можно праздновать новый год и отдыхать.

Лично мне очень понравилась эта встреча ☺️. Потому что она про людей, про нас. И это так ценно, когда кто-то об этом задумывается.

Если вы ещё не, то пообщайтесь с ребятами из команды про новогодние! Уверен, вам понравится беседа.

Кстати, а кто как в итоге провёл праздничные дни?

P.S. Лично я провёл эти дни в компании любимой жены и сериальчиков. Меня подсадили на Дневники Вампира 🙃 и вот мы уже досматриваем 6-ой сезон.

😀

Опа, теперь можно кастомную реакцию 😂
Интересно, это всем доступно? 🤔

O4 в проде 🌿

Пока ребята из OpenAI доедают оливье и пытаются зарелизить O3, DJI выпускает O4 😀.

Видосик вам: https://www.youtube.com/watch?v=7GkR3RmzPhM

Есть ли в чате дроноводы? Мой комплект всё лежит на полке, ждёт уже год пока я научусь летать в симуляторе 👨‍🦳

А все ведь помнят, кто где работал? 😀

Ну всё, опять киты пошли 😊

Кстати, интересный факт, что рядом с Советской Гаванью есть посёлок городского типа — Ванино. Раньше он был частью Советской Гавани, но в 1958 году выделили в отдельный посёлок.

Так вот. Из Ванино ходит паром в Холмск (Сахалинская область). Да, за 5к рублей вы можете себе забронить каюту "Люкс" и отправиться в небольшое путешествие, в котором есть шанс увидеть настоящих касаток. Может быть даже выпрыгающих. Мама как-то ездила, говорит это было красиво! Я вроде даже фотки видел, но не помню где они 👨‍🦳

Собираю вещи и в добрый путь

Не буду тянуть резину — решил сгонять в город своего рождения, к бабушке, на недельку. Уже 5 лет не виделись, скучаю 😍.

Наверное, мало кто знает, где я родился. Впрочем, когда меня спрашивают, я с гордостью отвечаю: "Советская Гавань", на что мне потом прилетает вопрос с реакцией удивления: "Где это?" 😀

Я тут глянул на карту и вспомнил, что между Санкт-Петербургом и родным городом расстояние примерно 9500 км. Обычно, чтобы добраться до Советской Гавани, нужно добраться до Хабаровска. Это примерно 8-9 часов полёта прямым рейсом или 11-12 часов с дозаправкой. После есть выбор: можно поехать на автобусе (примерно 12 часов езды) или на поезде (24 часа, потому что заезжаем в Комсомольск-на-Амуре).

В общем, путь прямо так скажем, не близкий 😊. Примерно сутки добирать + смена часового пояса аж на 7 часов по сравнению с Питером — это сильно. Надо будет себя как-то развлекать и чот делать в дороге.

Итак, вопрос — чиво посоветуете поделать всё это время?

Обладатели 4090 здесь?😀

Я сначала взгрустнул, потом посмотрел на спеки — и полегчало😮‍💨

Опешил

Как вы знаете, я люблю всякую дичь на плюсах. Знакомьтесь, новая лютейшая дичь:

int fun(int a, int b) {
    int c = 0;
    switch (a) {
        case 0: if (b == 0) {
        case 1:     c = 1; 
                    break;
                } else {
        default:    c = 2;
                    break;
                }
    }
    return c;
}

Это уже прям за гранью добра и зла. Формально оно и правда должно работать, потому что case/default — это метка.

Следующий код:

cout << fun(0, 0) << fun(0, 1) << fun(1, 0) << fun(1, 1) << fun(2, 0) << fun(2, 1);

выдаст ответ: 121122. Пруф.

Если вы когда-нибудь напишите такой код — звоните, обсудим какую палату в больничке вам нужно выбрать 👨‍⚕️

Знающие люди, скажите, что я не прав, пожалуйста 😊 Пока я не вижу противоречий.

P.S. Присылайте свою дичь в комменты.

IOCCC

Возобновили конкурс на написание наиболее запутанного и трудноразбираемого кода на языке Си.
https://www.opennet.ru/opennews/art.shtml?num=62503

Интересно, что оно должно работать и выдавать осмысленный результат.

Для вас нашёл код одного из победителей 2013 года, который умеет распознавать рукописные символы из картинки bmp. Выглядит класс и совсем без нейронок. Примеры из репозитория работают, а свои я уже не смог запустить. Ну и ладно 😮‍💨

Интересный факт вам в ленту!

К слову, убранства админа 😀скидывайте своё в комменты🎅

by @pleasedickann

Спасибо за вашу поддержку!

Скоро будет пост с итогами!

А ведь в этом что-то есть...

Насыщенный декабрь

Каждый раз, как у меня проходило какое-то мероприятие в этом месяце (а их было не мало!) я думал написать пост. А потом улетал в работу, затем снова мероприятие. Между тем они закончились и хотелось бы поделиться, чего вообще в жизни происходило ☺️.

Командировка в Москву
По традиции компания в декабре устраивает мега большой корпоратив на площадях своих офисов. Невероятное зрелище: десятки мастерклассов, тысячи людей, бесконечные разговоры и уютные беседы. И это всё хочется делать всей большой командой! А потому все, кто с нашего отдела мог добраться до Москвы — добрались! Я был рад видеть всех, потому что это большое счастье — поговорить вживую! 😍

Тайный Санта
Но не корпоративом едины. На весь отдел устроили Тайного Санту, внутри команды устроили Тайного Санту, получили много подароков и, как мне кажется, новогоднего настроения 🔼! Удивительно, что отдел работает в разных городах и странах, а нам всё равно удалось организовать всё это дело. Как говорится — шалость удалась!

Святочный бал
Во время командировки также сходил на Святочный бал — место, куда ежегодно приглашают активных участников молодёжных программ, тех, кто помогает компании нанимать и развивать начинающих специалистов. Всё мероприятие было очень интересно стилизованно под вселенную Гарри Поттера, потому что все участники молодёжных программ — настоящие волшебники 🪄!

Митап от Т-Банка в Санкт-Петербурге
Поговорили про перенос стиля в диффузионках, обсудили методы ускорения для edge-устройств, и краткое овервью VLM за 2024 (что греха таить, ради этого я в первую очередь и шёл). Докалады оказались супер интересными: что-то новое я даже для себя подчерпнул, а где-то молодость вспомнил (привет квантезация, когда ты еще не была мейнстримом)! Раздавали кружечки за интересные вопросы спикерам, одну ухватил я. Принёс домой, жена, работающая в Т-Банке, сказала: "Моё!" 🤔. Кружка и правда очень классная, надо будет у нас закинуть такую идею!

-----------
На фоточке — вокруг лежат пряники, которыми любезно сегодня угощали в компании! С мемами! Посередине — один из моих подарков от моего Тайного Санты. Подарок — 100% попадание в меня, люблю мемы 🎅!

Съёмки тренировок

Последнии деньки на работе много работу работал 🤓, а потому совсем забыл рассказать про свою трансляцию лекции про VLM. Это был на моей памяти первый опыт работы с камерой в онлайн режиме. И да, ты сидишь в комнате, где нет ни единой души, всё очень тихо. Перед тобой камера, свет и служебная информация на всякий случай 😊.

Перед началом ты думаешь: "Да изи"😮‍💨. Учитывая, что у меня есть уже какой-то опыт публичных выступлений, то проблем особо быть не должно. Но они нашлись и догнали меня 🤔!

Во-первых, я теперь понимаю всех блогеров, дикторов, актёров и всех тех, кто связан каким-то образом с записью аудио/видео. Я до начала решил чутка перекусить — и это сказалось. Иногда вставал ком в горле или урчал живот и ты надеелся, хоть бы это в эфир не попало (а оно попадало) 😍.

Во-вторых, ноль реакции 🥺. Ну т.е. любое публичное выступление сопровождается в течение доклада какой-то реакцией в зале. Когда снимаешь видосики для монтажа — реакция рабочей команды. А здесь ты один и не понимаешь, а чо там вообще происходит. Особенно когда в комменты никто ничего не пишет, ты думаешь: "Блин, либо всё очень не понятно, либо никто не пришёл и вообще чо я здесь делаю".

Для меня это было интересным опытом 😁. Я бы точно хотел больше работать с камерой, но, наверное, в каких-то живых форматах. Например, запись лекций в аудитории, подкасты или съёмка видеороликов. Посмотрим, может быть в следующем году куда-нибудь позовут на подскаст и там поболтаем!

🤫 Лучший «хак» по тайм-менеджменту

Вы знали, что если вам пишут и просят созвониться, чтобы познакомиться / поделиться опытом / ответить на вопросы / you name it, то можно отказаться? Прикиньте!

Я начал так делать буквально в этом году, и этот «хак» для меня работает кратно лучше всех советов из книжек по тайм-менеджменту.

Почему же?

1/ Во-первых, мне нужен цельный блок из 2-3 часов, чтобы полностью погрузиться в решение задачи. Если у меня есть свободный час между двумя встречами, то он скорее всего будет просран. Мем на эту тему прикреплен к посту.

2/ Во-вторых, несмотря на мою экстравертность, я все равно устаю от встреч. Получается, что ничего толком не сделал, а уже утомился. Отстой.

И тут конечно же кто-то может возмутиться и сказать «Ну ты и эгоист, Юрец! А как же помочь ближнему своему, а?»

Однако меня таким не подловить! Я не люблю коллы, а вот помочь - с удовольствием! И к моему счастью, почти всегда не обязательно созваниваться, чтобы помочь.

Поэтому, когда мне кто-то пишет в личку с просьбой созвониться, то я предлагаю написать вопросы текстом или записать голосовуху, чтобы я смог на них ответить когда мне удобно. Например, пока прогуливаюсь или иду в зал.

При этом часть обращающихся даже не возвращаются обратно со списком вопросов. И это они хотели еще потратить мое время на созвон? Спасибо, откажусь.

Так что сейчас у меня нет никаких созвонов, кроме парочки рабочих синков. За счет чего есть много времени для длительной сфокусированной работы, а также возможность провести колл в любое время, если он действительно нужен. Кайф!

Готовность 25 минут!

Ссылка на трансляцию.

Квартирник в ИТМО

В прошлую пятницу приходил по приглашению ребят из Young&&Yandex (ух, уже как реклама выглядит, но это не так 😊) в ИТМО на квартирник. Наша цель была поделиться каким-то своим отрезком карьеры, который бы показал:
— Что карьера в IT — это не миф, а реальность;
— Что стажировки — это хорошее место для старта карьеры, особенно если человек в чём-то сомневается.

Рассказывали мы всё через призму работы в текущей компании, а т.к. я пришел уже опытным специалистам, то рассказывал про то, что я вижу правильным делать на протяжении всей своей карьеры, а также про свой опыт работы со стажёрами 😍.

Мои принципы выбора кандидатов не очень сложны, но имеют некоторые основания:
— Я хочу, чтобы человек сделал проект, который не уйдет в стол, который либо поможет продвинуться команде, либо вообще уйдёт в прод;
— Я хочу, чтобы человек либо присоединился к нам (если на это будут возможности), либо нашёл себе классное место в компании;
— Я хочу, чтобы человек сделал что-то такое, чем он мог гордиться.

Не всегда выполняется всё, но я стараюсь помогать всем тем, чем могу ☺️. Каждый опытный специалист когда-то был без знаний и опыта, важно об этом помнить и помогать стартующему в карьере бустануться по максимуму 🔼.

А вы работаете со стажёрами? Кого берёте к себе? Для чего?

P.S. Фоточка с ивента.

UPD: Всё написано в плоскости ML/DL. А то мне уже прилетело 😀

POV: Ты тимлид и тебя спрашивают, чем ты занимаешься на работе

ML Тренировки от Y&&Y

Ребята из Young&&Yandex (занимаются стажировками в Яндексе) устроили в этом году (да и уже несколько лет) тренировки по разным дисциплинам 🔼. Одно из направлений — ML 🌿.

На тренировках ребята слушают лекции по интересным топикам из ML (в этом году основное направление разговоров про NLP), делают домашки, а самым лучшим вроде как призы положены 😍.

Интересной особенностью является то, что лекции читаются в live режиме, это не очень просто, если ты не стример/блогер, которые уже привыкли к камере. Тем не менее, формат мне кажется классным.

По некоторому стечению обстоятельств я буду 27 ноября в 19:00 вещать про VLM (Vision Language Models) 🤓. Планирую покрыть основные топики этой темы, без углубления в детали (ибо с деталями это несколько лекций), чтобы быть понятным ребятам, которые только вкатываются. Стримить будем напрямую из офиса в Москве, на студии, что как бы уровень!

Приходите послушать, позадавать вопросики! Буду всем рад 😍. Также если вы хотите, чтобы я про какой-то топик рассказал точно, напишите в комменты (мало ли я забыл что-то вставить).

Ссылка на ML тренировки.

Ссылка на трансляцию про VLM.

1-1, "привет, ну как дела?", "раз на раз"

Я знаю достаточно малое количество людей, которые не сталкивались с этой практикой. Кто-то как член комадны, кто-то как руководитель, который скорее всего был по обе стороны баррикады. Весьма неоднозначная практика ввиду того, что все используют этот инструмент по-разному 🙃.

С одной стороны, его можно использовать чтобы трекать текущую деятельность по проекту. И это правда удобно: можно пройтись по тикетам, погрузиться в задачи человека, обсудить детали, помочь решить проблемки и наметить следующие шаги.

С другой стороны, на 1-1 можно общаться не про текучку, а про человека. Про его развитие, про его текущие мысли, цели, проблемы, состояние. Руководитель работает с людьми, а не с роботами.

Есть третий вариант — взвешенная сумма от двух предыдущих. Можно варьировать, зависит от целей. Я больше стараюсь говорить с человеком про него, поэтому у меня перевешивает второй вариант. Но вообще для чего это всё? Руководителям чиво, встреч мало?🤨

На самом деле — чтобы не разойтись в "картине мира". Например, человек делает задачки, думает "вай как я хорош, мега хорош". А руководитель в этот момент видит ну абсолютно другую картинку, например, что по срокам не успели, качество не то, ну или что-то в этом духе. И это не всегда то, что руководитель что-то придумал себе (хотя если так, то это вообще беда) — просто так оно получается. Или же ровно наоборот кейс, когда человек чувствует, что он делает всё плохо, а на самом деле он мега хорош и если его прибодрить, то он будет гипер хорош 🔼.

Это может происходить достаточно долго и... начинаются проблемы. Как по мне, они обычно выражаются в несправедливой оценке человека (по мнению самого человека) — зп, премии, авторитет. И я считаю, что это... реально мега большая проблема руководителя, это косяк-косяков 👨‍🦳, такое нужно исправлять. В какой-то мере недопустить этот косяк и позволяет "1-1".

Другой важный момент, о котором я, в целом, осознал только недавно — это также возможность узнать для руководителя, а не косячит ли он где-то, а не упускает ли он что-то. В общем, взаимно обратная связь во всей красе 😍.

А вы проводите 1-1? Или вам их проводят? Как считаете, полезное?

Когда пришёл на работу в первый день после отпуска 😀

👨‍🦳

Обновочки

Очень долго думал, какое себе устройство купить для заметок от руки и чтения. Мне было важно:
— удобный доступ к контенту, чтобы взял и загрузил;
— возможность брать с собой и мелкогабартиный;
— чтобы было удобно зумить, читатать;
— чтобы можно было делать заметки.

Я не хотел ограничиваться только статьями в виде pdf, а также хотелось уметь в epub и прочие типы файлов 🤯. Для меня важны были масса и маленький размер, потому что большой экран у меня есть и на ноутбуке.

Сначала думал взять что-то с e-ink экраном, но потрогав разные экземпляры, мне не понравилась цветопередача (чаще её просто нет), отсутствие плавного зума, странные подписочные решения 👨‍🦳.

Поэтому решил, что сетап в виде iPad mini будет комфортен. Сначала думал взять недавно вышедшую версию, но переплата того не стоит. Потому взял 6-ую версию.

Попробую новый сетап для чтения и заметок, а затем вернусь через месяц или больше с каким-то фидбеком.

А вы пользуетесь e-ink читалками? На чем читаете статьи? А книжки? 🤔

Автор канала (не буду палить, кто именно), пост которого я только что зарепостил, с недавних пор работает в METR, что нифига себе! Так что если хотите чуть больше понимать или просто узнавать что-то новое про AI Alignment — подписывайтесь, достаточно подробно описываются классные статейки из этой области и не только!

Подпишись — @MrsWallbreaker

P.S. Это не реклама

Finetune black-box GPT4 to be harmfull. Covert Malicious Finetuning

Halawi et al. 2024

Интерфейс для адаптации/дообучения современных языковых проприетарных моделей под нужды пользователей может также позволить злоумышленникам подорвать безопасность модели. Авторы описывают метод компрометации безопасности модели через дообучение, обходящее обнаружение. Метод создаёт вредоносный набор данных, в котором каждая отдельная точка данных выглядит безобидно, но дообучение на полном наборе учит модель отвечать на закодированные вредоносные запросы закодированными вредоносными ответами (привет стеганография - пост). Применяя этот метод к GPT-4, авторы получают файнтюненую модель, которая выполняет вредоносные инструкции в 99% случаев и избегает обнаружения с помощью таких механизмов защиты, как проверка набора данных, оценка безопасности и классификаторы ввода/вывода. Их результаты ставят под сомнение возможность обеспечения безопасности интерфейсов черного ящика для дообучения при противодействии продвинутым злоумышленникам.

Как проприетарные модели защищаются сегодня и curriculum learning - под катом

#offtop #essay

Löcherdämmerung (Гибель лохов) ⚰️

Решил написать небольшой обзор на современное общество 😉 Это не про C++, но тоже имеет отношение к делу. Уверен, что получилось достаточно злободневно

Все совпадения случайны, я не несу ответственность если вы узнали в чем-то себя 🤪 Посоветовал бы не принимать это всерьез, так как присутствует ржака

Читайте, может быть будет интересно 🧐
https://telegra.ph/L%C3%B6cherd%C3%A4mmerung-Gibel-lohov-10-20

Ну поехали!

Итак, сегодня выступление на ML Party. План такой (время мск):
🤓 20:00 — Илья Ирхин расскажет про рекламу ресторанов в еде;
🤓 20:30 — Дима Солодуха выступит с докладом про то, как они учат Алису откликаться без имени;
🤓 21:15 — Собсна Я, расскажу про то, как делать OCR в VLM;
🤓 21:45 — Петя Вытовтов посвятит нас в то, как начать прогнозировать миллиметры осадков

Все доклады очень классные! Приходите послушать всех!

Ну и лучи поддержки! Буду вас ждать! В презе будут мемы, некоторые нужно будет поискать 😀

Ссылочка на трансляцию: https://www.youtube.com/live/xXjFWOmj6o8

ML Party в Белграде

Кажется, это моё первое выступление на серьёзном мероприятии 😊. Будут сидеть люди оффлайн, будут ребята и в онлайне. Звучит немного страшненько, но думаю, я справлюсь.

Буду рассказывать про то, как делать OCR в VLM: немного поговорим про саму задачу, а также обсудим нюансы, о которых стоит знать, прежде чем идти в эту дремучую чащу. Должно быть интересно, приходите или подключайтесь. Жду от вас лучи поддержки 😍!

Ссылка на регистрацию.

Не нужно экономить инструкции и регистры за компилятор, нужно смотреть на latency & througput инструкций. Например, "оптимизация" с вычитанием просто все замедлит - нужно будет засылать регистры в alu и 1) ждать пока у alu будет свободный порт 2) ждать сам результат вычитания

Запомним эту мудрость навсегда! (из комментов)

Лишняя операция?

Давайте попробуем для типа int на C++ реализовать функцию swap (переставляет значения переменных между собой) самую примитивную:

void swap1(int &a, int &b) {
    int t = a;
    a = b;
    b = t;
}

Тогда дизассемблированный код для -O2 оптимизации в clang 19.1.0 покажет:

swap1(int&, int&):
        mov     eax, dword ptr [rdi]
        mov     ecx, dword ptr [rsi]
        mov     dword ptr [rdi], ecx
        mov     dword ptr [rsi], eax
        ret

Что равносильно следующему коду:

void swap2(int &a, int &b) {
    int t1 = a;
    int t2 = b;
    a = t2;
    b = t1;
}

Хьюстон, у нас проблемы 👨‍🦳? Целая лишняя операция затесалась! Давайте обсудим в комментарии ваши мысли, насколько это плохо.

UPD: Куда же без ссылки на godbolt.
UPD 2: навеяно твиттерским постом.

Полгода переосознания процессов

Я уже почти как полгода лид команды распознавания текста в VLM. Собрали команду с нуля, настроили какие-то процессы: что-то уже успели улучшить, что-то пересобрать. Если хочется к нам в команду (на стажировку или в штат) — можете всегда написать мне в личку пообщаться про это 😀. Описание вакансии здесь.

За эти полгода я очень часто приходил к осознанию "ааааа, так вот оно зачем нужно было", когда думал о каких-то практиках руководителей, которые я наблюдал в разных командах. Мне действительно тогда казалось, что "я всё понимаю", а вот мои руководители "нифига не понимают, им бы поучиться ещё". Тут мне прям стыдно, смею вас заверить👨‍🦳.

Например, про встречи 🤓. Мне всегда хотелось освободить свой календарь от встреч лишь по причине, что "нафиг они мне сдались, это нужно только менеджерам, лидам". В действительности же, отчасти это правда, если смотреть на это краткосрочно, в рамках текущей зоны отвественности, в рамках текущих задач. Но если глянуть на это долгосрочно, к примеру, скажем, пару-тройку месяцев хотя бы, нужно себе давать отчет, какие будут последствия от этих действий:

— Всё ли я буду понимать?
— А что если мне перепадёт делать тот кусок, за который я сейчас не отвечаю?
— А что будет после того, как закончу текущие задачи?
— Все ли вокруг в команде (хотя бы) будут понимать, как у меня дела? — супер нетривиальный вопрос, я о нём никогда не думал до руководства.

Честно ответив себе на эти вопросы (их может быть, кстати, значительно больше), вы можете неожиданно поменять своё впечатление от назначенных встреч.

Также у меня стало значительно меньше технических задач. И это немного выматывает, иногда вызывает ложные впечателения о том, что я делаю какую-то никому ненужную ерунду😔. Это точно не так. Но об этом в одном из будущих постов, если будет интересно.

VLM в Нейро

Сегодня у нас большое обновление в Поиске. В том числе, команда VLM тоже приняла в нём участие!

Написали с коллегами пост на хабр про то, как мы затаскивали VLM в Нейро (писал про релиз здесь). В этот раз мы немного раскрыли подробности про то, как работает Нейро, где и зачем потребовалась там мультимодальность. Припорошили немножечко теорией про VLM.

Больше ни слова в посте, приятного прочтения поста!

Использование LLMок в быту

Я бы тут хотел завести дискуссию. Каким образом вы используете LLMки? Какие повседневные задачи вы решаете с их помощью?

Совсем недавно мне нужно было написать простого телеграм-бота. Чтобы вы понимали, я последний раз их писал лет 7 назад (своими руками, да-да-да 😀), потому скорее всего чот да изменилось. С помощью LLMки смог это сделать за минут 15-20. Пришлось, правда, пару раз в доку слазить, потому что всё же набаговала.

Другой пример: мне однажды нужно было написать multipart запрос на плюсах, пообщавшись о том, чо эт вообще за зверь, написал. Но при этом сам код, который выдавал LLMка — ну реально был ужасен, там нужно было всё фиксить, реально. Ну и странно, на теории она Лев Толстой, а на деле... 👨‍🦳

И вот сколько я не пытаюсь, почему то на питончике всё работает хорошо, а на плюсах — ну вообще такое. Помните недавний пост про задачку? Так вот я спросил chatgpt, она мне дала правильный ответ. Ну я решил уточнить, что там константный член и понёсся бред 😊. Грустненько.

Мб надо для чего-то еще использовать? Или мб мне просто не везёт 🤨? Поделитесь, пожалуйста!

Я с вами, товарищи!

AGI-думеры после очередного релиза какой-нибудь LLMки

Yandex CV reading club

Мы с коллегами из Яндекса запустили канал с разбором статей из области компьютерного зрения. Присоединяйтесь, будет интересно!

Подписаться сюда: @timeforcv

С++ на татарском. Теперь вы видели всё!

8️⃣ Programmer memes

Про задаченьку выше

Давайте разбираться с решением к задаче выше. В комментариях можете почитать более полные рассуждения, мы там всё обсудили 😊. Мой ответ изначально было такой: там будет UB, и нужно использовать std::launder. Но в действительности сейчас (С++20+) — там будет 1 2 2.

Такой ответ был исходя из того, что до 2019 года в стандарте прописывалось (т.е. до C++20), что в случае, когда на куске памяти, куда ссылается указатель объекта, создается новый объект, то все ссылки и указатели старого объекта начинают ссылаться на новый объект, КРОМЕ случаев, когда, например, объект содержит в себе константные члены. Ссылка тык.

Начиная с C++20 все буллеты в этом пункте убрали, таким образом ослабили требования на типы данных. Мотивация была в том, что всякие контейнеры, которые используют placement new было ограничены в использовании и было сложно использовать такие контейнеры для определенных типов данных, потому что по стандарту это было бы UB.

Самая задача была навеяна одним из примеров статьи на хабре про std::launder. Интересная статья, советую прочитать, ещё раз вспомнить про механизмы девиртуализации в том числе 😍.

Задаченька

Что выведет данный код 🤔? Почему это так?

struct Lol {
    const int kek;
};

void test() {
    Lol *cheburek = new Lol{1};
    const int a = cheburek->kek;
    Lol *cheburek1 = new (cheburek) Lol{2};
    const int b = cheburek1->kek;
    const int c = cheburek->kek;

    std::cout << a << ' ' << b << ' ' << c << std::endl;
}

P.S. Не гуглите и не пользуйтесь чатботами. Подумайте сами!

zmv

Иногда возникает простая и одновременно сложная задачка: переименовать пачку файлов с использованием регулярок. Можно сделать через bash, можно быстро на python скрипт накатать. А для тех, кто использует zsh есть простая альтернатива: zmv.

Чтобы заработало, достаточно в .zshrc положить:

autoload zmv

Дальше можно пользоваться:

zmv [OPTIONS] oldpattern newpattern

Например:

zmv '(*).lis' '$1.txt'

Чтобы не переместить файлики с ошибкой, можно сначала попробовать в режиме дебага, добавив флаг -n:

zmv -n '(*).lis' '$1.txt'

Аналогичная функциональность есть и для cp и ln в командах zcp и zln.

А как бы сделали вы?

Про старших специалистов (#пролюдей)

Постоянно обсуждаемая тема - кто есть мидл, кто есть синьор, кто есть джун и пр. Бесконечная любовь вешать ярлыки:) Я не люблю. Считаю, что рост у людей не дискретный, а перманентный, поэтому и оценивать его стоит во времени, а не в конкретной точке. В лучших традициях линкедина накидаю мои пункты, кто есть старший специалист. Мнение автора все еще мнение автора:)

Итак, старший специалист:

1. До определенного момента сомневается в своих решениях и самостоятельно ищет для них проверку (критику коллег, подтверждение в интернетиках, POC). Термин "посоветоваться" занимает почетное место в лексиконе при принятии непростых решений.
2. Умеет выходить за рамки своей специальности и поддержать диалог в бизнес-домене, на котором он занят. При этом терпеливо может объяснить суть происходящего в ядерном реакторе домохозяйке или учителю пения.
3. Не любит оценки и сроки, но умеет оценить свою работу максимально точно с учетом всех рисков. Либо декомпозирует задачу и оценивает кусками. При этом стойко держит оборону против чудо-методик современного хреноменеджмента. Но не нарушает правила игры. Старший специалист в первую очередь человек команды.
4. Умеет высоко ценить качественную работу. Свою и коллег. Писькомерку зарыл в юности, когда продул лесенку на турнике младшей сестре.
5. Понимает, что "интересная работа" это примерно на уровне статистической погрешности. Большая часть времени уходит на рутину и нужные, но при этом нифига не интересные, задачи. И видит интерес не в конкретных тасочках и кусочках кода, а в результате, который получится и в пользе, которую нанесет его решение и потраченное время.
6. Постоянно учится. Сам или не сам. Использует все доступные инструменты для обучения. Причем чем дальше, чем область изучения шире. Потому что мы живем в сложносочиненном и сложноподчиненном мире. Всегда есть внешние зависимости.
7. Менторит менее скилованных не потому, что это модно, а потому что видит в этом ценность и знает, как использовать сей процесс на свое благо. Особо продвинутые сдвигаются в сторону коучинга. И в целом отчасти альтруист, потому что стремление делать мир лучше - это не слоган с плаката с депутатом, а суть специалиста.
8. При вынесении решений сразу прикладывает к ним альтернативы и возможные риски и способы их уменьшения. И готов уступать, если его решения не были приняты. Или отступить, подготовиться лучше и зайти на второй круг.
9. Не жалуется на жизнь, а ищет выходы из сложившейся ситуации. Когда все опустили руки знает, как их поднять назад.
10. Понимает, что жизнь - она ширше, а хуманы подвержены куче искажений: ошибки планирования (недозаклад в первую очередь), задний ум сильнее, "я знал это с самого начала" (это когда ты увидел хреновый результат и по умолчанию записал все действия в хреновые), прямая связь между ошибками в работе и личностью - это он виноват, потому что рукожоп (хотя на деле куда чаще виноваты процессы и в целом неверная пищевая цепочка исполнения). Вот он это все старается лечить или избегать.
11. Принимает ошибки других и помогает найти к ним исправления, плюс сделать так, чтобы минимизировать вероятность возникновения их в будущем. Потому что знает, что ошибки младших или исправляют младшие, или повесят сами знаете на кого.
12. Понимает, что стопудово есть кто-то круче его. Есть идеи, которые круче его идей. Есть ситуации, в которых он ну вообще никак не выглядит старшим. Да еще и не все знает:) И краснеет, когда лажает:)
13. Не чмырит тех, у кого меньше опыта. Относится с уважением и эдаким отцовским спокойствием. Все мы рвали штаны на коленках и курили за углом школы.
14. Принимает необходимость что-то поменять, потому что видит ситуацию широко и глубоко. А если не видит, то перед тем, как послать всех в жопу, разбирается и трезво оценивает необходимость изменений и потенциальные выгоды с них.
15. Умеет отстоять свою точку зрения, если уверен, и не важно, кто перед ним стоит.

Вот такое вот пятничное слегка запоздалое получилось. Старшего отличает мудрость - жизненная и профессиональная.

✍️ Михаил Шуфутинский печатает