Нейросети: магия искусственного интеллекта

👲🏼 Коллеги из Китая просто красавчики!

🔥 Выкатили пока в веб версии, а обещают и выложить веса, модель аналогичную о1 от OpenAI (те, которая обучена рассуждать).

Регистрация по почте, VPN не нужен, приличные лимиты в бесплатном тарифе.

Модель отличная на мой взгляд. Для размышлений тиснуть на переключатель Deep Think.

PS Еще и файлы загружать можно!

☕️ Отличные утренние новости от Mistral
Новое:
- возможность прикреплять к запросу PDF и изображения;
- активировать функцию поиска в сети;
- canvas: совместная с ИИ работа надо документом.

Уже неделю как в интерфейсе начали появляться изменения, но вот сегодня все заработало (канвас только глючит у меня )).

Это делает Мистраль очень конкурентным в рабочих вопросах: большие бесплатные лимиты, не нужен VPN, встроенные специализированные модели (кодирование).

Прекрасного вам в ленту по случаю субботы

Из последних находок. ИИ Miro неплохо строит вполне себе симпатичные схемы. Здесь процесс приготовления яичницы. И безумно простой промпт "Создай диаграмму приготовления яичницы"

📰 Из новостей: OpenAI выпустили фичу в виде ответов на основании поиска в сети. У Google падают акции, Perplexity.ai (хороший и самый популярный до этого момента ресурс с ИИ поиском грустят).

💻 Попробовал. Понравилось большое количество источников, достаточно релевантных. Но обычный поиск заменит еще не скоро. Тут и дело привычки и то, что процессе гугления ты еще и сам уточняешь вопрос на основе просмотренного. Как мне кажется.

🤗 В любом случае, приветствуем новые фичи!

🆓 Порадую вас бесплатными сервисами.

1️⃣ В первую очередь рекомендую обратить внимание на Groq. Простая регистрация с подтверждением почты и можно пользоваться чат интерфейсом на сайте или получить ключ для бесплатного доступа к API. В интерфейсе есть возможность распознавать аудио файлы через Whisper (справа вверху выбирайте модель). API скорее не хватит бесплатных лимитов для промышленного использования, но для тестов и небольших задач вполне.

🚀 Особенность Groq - очень высокая скорость генерации. тут они лидеры в отрасли. Примерно 400 токенов может генерироваться за секунду.

2️⃣ Больше бесплатных ресурсов по ссылке.

🧐 Сейчас мы все вместе запаслись 🍿 и наблюдаем гонку разработчиков моделей: кто больше наберет баллов на том или ином бенчмарке.
🤷‍♂️ Проблема в том, что даже текущих возможностей моделей более чем достаточно для решения значительного количества задач. И часто менять работающую модель ради эфемерных улучшений нет смысла. По крайней мере, не стоит это делать часто.
🏃‍♂️ Хорошие показатели на тестах абсолютно не значит, что модель будет хорошо работать на ваших задачах. Возьмем те же VLM: вышли свежие модели от Mistral и Meta, высокие баллы на тестах. Но уже относительно старый Qwen 2 VL все еще лучший на задачах распознавания русскоязычных документов.
☑️ По хорошему, под каждый кейс надо формировать свой тест/бенчмарк и прогонять новинки. И, как правило, на закрытых бенчмарках результаты будут отличаться. Даже удивительно почему так 😂
🤓 Так что прошу прощения за занудство и прописные истины. Как-то зацепила гонка клиентов за все более совершенными решениями. Завтра обещаю что-то повеселее.

😳 Ходили слухи, что OpenAI может поднять цену на подписку до 2К долл. Первое впечатление - шок!
🧐Потом задумался: а сколько я готов платить? На самом деле - не мало. Я продаю время. ИИ экономит мне колоссальное его количество. Многие вещи делаются мгновенно! Пример?
🧑‍💻Подготовка тестов к курсу. Часто это боль и мучение. Причем дело не простое. Есть даже специально обученные люди. Занимает много времени. Стоп - занимало. Сейчас это дело 10 минут и еще небольшое время на верификацию.
🛂 Сегодня проверял полтора десятка достаточно объемных решений кейсов. При помощи ИИ, конечно. 👷‍♂️ Такой развернутой обратной связи от меня еще никогда не получали! Догадались ли слушатели?
😎 Но есть нюанс ) 1. Кейс изначально готовился под такую проверку. 2. Промт для проверки пришлось написать на 7 (!) страниц или 13К символов. Но лучше день потерять... 🐥

📈 По моим представлениям, самым большим рынком в будущем будет не чисто рынок ИИ - а рынок роботов.
🚪Вход на этот рынок быстро упрощается за счет развития мультимодальных LLM.
🤖 Цитата из документации Qwen2-VL 7/72B: Agent that can operate your mobiles, robots, etc.: with the abilities of complex reasoning and decision making, Qwen2-VL can be integrated with devices like mobile phones, robots, etc., for automatic operation based on visual environment and text instructions.
🐛 Как оказалось, LLM могут управлять (писать по сути команды) напрямую логике управления роботами. Понимают среду, могут думать. И тот же Molmo (передовая новая визуальная LLM) уже на коленке собрали прототип и показывают в видео.
😬 Не терпится провести со спецами по робототехнике эксперимент по созданию прототипа эдакого универсального робота (можно даже умного пылесоса или машинки). Чисто из исследовательских целей, ну а там как пойдет )
👎 Обидно, что у нас очень медленно все в части подхватывания таких инноваций... Потом опять будем покупать все на стороне.

На конференции ДиД не делал заметки и сейчас между самолётами и пересадками.

Пост буду дополнять.
1. Визионеры опаздывают. То что уважаемый мной Андрей Себрант обозначил как видение, имеет технические решения и вопрос в доведении до ума и раскатывания в виде продуктов.
2. Мало говорили про агентные и мультиагентные системы. По сути возможность исполнять сложные сценарии плюс оснастка для взаимодействия с реальным миром.
3. Важно: говорили про изменение процессов. Но как они должны измениться понимания нет. Безумно важная область для исследований и инноваций.
3. Много говорили 😊🙈. Но мало кто из спикеров реально в теме. Не было среди спикеров исследователей.
4. Интересны кулуарные разговоры, с менее именитыми, но более компетентными. В том числе за бокалом пива. Так подтвердил гипотезу, что все смотрим в одну сторону и пилим одни и те же продукты. Будет битва маркетинговых бюджетов.
5. Огромный интерес к ИИ. Хайп. Но куда бежать мало кто понимает. В этой связи ждать больших чеков не приходится. А готовые продукты не успевают.
6. Огромные перспективы у новой робототехники. Объем этого рынка пока не поддается моему осмыслению.
7. Последнее наверное... очень удивил интерес к мастер-классу с генерацией аватаров. Был аншлаг и куча благодарностей. Не ожидал вовсе. Рассматривал как больше развлечение. А теперь понимаю, что надо больше простых вещей и продуктов, с которых можно начинать знакомство с ИИ.

Поздно сообразил, но лучше поздно... 🤗
Можно зарегистрироваться и смотреть трансляции Иннополис Дэй. Завтра ещё целый день доклады.
А сегодня в 17:30 мой мастер-класс по генерации двойников.
https://digitalinnopolisdays.ru/october-3

Буду потихоньку формировать FAQ'и. Так как ветка для профи, то будут тяжелые темы. Темы попроще - мигрировали в "ИИ кухню".

Тег #учимся будет посвящен всяким разным обучающим материалам по теме ИИ.

Подборка, собранная благодаря коллегам.

Очень любопытное видео (англ) A Hackers' Guide to Language Models

Отличная подборка материалов начиная от NLP до LLM

Материалы курса по LLM с блокнотами

Подборка уроков по самым разным темам, очень любопытно.

Курс в процессе по LLM, очень достойный

Делитесь своими находками, будем пополнять библиотеку.

А вообще горжусь культурой ИТ: делиться находками, материалами, кодом.

Ладно 🤷‍♂️, раз картинки всем зашли, последний развлекательный пост в этом канале. 😎
Вот вам еще один тюн Flux, где изменять фото через промпт с сохранением лиц и прочих деталей.

Друзья, вчера я намекнул на новый проект, и вот он — "ИИ-кухня Кулинича» — для тех, кто хочет превратить нейросети из игрушки в мощный инструмент.

🎯 Кому точно сюда:

• Владельцам бизнеса, уставшим от бесконечных совещаний и неэффективных процессов

• Топ-менеджерам, которые чувствуют, что конкуренты уходят вперед с помощью новых технологий

• Руководителям отделов, задыхающимся от рутины и мечтающим о прорывных решениях

• Амбициозным офисным специалистам, которые понимают: без ИИ их карьера застряла на месте

🛑 Кому не надо:

• вы уже владеете инструментами ИИ на высоком уровне или являетесь разработчиком

✔️ Что вы получите:

• Практические кейсы применения ИИ в бизнесе

• Секреты ускорения рутинных процессов в 5-10 раз

• Способы повышения качества работы в 2-3 раза

• Готовые промпты

👉 Присоединяйтесь: здесь была ссылка, но ее больше нет)

P.S. Ссылка действует 48 часов

И не переживайте, этот канал остаётся, но больше для продвинутых пользователей 🤫

Сегодня просто залип минут на 15. Какие шикарные фото получаются в файнтюне Flux. Это решение грозит пододвинуть текущих грандов. Делитесь результатами экспериментов!
И да, отлично понимает промпты на русском языке.

🔜 Три дня плотной работы в аудитории позади. Группа EMBA и MBA. У слушателей и у меня куча впечатлений! Всегда получаю удовольствие от знакомства участников с нейросетями. В одной крупной корпорации умудренные возрастом и опытом участники сравнили этот процесс с «лишением ИИ девственности». Что то в этом определении есть)

Однако, не перестаю удивляться, какое низкое проникновение практического использования нейросетей в бизнесе! Есть очень маленькая когорта тех, кто широко и успешно использует нейросети даже не на уровне веб-интерфейсов и чат режима, а интегрировал в процессы. Большинство – только в частных целях и только как игрушку, не используя даже 1% потенциала.

Я тоже испытываю наслаждение когда могу показать как в 5-10 раз (!) ускорить многие рутинные процессы, местами в два-три раза повысить качество результата, парой строк промпта решить казалось бы нерешаемую просто проблему и найти решение старой бизнес-головоломке. Местами это кажется мне так просто и очевидно, что даже не стоит и рассказывать.

Еще больше я получаю удовольствие от копания уже в более сложных вопросах: дообучение моделей и оценка качества, разработка и тестирование агентов, поиск новых моделей и решений…. И очень рад, кому интересны и эти вопросы.
В общем я принял решение. Завтра объявлю, оставайтесь на связи и следите за новостями.

⌨️ Самая массовая история в заказах - вариации чат-ботов. Еще пару месяцев назад развернул стенд для тестирования чат-ботов на основе документов.
📃 По ссылке инструкция как зарегистрироваться и использовать.
🔥 Можно тут же подключить к Телеграм боту и сделать доступным всему миру.
😏 В базе приветственные 500К токенов на эксперименты и выбор моделей.
⛹️ Тестируйте, будут вопросы - пишите!

☝️ К недавно прошедшему дню знаний.

🥸 Запускать LLM не так и сложно, как может показаться. В рамках одной программы попросили сделать блокнот, где можно экспериментировать с температурой и другими параметрами.

📋 Я подготовил блокнот, который можно запускать в Google Colab или локально. Модель Gemma-2-2b очень компактная (всего 5Гбайт памяти требует). Будет работать и на CPU, и на GPU.

🚶‍♀️ Удачных экспериментов. Если тема с блокнотами для начинающих зайдет, продолжу публикацию.

😱 Рутина поглотила... исправляюсь!
🔜 За это время появилось много всего интересного. Но начну, с любимой нынче игрушки.
👨‍🎨 Flux: создание картинок, свеженькая диффузионная модель.
⤵️ Очень нравится настройка в Advanced Setting с установкой размера изображения. Удобно при генерации для презентаций.
➕ Промпт-генератор для Flux. Вот с ним еще надо разобраться!

Вот что принесли сети:

С помощью AI Studio каждый может создавать персонажей искусственного интеллекта на сайте ai.meta.com/ai-studio или в приложении Instagram. Вы можете использовать широкий спектр шаблонов подсказок или начать с нуля, чтобы создать ИИ, который научит вас готовить, поможет с подписями в Instagram, сгенерирует мемы, чтобы рассмешить ваших друзей — возможности безграничны. Ваш ИИ может быть только для вас, или вы можете поделиться им со своими подписчиками и друзьями, и даже сделать его доступным для всех, чтобы найти и пообщаться с ним в Instagram, Messenger, WhatsApp и на веб-сайте.

Меня пока не пустили, говорят страна не та. 🤷‍♂️