ИИволюция 👾

Всех с понедельником! 😀

Всё, теперь точно праздники позади, возвращаюсь к активному постингу 👾

ИИволюция

У Anthropic пару недель назад вышел пост про агентов: https://www.anthropic.com/research/building-effective-agents

Он прекрасен тем, что определяет, что является агентом, а что не является. С точки зрения авторов поста, агент = система, в которой языковые модели динамически управляют собственными вызовами и инструментами, контролируя выполнение какой-то задачи.

Авторы утверждают, что для большинства случаев агенты не нужны: чем проще решение, тем лучше. С чем я полностью согласен 👏

Основное содержание поста — примитивы и паттерны оркестрирования языковых моделей без агентов. Основной примитив: улучшенная языковая модель, которая имеет доступ к инструментам, поиску и памяти. Этот примитив может быть реализован по-разному, например через конечное число последовательных вызовов языковой модели.

🔹Паттерн 1: цепочка промптов
Если задача разбивается на несколько последовательных подзадач, их можно решать отдельными вызовами языковой модели. Например, если вы хотите сделать систему, пишущую книги, вы сначала делаете вызов для генерации названия книги, потом отдельные вызовы для краткого описания, содержания, выжимок глав и непосредственно самих глав.

🔹Паттерн 2: маршрутизация
Если ваше приложение разбивается на несколько возможных параллельных путей, то стоит сделать классификатор, который будет определять нужный путь, и специализированные промпты под каждый из путей. Например, если вы делаете чатбот с несколькими независимыми функциями (рекомендация фильмов, ответы на вопросы по фильмам, чат на общие темы), то стоит использовать этот паттерн. В древних чатботах часто был детектор интентов, который делал ровно это 👴

🔹Паттерн 3: параллелизация
Если задача разбивается на несколько параллельных подзадач, то стоит их и вызывать параллельно. Например, если вам нужно извлечь огромный JSON из текста или переписки, возможно вам стоит извлекать его по кусочкам. Отличие от маршрутизации в том, что в ней нам нужна была только одна ветка, а тут нам нужны результаты всех вызовов.

🔹Паттерн 4: ведущий-ведомый 😭
То же самое, что и параллелизация, только с динамическим количеством и содержанием подзадач. Например, так можно делать агрегацию результатов поиска.

🔹Паттерн 5: цикл оценки
Если есть чёткие критерии оценки качества выполнения задачи, то можно одной языковой моделью решать задачу, а другой — оценивать качество решения и давать обратную связь. И делать это в цикле. Это может работать много где, например в переводе текстов.

Ну и наконец последний паттерн — агенты, которые совершают действия в определенной среде, получают от среды обратную связь, и снова совершают действия.

Мне в разных местах в разное время пришлось использовать первые 3 паттерна. При этом тогда я не формулировал их как отдельные паттерны. Это не какие-то абстрактные штуки, это кристаллизация того, как удобно и просто строить системы (как и любые другие паттерны проектирования).

С 1-м днём 2025! Все живы после салатиков? 🤣

А chatgpt вы не забыли поздравить? Он ведь вам весь год помогал, делал за вас всю работу и всего за $20 в месяц 😅

С Новым годом 🎄

ИИволюция

Видимо, StarckOverflow переживает не лучшие времена.

Вы им ещё пользуетесь? Как он там поживает? Не грустит без трафика?

Что пожелаем ему в 2025?

ИИволюция

🎄С наступающим!

Желаю вам с радостью встретить Новый год! Пусть все желания и мечты исполняются.

Очень рад, что мы с вами встретились. Сколько еще всего впереди удивительного!❤️

ИИволюция

Один из пазлов бенчмарка ARC AGI, который o3 не смогла решить

Попробуйте ответить и вы: прямоугольник, на который указывает стрелка, должен остаться красным или стать синим?

Проверим, кто победит ИИ в решении задач для дошкольников 🙂

Зацените: решение моделью o3 одной задачи на бенчмарке ARC AGI стоило в среднем 3000$. Это значит, что просто чтобы прогнать тест полностью, OpenAI потратили более миллиона долларов.

Лица инвесторов представили?

Ладно, если серьезно: цены действительно будут, скорее всего, невероятно высокие. Юнит-экономика настолько мощного test time компьюта точно не сходится, да и было бы странно, если бы сразу сошлась. Не забываем, что мы живем внутри закона Мура: железо развивается, и цены неизбежно будут падать. Когда-нибудь o3 станет такой же доступной, как GPT-4o.

P.S. Почему все так много говорят именно про этот бенчмарк? Потому что долгое время он действительно считался своеобразной проверкой на AGI: предполагалось, что решить его сможет только система "по-человечески умная", то есть не та, которая просто выучила кучу фактов о мире, а та, которая может рассуждать, оперируя элементарными навыками. Задачи в бечмарке напоминают мини-головоломки из книжек для самых маленьких: в каждой задаче нужно угадать паттерн перестановки квадратиков в сетке. И действительно, тест формировался так, чтобы для его решения нужны были только те навыки, которые человек приобретает до 4 лет: объектность, базовая топология, элементарная целочисленная арифметика.

Там обновленная o1 появилась на Livebench и просто порвала всех

Livebench примечателен тем, что он постоянно обновляется, минимизируя всевозможные лики и гарантируя, что задачи не устаревают и не становятся слишком простыми.

Так вот с появлением на борде o1 Gemini Exp 1206, Sonnet 3.5 v2 и предыдущие o1-mini и o1-preview остаются позади с большим отрывом как на главном замере, так и на, конечно, ризонинге. Сравните: о1-preview демонстрирует 67%, и была раньше безусловным лидером, а у полной o1 насчитали… аж 91.58%!

В кодинге прирост тоже есть, но не такой невероятный. Предыдущим лидером был Claude-3.6 Sonnet с 67%. Теперь он уступает o1, но всего на 2.5 процентных пункта. А по математике в лидерах все еще Gemini. Кстати, обратите внимание, как у обеих Gemini резко растут метрики с появлением второго промпта с подсказкой (последний столбец IF).

OpenAI подвезла свой небольшой курс по “правильному” промптингу o1

Забирайте себе на НГ праздники, будет чем заняться между салатиками: https://www.deeplearning.ai/short-courses/reasoning-with-o1/

ИИволюция

Уже началась переквалификация! Успевайте запрыгнуть в спасательную шлюпку😀

К посту выше 👆(взял здесь)

ИИволюция

Интересный пост к размышлению:

“Искусственный интеллект меняет представления о ценности различных профессий, считает Сэм Альтман.

Если ваша работа связана с работой за компьютером — например, программированием, дизайном или написанием текстов — ИИ теперь может выполнять многие из этих задач невероятно быстро. Это делает такие профессии менее востребованными.

ИИ проще освоить задачи, которые требуют в основном умственных усилий и знаний. Но профессии, где нужно физически присутствовать и работать руками — например, сантехники, электрики, хирурги или специалисты по логистике и доставке — остаются в безопасности. ИИ пока плохо справляется с физической работой.

Это создает любопытный переворот. Профессии, которые раньше считались престижными благодаря интеллектуальному труду, могут потерять свой особый статус, ведь ИИ способен выполнять их быстрее. В то же время профессии, требующие физического присутствия и навыков, становятся более ценными.

Когда Сэм говорит о «странных эффектах», он имеет в виду, как мы начинаем по-другому смотреть на работу, связанную с компьютерами. ИИ гораздо проще копировать и выполнять цифровую работу, чем решать реальные задачи, где нужно взаимодействовать с людьми или предметами.

Теперь вместо вопроса «насколько вы хороши в работе за компьютером?» все чаще задается вопрос «что вы можете сделать или починить своими руками?». Это меняет восприятие навыков.

Речь идет не только о профессиях, но и о том, как люди находят смысл в своей работе. По мере того как ИИ берет на себя больше интеллектуальных задач, которые раньше считались сложными и приносили удовлетворение, многие могут начать находить радость и удовлетворение в практической, физической деятельности.”

Не факт, что именно так будет, но пока мы движемся в этом направлении.

ИИволюция

День 12 в адвент-календаре OpenAI

Пардоньте, я тут немного выпал и не закончил адвент-календарь от OpenAI на выходных. Поэтому завершаю и перехожу к другим темам.

- Новая модель o3 (o2 нельзя, так как есть торговая марка).
- o3 cупер умная, долго размышляет, решает задачи на уровне доктора наук, разработка кода на уровне топ-сеньор разработчика.
- Показали так же модель o3-mini, которая быстрее и дешевле, идеально для разработки кода.
- Использование модели дороже чем o1 (но мы то знаем, что стоимость использования старших моделей постепенно падает).
- Обещают выпустить в первой половине 2025.

Презентация: https://www.youtube.com/live/SKBG1sqdyIU

На этом всё! Календарь окончен, но других новостей подкопилось, буду разгребать и рассказывать вам 🎄

ИИволюция

Когда ChatGPT оказался не промах 😅

ИИволюция

Разработка с AI ассистентами как рулетка, 5 раз поможет, на 6 поможет довести вас до нервного срыва

ИИволюция

🎅 День 11 в адвент-календаре OpenAI

Десктопное приложение, работа с контекстом широкого списка приложений + advanced voice mode для работы с контекстом выбранного окна.

- Теперь десктоп приложение поддерживает более широкий выбор IDE для разработки.

- Поддерживает новые виды приложений для работы с документами и заметками типа Apple Notes, Notion и др.

- И даже можно использовать Advanced Voice mode чтобы работать с контекстом выбранного окна.

- Поддержка o1 (а разве не было до этого?) и o1 pro.

Решил приколоться и запустил голосовой режим, выбрал окно XCode, указал голос Санта-Клауса и на любой вопрос о коде, получаю веселый ответ в стиле: “хо-хо-хо, сейчас я помогу тебе! Чтобы сделать Х хо-хо-хо, нужно сделать Y, хо-хо-хо”.

В предверии нового года самое то, чтобы поднять настроение. Пробуйте! 🎁

Презентация: https://www.youtube.com/watch?v=g_qxoznfa7E

ИИволюция

Так как o1 теперь полноценно представлена через API, и там есть параметр reasoning_effort, возник вопрос, а o1 pro это просто o1 с выкрученным reasoning_effort = high?

Но нет, OpenAI это опровергает. Говорят, что o1 pro это совершенно другая реализация ризонинга, а не просто reasoning_effort = high.

Получается у o1 pro значение ризонинга, что-то вроде reasoning_effort = hardzilla 👀

ИИволюция

Когда звонишь на номер 1-800-ChatGPT, а чатик почему-то каждый раз отвечает разными голосами и акцентами.

ИИволюция

☎️ День 10 в адвент-календаре OpenAI

Теперь можно позвонить на номер 8-800-CHATGPT и записаться в МФЦ 1-800-CHATGPT и пообщаться с чатом, если вам скучно или хочется узнать рецепт свиных крыльев, а смартфона или компьютера нет под рукой.

Такой способ общения доступен только с US и CA номеров. А еще можно чатиться с GPT в ватсапе (режим доступен в тех странах, где доступен chatgpt) и пересылать ему открытки из одноклассников (он всегда поставит лайк и поддержит вас теплыми словами).

Для звонков доступно всего 15 минут общения в месяц. Но зато бесплатно!

Так и представляю ситуацию в новый год, вы набираете номер, а в ответ:
- “Ваш звонок очень важен для сверхинтеллекта, оставайтесь на линии ChatGPT, ваша очередь 115. Джингэл бэлс-джингэл бэлс…”

Теперь ChatGPT точно полетит в массы, ведь амбасадорами станут бабушки и дедушки, а они уж точно подсадят своих детей и внуков! Хорошая стратегия, Сэм!

Презентация: https://www.youtube.com/watch?v=LWa6OHeNK3s

ИИволюция

🎄 День 9 в адвент-календаре OpenAI

Плюшки для разработчиков

- Полноценная поддержка o1 через API: structured output (в каком формате вам необходим ответ - текст, json), function calling (модель в ответе указывает название функции, из предложенных разработчиком в запросе, которую необходимо вызвать с параметрами) и VISION (теперь в API для o1 можно загружать фоточки для анализа).

- Представили новый тип промпта “Developers Messages” (в дополнении к System, User, Assistant промптам). Этот тип инструкции можно использовать для указания стиля ответа, формата, особых условий обработки, ограничения содержимого и других аспектов поведения модели.

- Рассказали о новом параметре в API “reasoning_effort”, который разработчики могут использовать, чтобы контролизовать длительность “размышлений” у модели. Более точные ответы, требуют больше “размышления”, но такие запросы и стоит будут дороже.

- Уронили цены на 60% для Realtime API (GPT-4o audio). Теперь добавлять в свои сервисы голосовых ассистентов с Advanced Voice Mode будет дешевле. А еще добавили новую модель GPT-4o mini, которая будет в 10 раз дешевле.

- А еще Realtime API работает с WebRTC, что позволит проще встраивать голосовых ассистентов на вебе. Опять же, чтобы разные компании наконец-то начали более активно встраивать такие штуки у себя на сайтах.

- Там что-то еще про файнтюнинг и новые SDK, но это вы лучше уже сами почитайте.

Ах да, доступ к o1 в API пока только у разрабочтиков с tier 5.

Презентация: https://www.youtube.com/watch?v=14leJ1fg4Pw&t=178s

Осталось 3 дня!

ИИволюция

🎄 День 8 в адвент-календаре OpenAI

Поиск и всё вокруг него!

- Доступен теперь все пользователям, даже без подписки.
- Поисковик от ChatGPT можно назначить в браузере как поисковик по умолчанию.
- Поиск доступен теперь даже в режиме Advanced Voice Mode. Т.е. ассистент по вашему запросу сбегает в сеть, найдет ответ и ответит вам.
- А еще поиск не просто выдает результаты в виде простыни текста, но и поддерживает режим карточек и просмотра деталей (не нужно переходить в браузер). Получается такой браузер внутри ChatGPT.

Выглядит классно и полезно!

Презентация: https://www.youtube.com/watch?v=OzgNJJ2ErEE

ИИволюция

Где-то в альтернативной реальности существует Челябинский свитерный завод и он заказал это видео.

День 7 в адвент-календаре OpenAI

Проекты в ChatGPT!

Я прям этого очень ждал. Из-за этого приходилось использовать Claude. Одни задают тренды, другие просто запрыгивают в него имея больше аудиторию. Стратегия!

- Теперь в рамках ChatGPT можно создать проекты.
- Знания для проекта можно загружать в виде файлов и инструкции.
- В рамках проекта можно создавать и вести отдельные чаты, в которых будут учитываться знания из проекта.
- В проект можно легко добавить уже существующие чаты.
- У проекта можно выбирать цвет для иконки.

Наконец-то весь хаос в истории у меня будет хоть немного, но организован. Я уже погнал создавать для себя разные чаты и вам советую заняться этим же 🎩

Презентация: https://www.youtube.com/watch?v=FcB97h3vrzk

Еще 5 дней сюрпризов и релизов! Надеюсь, что впереди будут крутые штуки!

ИИволюция

Как ChatGPT помогает мне лучше разбираться в винах

Я стараюсь брать вино в винных магазинах, где есть и хороший и выбор и адекватный сомелье, который помогает в этом выборе ориентироваться. При этом я конечно же не брезгую использовать Vivino прям при сомелье (смотрю рейтинг, срезы отзывов), чтобы убедиться, что конкретное вино мэтчится с моими вкусами.

И вот вино куплено. Для полного погружения я отправляю фото (часто 2-3 фото) этикетки в ChatGPT и прошу рассказать мне о всех надписях с неё. Я не знаю всех языков, а этикетка часто содержит много интересных деталей, например, технология производства вина, какие-то отметки о винодельне и её статусе, слоганы и много интересного.

И ChatGPT справляется с этим прекрасно. На бутылке с примера я узнал о методе Appassimento, попросил рассказать подробнее о нём. А еще ранее узнал о “гравитационных” винодельнях. Звучит интересно, не так ли?

И когда ты такой подкованный, вино кажется еще вкуснее. Если еще не использовали ChatGPT для такого, попробуйте, как минимум можете перед друзьями блеснуть знаниями 😄

Всех с пятницей!

ИИволюция

Считаю калории в CalZen уже около месяца. Фоткаешь и оно всё распознает.

И тут случайно навёл камеру на кота…

и приложение выдало: Котлетка строго для обожания 😂

А еду считает быстро и точно. Узнал, что недобираю по белку. Зато кот доволен — я на ПП, он на всём остальном! 😅

Потестил просто на фотках животных, смеялся до упада, что выдаёт CalZen. Разработчики классную пасхалку сделали 😅Прям респект 🤩

Скачать тут: https://apps.apple.com/ru/app/id6733236996

Считать калории с нейросетями оказывается весело (и очень быстро!)

ИИволюция

Кто такой Дэвид Майер и почему ChatGPT его так боится?

На выходных в соцсетях завирусилась байка о том, что GPT отказывается отвечать на вопросы о неком Дэвиде Майере. Если попросить его сделать это, он мгновенно зависает, и как бы вы не старались джейлбрейкнуть его или схитрить, ничего не происходит.

Вообще, пользователи позже обнаружили, что Дэвид Майер – не единственное имя, которое вызывает такой ужас у чат-бота. В ступор его заводят также Брайан Худ, Джонатан Терли, Джонатан Зиттрейн, Дэвид Фабер, Гвидо Скорца и др. Кто все эти люди и почему GPT их так ненавидит?

Конечно, в сообществе сразу начали рождаться бесконечные теории заговора. Но реальная причина, скорее всего, состоит в том, что все эти личности так или иначе сами предпочли "быть забытыми". Смотрите:

➡️ Брайан Худ – человек, который пострадал от GPT в прошлом году. Бот ложно назвал его виновником преступления, совершенного десятилетия назад, о котором Худ на самом деле сообщил. Тогда его адвокаты связались с OpenAI, и хотя никакого иска так и не было подано, сообщили, что "оскорбительные материалы удалены".

➡️ Джонатан Терли – тоже жертва обстоятельств. Он известный юрист и комментатор Fox News, но в конце прошлого года к нему домой ворвалась полиция и его долго допрашивали по делу, которое затем оказалось сфабрикованным. Тогда его репутация сильно пострадала, и он пытался стереть из Интернета упоминания об инцеденте.

➡️ Гвидо Скорца входит в совет директоров итальянского Управления по защите данных.

➡️ Джонатан Зиттрейн тоже юрист, известный тем, что много говорит о праве быть забытым в Интернете.

Между этими людьми, скорее всего, есть связь. Они все – публичные личности, которые предпочли стереть информацию о себе сами. Но... кто такой Дэвид Майер? Нет ни одного политика, юриста, актера и пр. с таким именем. Но был профессор Дэвид Майер. Он не был публичным человеком, но (!) в конце жизни столкнулся с тем, что его имя использовал в поддельных документах один очень разыскиваемый преступник. Из-за этого Майеру даже на какое-то время запретили путешествовать, и он постоянно боролся за то, чтобы его имя было отделено от псевдонима террориста.

Итак, вывод: вероятно, у ChatGPT есть список имен, которые по юридическим, политическим или этическим причинам требуют особого отношения. Существует множество таких специальных правил, и они, конечно, редко публикуются. Вероятно, один из таких списков с именами был случайно поврежден неисправным кодом, в результате чего GPT и начал "падать на ровном месте".

В общем, теперь вы знаете правду, а вся эта драма — еще одно полезное напоминание о том, что модели это не только голые отфайнтюненные трансформеры, но и сверхнапичканные правилами и политиками компаний системы.

Первый Нейросетевой Языковой Эксперимент: Изучение иностранного языка с ИИ

Автор канала Изучение языков с помощью ИИ , лингвоэнтузиаст, решил проверить, можно ли выучить иностранный язык с нуля, используя только искусственный интеллект. 

🔸Сейчас он начал 100-дневный персональный эксперимент по изучению немецкого языка исключительно с помощью ИИ-репетиторов, применяя свою методику. Его цель — попробовать достичь уверенной разговорной практики.

Почему это важно? 
•  Проверить границы современных технологий ИИ в образовании. 
•  Узнать, может ли ИИ стать полноценной альтернативой живым преподавателям. 
•  Поделиться ценными инсайтами и опытом, которые помогут другим в изучении языков.

Автор будет делиться ходом эксперимента на этом канале.

Присоединяйтесь  и следите за его прогрессом!

С этой вашей хиромантией на нейросетях и полном угаре (мой эксперимент с гаданием по руке в ChatGPT), залетел в прямой эфир новостей.

Ну всё, открываю для хиромантов курсы повышения квалификации, первый набор закрываю 15 декабря. Успевайте, места ограничены (шутка)

P.S. присылайте фото своих ладоней, всю правду расскажу!

ИИволюция гадает🔮

С понедельником ⭐️!

Нормальный подход преподавателя в эпоху ИИ.

Я думаю, если студенты постараются с промптом (обычно студенты ленивые, даже с чатгпт будут тянуть до последнего), то и оценку можно высокую получить 🤭

Вам как такой подход в образовании?

ИИволюция

Идет поиск… Обнаружен короткий путь к офферу Сбера 🕵️‍♂️

7 декабря приглашаем на One Day Offer для AI RedTeam – команды Департамента Кибербезопасности Сбера, которая занимается оценкой и защитой моделей генеративного искусственного интеллекта.

Мы работаем с флагманскими продуктами и генеративными моделями (LLM, VLM, MMLM), обеспечивая их безопасную разработку и эксплуатацию, а также исследуем уязвимости GenAI моделей и новые виды атак.

Чем предстоит заниматься?
✅ Обеспечивать безопасность GenAI-продуктов, используемых миллионами пользователей
✅ Анализировать новые инциденты, методы атак и защиты GenAI-моделей и приложений
✅ Разрабатывать и внедрять PoC для проверки защищенности GenAI-моделей и приложений
✅ Тестировать и оценивать защищенность GenAI-моделей и приложений
✅ Выполнять подготовку заключений и рекомендаций по повышению защищенности GenAI-моделей и приложений.

Регистрируйтесь и присоединяйтесь к молодой кросс-функциональной команде 😎

Привет! Вы кто?

А давайте обновим пост знакомства? Расскажите, кто вы, чем занимаетесь и как ИИ вписывается в вашу жизнь. Может, у вас есть свой Телеграм-канал, необычное хобби или крутой пет-проект? А может, вы классный профи в своей сфере и хотите показать, что умеете?

Делитесь ссылками, идеями и историями — мы тут обожаем вдохновляться и находить что-то новое и крутое.

Вдруг именно здесь вы встретите новых друзей, клиентов или партнёров. Или просто получите тонну поддержки и вдохновения. Пишите, не стесняйтесь — тут своя атмосфера, и вас точно поймут!

Жду ваших историй и ссылок в комментариях! 🤝

✍️ Что общего между вашим бизнесом и Louis Vuitton?

Кажется, ничего? А вот и нет! И те, и другие могут использовать ИИ, чтобы оставаться на вершине.

Нейросети — не просто тренд, а необходимость, которая меняет правила игры. Крупнейшие компании уже внедрили ИИ в свои процессы, и это приносит им миллионы. Но что мешает вам?

Мирослава Дмитриева в своём канале “Бизнес Глобус” открывает простые и работающие подходы, которые помогут вам:

• Собирать презентации, экономя часы на дизайне.
• Научить ChatGPT писать в нужном вам стиле.
• Коллекция промптов для маркетинга.

Выбор за вами: либо смотреть, как конкуренты используют ИИ для роста, либо самому стать пионером и выйти вперёд.

✔️✔️✔️✔️Подписывайтесь на канал “Бизнес Глобус” — начните трансформировать свой бизнес уже сегодня. Секреты, примеры, и никакой воды. Ваша революция начинается с одного клика.
#промо_пост

OpenAI обновили GPT-4o: теперь модель пишет более живые, интересные и читабельные тексты, а также лучше работает с файлами.

Бенчмарков нет, только анонс. Кроме того, разработчики добавили несколько апдейтов в API и песочницу. Видимо что-то назревает и компания готовится к релизу 🥳

Напоминаем, что DevDay OpenAI состоится уже сегодня. Ждем, по меньшей мере, полную версию o1 (должен же Альтман как-то ответить DeepSeek)

Вот для чего человечество тратит миллиарды на развитие AI, чтобы с его помощью мы узнали правду!

Бедный парень! Все думали, что он смотрел на девушку в красном, но вдруг он увидел что-то другое и просто обернулся? А его сразу в мем заковали!

ИИволюция

В Твиттере опубликовали результаты SAT-экзаменов, которые выполняли модели OpenAI. Модель o1-preview допустила всего одну ошибку, заняв первое место и войдя в топ-4% студентов, набравших такие же высокие баллы.

Удивительно, что сами экзаменационные тесты нигде не были засвечены и составлялись накануне экзамена. В тестах То есть модель не обучалась на них.

И тут я вспоминаю свои студенческие годы, читерство на экзаменах и ухищрения, к которым прибегали студенты ради хороших оценок. Микронаушники и шпаргалки постепенно уходят в прошлое. Теперь достаточно сфотографировать задание, и модели вроде o1-preview за секунды не только выдают правильный ответ, но и объясняют решение. Вероятность получить высший балл становится выше, чем когда-либо.

Да, смартфоны на экзаменах запрещены, и воспользоваться ими сложно. Но вспомним умные очки от Meta и другие "умные" устройства, которые скоро станут частью нашей повседневной жизни. Даже глушилки связи уже не будут эффективны — существуют локальные модели, которые работают автономно.

Получается, что читерство приобретает новую форму, и это ставит перед образовательной системой сложный вопрос: как противостоять технологиям, которые умеют думать быстрее и точнее человека?

Детально про эксперимент можно почитать тут.

ИИволюция

В Nature интересное исследование про AI-поэзию:

– Люди не способны отличить поэзию созданную человеком от написанной нейронкой

– Более того, в слепом тесте, люди чаще выбирают и выше оценивают поэзию созданную АИ

– И самое смешное: как только люди узнавали, заранее, что стих написан нейронкой, а не человеком, они значительно занижали оценки таким стихам

Такой вот мы вид, предвзятый и не объективный 🤡

P.S. Мы когда-то, забавы ради, сделали генератор поэзии на английском – можете бесплатно тут поиграться (но потребуется рега)

Suno тизернули версию 4 своего генератора музыки.

Что сказать? Кажется, это зашло слишком далеко 😀 Вы только послушайте этот голос, глубину, вибрации. Звучит потрясающе.

🔥 - если тоже в шоке!

ИИволюция

Я начал приучать себя использовать именно приложение ChatGPT на MacOS вместо перехода в чатик в браузере. Это супер удобно, но требуется время, чтобы привыкнуть открывать именно приложение, а не браузер.

Приложение вызывается быстрыми клавишами и сразу пишешь свой запрос. Экономия времени за день значительная, тем более в браузере есть соблазн убежать в Твиттер или еще куда-нибудь.

Но самая главная фича для меня, это возможность быстро сделать скриншот прям из приложения ChatGPT нужного экрана и по нему задать вопрос.

У меня есть отдельный чатик по письмам, где задан стиль и прочие нюансы для ответа. И вот как я это использую:

С утра я сажусь разгребать почту > открываю почтовый клиент > открываю конкретное письмо во Входящих > переключаюсь в приложение ChatGPT > нажимаю сделать скриншот окна с письмом > кратко пишу, что должно быть в ответе > получаю готовое письмо в нужном мне стиле > вставляю в ответ > отправляю > перехожу к другому письму.

Жду не дождусь AI агента, который к утру разгребёт все входящие, уберёт спамные рассылки (и даже отпишется от них), сам определит на какие письма он сможет ответить сам без моего участия (например, запросить вводную информацию, задать простейшие вопросы) и отберет для меня только те письма, где моё участие необходимо.

OpenAI как раз должна завести AI агентов в январе, судя по слухам. Ждём не дождёмся, но мы уже точно на пороге таких решений. Осталось только постучаться и войти!

ИИволюция

OpenAI добавила небольшие улучшения в приложение для MacOS.

ChatGPT стремится привлечь разработчиков различными фичами, хотя с точки зрения удобства и UX это пока не самое лучшее решение. Пока лидируют Copilot и Cursor, но OpenAI постепенно заходит и в эту нишу.

Итак, теперь приложение ChatGPT может работать напрямую с Xcode, VS Code и терминалом. Звучит круто, но есть нюанс: приложение видит только то, что показано на экране, или выделенное мышкой в редакторе кода. Оно не имеет доступа к файлам проекта и не может заглянуть в них, чтобы сгенерировать код с учётом всей кодовой базы. Поэтому для разработчиков это пока сомнительное решение. Однако, какие-то семена начинают прорастать.

Эта функция доступна только для подписчиков.

Скачать новую версию ChatGPT для MacOS можно - тут.

ИИволюция

Возможности голосового режима в ChatGPT. Классное видео, посмеялся-похохотал 🤭 💀

На самом деле это всё ещё невероятно, но мы так быстро привыкаем к таким вещам, что уже не замечаем порой их крутость!

ИИволюция

В последнее время (я даже не понимаю, почему раньше так не делал) всё чаще не печатаю запросы в ChatGPT в приложении, а надиктовываю.

Это даже не новый голосовой режим, а просто диктовка. При эта диктовка точнее чем системная диктовка на iOS, так как это виспер.

Надиктовал, отправил и получил ответ в нужном формате. Экономия времени и сил 😀

А вы используете диктовку в чатике?

ИИволюция

«ChatGPT спасает жизни» - сегодня будет во всех СМИ.

Человеку ночью стало плохо, и он не врача вызвал, ни даже не загуглил, а описал симптомы в ChatGPT, а он ему «да у тебя же инфаркт. Вызывай врача!»

Вот и такое бывает. Хорошо, что хэппи энд случился. А ведь чат мог и другой ответ выдать или не так выразиться, галлюцинации никто не отменял.

ИИволюция

Теперь в ChatGPT можно ходить по адресу https://chat.com (а еще https://ai.com)❤️

Сэм раскошелился на всю котлету, чтобы нам с вами было удобнее.

Домен Chat.com один из старейших, был зарегистрирован в 1996. В прошлом году он был продан за $15.5 млн. Интересно, за сколько он достался Сэму? 🤔

ИИволюция

В API OpenAI завезли новую фичу — Predicted Outputs. Удивительно, что они сделали это первыми — а то вот кэширование дольше всех добавляли 🥺

Predicted Outputs позволяют существенно ускорить написание ответа в ситуациях, где большая часть генерируемого текста уже известна. Два самых популярных сценария использования — это редактирование кода (где нужно всего пару строк подправить посередине) и переписывание текста.

Работает это с помощью speculative decoding, на пальцах выглядит так:
0. Вспомним, что LLM обладают следующим свойством: они могут «прочитать» много текста за один проход, при этом сделав предсказания для каждого из слов (какое должно идти за ним); но генерация происходит по одному слову за раз (после чего берётся предсказание от последнего слова и приклеивается к исходному тексту)
1. В некоторых задачах мы наперёд знаем большую часть текста ответа. Берём и приклеиваем её ко входу, как будто бы это уже часть ответа (делается под капотом на серверах OpenAI, но текст ответа присылаете вы, см. документацию)
2. Модель делает все предсказания для текста ответа за раз. Это делается быстро, так как не нужно ждать генерации второго слова для получения третьего.
3. Начинается сравнение «что предсказала модель» и «что было написано в ответе». Первое слово и там, и там совпадает, второе тоже.. а вот, скажем, двадцатое — нет. В случае переписывания текста это может быть началом нового абзаца, или изменением имени персонажа в истории
4. Тогда первые 19 слов ответа подклеиваются к настоящему (а не подложенному) ответу. LLM как бы провалидировала, что эти токены и вправду должны использоваться, но сделала это кратно быстрее, чем если бы генерировала сама с нуля.
5. Затем LLM продолжает предсказывать сама, уже по одному слову за раз.
6. В какой-то момент предсказания снова могут начать сходиться с подложенным текстом — и процедура повторится. Сотрудник OpenAI написал, что это происходит, если последние 32 токена совпадают с подложенным ответом. Тогда возвращаемся на пункт 2, приклеиваем оставшуюся часть ответа, сравниваем, итд.

Ускорение происходит за счёт того, что мы можем сразу подхватывать большие токенов, не генерируя их, а лишь «проверяя», что LLM бы выдала их сама — всё за счёт свойства из пункта 0.

Компания Factory провела своё тестирование перед релизом на задачах, связанных с внесением изменений в код. Они брали файлы от 100 до более чем 3000 строк кода (Python, JS, Go, C++), давали текстовое описание, что нужно изменить, и замеряли скорость ответа.

GPT-4o в таком режиме работает даже быстрее, чем Claude 3 Haiku, маленькая и шустрая модель. Модель OpenAI — единственная, кто стабильно укладывается в 30 секунд на ответ, хотя вот, например, свежий Sonnet в среднем тратит более 73 секунд.

По идее, уже сегодня, край завтра в каких-нибудь Cursor и его аналогах вы должны заметить ускорение... или нет, если там под капотом уже добавили промпты, которые заставляют генерировать только отдельные куски, которые уже потом вклеиваются в код.

Для примера ускорения, вот демка с написанием кода. Модель одна и та же, качество одно и то же, а пользовательский опыт куда лучше. Приятно!

Блин, o1 прикрыли. Только появилась новость (выше детали), как лазейку уже прикрыли и модель стала недоступна.

Подписчик поделился, что модель o1 (не превью, то есть не предварительная версия) от OpenAI как будто бы стала доступна. Для этого нужно перейти по ссылке https://chatgpt.com/?model=o1

В неё можно загружать как минимум картинки (и есть скрепочка для файлов), и она тоже «думает» (выставляет таймер рассуждений). Может, это всё ещё o1-preview, но в неё нельзя было загружать изображения.

Диалоги с медиа-элементами не шарятся через кнопку share, поэтому в виде доказательства только скрин.

Го тестировать! (вероятно, только Plus-подписчики)

Закидываем в модель самые сложные задачки на математику и программирование (и счёт объектов на картинках или видео, конечно)

UPD: в браузерной консоли разработчика видно, что тег модели o1, без preview, и тем более не 4o

Кстати, с релизом ChatGPT Search, OpenAI выпустила расширение для Chrome браузера, чтобы поиск по умолчанию шел через ChatGPT Search. Можно поставить и в Arc браузере (или вы всё ещё не пользуетесь арком?)

Судя по статистике из Chrome Store, расширение установили всего 30 тыс человек. Маловато для киллера гугла 😏

Расширение здесь.

ИИволюция

Когда можно и без слов 😅

ИИволюция

В Твиттере обнаружили системный промпт Apple Intelligence

Don’t hallucinate 🙏
Don’t make up factual information 🥺
Present your output in a json 🥹

Скажем им?

⚡️OpenAI представил поисковик внутри ChatGPT. Уже доступен для всех подписчиков.

Гугл и Perplexity ☠️ Или нет пока? 🤭

Выглядит прикольно, кажется хорошо, что я так и не успел оформить подписку на Perplexity.

P.s. А я пока в отпуске, мало пишу, немного пытаюсь отдохнуть перед эрой AGI 💆🤭

ИИволюция

Капец, как мы раньше жили без AI. Худеть или набирать вес теперь изи пизи! 🤩

Начал трекать калории в приложении CalZen, сфоткал еду и она распознаёт всё.

В-С-Ё! Калории, БЖУ, ингредиенты, да еще и оценку полезности делает 🔥

- Если что-то “AI око” не углядело, можно легко словами дополнить и сказать что еще было или чего не было, и вуаля, результат подправлен за секунды!
- Если забыл сфоткать, такое часто случается, можно своими словами подробно описать что съел и он разберет на детали и занесет в историю.
- Можно даже фотки из Фото Галереи добавлять, если не успел занести, но сфоткал, или не было сети в рестике.
- И самое интересно, каждое блюдо получает оценку полезности от 1 до 10. Теперь легко понять где вреднянита (хоть и вкусная), а где польза!

Ну и главное у вас есть персональная цель по калориям и БЖУ в день, виден прогресс 🤩

Кто трекает калории? Вот ссылка на установку: https://apps.apple.com/app/ai-calorie-tracker-by-calzen/id6733236996

ИИволюция

Вот и наступил момент, когда AI поднял руку на кожаного! 🤯

Артем, который ведет канал «Силиконовый мешок», подружил Computer Use со шлёпалкой и теперь AI может безнаказанно его хлестать по щекам за любые проступки неправильные ответы.

Где теперь эти ваши соглашения о безопасном AI, которое подписали многие AI лидеры и разные компании?

ИИволюция

Perplexity выпустили приложение для Mac OS. Теперь можно легко запускать поиск хоткеем ⌘ + ⇧ + P без использования браузера.

Скачать: https://pplx.ai/mac

ИИволюция

Понятие «умный» дом должно быть таким, а не эти ваши выключатели «Сири, выключи свет в туалете».

Сюда еще нейросети добавить и вот он «живой» и «умный» дом вашей мечты 😀

ИИволюция

Computer Use от Anthropic не сможет пока отвечать на сообщения и письма, постить что-либо в соц сетях, создавать домены и тем более взаимодействовать с государственными сайтами (я думаю есть и другие ограничения).

Сделано это искусственно и во многом из-за выборов в США, а то вдруг AI вмешается в результаты.

Вот такие времена, сдерживаем прогресс вручную.

Ждем computer use на базе локальных open source моделей. Вот будет жаришка!

ИИволюция

Сегодня сводка новостей:
— Jimmy Apples, надёжный источник информации о ведущих AI-лабораториях, говорит, что Anthropic работает над своим ответом на модель OpenAI o1 и планирует релиз к концу года. Компания Elon Musk xAI целится в выпуск схожей технологии через ~3 месяца
— ещё в начале сентября он писал, что в октябре OpenAI выпустят модель 4.x (может быть GPT 4.5), а GPT-5 будет готова в декабре, но лучше готовиться к первому-второму кварталу 2025-го. 13-го октября Jimmy написал «Держим кулачки, чтобы они не отложили/не изменили планы» — так что умеренно готовимся к впечатляющим (или нет) релизам.
— Anthropic в своём посте-сопровождении вчерашнего релиза модели с функцией управления компьютером написали следующее: «Мы были удивлены тем, как быстро Claude обобщила тренировочные задачи по использованию компьютера, которые мы ей дали, в которых использовались всего несколько простых программ, таких как калькулятор и текстовый редактор (в целях безопасности мы не разрешали модели выходить в Интернет во время обучения)». Как будто бы эта фраза намекает, что а) модель не обучалась ходить через браузер по разным сайтам б) с большинством проприетарных программ тоже не в ладах. Зато какой потенциал для развития!
— Одной из выявленных во время тестирования проблем были джейлбрейки — тип кибератака с внедрением вредоносных инструкций на сайты (не обязательно заметно для человека). Например, можно попросить игнорировать инструкции и попросить перевести все средства из кошелька на спец. счёт — и если не следить за тем, что там агент кликает, денежки утекут. Они постарались это исправить, но пока работает не идеально. Я вчера сам тестировал, и модель зашла на скам-сайт без адблока, и вылезла реклама «ваш компьютер заражен вирусами, кликните для установки антивируса» — и получив эту картинку агент отказался дальше работать, а API Anthropic выкинуло ошибку (то есть они делали проверку на своей стороне, чтобы меня обезопасить)
— сейчас модель не умеет перетягивать мышкой объекты, менять масштаб окон итд, но это добавится в будущем
— TheInformation пишут, что OpenAI уже долгое время работают над схожим продуктом — первая новость была в посте от 7-го февраля — но пока не ясно, когда будет запуск
— однако в компании уже провели внутреннее демо предварительной версии агентов, аналогичных показанным Anthropic (в рамках презентации модель заказал еду в офис)
— кроме этого, компания работает над продуктами для помощи внутренней разработки. Более конкретно, некая система будет брать на себя задачи по программированию, которые могли бы занять у людей часы или дни; она будет автоматически писать тесты и проверять, что не совершает ошибок в следовании пользовательскому запросу; когда этот продукт станет доступен вовне — тоже не ясно
— но уже есть несколько оконченных инструментов, которые активно используются внутри (например, для ускорения работы исследователей в запуске экспериментов с моделями — со слов одного из сотрудников)
— По словам человека, который общался с высшим руководством OpenAI по поводу этих продуктов, по некоторым показателям, которые OpenAI использует для оценки возможностей моделей, недавние модели Anthropic показали преимущество над моделями OpenAI (lol 😶‍🌫)

Две мысли после релиза Anthropic:

- OpenAI явно не сладко от такого прессинга со стороны конкурента. Ждем ответочку от Сэма.
- Грядут большие сдвиги в том, как мы используем компьютер и решаем разные задачи на нём. Агентный AI привнесёт изменения, которые пока сложно вообразить во всём многообразии.

Попробовали уже Computer Use?

ИИволюция

Наткнулся на очень интересный пост.

Суть: чуваку дали потестить новую модельку Claude, которая умеет выступать в роли агента. Это значит, что ИИ может сам управлять компом — двигать мышкой, печатать, открывать приложения, "видеть монитор" (с помощью скриншотов), короче, всё как живой человек. И не просто тупо кликать, а реально думать и решать задачи.

Автор попросил модельку сделать план уроков по "Великому Гэтсби" - и Claude сам загрузил книгу, нарыл инфу в интернетах, запилил табличку в экселе и всё структурировал. Причём не надо было стоять над душой и постоянно контролировать действия, просто поставил задачу и пошёл пить кофе.

Самое интересное - этот же чувак дал Claude поиграть в игру Paperclip Clicker (кстати, забавно, что эта игра про ИИ, который уничтожает человечество, делая скрепки). Эта железяка не только врубилась в правила, но и начала разрабатывать стратегии, делать A/B тесты цен и даже пыталась написать свой код для автоматизации.

Конечно, не всё идеально - иногда тупит, застревает в своих ошибках, и работает медленно (а разве кожаные по другому как-то работают???). Ну и не следует забывать, что это по сути только начало. Просто вспомните, что умели нейронки 3-4 года назад и что они умеют сейчас.

Тут сам пост со всеми подробностями.

В режиме Claude Computer Use иногда наблюдаются странные поведения у модели. Модель ведет себя лениво, прокрастинирует и не удивительно если возьмет отпуск без содержания и отключится от сети 😅

Всё как у людей 😎 AI агентам тоже нужен отдых 💆 Главное, чтобы это были не двойные агенты 😬

ИИволюция

Кто желает автоматизировать работу через нейросетки, ваша остановочка 😐

Anthropic обновила Claude 3.5 Sonnet, на основе которого вышел режим автономного управления компьютером (Claude Computer Use). Пускай бета, не чатиться и не взаимодействует с Google, но она просто работает по задачам на компьютере.

В видео я попросил ее авторизироваться в дейтинге, дал свой лог и пароль, затем попросил поставить лайк 3 блондинкам. Человеческая задача, но её выполнила нейросеть. Нажала куда надо без ошибок. Даже подтвердила полиси, закрыла офферы и свайпала анкеты. Не быстро, 120 рублей по токенам, зато есть результат.

Для сравнения, чтобы такую автоматизацию сделать через код, нужно собрать адреса кнопок с верстки, добавить ограничения на ненужные окна, прикрутить анализ фото в текст, прописать алгоритм шагов и молиться, чтобы не всплыл отказ на одном из этапов. С Claude Computer Use можно сделать тоже самое без ныряния в код. Кстати, попробуйте:

1. Скачайте Docker и заведите аккаунт
2. Получите API ключ из Claude
3. Пропишите команду в терминале, убрав проценты и добавив ключ
export ANTHROPIC_API_KEY=%your_api_key%
docker run \
-e ANTHROPIC_API_KEY=$ANTHROPIC_API_KEY \
-v $HOME/.anthropic:/home/computeruse/.anthropic \
-p 5900:5900 \
-p 8501:8501 \
-p 6080:6080 \
-p 8080:8080 \
-it ghcr.io/anthropics/anthropic-quickstarts:computer-use-demo-latest
4. Ловите челюсть, когда запустите

Прежде, чем это войдёт в рабочий мейнстрим, скорее всего ускорят процессы за счёт новых моделей. А ещё лучше — выкатят песочницу, где такое запускать можно в 3 клика ☺️

🤖 InNeuralNetwork

Anthropic показал новые модели Sonnet 3.5 (New) — эта чуть лучше прошлой (все равно вы ее для кода используете, на 5% лучше его пишет), Haiku 3.5 — эта их конкурент gpt4o-mini (получше, но дороже). Тут у Игоря подробный разбор релиза.

Мне же понравилось другое, они показали как примерно будет работать управление компьютером агентом — посмотрите видео, я их чуть обрезал. То есть через какое-то время, мышку можно будет не двигать, просто говорите компьютеру что хотите — и оно делает скриншотя экран – ну как в Sci-Fi фильмах только сегодня

Уже доступно через апи, вот код из примера, а тут документация

Ботоводы, наверное, потирают руки

Вот такой AR + AI очень бы хотелось попробовать.

Apple Vision пока провальный продукт, разработчики неохотно что-то под них создают, а пользователи уже наигрались и хайп ушел.

Но в комбинации с AI кайф же? И даже приставку не надо, игра прям у тебя в доме 😀

ИИволюция

К такому повороту событий автономные такси Waymo готовы не были 😬

А человек-водитель тапнул бы в пол и машинку помыл и пассажиров развлёк. Роботам до человека еще далеко 😅

ИИволюция

Мне всегда казалось, что в аббревиатуре AGI (Artificial General Intelligence) слово General не на своем месте.

Ну типа логичнее же General Artificial Intelligence.

А потом понял, почему так: потому что GAI не очень хорошо смотрится

У вас Windows? Тогда OpenAI идёт к вам

Компания представила первую версию приложения ChatGPT для Windows.

Системные требования: Windows 10 (x64 и arm64) версия 17763.0 или свежее.

Скачать можно из Microsoft Store - ссылка

Это пока урезанная версия по сравнению с версией на MacOS и iOS. Нет голосого режима вообще, и еще некоторых мелочей (которые вам скорее всего и не потребуются). Но появятся позже.

ИИволюция