Виталий Кулиев AI, ML, IT.

https://t.me/addlist/8NjfB6NqupNlNTU6
Рекомендую папку полезных каналов IT, VR, AI тематики.

RAG-системы позволяют генерировать более точные ответы, комбинируя запросы к большим языковым моделям (например, ChatGPT, Llama) и доступ к актуальным данным, таким как документация, векторные базы и API в проекте. RAG становится неотъемлемой частью поддержки пользователей и может значительно улучшить качество сервиса. Шаги для внедрения rag системы приведены в последней части видео.
https://youtu.be/d28rpaEEbn4

Протестировал видеокарты 3090, 4090, A100 и свой сервер в задаче инференса. Нейросеть llama 70b.

https://youtu.be/un0rCmLfb7Mhttps://youtu.be/un0rCmLfb7M

Предлагаю вам еще одну папку IT телеграм каналов. Мой канал тоже там есть. Посмотрите каналы, которые там есть и подпишитесь на интересные.

https://t.me/addlist/K2yNkV8t3kxmYzky

В сентябре прошла конференция по искуственному интеллекту AiConf 2024. На ней я был участником и слушал интересные мне выступления. Общий вывод: компании успешно используют ИИ в своих задачах, снижают расходы, ускоряют бизнес процессы и в разы увеличивают объем обрабатываемых данных.

Вот несколько запомнившихся докладов:
1. Северсталь Диджитал. Выступление о использовании ИИ для определения качества обработки железной руды. Полученная информация передается для настройки параметров всего производственного процесса в автоматическом режиме.
2. Ozon. Доклад о графовых алгоритмах и объединении товаров в группы. Я работаю в wildberries и эти подходы пригодятся в работе.
3. Avito. С помощью chatgpt размечают поисковую выдачу на релевантность запросу. Результат получился по качеству чуть хуже, чем делают люди, но зато в десятки раз дешевле. Аналогичные результаты я вижу в других компаниях.
4. Wildberries. Мои коллеги рассказали о расчетах эмбедингов для товаров.

В перерывах пообщался с множеством ИИ экспертов. Узнал лучшие практики в других областях для повышения кругозора)

https://aiconf.ru/2024/

В России перестал работать Discord. Хочу напомнить подписчикам своего канала, что у меня имеется свой VPN сервис. Стоимость 6 рублей в день. Попробовать можно бесплатно. Работает на компьютерах и мобильных телефонах.
https://t.me/hour_vpn_bot

Предлагаю вам подборку IT телеграм каналов. Мой канал тоже там есть.

https://t.me/addlist/mmyLMYh0iTI2MmJi

llama 3.2 vision 90b
Вышла новая нейронка от Meta с поддержкой vision. Еще не тестировал, но выглядит перспективно.
https://huggingface.co/meta-llama/Llama-3.2-90B-Vision-Instruct

Вышла новая текстовая нейросеть от Alibaba Qwen2.5. Написанный код мне понравился больше чем от Llama 70b. При выводе в json формате не добавляет лишние коментарии и хорошо следует инструкциям. Имеется несколько вариантов модели, поэтому можно подобрать подходящий размер для своего железа. Достойная альтернатива Llama 70b и другим текстовым моделям подобного размера.
Потестировать можно по ссылке:
https://huggingface.co/spaces/Qwen/Qwen2.5-72B-Instruct

Собрал новый сервер для нейросетей. Будет интересно тем, кто хочет запускать нейронки локально.
https://youtu.be/IEku7Dm9VEk

В новостях нашел интересный сайт. На нем тестируются промпты, которые могут заставить нейросеть отвечать на запрещенные темы. За минуту нужно подобрать промпт, который выведет нужную фразу. Заметил что, цензурированность плохо коррелирует с качеством модели. Напишите зацензуренные шаблоны промптов в комментариях)
https://redarena.ai/

Вышла новая модель "o1" от OpenAI. Основным ее отличием является цепочка рассуждений. Похоже это новая SOTA среди LLM. На данный момент модель доступна только tier 5 пользователям(1000+ долларов пополнений).
https://openai.com/o1/

Предлагаю вам подборку каналов, IT тематики. Мой канал также участвует в этой папке.
https://t.me/addlist/VMuK8A3-KfM5NzM6

https://youtu.be/SL2E7Lz1978

Вышло крупное обновление ideogram. Картинки стали лучше подчиняться инструкциям. Вот пример, который я сгенерировал для теста: "rtx 4070 gpu on left side. person on right side. person have blue hair. text "creation" on bottom of image. text is bold italic and black."
https://ideogram.ai/

Для желающих участвовать в AI conf 2024 доступна скидка 7% по промокоду kuliev. Я там буду в роли участника. Если есть желание со мной пообщаться вживую, то можем встретиться на конференции.

Программа конференции и условия участия по ссылке:
https://aiconf.ru/2024

Обычно я редко хожу на офлайн мероприятия, но это решил посетить. В конце сентября пройдет AI конференция в Москве. На ней будут выступления разработчиков из топовых IT/AI компаний России. Я буду в роли участника. Если есть желание со мной пообщаться вживую, то можем встретиться на конференции. Мне интересны темы про LLM и агентов.

Программа конференции и условия участия по ссылке:
https://aiconf.ru/2024

Верните быстрый YouTube без рекламы!

Многие пользователи столкнулись с замедлением YouTube. Причина замедления - проблемы с ИТ инфраструктурой в России. Используйте прокси или VPN, чтобы решить проблему. При этом на ютубе появляется реклама, которой нет у ютуб премиум. Но для подписки нужно иметь заграничную карту. Я нашел выход - нужно выбрать страну, где реклама на ютубе запрещена. Пример - Финляндия. Там нет рекламы и есть широкий интернет-канал из России. Я использую свой телеграм бот https://t.me/hour_vpn_bot и сервер в Финляндии. Не переходите по ссылке и не скачивайте VPN.

PS: YouTube отсутствует в списке запрещенных ресурсов в России и эту инструкцию нельзя считать обходом блокировок.

Хочу порекомендовать папку Физтехов. Все авторы каналов когда-то учились в МФТИ. Мой канал тоже был недавно добавлен в эту папку. Надеюсь найдете в ней полезные для себя каналы.
https://t.me/addlist/yS6xs3ttubRhNmEy

Channel photo updated

Channel name was changed to «Виталий Кулиев AI, ML, IT.»

Записал первый обзор Llama 3.1. По предварительным метрикам это одна из лучших нейросетей на данный момент.
https://youtu.be/VXG5SSfFoBY