PHYGITAL BUSINESS Telegram-Beiträge

Сегодня конференция про ИИ в бизнесе от российских крупных компаний!

ждём всех! Регистрация тут https://phygital.plus/aiconf

https://www.linkedin.com/posts/rakeshgohel01_what-most-think-of-ai-agents-is-just-the-activity-7302335447534288899-pGx1?utm_medium=ios_app&rcm=ACoAAAo229EBgUVwBUm62kNn262oyuBMAG5gFx0&utm_source=social_share_send&utm_campaign=copy_link

🤩 Возвращаемся с первым спикером Phygital+ AI Conf! 🤩

🔥Иван Тихомиров🔥

Руководит небольшой командой ИИ-дизайнеров и ML-инженеров в Альфа-Банке и расскажет про ИИ-достижения в маркетинге Альфа-Банка. 😍

О чем:

💜 Посмотрим на красивые картинки и ролики

💜 Посмотрим как за несколько месяцев сделать целую фабрику ИИ-контента (400+ запущенных коммуникаций с использованием ИИ и доля контента 15% в 2024 году)

💜 Посмотрим одним глазком на новые ИИ-инструменты, которые есть только у Альфа-Банка

❗️Регистрируйтесь на Phygital+ AI Conf ❗️

Марк Гурман в очередной колонке описывает AI-кризис в Apple — проблему с серьезным отставанием компании в развитии продуктов с использованием AI. Функциями Apple Intelligence, по внутренней статистике, пользуется крайне низкое количество пользователей, а обновленная Siri, которую анонсировали в прошлом году, теперь отложена до мая.

Что еще хуже, по информации от сотрудников компании, действительно современная, разговорная версия Siri вряд ли появится раньше iOS 20 в 2027 году — то есть с пятилетним отставанием от конкурентов.

Внутри компании уже происходят перестановки — Ким Воррат, опытный менеджер по программному обеспечению, переведена в команду AI. Сотрудники задаются вопросом, не пора ли CEO Тиму Куку или совету директоров пойти на более радикальные изменения, включая потенциальную замену главы AI-направления Джона Джаннандреа.

Apple, вопреки сложившемуся в массовых кругах мнению, редко выходит на новые рынки первой — чаще всего она приходит на существующие рынки и представляет идеальное продуктовое решение, которое "just works". Но скорость развития AI, где за два года ChatGPT прошел уже несколько поколений продуктового развития, очевидно, застала компанию врасплох.


https://www.bloomberg.com/news/newsletters/2025-03-02/apple-siri-compared-with-alexa-m4-macbook-air-and-ipad-air-2025-coming-soon-m7rn2k2y

🔥 Хей-хей, мы с важной новостью! 🔥

6 марта мы проводим Phygital+ AI Conf — бесплатную онлайн-конференцию о том, как AI уже сегодня меняет маркетинг, дизайн и бизнес.

🎤 Кто в эфире?

Спикеры из Альфа-Банка, Яндекса, Фонбета и других топовых компаний расскажут, как нейросети помогают ускорять процессы, автоматизировать рутину и экономить ресурсы.

💡 Почему стоит участвовать?

✔ Разберем реальные кейсы внедрения AI в бизнесе
✔ Узнаете актуальные тренды 2025, которые стоит внедрять уже сейчас
✔ Возможность задать вопросы экспертам и прокачать знания

🎁 А еще мы подготовили ценные призы:

🔹 Розыгрыш 3 полугодовых Plus подписок Phygital+
📂 Всем зарегистрированным — 50 AI-шаблонов для работы с контентом

⚡ И не пропустите! Каждый день перед конференцией мы будем рассказывать о спикерах и их темах. Следите за новостями!

📌 Регистрируйтесь уже сейчас: Phygital+ AI Conf

Маржинальность DeepSeek составляет 545%. Или нет?

Сегодня внезапно случился шестой, незапланированный, день опенсорса от DeepSeek. Они рассказали о том, как устроен онлайн-инференс моделей DeepSeek-V3/R1 и о том, сколько они зарабатывают на наценке.

Итак, инференс делится на два этапа: Prefilling и Decoding. То есть сначала модель разбивает запрос на токены и формирует эмбеддинги, а затем генерируют выходные токены один за одним. При этом Prefilling легко распараллелить между кучей GPU и проблем тут нет.

А вот с декодингом все сложнее. Тут возникают задержки из-за обмена данными между процессорами и экспертами MoE. Сюда то как раз и встаивают систему DualPipe, о которой мы подробно рассказывали в четвертый день опенсорса DeepSeek. Благодаря ней этапы передачи данных перекрываются вычислениями.

Интересно так же то, что на каждом слое модели при этом доступны аж по 256 экспертов, хотя для одного запроса активируются всего 8. Зачем? Все просто: если один эксперт оказывается перегружен или занят, токены могут быть направлены к другому, что обеспечивает балансировку нагрузки. Плюсом отказоустойчивость и оптимизация вычислений в разных конфигурациях.

А теперь немного экономики.

➖ Сервис работает на H800. За 24 часа пиковая занятость достигала 278 узлов, а средняя – 226.75 узлов. При условии, что каждый узел содержит 8 GPU, ежедневные затраты составляют примерно $87,072.

➖ Всего за сутки обработано 608 миллиардов входных токенов, из которых 56.3% (342 млрд) – это попадания в on-disk KV cache. Сгенерировано 168 миллиардов выходных токенов (средняя скорость генерации – 20–22 токена в секунду)

➖ При стандартном ценообразовании R1, входящие токены оцениваются в $0.14 в кэше или в $0.55 без кэша, а аутпут токены – $2.19 за миллион. То есть общая выручка составляет $562,027, что приводит к маржинальности 545%.

Но это число, конечно, завышено. Во-первых, у DeepSeek-V3 более низкие цены. Во-вторых, в веб-версии все работает бесплатно. В-третьих, даже на API есть ночные скидки.

И тем не менее, с такими оптимизациями и скоростью система остается очень даже экономически эффективной. Очень интересный шеринг от DeepSeek, в общем, таким очень редко кто делится

https://github.com/deepseek-ai/open-infra-index/blob/main/202502OpenSourceWeek/day_6_one_more_thing_deepseekV3R1_inference_system_overview.md

https://x.com/atomsilverman/status/1895600503326982574?s=46&t=IO_D6IRtK8iS_1pLCdDWnA

Китайский DeepSeek обманул инвесторов в вопросе дешевизны создания собственной нейросети в сотни раз.

Китайский стартап DeepSeek AI раскрыл данные о теоретической прибыльности своих моделей искусственного интеллекта V3 и R1, заявив о коэффициенте прибыльности до 545% в день. Согласно информации, аренда одного чипа Nvidia H800 обходится в $2 в час, что приводит к ежедневным затратам на инференс в размере $87 072. При этом теоретический ежедневный доход от этих моделей составляет $562 027, что и обеспечивает указанный коэффициент прибыльности.


Однако компания уточняет, что фактические доходы ниже теоретических из-за различных факторов, включая различия в стоимости использования моделей V3 и R1, бесплатный доступ через веб и приложения, а также сниженные тарифы для разработчиков в непиковые часы.

Ранее DeepSeek утверждала, что затраты на обучение ее моделей составили менее $6 млн, что значительно ниже расходов западных конкурентов. Однако аналитики сообщают, что реальные инвестиции компании в оборудование и инфраструктуру могут превышать $500 млн, учитывая приобретение тысяч графических процессоров Nvidia H800 и H100.
𝔼ℂ𝕆ℕ𝕆𝕄𝕀𝕂𝔸

Aethir leads the "Top DePIN Projects by Revenue (30d)" chart 📈

With 400K+ GPUs and 64,000+ Aethir Edge devices, Aethir stands as the only decentralized, enterprise-grade GPU-as-a-service provider, powering AI and gaming at scale.

We're excited for what's to come 🔥

Сравнение популярных стран у цифровых кочевников. @banksta