НТЦ ГРЧЦ

👀 Экономика внимания: конкуренция за ресурс нового времени и ее последствия

В эпоху информационного перенасыщения человеческое внимание превратилось в ограниченный ресурс, за который идет конкуренция. Технологии экономики внимания стали мощным инструментом информационно-психологического воздействия, целью которого является максимально долгое удержание медиапотребителя перед цифровым экраном.

Рекомендательные алгоритмы, персонализированный контент и таргетированная реклама обеспечивают постепенную монополизацию «рынка человеческого внимания», но за этой динамикой скрываются серьезные риски.

Информационная перегрузка, психологические зависимости, манипуляции в коммерческих целях и снижение качества живого общения – это лишь часть проблем, вызванных борьбой за наше внимание.

➡️Какие угрозы несет неконтролируемое использование технологий экономики внимания?

➡️К каким изменениям в обществе ведет искусственное вовлечение внимания в современный рынок гедонизма?

➡️Почему ведутся дискуссии о необходимости правового регулирования когнитивной свободы?

Эти и другие вопросы требуют открытого обсуждения, чтобы обеспечить безопасность общества в условиях новой реальности.

📲 Подробнее – в новом материале на сайте Научно-технического центра

📕 Что нового в сфере регулирования? Рассказываем в дайджесте 👇

⏺ Владимир Путин подписал закон о внесудебной блокировке онлайн-ресурсов поддержки незаконной миграции

⏺ Вьетнам приказал Temu и Shein зарегистрироваться в государственном реестре, пригрозив платформам блокировкой

⏺ Управление Комиссара по защите персональных данных Гонконга (PCPD) запустило пакет мер по обеспечению безопасности данных для школ, неправительственных организаций и малого и среднего бизнеса

⏺ Госдума в первом чтении поддержала законопроект, который запрещает иностранным компаниям дискриминацию российских разработчиков приложений и их пользователей

⏺ Австралийский регулирующий орган оштрафовал телекоммуникационную компанию Optus на $8 млрд за отключение экстренных вызовов

⏺ Вьетнам предписал соцсетям предоставлять идентификационные данные пользователей по требованию властей

⏺ Британский регулятор предупредил IT-компании об ответственности за распространение сгенерированного ИИ опасного контента

⏺ Австралия планирует обязать социальные сети защищать пользователей от издевательств, домогательств и просмотра деструктивного контента

⏺ Французские газеты подали в суд на социальную сеть X из-за использования их контента

⏺ Жители Калифорнии подали иск против Facebook* из-за нарушения их прав на конфиденциальность

*Компания Meta Platforms признана в России экстремистской организацией и запрещена.

#НТЦ_дайджест

✅ Риски фактчекинга в контексте противодействия дезинформации

В условиях роста дезинформации и ее распространения, фактчекинг стал важным инструментом противодействия. Однако, он имеет свои недостатки и требует оценки рисков и угроз.

В октябре 2023 года университет Джона Хопкинса провел исследование о влиянии фактчекинга на усиление дезинформации. Его результаты показали, что предоставление неопределенных результатов или их проверка могут привести к увеличению стимулов для распространения предвзятой информации среди большего числа пользователей.

Считается, что раскрытие истины способствует снижению предвзятости. Однако, взаимосвязь между правдой и фейком определяется несколькими факторами:

➡️ Спрос (как движущая сила предвзятости).
➡️ Политические меры реагирования.
➡️ Доказательства наличия фейка и предвзятости.

Исследование показало, что раскрытие истины не всегда приводит к уменьшению распространения ложной информации. Иногда оно может даже увеличить ее количество или оказаться неэффективным.

Важно понимать, как люди формируют свое мнение. Чтобы найти информацию, которая подтверждает их точку зрения, люди могут манипулировать своим вниманием, памятью или осознанием. Они могут игнорировать объективные факты или искать источники, которые подтверждают их убеждения.

Таким образом, раскрытие истины не устраняет стимулы для производства предвзятой информации, а увеличение вероятности раскрытия истины может привести к увеличению количества такой информации.

💻 Подробнее – в новом материале на сайте Научно-технического центра.

🆕 Главные тенденции в области ИИ по версии State of AI 2024

Air Street Capital представила ежегодный отчет, в котором подробно освещены последние достижения, направления и прогнозы в развитии искусственного интеллекта.

Основные моменты:

🔹 Исследования
Быстрое развитие больших языковых моделей, таких как GPT-4 и Llama 3, привело к новым высотам в решении сложных задач. OpenAI представила модель o1, которая выделяется способностью логически рассуждать и исправлять ошибки, приближая ИИ к имитации человеческого мышления.

🔹Индустрия
Nvidia продолжает доминировать в сфере ИИ-оборудования, демонстрируя огромный рост капитализации, опережая даже Apple. Основные инвестиции в ИИ направляются в области робототехники, корпоративного ПО и биотехнологий.

🔹 Политика
Китай и США остаются лидерами по числу публикаций в ИИ, а конкуренция между странами ускоряет разработку передовых технологий.

🔹 Безопасность
С растущей сложностью ИИ решений, в Европе и Великобритании усиливается акцент на регуляции и предотвращении потенциальных угроз.

🔹 Прогнозы 2025
Ожидается дальнейшее развитие открытого ПО, рост госинвестиций в ИИ и усиление позиций Apple и Nvidia в индустрии.

💻 Подробнее – в новом материале на сайте Научно-технического центра.

🤖 Новости из мира IT-технологий. Главное – в дайджесте⬇️

⏺ Госдума приняла в первом чтении законопроект об ужесточении оборота согласий на обработку персональных данных

⏺ Южная Корея борется с распространением порнографических дипфейков, ужесточая наказание и регулирование

⏺ Mozilla оштрафовали за неудаление запрещенной в России информации на ₽3,5 млн

⏺ Власти Австралии предложили запретить детям младше 16 лет пользоваться социальными сетями

⏺ Правительство Германии предложило законопроект, который освободит от уголовного преследования «белых» хакеров

⏺ Суд США отклонил иск против Google о мошенничестве с подарочными картами

⏺ Правительство Канады распорядилось ликвидировать подразделение TikTok в стране после проверки на предмет национальной безопасности в соответствии с Законом об инвестициях

⏺ Европейская комиссия планирует оштрафовать Apple на сумму до 10% от ее годового дохода за ненадлежащее соблюдение требований Закона о цифровых рынках (DMA) для App Store

⏺ США вновь призвали Италию отменить внутренний налог на веб-услуги

⏺ Южнокорейский регулятор оштрафовал Meta* почти на $16 млн за незаконный сбор персональных данных

*Компания Meta Platforms признана в России экстремистской организацией и запрещена

#НТЦ_дайджест

😊 Способы распознавания эмоций и области применения технологий EAI

Искусственный интеллект, который распознает и интерпретирует человеческие эмоции, называют эмоциональным ИИ (EAI). Развитие технологии – важный шаг на пути становления сильного ИИ (AGI).

Значительная часть технологических решений этого кластера способна определять как положительную, нейтральную и отрицательную эмоциональную окраску текста, аудио и видео, так и базовые эмоции человека: страх, гнев, грусть, радость, удивление, отвращение и другие.

Сегодня активно ведутся работы по созданию формальных моделей эмоций и обучению ИИ пониманию сложных (социальных) эмоций, тонкостей человеческих чувств и общественных взаимоотношений.

Основные способы распознавания эмоций: по мимике, активности глаз, тексту и речи, голосу, физиологическим сигналам, мультимодальное распознавание эмоций.

Технологии распознавания эмоций и системы прогнозирования и поддержки принятия решений на их основе используются во многих сферах: от науки до киберпреступности.

Эксперты отмечают динамичное развитие технологий EAI, которое сопровождается их внедрением во все сферы жизнедеятельности. Вместе с тем, риски и угрозы информационной безопасности со стороны EAI требуют широкого экспертного обсуждения, увеличения внимания к данным технологиям со стороны государства и общества.

💻 Подробнее – в новом материале на сайте Научно-технического центра.

Впереди нас ждет короткая рабочая неделя 😉 А начать ее предлагаем с дайджеста СМИ по теме регулирования высоких технологий

⏺ С 1 ноября в России вступили в силу новые правила для блогеров

⏺ TikTok внедряет более строгий контроль за распространением контента в ЕС

⏺ Комиссия по защите данных Ирландии оштрафовала LinkedIn на €310 млн за незаконную обработку персональных данных

⏺ Сумма требований российских телеканалов к Google из-за блокировки аккаунтов на YouTube возросла до ₽2 ундециллионов

⏺ Еврокомиссия предупредила, что дублирующие друг друга законы в сфере цифровых технологий открывают лазейки для больших технологических компаний

⏺ Ассоциация предприятий компьютерной и коммуникационной индустрии оспаривает закон Флориды о регулировании социальных сетей

#НТЦ_дайджест

😉 А ты умеешь защищать свои персональные данные?

30 октября в 14:00 приглашаем студентов на вебинар по медиаграмотности и медиапотреблению.

⭐️ Екатерина Ефимова, руководитель направления персональных данных Главного радиочастотного центра, расскажет об угрозах в Сети и правилах, которые необходимо соблюдать, чтобы защитить свои личные данные.

⭐️ Станислав Махортов, главный юрисконсульт Научно-технического центра ГРЧЦ, поделится информацией о том, какие законы регулируют интернет-пространство и как избежать нарушений.

Ты сможешь пообщаться с экспертами в эфире и задать интересующие вопросы!

Ждем тебя здесь 😮

Организаторы: Министерство науки и высшего образования РФ совместно с подведомственным Роскомнадзору Главным радиочастотным центром, Университетом им. О.Е. Кутафина (МГЮА), Аналитическим центром при Координационном совете Минобрнауки России и координационными центрами. Мероприятие пройдет в рамках проекта «Открытый диалог».

✅ Понедельник традиционно начинаем с дайджеста СМИ по теме регулирования высоких технологий ⬇️

⏺ Участники видеоигрового рынка России начали эксперимент по добровольной маркировке игрового контента

⏺ Норвегия может запретить детям до 15 лет пользоваться социальными сетями

⏺ Турция заблокировала доступ ко всем социальным сетям после теракта на оборонной компании воздушно-космической отрасли

⏺ Еврокомиссия объявила тендер на разработку технологии для проверки возраста интернет-пользователей

⏺ X разрешил третьим лицам обучать свои модели искусственного интеллекта на данных пользователей

⏺ Германия и Румыния назначили экспертов по выявлению нелегального онлайн-контента для защиты несовершеннолетних

⏺ Roblox планирует открыть офис в Турции, если доступ к платформе будет восстановлен

⏺ Суд США рассмотрит иск штата Массачусетс, обвиняющего Meta* в развитии у подростков зависимости от социальных сетей

*Компания Meta Platforms признана в России экстремистской организацией и запрещена.

#НТЦ_дайджест

🤥 Манипулирование мнением пользователей соцсетей с помощью ИИ

В сентябре 2024 года Обсерватория социальных сетей (OSoMe) Университета штата Индиана объявила о создании межинституциональной экспертной группы для изучения влияния искусственного интеллекта на онлайн-коммуникации. В частности, возможностей ИИ в радикализации сообщений и распространении дезинформации.

Эксперты отмечают, что современные детекторы контента на основе LLM не способны отличить ботов с поддержкой ИИ от аккаунтов реальных людей. 

ИИ генерирует лица для фотографий, осуществляет продвижение неправомерного, но интересного или фейкового контента, распространяет эмоциональные реакции или политическую ориентацию, тем самым имитирует человеческое общение. При этом, кроме последствий мошенничества или распространения спама, происходит сбор данных, формирование уязвимостей и ряд других последствий этического характера.

Чтобы изучить методы распространения информации по социальной сети, эксперты разработали модель социальных сетей SimSom. Она имитирует сеть подписчиков, где каждое воздействие сообщения приводит к вероятности перепоста. Модель позволила оценить эффект инфильтрации, обмана и переполнения информацией, выявив, что инфильтрация снижает качество контента до 50%, а при одновременном переполнении – до 70%.

Таким образом, ключевая проблема заключается в ответственности за контент на платформах. В настоящее время платформы являются издателями и носителями информации, что осложняет разработку принципов регулирования и методов защиты от информационных кампаний.

💻 Подробнее – в новом материале на сайте Научно-технического центра.

🤖 Новости из мира IT-технологий. Главное – в дайджесте⬇️

⏺ Правительство Бразилии ужесточит антимонопольное регулирование в отношении крупных технологических компаний

⏺ Власти Гонконга начали расследование в отношении LinkedIn из-за использования персональных данных для обучения генеративного ИИ

⏺ X не будет включена в список платформ, подпадающих под действие Закона ЕС о цифровых рынках

⏺ TikTok уволила сотни сотрудников в связи с внедрением ИИ для модерации контента

⏺ Финансовый регулятор в Великобритании предложил ввести налог для интернет-компаний на борьбу с кибермошенниками

⏺ В ЕС принят новый закон о кибербезопасности цифровых устройств

⏺ Возможный запрет на социальные сети в Австралии вызывает опасения по поводу социальной изоляции подростков

⏺ Новый законопроект в Великобритании может заставить социальные сети сделать контент менее привлекательным для лиц младше 16 лет

⏺ Суд США рассмотрит иски штатов, обвиняющих Meta* в развитии у подростков зависимости от социальных сетей

*Компания Meta Platforms признана в России экстремистской организацией и запрещена

#НТЦ_дайджест

💬 Проблемы формы и значения в LLM

Впечатляющие способности больших языковых моделей (LLM) в овладении, понимании и генерировании человеческого языка основаны на больших языковых данных из интернета. Обучение включает разбиение текста или речи на токены и анализ связей между ними для создания грамматически корректных последовательностей. Сгенерированный текст может не соответствовать реальному миру, что создает проблему галлюцинаций и ложной информации.

Утверждения относительно лингвистических возможностей LLM имеют два необоснованных предположения:

1️⃣ Существование полноты языка в виде целостной сущности, схожей с физическими объектами, которая может быть эффективно смоделирована LLM.
2️⃣ Полнота данных, позволяющая идентифицировать и количественно оценить основные характеристики естественного языка в наборах данных.

В основе этих предположений лежит вычислительная теория разума, рассматривающая разум как систему обработки информации. Однако познание возможно с точки зрения энактивизма, который выделяет три характеристики инсценированного языка, отсутствующие в LLM:

✅ Воплощение – тон голоса, жесты, эмоциональный контекст, выражение лица и т. д.
✅ Участие – непринужденный разговор, мимолетные жесты, язык тела, паузы, колебания.
✅ Неустойчивость – двусмысленность между людьми: напряженность, разногласия.

Таким образом, LLM не могут повторно использовать и создавать формы для манипулирования смыслом и работы в изменяющемся мире. Впечатляющие результаты работы основаны на прогнозировании предложений. Несмотря на неудачи в решении нелингвистических задач, LLM – это значительное инженерное достижение, требующее тщательной оценки перед развертыванием для смягчения тенденции к упрощению языка и кодированию общественных стереотипов.

💻 Подробнее – в новом материале на сайте Научно-технического центра.

✅ Понедельник традиционно начинаем с дайджеста СМИ по теме регулирования высоких технологий ⬇️

⏺ Минцифры опубликовало законопроект о мерах против телефонного спама

⏺ Суд США обязал Google разрешить дистрибуцию альтернативных магазинов приложений в Google Play

⏺ Платформа X получила разрешение на возобновление работы в Бразилии

⏺ Европейская комиссия предложила новые цифровые удостоверения личности для путешественников

⏺ Турция заблокировала платформу Discord

⏺ 14 штатов США обвинили TikTok в причинении вреда психическому здоровью детей

⏺ В ЕС создан новый орган для рассмотрения жалоб пользователей на социальные сети

⏺ Meta* должна ограничить использование персональных данных пользователей для таргетинга рекламы, – высший суд ЕС

*Компания Meta Platforms признана в России экстремистской организацией и запрещена.

#НТЦ_дайджест

☁ Цифровые двойники. Ключевые преимущества использования

Современные цифровые двойники – компьютеризированные компаньоны реального мира. Их используют в сфере промышленности, профиля здоровья человека и других сложных системах.

The Economist выделил три наиболее важных задачи, которые выполняют двойники:

✅ Ускорение разработки

Проектирование с учетом всех параметров, включая тесты, происходит быстрее благодаря цифровым двойникам. Например, оцифровка и виртуальное моделирование разработки автомобиля сократили процесс от концепции до массового производства с пяти лет до двух. Технологии цифровых двойников используются в реактивных двигателях, электрогенераторах и других сложных дорогостоящих продуктах.

✅ Повышение эффективности компаний

Мониторинг и корректировка операций на основе данных в реальном времени повышают эффективность компаний. Компания Uber, например, отслеживает состояние автомобилей, условия движения, погоду и ожидаемый спрос для оптимизации операций. Такие тенденции позволят создавать экосистемы клиентов и поставщиков для любого бизнеса, оптимизируя корпоративные цели.

✅ Обеспечение научных инноваций

Компьютерное моделирование стало неотъемлемой частью научных исследований благодаря совершенствованию сенсорных и визуальных технологий, передачи и анализа больших данных. Цифровые двойники помогают развивать персонифицированную медицину на основе прогнозируемой реакции. В перспективе возможно объединение двойников планетарных процессов для прогнозирования экологических катастроф.

👩‍💻 Подробнее – в новом материале на сайте Научно-технического центра.

📕 Что нового в сфере регулирования? Рассказываем в дайджесте 👇

⏺ Президент Филиппин подписал закон, предусматривающий взимание налога на добавленную стоимость в размере 12% с иностранных поставщиков цифровых услуг

⏺ Калифорния приняла два закона: о защите нейронных данных потребителей и о запрете использования смартфонов в школах

⏺ Google подала в Еврокомиссию антимонопольную жалобу на Microsoft

⏺ Сенаторы США представили законопроект, требующий от социальных сетей предупреждать пользователей о потенциальных рисках для их психического здоровья

⏺ Более ста компаний подписали Пакт ЕС об ИИ, чтобы способствовать надежному и безопасному развитию новой технологии

⏺ Арканзас подал в суд на YouTube, заявив, что платформа способствует возникновению кризиса психического здоровья

#НТЦ_дайджест

💡 Роль микроэлектроники в обеспечении стратегического преимущества. Обзор зарубежных инициатив

Полупроводниковая отрасль стала площадкой международного соперничества между США, ЕС и Азией и стратегическим активом для геополитического влияния. Разнообразие и специализированное производство чипов не позволяют создавать их на одном заводе, а ограниченная взаимозаменяемость формирует зависимость от иностранных фабрик.

➡️ С 2020 года ЕС поддерживает отрасль через «Закон о чипах», задача которого увеличить долю союза в мировых мощностях по производству чипов до 20%. Закон вводит инициативы по снижению барьеров для входа в проектирование чипов, решения по акционерному капиталу и долговым обязательствам, центры компетенций и Европейский совет по полупроводникам. Однако некоторые эксперты считают, что цель не обеспечивает технологическую конкурентоспособность и национальную безопасность.

➡️ В США подход к полупроводниковому сегменту строго регламентирован. «Закон о чипах для Америки» 2022 года направлен на снижение издержек, увеличение рабочих мест и укрепление цепочек поставок. Компании, получающие государственные субсидии, не могут расширять производство в Китае. В июне 2024 года представлен законопроект, ограничивающий покупку китайского оборудования при государственном финансировании в полупроводниковой отрасли.

➡️ Стратегия Японии в области полупроводников отличается от стратегии США, но тоже имеет геополитическую ориентацию. Ключевая концепция в стратегии экономической безопасности – поддержание, укрепление и получение стратегической незаменимости.

💻 Подробнее – в новом материале на сайте Научно-технического центра.

🤖 Новости из мира IT-технологий. Главное – в дайджесте⬇️

⏺ Госдума в I чтении приняла законопроект о защите прав пользователей онлайн-подписок

⏺ Высший суд Бразилии отменил замораживание банковских счетов Starlink и X

⏺ Google предложила продать свою рекламную платформу AdX издательским компаниям из ЕС

⏺ В Калифорнии ввели ограничение на использование ИИ в кино

⏺ Суд ЕС отменил штраф в €1,5 млрд в отношении Google

⏺ В Госдуму внесли законопроект об охране голоса человека при его генерации ИИ

⏺ Федеральный суд заблокировал закон Техаса о социальных сетях и закон штата Юта, ограничивающий использование социальных сетей подростками

⏺ Meta* грозит штраф в $13,5 млрд за нарушение цифрового законодательства ЕС

*Компания Meta Platforms признана в России экстремистской организацией и запрещена

#НТЦ_дайджест

🤖 ИИ как преобразующая технология. Перспективы и заблуждения

В зарубежной повестке отмечается снижение шумихи вокруг искусственного интеллекта и снижение ожидаемой прибыли от его применения из-за замедления совершенствования и возрастания расходов на эксплуатацию.

➡️ Переоценка ИИ началась с 1950-х во время разработки интеллектуальных машин, далее последовало снижение интереса и финансирования.

➡️ Возрождение в 1990-х годах в виде дисциплины, ориентированной на поиск закономерностей в больших объемах данных с помощью усложнения алгоритмов.

➡️ В 2000-х интернет привел к инновациям в области науки о данных.

➡️ Это обусловило появление новых многоуровневых алгоритмов глубокого обучения в 2010-х.

➡️ Недавнее появление базовых моделей, включая генеративный ИИ, больших языковых моделей не оставляет сомнений относительно ИИ как преобразующей технологии.

Вместе с тем, нереалистичные ожидания и постоянный ажиотаж могут привести к разочарованию. Изменение мышления и привычек людей станет одним из самых больших препятствий для быстрого внедрения ИИ. Это последовательная тенденция при внедрении любых новых технологий. Таким образом, рыночный успех зависит от принятия технологии в экономике и от технологических достижений.

💻 Подробнее – в новом материале на сайте Научно-технического центра.

🤔 Что нового в сфере регулирования? Рассказываем в дайджесте! Собрали для вас значимые новости последней недели👇

⏺ В России предложили штрафовать сервисы за сбор избыточных персональных данных

⏺ Сингапур принял закон, запрещающий использование дипфейков во время выборов

⏺ Google и Apple проиграли судебные процессы против ЕС и должны выплатить штрафы

⏺ В Южной Корее приняли новый закон о персональных данных

⏺ Верховный суд Бразилии оставил в силе запрет на использование социальной медиаплатформы X

⏺ Власти Австралии сообщили о намерении запретить детям до 16 лет пользоваться социальными сетями

⏺ Google злоупотребляет своим доминирующим положением на рынке цифровой рекламы, – британский регулирующий орган

⏺ Штат Нью-Мексико подал в суд на Snap из-за неспособности защитить детей от сексуальной эксплуатации

#НТЦ_дайджест

🤝 Технологическая дипломатия – новые тренды международных отношений

В середине 2017 года Дания первой в мире возвела технологии и цифровизацию в ранг приоритета внешней политики и политики безопасности. Эта инициатива получила название технологической дипломатии, или TechPlomacy.

Она направлена на анализ трех тенденций во внешней политике:

✅ общественные изменения, обусловленные технологическим прорывом;
✅ роль многонациональных технологических компаний как движущей силы инноваций;
✅ появление нового вектора внешней политики, вызванного ростом негосударственных субъектов.

💡 Цель инициативы — сформировать баланс сил в глобальном масштабе и обеспечить кибербезопасность.

TechPlomacy регулирует диалог с технологическими компаниями и международную повестку дня в области технологической политики, включая формирование новых альянсов и партнерств. Ключевые темы обсуждений: дезинформация, борьба с терроризмом, дипфейки, цифровое налогообложение, этика данных и отраслевые вопросы.

Сотрудничество, опирающееся на ключевые элементы технологической дипломатии, гарантирует достижение экономического лидерства и соблюдение принципов доверия.

💻 Подробнее – в новом материале на сайте Научно-технического центра.