ИИ & Право

В суде раскрыта внутренняя переписка OpenAI

Судебные материалы по иску Илона Маска против OpenAI раскрыли внутреннюю переписку компании за 2015–2018 годы, показывающую ключевые споры, связанные с контролем над ИИ, партнерствами и лидерством. Эти письма дают уникальное представление о процессах принятия решений в начале существования OpenAI.

Несколько интересных фактов:

✅ Опасения по поводу контроля над AGI: Сооснователь Илья Суцкевер выражал обеспокоенность возможными сценариями "диктатуры", указывая как на внешние угрозы, такие как Google, так и на внутренние риски.

✅ Борьба за удержание талантов: В ответ на попытки DeepMind переманить сотрудников OpenAI быстро увеличила зарплаты ключевым членам команды на $100-200 тыс.

✅ Напряжение вокруг партнерства с Microsoft: Маск выступил против сотрудничества, заявив, что заплатил бы "$50 млн, чтобы не казаться маркетинговой пешкой Microsoft."

✅ Трения в руководстве: Мотивация и приоритеты Сэма Альтмана вызывали вопросы, что стало причиной внутренних споров.

#OpenAI #AIEthics

В Германии подан иск против OpenAI за несанкционированное использование текстов песен при обучении ИИ

Крупнейшая немецкая организация по защите авторских прав GEMA подала иск против OpenAI за нарушение авторских прав. Это первый случай, когда оспаривается использование текстов песен при обучении ИИ. В иске, поданном в Мюнхене, утверждается, что OpenAI использовала лицензированные GEMA тексты песен без разрешения. В отличие от аналогичных дел в США, связанных с аудиозаписями, данный иск касается исключительно текстов.

В ЕС действует директива 2019 года, согласно которой использование текстов и данных для обучения ИИ возможно только в случае отсутствия отказа (opt-out) правообладателя. GEMA отказалась предоставлять свои тексты для ИИ-моделей, что стало одним из оснований иска.

#ИИ ##LegalTech

Google Gemini предложил пользователю умереть

По сообщению CBS чат-бот Google Gemini выдал шокирующий ответ студенту из Мичигана. В ходе обычного разговора по домашнему заданию бот направил угрожающую фразу, призывая пользователя «умереть».

В Google признали инцидент нарушением своих политик безопасности, однако не дали подробных объяснений случившемуся. Это не первый случай, говорящий о серьезных недочетах в системах безопасности ИИ, что в очередной раз вызывает вопросы о правовой и этической ответственности разработчиков.


#AIEthics

В Европе опубликован первый проект Кодекса практики для ИИ общего назначения

ЕС представил первый проект "Кодекса практики для ИИ общего назначения" (General-Purpose AI Code of Practice). Этот документ, разработанный Европейским офисом ИИ совместно с группами независимых экспертов, нацелен на предоставление практических рекомендаций для разработчиков моделей ИИ общего назначения. Основные рекомендации включают оценку системных рисков, прозрачность данных для обучения и подробные процедуры соблюдения требований в соответствии с Законом ЕС об ИИ.

Проект открыт для обратной связи и не является финальной версией документа.

#AICompliance #EUAIAct #AIRegulation

📩 Вышел новый отчет BCG "В чем ценность в ИИ?". Boston Consulting Group провела исследование текущей ситуацияи с использованием бизнесом технологий ИИ.
На сегодняшний день, несмотря на значительные инвестиции и усилия, лишь небольшая доля компаний смогла успешно и эффективно внедрить ИИ в свою деятельность. В BCG подсчитали, что только 22% компаний успешно преодолели proof-of-concept stage и лишь 4% - создают substantial value.
Компании-лидеры в области ИИ ставят амбициозные цели по повышению производительности, используют ИИ для сокращения затрат и максимизации прибыли. При этом они концентрируют свои усилия не только на технологиях и алгоритмах, а на развитии человеческого капитала и оптимизации рабочих процессов. Лидеры также быстро переключились на GenAI с его уникальными возможностями по созданию контента и качественному анализу больших данных.
 
📌Комментарий экспертов Центра ИИ МГИМО:
Эксперты BCG обошли вниманием компании из развивающихся стран, прежде всего азиатских, что вызывает вопросы с учетом активного тестирования и совершенствования моделей ИИ теми же китайскими и индийскими технологическими гигантами. Достижения российских компаний в сфере применения ИИ и мнения профильных экспертов также не нашли отражения в отчете, хотя они, безусловно, заслуживают детального изучения.

В Канаде подали в суд на ИИ стартап за использование судебных материалов

Канадский институт правовой информации (Canadian Legal Information Institute, CanLII) подал в суд на стартап Caseway, использующий ИИ в сфере юридических исследований, утверждая, что сервис незаконно использует его обработанные судебные решения для создания своей базы данных. CanLII заявил, что данные защищены авторским правом, так как включает значительную редакторскую работу, такую как каталогизация и обработка судебных материалов для более удобного использования.

Основатель Caseway, Алистер Вигье, отрицает использование обработанных данных CanLII, утверждая, что их платформа использует только оригинальные судебные записи и не хранит защищенный авторским правом контент от CanLII.

Интересно, что после подачи иска, Caseway сообщил о всплеске интереса к своей платформе как от у подписчиков, так и у потенциальных инвесторов.

#ИИ #LegalTech #

Иск к OpenAI о нарушении авторских прав при обучении ИИ отклонен

Недавнее решение суда в Нью-Йорке стало важным прецедентом в спорах об авторских правах, связанных с обучением ИИ. Судья Колин Макмэн отклонила иск против OpenAI от новостных изданий Raw Story и AlterNet, которые утверждали, что их материалы были использованы без разрешения для обучения ChatGPT.

Иск был отклонен на основании того, что истцы не смогли доказать достаточный ущерб. Тем не менее, судья Макмэн предоставила возможность подать измененную жалобу, хотя выразила сомнение, что издания смогут обосновать наличие ущерба.

OpenAI утверждает, что их практика обучения моделей соответствует принципам добросовестного использования (fair use), поскольку они используют общедоступные данные и опираются на устоявшиеся правовые прецеденты.

Raw Story и AlterNet рассматривают возможность подачи измененной жалобы и выражают уверенность в том, что смогут устранить замечания суда.

#Copyright #AITraining #FairUse #IntellectualProperty #AIRegulation

Против Character.ai подан иск после самоубийства подростка, использовавшего сервис

Во Флориде подан иск против компании Character.ai, которую обвиняют в халатности и причинении эмоционального ущерба. Иск связан с самоубийством 14-летнего подростка, который общался с чатботом, имитирующим популярного вымышленного персонажа. Утверждается, что чатбот поощрял деструктивное поведение во время бесед.

В ответ Character.ai пообещала внедрить новые протоколы безопасности, включая направление пользователей к ресурсам по психическому здоровью. Этот трагический случай подчеркивает необходимость для разработчиков ИИ и регулирующих органов создать защитные правила, чтобы уменьшить потенциальные риски и обеспечить безопасность уязвимых пользователей.

#ИИ #ЭтикаИИ

Илон Маск возглавит политику США в области ИИ?

В США запустили кампанию за то, чтобы Илон Маск сыграл ведущую роль в формировании политики страны в области искусственного интеллекта. Американская организация по ответственным инновациям (Americans for Responsible Innovation, ARI) инициировала петицию с призывом к избранному президенту Трампу назначить Маска специальным советником по вопросам ИИ. ARI, возглавляемая бывшим представителем Демократической партии Брэдом Карсоном, считает, что опыт Маска, как критика, так и разработчика ИИ, позволяет ему содействовать лидерству США в этой области и обеспечить ответственное внедрение технологии. Петиция нацелена на сбор 10 000 подписей.

Несмотря на некоторые опасения по поводу конфликта интересов, ARI считает, что взгляд Маска может внести значительный вклад в политику безопасности ИИ. По словам аналитика ARI Дэвида Робусто, предыдущие призывы Маска к мораторию на развитие ИИ и его участие в создании OpenAI свидетельствуют о приверженности осторожным инновациям.

#ИИ #ИлонМаск #AIPolicy

Департамент образования Аляски использовал ложные данные из-за галлюцинации ИИ

Департамент образования и развития Аляски использовал генеративный ИИ для подготовки правил по ограничению использования мобильных телефонов в школах, но ИИ создал не существующие цитаты, которые едва не повлияли на решения Департамента. Эти галлюцинации ИИ оказались недостоверными и вводящими в заблуждение, выявив пробелы в процессах проверки информации пользователями моделей искусственного интеллекта.

Этот случай в очередной раз обращает внимание на то, что на настоящем этапе развития технологии ИИ является хорошим помощником, но не стоит полагаться на предлагаемые им результаты без проверки человеком.

#ИИ

В ЕС выпущен новый шаблон инструкции по применению систем ИИ высокого риска

Центр знаний по данным и обществу разработал рабочий шаблон инструкции по применению, чтобы помочь поставщикам и пользователям систем ИИ высокого риска соответствовать статье 13 Закона ЕС об ИИ. Шаблон включает необходимые элементы для создания прозрачных и полных инструкций по использованию, адаптированных к специфическому профилю рисков и цели каждой системы ИИ высокого риска.

Поставщики могут использовать шаблон для описания цели системы, её основных характеристик и связанных рисков, обеспечивая соблюдение требований законодательства и предлагая четкое руководство для пользователей.

#ИИ #AIAct

Всемирный экономический форум выпустил новый отчет об управлении ИИ

Новый отчет Всемирного экономического форума «Управление в эпоху генеративного ИИ» рассказывает о том, как эффективное управление ИИ требует своевременной и стратегической оценки регуляторных рамок, ответственности бизнеса и соблюдения прав человека. Для ответственного использования искусственного интеллекта политикам необходимо оценить, соответствуют ли действующие законы и нормативные акты уникальным рискам, связанным с генеративным ИИ, и обеспечить защиту уязвимых групп в соответствии с международными стандартами в области прав человека.

В отчёте также подчеркивается важность баланса между осторожным регулированием и необходимостью поддержания инноваций. Государствам рекомендуется применять основанное на рисках и гибкое управление, которое сочетает динамику технологий с сохранением надзора и соблюдением прав человека. В конечном итоге цель заключается в создании ИИ-среды, которая поддерживает как общественные интересы, так и экономические инновации через надёжное управление рисками, чёткие правила и соблюдение отраслью общественных ценностей.

#ИИ #AIGovernance #WEFReport #ResponsibleAI #AIandSociety

IAPP обновила книгу знаний для сертификации AIGP в 2025 году

IAPP представила новую версию AIGP Body of Knowledge (BoK), которая будет актуальна для экзаменов с 2 февраля 2025 года. Обновление делает сертификацию более простой, гибкой и ориентированной на практическое применение.

Количество доменов сокращено до четырех. Новая структура фокусируется на основополагающих принципах, чтобы сертификация соответствовала ключевым мировым правовым стандартам.

Эта обновленная версия акцентируется на реальных задачах, с которыми сталкиваются специалисты в области управления ИИ, а не только на теоретических вопросах. Кроме того, домены III и IV теперь разделяют роли разработчиков и лиц, внедряющих ИИ, что отражает текущие изменения в законодательных нормах и стандартах.

Хороший повод рассказать, что автор нашего канала в этом году не только успешно сдала экзамен и получила сертификат AIGP, но и участвовала в специальных сессиях IAPP, посвященных подготовке вопросов для обновленного экзамена. Немного о том, как готовиться к экзамену, мы писали здесь.

#AIGP #AIGovernance #LegalTech #ResponsibleAI

ЕС стремится укрепить лидерство в области ИИ через инвестиции и стратегическое управление

Совет ЕС одобрил призыв Европейской счетной палаты повысить амбиции ЕС в сфере ИИ, подчеркнув необходимость увеличения целевых инвестиций и усиления управления. Признавая потенциал ИИ в укреплении глобальной конкурентоспособности Европы, Совет ЕС призывает сосредоточиться на развитии талантов в сфере ИИ и создании экосистемы, основанной на принципах доверия и совершенства.

Кроме того, Совет акцентирует внимание на необходимости учета экологического воздействия ИИ, особенно в повышении энергоэффективности и надежности цепочек поставок оборудования, при разработке политики ЕС в области ИИ.

#ИИ #EUCouncil

Роберт Дауни-младший выступил против цифрового копирования в Голливуде

Роберт Дауни-младший недавно высказался против создания цифровых копий актеров с помощью ИИ в подкасте «On With Kara Swisher», заявив, что будет судиться с любым будущим голливудским представителем, который попытается воссоздать его образ с помощью ИИ.
Актер, известный своей ролью Железного человека, отметил, что не беспокоится о возможном повторном использовании Marvel его персонажа, поскольку доверяет нынешним руководителям компании. Тем не менее, он категорически против того, чтобы его облик или личность когда-либо воссоздавали с помощью ИИ, даже после его смерти.

«Ты будешь мертв», - заметила журналистка, на что Дауни ответил: «Но моя юридическая фирма по-прежнему будет очень активной».

#AIGovernance #AIEthics

Департамент труда США выпустил новый документ об искусственном интеллекте в трудовой сфере

Департамент труда США опубликовал документ «ИИ и благополучие работников: Принципы и лучшие практики для разработчиков и работодателей». Документ рассматривает восемь ключевых принципов:

1️⃣ Расширение прав и возможностей работников
«Работники и их представители, особенно из малообеспеченных слоев населения, должны быть проинформированы и иметь реальный вклад в проектирование, разработку, тестирование, обучение, использование и надзор за системами искусственного интеллекта для применения на рабочем месте».

2️⃣ Этичное развитие ИИ
«Системы ИИ должны проектироваться, разрабатываться и обучаться таким образом, чтобы защищать работников».

3️⃣ Создание системы управления ИИ и человеческого надзора
«Организации должны иметь четкие системы управления, процедуры, человеческий надзор и процессы оценки систем ИИ для использования на рабочем месте».

4️⃣ Обеспечение прозрачности использования ИИ
«Работодатели должны открыто сообщать работникам и соискателям о системах искусственного интеллекта, которые используются на рабочем месте».

5️⃣ Защита трудовых прав и прав на занятость
«Системы искусственного интеллекта не должны нарушать или подрывать право работников на самоорганизацию, права на охрану здоровья и безопасность, права на оплату труда, а также защиту от дискриминации и преследований».

6️⃣ Использование ИИ для расширения возможностей работников
«Системы искусственного интеллекта должны помогать, дополнять и расширять возможности работников, а также повышать качество работы».

7️⃣ Поддержка работников, пострадавших от ИИ
«Работодатели должны поддерживать или повышать квалификацию работников при переходе на другую работу, связанном с ИИ».

8️⃣ Обеспечение ответственного использования данных работников
«Данные работников, собираемые, используемые или создаваемые системами ИИ, должны быть ограничены по объему и местоположению, использоваться только для поддержки законных целей бизнеса, а также защищаться и обрабатываться ответственным образом».

#AI #AIEthics

Бывший сотрудник OpenAI заявил о нарушении компанией авторских прав

Бывший исследователь OpenAI, помогавший собирать обучающие данные для ChatGPT, рассказал, что компания использует материалы, защищенные авторским правом, нарушает закон и наносит ущерб экосистеме интернета и контента.

Сучир Баладжи, который покинул OpenAI в августе, заявил, что модели делают полные копии обучающих данных и напрямую конкурируют с создателями оригинального контента. Баладжи работал над обучением GPT-4 и заявил, что использование OpenAI интернет-данных не должно квалифицироваться как «добросовестное использование» (fair use) - аргумент, который приводят многие компании, занимающиеся разработкой ИИ при использовании авторского контента.

#AI #OpenAI #Copyright

Dow Jones и New York Post подали в суд на ИИ-стартап Perplexity, обвинив его в «массовом» нарушении авторских прав

Компания News Corp's Dow Jones & Co., издатель Wall Street Journal, и New York Post подали в суд на Perplexity - стартап, называющий себя «швейцарским армейским ножом на базе ИИ для поиска информации и любопытства», обвиняя его в нарушении авторских прав.

В иске утверждается, что в июле 2024 года Dow Jones и Post направили Perplexity письмо, в котором «поставили ее в известность о правовых проблемах, возникших в связи с несанкционированным использованием Perplexity работ истцов, защищенных авторским правом, и предложили обсудить потенциальную лицензионную сделку». Однако в Perplexity на письмо не ответили.

В иске содержится требование запретить Perplexity незаконное копирование авторского контента истцов без их разрешения и выплатить компенсацию за нарушение авторских прав «до 150 000 долларов за каждое нарушение, реальный ущерб и прибыль Perplexity за каждое нарушение, включая каждую несанкционированную цифровую копию или другой контент, полученный из авторских работ Dow Jones и NYP Holdings».

#AI #Perplexity

95% компаний, использующих ИИ, не внедрили системы управления рисками

Недавний отчет от Prove AI и Zogby Analytics рассказывает о критической проблеме в управлении ИИ: 95% компаний до сих пор не внедрили структуры для эффективного управления рисками искусственного интеллекта.

Это происходит несмотря на то, что 96% из более чем 600 опрошенных генеральных директоров, ИТ-директоров и технических директоров из США, Великобритании и Германии уже используют ИИ в своей деятельности и планируют увеличить свои бюджеты на ИИ в следующем году. Основными мотивами являются повышение производительности (82%) и эффективности операций (73%). При этом обеспокоенность по поводу целостности данных и безопасности остается значительным барьером для более широкого использования.

Хотя бизнес-лидеры признают стратегическую ценность ИИ, они также понимают и связанные с ним риски. В отчете указано, что 82% считают управление ИИ важным приоритетом, и большинство стремится к его реализации к лету 2025 года. Необходимость в этом усиливается на фоне развивающегося глобального регулирования ИИ, например вступление в силу Закона ЕС об ИИ. Генеральный директор Prove AI отмечает, что «долгосрочная эффективность инвестиций в искусственный интеллект зависит от разработки комплексных стратегий управления ИИ».

#ИИ #AIGovernance

Комиссия по ценным бумагам и биржам США урегулировала дело с Destiny Robotics, связанное с несуществующем продуктом на базе ИИ

Комиссия по ценным бумагам и биржам США заключила соглашение с Destiny Robotics после того, как стартап не выполнил свои обещания по выпуску ассистента с ИИ и человекоподобного робота, из-за чего инвесторы потеряли все свои вложенные в стартап средства. Основанная в 2021 году, Destiny Robotics утверждала, что выпустит инновационного голографического домашнего ассистента с ИИ в 2022 году и человекоподобного робота годом позже. Однако, по данным Комиссии, компания так и не разработала жизнеспособный продукт. Вместо этого стартап использовал готовое программное обеспечение для демонстраций, в то время как на самом деле проект был заброшен.

Комиссия также указала на проблемы с прозрачностью, включая тот факт, что генеральный директор компании не раскрыла информацию о своих личных отношениях с одним из ведущих инвесторов во время раунда краудфандинга. Расследование Комиссии показало, что директор использовала $13,000 из средств компании на личные нужды, такие как оплату заявок на поступление в бизнес-школы. Несмотря на заявления о впечатляющем резюме на сайте компании, выяснилось, что у нее не было значительного опыта в технологической отрасли.

История Destiny Robotics служит предупреждением о важности прозрачности, подотчетности и должной осмотрительности в сфере стартапов, работающих с искусственным интеллектом.

#SEC #ИИ