howtocomply_AI: право и ИИ

Опубликован первый вариант текста Кодекса лучших практик для моделей ИИ общего назначения

Сегодня на сайте Еврокомиссии был опубликован первый вариант текста Кодекса лучших практик для моделей ИИ общего назначения (General-Purpose AI Code of Practice). Кратко о том, что из себя представляет кодекс, я писал здесь.

Документ находится на очень ранней стадии подготовки. По сути, он представляет собой изложение положений Регламента ЕС об ИИ (в части систем и моделей ИИ общего назначения), а также подробный перечень конкретных мер по их реализации, сформулированный руководителями каждой рабочей группы на основе отзывов стейкхолдеров. Также в документе выделены проблемные вопросы и ключевые развилки, ответы на которые будут найдены в ходе последующих стадий подготовки и обсуждения. Таким образом, текст, вероятно, ожидают еще неоднократные изменения.

На следующей неделе в каждой из четырех рабочих групп пройдут заседания с участием широкой группы экспертов для обсуждения предложенного текста. Как уже отмечал ранее, я планирую их посетить, так как вхожу в число этих экспертов. По итогам обсудим наиболее интересные моменты и разберем соответствующие части кодекса 🤩.

Ответственность за вред, причиненный системами ИИ в ЕС: невероятные приключения PLD и AILD

Друзья, все мы любим тему ответственности, поэтому разбираем сразу несколько важных новостей из ЕС:

Евросовет подписал Директиву об ответственности за качество продукции (Product Liability Directive, PLD). Ждем текст в официальном источнике, а пока финальный его вариант можно прочитать тут. Ранее я делал подробный обзор документа, поэтому сейчас не будем на нем подробно останавливаться. Скажу лишь, что она крайне важна для нас, так как прямо относит ПО (включая ИИ) и робототехнику к продуктам, распространяя на них ответственность за продукцию ненадлежащего качества.

В 2022 году была опубликована Директива об ответственности в сфере ИИ (AI Liability Directive, AILD), которая направлена на то, чтобы найти баланс между технологическим развитием и защитой интересов пользователей за счет сочетания виновной и строгой ответственности для поставщиков систем ИИ повышенного риска. То есть, с одной стороны, ответственность не всегда по умолчанию возлагалась бы на поставщиков систем ИИ повышенного риска, а с другой — у пользователей был бы более простой способ доказать причинно-следственную связь между выходными результатами работы системы ИИ и общественно опасными последствиями.

Однако после принятия Регламента ЕС об ИИ текст директивы, который сильно завязан на его положения, был отправлен на доработку. Поскольку концепция документа вызвала неоднозначную реакцию у экспертов и бизнеса, Комитет по правовым вопросам Европарламента (JURI) запросил провести дополнительную оценку воздействия. Документ был составлен известным специалистом по ИИ-регулированию Филиппом Хакером, который ранее опубликовал ряд материалов на тему ответственности.

Какие выводы содержатся в документе? (не все однозначные, если честно 🤩)

Директиву следует значительно расширить за счет включения в ее сферу действия всего ПО, а не только ИИ, а также превратить ее в регламент (другой вид акта, который применяется напрямую во всех государствах-членах).

Концептуально документ должен быть аналогичен PLD, но распространяться на те сферы, которые находятся за ее границами (подробнее на скриншоте).

Ввести новую группу систем ИИ, оказывающих значительное воздействие (high-impact AI systems), в которую должны входить системы повышенного риска, системы/модели ИИ общего назначения, все системы, которые интегрированы в продукты из раздела B приложения I (в понимании Регламента ЕС об ИИ), а также автономный транспорт и страховые приложения.

Ввести строгую (безвиновную) ответственность в случае причинения вреда из-за создания системы ИИ из списка запрещенных Регламентом ЕС об ИИ.

Рассмотреть в ходу широкого общественного обсуждения возможность использования строгой ответственности для поставщиков систем ИИ повышенного риска (кстати, аналогичное предложение мы с коллегой озвучивали в статье тут).

Распределять ответственность внутри цепочки поставки систем ИИ на основе гибкого сочетания следующих принципов: равенства сторон, поддержки малого бизнеса и защиты нижестоящих поставщиков и эксплуатантов.

Более сотни компаний согласились добровольно соблюдать отдельные положения Регламента ЕС об ИИ

Еврокомиссия опубликовала список из 115 компаний, которые подписали ИИ-пакт.

TLDR: ИИ-пакт направлен на то, чтобы бизнес добровольно начал исполнять ряд требований Регламента до того, как они начнут официально действовать (сроки — тут). Все это будет происходить в постоянной коммуникации компаний и компетентных органов, что позволит первым плавно и надежно подготовиться к соблюдению законодательных требований, а вторым — поработать над правоприменением и выработать лучшие практики.

Подробнее про пакт я писал тут и тут.

Кто, например, есть в списке?

Европа: Siemens, Airbus, IKEA, Deutsche Telekom, Vodafone, Orange, Dassault Systèmes, INGKA Group и Scania.

США: Microsoft, IBM, Google, Amazon, Palantir, Salesforce, Cisco, Autodesk, Hewlett Packard Enterprise, Motorola Solutions, Snap, Workday, Adobe, Intuit и Qualcomm.

Канада: Cohere.

Индия: Infosys, Tata Consulting Services (TCS) и Wipro.

Япония: NEC.

Австралия: Atlassian.

Израиль: Corsight AI.

Новая Зеландия: Waiheke.

Кого мы не видим в списке?

В исходном списке отсутствуют Meta (запрещена в РФ), Apple, Anthropic и все китайские компании (включая TikTok и Tencent). Из крупных европейский игроков на рынке ИИ в пакте пока не принял участие Mistral AI.

Что это значит?

Ничего. Участие в пакте добровольное и не отменяет того, что компании готовятся самостоятельно. Например, Politico пишет, что Meta уже проводит меры по соответствию требованиям Регламента и не исключает возможности присоединиться к пакту позднее.

Какие органы и исследовательские организации в наибольшей степени влияют на формирование правового и технического регулирования в Китае?

Аналитический центр Institute for AI Policy and Strategy (IAPS) выпустил отчет, в котором исследователи проанализировали наиболее влиятельные китайские исследовательские организации в сфере ИИ и сравнили их по функциям с институтами безопасности ИИ, существующими в США и Великобритании. Последние сейчас выполняют крайне важные функции: они разрабатывают стандарты и методики, направленные на обеспечение безопасности ИИ, а также по согласованию с технологическими компаниями осуществляют внешние оценки передовых систем и моделей ИИ перед их официальным релизом.

Среди ключевых организаций авторы выделяют:

Cyberspace Administration of China (CAC) — основной регулятор в сфере ИИ. Готовит нормативные акты, осуществляет регистрацию и оценку систем ИИ, а также следит за распространением информации, признанной незаконной и вредной с точки зрения нынешних властей.

National Cybersecurity Standardization Technical Committee 260 (TC260) — комитет при национальном органе по стандартизации, который занимается определением рисков, связанных с разработкой и применением ИИ, а также разработкой методик оценки систем ИИ. Существуют также два других комитета по стандартизации (TC28/SC42 и CESA), но пока доступно мало информации о результатах их работы.

China Academy for Information and Communications Technology (CAICT) — аналитический центр при Министерстве промышленности и информатизации КНР, который непосредственно занимается внешними оценками систем и моделей ИИ, а также координирует работу совета стейкхолдеров Artificial Intelligence Industry Alliance (AIIA) и лаборатории, специализирующейся на разработке методик оценки AI Critical Technology and Applications Evaluation (AICTAE).

Международным сотрудничеством в сфере ИИ занимаются Institute for AI International Governance (I-AIIG) и Center for International Security and Strategy (CISS).

Также выделяются исследовательские организации, которые разрабатывают модели ИИ, изучают их безопасность и создают методики оценки: Beijing Academy of Artificial Intelligence (BAAI), Peng Cheng Lab (PCL), Shanghai AI Lab (SHLAB).

Еврокомиссия опубликовала проект имплементационного акта о создании совета независимых экспертов для AI Office

На сайте Еврокомиссии для общественного обсуждения размещен проект имплементационного акта о создании совета независимых экспертов для поддержки AI Office.

Что это за совет?

Совет создается в соответствии со статьей 68 Регламента ЕС об ИИ, которая прямо предусмотрела необходимость формирования соответствующего органа для поддержки правоприменителей и принятия для этого отдельного имплементационного акта.

Для чего он нужен?

Главной задачей совета будет консультирование AI Office относительно применения положений Регламента к системам и моделям ИИ общего назначения:

- совет должен предупреждать AI Office в том случае, если он обнаружил, что какая-либо система или модель ИИ достигла пороговых значений или представляет неизвестные ранее риски и должна быть отнесена к группе, представляющих системные риски (прим.: такие модели ИИ можно условно назвать продвинутыми. Регламент накладывает на их провайдеров большие требования);

- совет содействует разработке инструментов и методик по оценке возможностей систем и моделей ИИ;

- совет предоставляет рекомендации по классификации моделей ИИ общего назначения, представляющих системные риски;

- совет готовит необходимые инструменты и шаблоны документов.

Помимо этого, совет также будет помогать AI Office и компетентным органам стран-членов ЕС в исполнении функций, возложенных на них Регламентом.

Кто в него будет входить?

Совет будет состоять из компетентных межотраслевых независимых экспертов и формироваться на два года на основе открытого конкурса. Для членов совета возможно однократное продление полномочий на еще один срок. Конкретная численность органа будет определяться отдельно каждые два года Еврокомиссией и AI Board (совет представителей стран-членов ЕС). Однако общая численность совета не должна превышать 60 человек (эта цифра пока под вопросом). Эксперты, которые отвечают критериям, но по каким-то причинам не попали в текущий совет, включаются в резервный список.

Завтра выступаю на Евразийском конгрессе по защите данных: делюсь ссылкой на прямой эфир

24 октября состоится Евразийский конгресс по защите данных, на котором запланирована отдельная секция по AI Governance. На ней мы с коллегами обсудим разные полюса ИИ-реглирования, такие как интеллектульная собственность, защита данных, качество работы систем ИИ. Я планирую рассказать про тренды регулирования в сфере разработки и применения передовых фундаментальных моделей ИИ.

Начало нашей секции в 16:00. Также советую посмотреть полную программу, там много всего интересного.

Есть ли консенсус в том, какие положения должны содержать политики допустимого использования моделей ИИ?

Для ответа на этот вопрос обратимся к статье Кевина Клаймана (Stanford HAI), которая была недавно опубликована в сборнике по итогам конференции AI Ethics and Society (кстати, там много других интересных докладов). Автор проанализировал политики и схожие документы 30 наиболее известных разработчиков моделей ИИ в США, ЕС и Китае.

Остановимся на некоторых интересных выводах:

- законодательство отдельных стран и регионов уже обязывает разработчиков и провайдеров контролировать использование моделей, но, как правило, не устанавливает требований к конкретной форме документов. В Китае поставщики услуг генеративного ИИ должны уведомлять пользователей о невозможности совершения противозаконных действий и противодействовать им. В США лидирующие ИИ-компании добровольно публикуют информацию в соответствии с достигнутыми соглашениями с Белым домом. Исключением является Регламент ЕС об ИИ, который требует иметь политику допустимого использования для всех провайдеров моделей ИИ общего назначения. Однако более детальные требования к документу будут позднее изложены в гармонизированных стандартах и кодексах лучших практик;

- помимо политик допустимого использования, аналогичные положения, ограничивающие последующих провайдеров и пользователей, могут содержаться в карточках моделей/систем ИИ, политиках об особенностях работы моделей (Model Behavior Policies), договорах с третьими сторонами (поставщиками облачных услуг и наборов данных);

- если разработчики моделей ИИ, как правило, в состоянии самостоятельно разработать необходимую документацию, то не факт, что это смогут качественно сделать последующие провайдеры из-за ограниченности ресурсов и компетенций;

- политики допустимого использования разных компаний имеют несколько разное содержание (а некоторые компании вообще их не имеют). Это может иметь негативные последствия для экономики и рынка ИИ-моделей, так как бизнес может перестраховываться и чрезмерно ограничивать потенциально выгодные сценарии использования моделей ИИ;

- компаниям крайне сложно следить за выполнением политик допустимого использования провайдерами и пользователями. Более того, некоторые организации фактически этого не делают, так как либо не заинтересованы в этом, либо не имеют необходимых возможностей.

Таким образом, несмотря на то что уже возникают нормативные и технические требования к документации, во многом государства стараются избежать чрезмерно жестких требований и отдают ее содержание на откуп отраслевому саморегулированию.

Выступил с лекцией об основах регулирования в сфере ИИ. Запись можно посмотреть на ютубе

Пару недель назад я оказался проездом в Черногории, где выступил с открытой лекцией перед русскоязычным коммьюнити в Auditoria Budva. Мероприятие выдалось очень теплым и камерным. Всегда интересно работать с вовлеченной аудиторией.

В лекции я затронул базовые вопросы терминологии, а также рассмотрел насущные юридические проблемы. В финальной части можно найти краткий обзор подходов отдельных юрисдикций.

Как лучше определять продвинутый ИИ с юридической точки зрения?

Друзья, на прошлой неделе я дал себе небольшой тайм-аут поболеть и восстановиться. Но уже снова в строю, продолжаем 🐱.

Американский аналитический центр Law & AI опубликовал статью, в которой авторы рассматривают существующие в законодательстве определения продвинутого ИИ и дают свои рекомендации.

Пробежимся по основным частям документа:

1. Авторы сравнивают три определения из нормативных актов:

- Определение фундаментальной модели ИИ двойного назначения из прошлогоднего Указа Президента США (разбирал его тут).

- Определение модели ИИ из Калифорнийского законопроекта SB 1047 «О безопасных и надежных инновациях для передового ИИ». Кстати, он был одобрен парламентом, но губернатор штата наложил на него вето из-за чрезмерно узкого фокуса регулирования. По мнению губернатора, законопроект направлен на продвинутый ИИ, но при этом игнорирует модели меньшего размера, которые также могут представлять существенные риски. Ждем новый текст.

- Определение модели ИИ общего назначения, представляющей системные риски, из Регламента ЕС об ИИ.

2. На основе анализа определений авторы выявили ряд признаков:

- Технические характеристики, такие как объем вычислительных мощностей, число параметров и размер наборов данных. Сейчас, за некоторыми исключениями, объем вычислительных мощностей, затраченных на обучение моделей ИИ, привязан к верхним границам существующих передовых моделей: 10^25 — 10^26 FLOPS (равно или превышает уровень GPT-4). Авторы отмечают, что с одной стороны, установление четких числовых характеристик поможет сделать нормативные требования более определенными, а с другой — любое изменение технологических реалий неизбежно повлечет необходимость пересмотра существующих критериев. Например, несложно представить, что в будущем небольшие модели могут обладать существенными характеристиками. Поэтому наиболее удачным вариантом будет установление пороговых технических характеристик органами исполнительной власти на основе широкого законодательного определения (схожий подход уже используется в Регламенте ЕС об ИИ).

- Возможности моделей. С одной стороны, возможности моделей могут быть использованы как более стабильное отражение технических характеристик, не привязанное к конкретным числовым значениям, но с другой — разработка бенчмарков для передовых моделей также является нетривиальной задачей.

- Уровень риска. Риски, которые представляют передовые модели, могут быть слабо изучены. Поэтому будет проблематично такие модели каким-то образом ранжировать. Как правило, само отнесение модели ИИ к передовой уже предполагает повышенные риски ее разработки и применения.

- Неизвестные возможности моделей. Такой признак позволил бы выделить отдельную группу продвинутых моделей ИИ и исключать их по мере изучения. Однако выявление подобных возможностей также является сложной задачей.

- Контекст последующего внедрения. Особенности и широта использования моделей повышают потенциальные риски. Например, Регламент ЕС об ИИ уже учитывает число пользователей (людей и бизнесов) при отнесении модели ИИ к группе, представляющей системные риски.

3. В завершающей части статьи авторы анализируют, каким образом оптимально будет закрепить определение передовых моделей ИИ в американском федеральном законодательстве. По большому счету, дискуссия ведется о том, должно ли оно быть исчерпывающе сформулировано Конгрессом на уровне закона или законодатели должны определить рамки для последующего уточнения органами исполнительной власти.

Советую обратить внимание, если интересуетесь американским правом. Тут авторы затронули более широкую тему соотношения компетенций разных ветвей власти в сфере правотворчества, ставшей в стране снова актуальной после недавней отмены Верховным судом (дело Loper Bright Enterprises v. Raimondo) доктрины, сформулированной в деле Chevron U.S.A. v. Natural Resources Defense Council.

Европейский AI Office начал разработку кодекса лучших практик для моделей ИИ общего назначения. Я стал членом рабочей группы, рассказываю первые подробности

Вчера я принял участие в первом пленарном заседании, на котором был дан старт разработке кодекса лучших практик для моделей ИИ общего назначения. Для его создания Европейским AI Office были отобраны около тысячи ИИ-экспертов от бизнеса, академии и гражданского общества. Друзья, я тоже попал в их число. Буду рассказывать вам интересные подробности изнутри и делиться впечатлениями 🐱.

Что уже известно о кодексе?

Создание кодекса будет происходить в четырех рабочих группах, каждая из которых отвечает за отдельную часть документа:

- прозрачность и требования к соблюдению авторских прав для поставщиков моделей ИИ общего назначения;

- меры по выявлению и оценке системных рисков. Напомню, что Регламент ЕС об ИИ предусмотрел отдельную группу моделей ИИ общего назначения — модели ИИ общего назначения, представляющие системные риски (если кратко, то это наиболее мощные и продвинутые модели). К их поставщикам предъявляются более жесткие требования;

- технические меры по снижению системных рисков;

- внутреннее (корпоративное) управление рисками и руководство для поставщиков моделей ИИ общего назначения.

Есть еще и пятая рабочая группа, но в ней будут собираться представители поставщиков моделей ИИ общего назначения.

Руководят рабочими группами известные исследователи и технические специалисты. Не буду перечислять, а приложу вам скриншот. Мне в глаза бросилось еще то, что сразу три человека представляют Стэнфордский университет (хоть и они из разных стран). А еще сразу три человека — Германию.

Какую юридическую силу будет иметь документ?

Документ является рекомендательным. Его главная суть — разъяснять на практике положения Регламента ЕС об ИИ. Однако прямо отмечается, что компании могут не присоединяться к кодексу и выбрать другой способ соответствия законодательным требованиям.

Есть ли сейчас какой-то консенсус по содержанию кодекса?

Трудно сказать. Но с июля по сентябрь AI Office проводил опрос среди стейкхолдеров. По некоторым вопросам в индустрии на первый взгляд имеется консенсус:

- документация должна включать описание допустимых сценариев использования моделей с указанием на то, в какие системы ИИ они могут быть в дальнейшем интегрированы;

- к наиболее серьезным рискам относят: автономность моделей, возможность преодолевать ограничения, наборы данных;

- среди методик уменьшения рисков ожидаемо лидирует предварительная, текущая и последующая оценка рисков, а не аудит. С технической стороны — управление данными и регулярные обновления моделей.

- среди корпоративных практик лидируют риск-менеджмент, карточки систем и моделей ИИ, обучение персонала, защита информаторов, а также средства физической и информационной безопасности.

Когда документ будет готов?

Работа над проектом кодекса должна завершиться к апрелю 2025 года.

Каким образом в США будет применяться внедоговорная ответственность к ИИ-разработчикам, допустившим причинение существенного вреда третьим лицам?

Для ответа на этот вопрос обратимся к отчёту, который опубликовал американский аналитический центр RAND. В документе рассматривается, с одной стороны, насколько применимы существующие правовые механизмы, а с другой — оцениваются возможные дальнейшие меры законодателей.

Начнём по порядку:

1. Исследователи видят существенные риски привлечения разработчиков к ответственности в рамках действующего правового поля. Обязанность проявлять разумную осторожность, чтобы не причинить вред личности или имуществу, по умолчанию распространяется на разработчиков ИИ, даже если законодателями не будут внесены какие-либо изменения.

2. В США внедоговорная ответственность в основном относится к общему праву, а значит, в будущем возможна неопределённость в том, каким образом суды будут использовать существующую практику применительно к спорам, возникшим вокруг ИИ-разработчиков. Более того, в разных штатах существуют свои устоявшиеся подходы и судебная практика, которые могут существенно различаться между собой. Например, исследователи отмечают, что штаты по-разному подходят к ответственности производителей за причинение вреда из-за существенной доработки товара третьими лицами. Также неясно, распространяются ли на ПО (ИИ в частности), которое не интегрировано в физические объекты (роботы, автомобили), требования законодательства о безопасности продукции (относятся ли системы и модели ИИ к продуктам). Таким образом, если по какой-либо причине будет нанесён существенный вред, который коснётся людей в нескольких штатах, разработчики столкнутся с необходимостью учитывать особенности разных юрисдикций. И это мы ещё не касаемся возможности причинения вреда одновременно в нескольких странах.

3. Разработчики, которые не используют принятые в отрасли передовые методы обеспечения безопасности, могут существенно повысить риски привлечения к ответственности. Судебная практика показывает, что в схожих случаях соблюдение ответчиком отраслевых стандартов и лучших практик имеет важное значение в исходе дела.

4. Разработчики могут быть привлечены к ответственности за вред, причинённый третьими лицами в результате неправомерного использования систем и моделей ИИ. Однако, как правило, суды штатов определяют, была ли у ответчика возможность разумно предвидеть наступление подобных последствий. В понимании того, какие конкретные действия разработчиков в этом случае могут считаться достаточными, судебная практика будет разниться. Особенно подобные сложности могут возникать вокруг открытых моделей ИИ.

5. Государство, бизнес и гражданское общество могут способствовать повышению безопасности и, как следствие, уменьшению рисков привлечения разработчиков к ответственности за счёт разработки стандартов, лучших практик и протоколов безопасности. На использование последних в дальнейшем могут обращать внимание суды при разрешении споров.

6. Принимая во внимания рассмотренные различия, авторы считают, что законодателям стоило бы подумать над изданием новых актов, которые бы внесли ясность и сформулировали единый подход по привлечению к ответственности ИИ-разработчиков. Более того, повысить ИИ-безопасность можно не только с помощью института юридической ответственности. Например, законодательно можно установить и другие меры, такие как минимальный уровень мер безопасности, необходимость тестирования и оценки ИИ-продуктов в наиболее опасных областях.

7. С точки зрения федерального законодательства исследователи обратили внимание на вопросы, которые уже стали американской классикой: распространяется ли Первая поправка (свобода слова и печати) на ПО (ИИ в частности), а также нужно ли использовать раздел 230 USC, снимающий ответственность с держателей цифровых платформ за размещённый пользователями контент при условии осуществления модерации, для разработчиков ИИ-продуктов.

В целом, отчёт получился интересным и изобилующим деталями. Если вы интересуетесь темой ответственности или американским правом, то советую ознакомиться 🤩.

Еще один вечер дипфейков: смотрим на новые законопроекты в российском парламенте

Обычно я редко пишу про законопроекты, так как далеко не все из них становятся в конечном итоге законами. А даже если и становятся, то не всегда в первоначальном виде.

Однако с учетом того, что мы вчера разбирали китайский опыт маркировки синтетического контента, сегодня решил продолжить тему и обратить ваше внимание на несколько вчерашних законопроектов, внесенных в российский парламент.

Охрана голоса

Предлагается внести в ГК РФ новую статью: 152.3. Охрана голоса гражданина.

Она почти слово в слово повторяет уже существующую статью 152.1., которая направлена на охрану изображения.

Обнародование и дальнейшее использование голоса гражданина (в том числе записи, в которой он содержится, или записи, в которой содержится воссозданный с помощью специальных технологий голос гражданина) допускаются только с согласия этого гражданина. После смерти — с согласия членов семьи, за исключением случаев, когда имеется публичный интерес или запись производилась за плату.
Судя по пояснительной записке, документ был разработан Альянсом в сфере ИИ и Национальной Федерацией Музыкальной Индустрии.

Уголовная ответственность за дипфейки

Предлагается внести в ряд статей УК РФ квалифицирующий признак — совершение преступления с использованием изображения или голоса (в том числе фальсифицированных или искусственно созданных) и (или) биометрических данных гражданина.

Во время прочтения у меня сразу возникло внутреннее негодование. Однако отзывы Правительства и Верховного суда его несколько уменьшили:

1) дипфейки никак не урегулированы законодательно, так что их еще рано запрещать;

2) нет оснований полагать, что общественной опасности именно такого рода деяний достаточно, чтобы вводить более строгое наказание;

3) формулировка “фальсифицированные или искусственно созданные” — слишком расплывчатая.

Так что вряд ли документ будет принят в таком виде.

Оффтоп

В последнее время я довольно часто использую ChatGPT в голосовом режиме с моделькой GPT-4o. Например, мне с ней интересно поболтать во время приготовления еды или мытья посуды. Сегодня я случайно обнаружил забавный для юриста факт. Система правильно ставит ударение в слове договОр, но ошибается в других падежах. В моем случае она говорила договорАми вместо ударения на нужный слог — договОрами. Конечно, я дал фидбэк и сразу вспомнил времена учебы и преподавания на юрфаке 🐱.

В Китае обсуждают уточнения требований по маркировке синтетического контента

Cyberspace Administration of China (CAC) опубликовала для общественных обсуждений документ, обобщающий практики по маркировке синтетического контента.

Напомню, что в Китае уже действует акт, который предполагает такую маркировку для поставщиков информационных услуг — Provisions on the Administration of Deep Synthesis Internet Information Services. На этот же акт ссылаются и временные меры по управлению сервисами генеративного ИИ (Interim Measures for the Management of Generative Artificial Intelligence Services).

На кого будет распространяться документ?

На всех поставщиков информационных услуг, определяемых тремя актами: двумя, которые мы уже рассмотрели выше, + более ранний акт о алгоритмических рекомендациях (Provisions on the Management of Algorithmic Recommendations in Internet Information Services).

В сферу действия не входят, например, предприятия, образовательные и научные организации, если они не предоставляют услуги населению.

Что включается в синтетический контент?

Текст, изображения, аудио-, видео- и другая информация, созданная, сгенерированная и синтезированная с использованием технологии ИИ.

Как есть виды маркировок?

Выделяется явная маркировка (логотип, графика, звук, текст) и скрытая (метаданные и иные технические средства маркировки, скрытые от глаз пользователя).

Скрытая маркировка будет обязательной для всех поставщиков сервисов глубокого синтеза.

Конкретизированы требования к чат-ботам

Контент должен быть явно помечен через текстовые, звуковые, визуальные подсказки или другие предупреждающие знаки в начале, конце или середине материала. Это включает текстовые метки для текстов, голосовые или звуковые сигналы для аудио, визуальные подсказки для изображений и видео, а также заметные предупреждающие знаки для виртуальных сцен. Также требуется явная идентификация синтетического контента при его загрузке, выгрузке и копировании.

Требования для держателей цифровых платформ

Они будут обязаны проверять:

а) метаданные файлов на наличие неявных идентификаторов и добавлять предупреждающие метки вокруг контента, если таковые идентификаторы обнаружены или заявлены пользователем;

б) если идентификаторы отсутствуют, но есть признаки синтеза, контент должен быть помечен как подозреваемо синтетический;

в) в метаданные должны быть внесены атрибуты синтетического контента, включая данные о платформе и номере контента;

г) платформы должны напоминать пользователям о необходимости заявлять, если контент является синтетическим.

Иные требования

Поставщики услуг должны будут в понятном для пользователя виде отразить требования к маркировке в пользовательском соглашении.

Если пользователь захочет получить контент без маркировки, то поставщик может его предоставить, указав на ответственность за его распространение в пользовательском соглашении. Также поставщик должен хранить оригиналы контента не менее шести месяцев.

Если речь идет про магазин приложений, то держатель платформы должен проверять, имеются ли в загружаемых приложениях функции по созданию синтетического контента.

Интересно, что специфических норм об ответственности не предусмотрено: нарушители будут преследоваться в рамках общего законодательства.

Немного новостей из Центробанка о регулировании в сфере применения ИИ на финансовом рынке

В конце пришлой недели выступал на мероприятии Центробанка, где обсуждались возможности и потенциальные риски защиты прав потребителей при использовании ИИ. Рассказал про подходы к регулированию в сфере ИИ, а также про фундаментальные модели и опенсорс.

Узнал для себя и новые вещи. Рассказываю вам.

В ноябре 2023 года Центробанк опубликовал доклад о применении ИИ на финансовом рынке, в котором поставил вопросы для дальнейшего общественного обсуждения.

По их итогу в 2024 году был выпущен отчет с основными выводами.

Всего поступило 33 заключения, из которых 15 – от кредитных организаций, 6 – от страховщиков и 12 – от объединений участников рынка, высших учебных заведений, инфраструктурных организаций, ведущих разработчиков ИИ.

Остановимся на нескольких интересных моментах:

Респонденты выделили наиболее важные вопросы с точки зрения ИИ-регулирования:

- регулирование оборота обезличенных данных (это мы уже увидели, но пока все не очень хорошо. Подробно писал тут);

- обеспечение возможности использования сторонней инфраструктуры оборота данных разработчиками ИИ (с компьютом-то реально беда, и она будет только расти);

- формирование подходов к распределению ответственности за вред, причиненный применением ИИ, между организацией-разработчиком и организацией-пользователем (кстати, про это можно почитать мою статью тут);

- определение правового режима выходных данных и моделей ИИ (отдельно выделили синтетический контент).

Также интересно, что некоторые респонденты предложили рассмотреть условия для работы доверенных платформ по обмену данными между организациями. Вот вам и имплементация опыта ЕС о посредниках в передаче данных (data intermediaries), созданных недавним Data Governance Act (DGA) (я помню, что обещал его разобрать, все будет🤩).

Большинство респондентов не видят сейчас необходимости в жестком регулировании. Пока достаточно рекомендательных актов, стандартов и рекомендаций. Также отмечена целесообразность разработки отдельного кодекса этики ИИ для участников финансового рынка.

Почти поровну разделились мнения респондентов относительно необходимости создания внутри финансовой организации отдельного органа, ответственного за контроль над внедрением и применением ИИ в бизнес-процессах. При этом была отмечена именно добровольность в создании такого органа в зависимости от нужд конкретной организации. В качестве альтернативы специализированному органу предложено на текущем этапе развития технологий ограничиться риск-менеджментом (надеюсь, он уже реализуется, а не только планируется).

В каких сферах может потребоваться адаптация действующего законодательства или принятие новых НПА?

- снижения рисков использования дипфейков, которые могут применяться мошенниками для введения потребителя в заблуждение, а также для манипулирования рынком (СМИ пишут, что в ГД собираются наконец взяться за дипфейки, скоро узнаем);

- обязанности объяснения клиентам оснований для принятия решений, если такие решения были приняты с использованием ИИ.

TIME100/AI 2024

На прошлой неделе журнал Time выпустил список из ста наиболее влиятельных людей в сфере ИИ за 2024 год. Топ, как обычно, получился неоднозначный. Но этим грешат любые рейтинги.

На кого стоит обратить внимание с точки зрения AI Governance?

Ясон Габриэль — научный сотрудник в Google DeepMind. Занимается философской стороной AI alignment. Один из соавторов статьи про этику продвинутых ИИ-агентов, которую мы с вами разбирали тут.

Елена Тонер — директор по стратегии и грантам в CSET (Джорджтаунский университет). Специалист по AI Governance, консультирует законодателей по регулированию в сфере ИИ. Ранее была в совете директоров OpenAI и замешана в дворцовых переворотах. Настаивает на регулировании отрасли, о чем можно почитать в статье для the Economist.

Бэт Барнс — основательница и руководитель отдела исследований в Model Evaluation and Threat Research (METR). Занимается оценкой рисков функционирования моделей ИИ. Участвовала в создании Responsible Scaling Policy (классификация моделей по рискам) от Anthropic.

Джеффри Ирвинг — директор по исследованиям британского AI Safety Institute. Занимается оценкой передовых моделей ИИ. Институт разрабатывает как методики оценки, так и изучает модели, к которым добровольно предоставили доступ разработчики.

Чинаса Т. Около — научный сотрудник в Brookings Institution. Под руководством Йошуа Бенжио (отмечен в рейтинге отдельно) она участвовала в подготовке отчета о безопасности продвинутого ИИ, а также в создании национальной стратегии в сфере ИИ Нигерии.

Амба Как — исполнительный директор AI Now Institute. Институт занимается исследованиями в сфере регулирования и госуправления. Один из последних отчетов об особенностях регулирования ИИ американской FDA.

Джина Раймондо — Министр торговли США. На ее ведомство легла существенная часть обязательств по реализации октябрьского указа Президента США.

Арати Прабхакар — директор Управления по научно-технической политике США. Консультирует Президента США по вопросам регулирования в сфере ИИ. Считается, что она показала ChatGPT Джозефу Байдену за шесть месяцев до официального релиза, чем, по сути, спровоцировала начало работы над последующими инициативами Белого дома.

Мэттью Топич — партнер юрфирмы Loevy & Loevy. Представляет интересы The Intercept, Raw Story и AlterNet в иске против OpenAI.

Элизабет Келли — директор американского AI Safety Institute. Институт работает под эгидой NIST и осуществляет исследование и оценку передовых моделей ИИ. Недавно я писал о том, что OpenAI предоставила ранний доступ к GPT-5 сотрудникам института для оценки безопасности модели.

Скотт Винер — сенатор штата Калифорния. Автор резонансного законопроекта SB 1047, направленного на регулирование в сфере разработки и применения передовых моделей ИИ. Позже разберем этот документ отдельно.

Мартин Хайнрих — сенатор США от штата Нью-Мексико. Активно занимается законопроектами, связанными с ИИ. В числе соавторов дорожной карты рабочей группы сената по ИИ.

Сара Карделл — генеральный директор британского антимонопольного органа (CMA). Под ее руководством в 2023 году был выпущен отчет о фундаментальных моделях ИИ. А в 2025 году должен вступить в силу новый Закон о цифровых рынках, конкуренции и защите прав потребителей.

Чжан Линьхань — профессор Китайского университета политических наук и права. Руководит рабочими группами по разработке регулирования в сфере ИИ. В частности, непосредственно участвовала в создании трех последних актов в сфере алгоритмических рекомендаций, маркировки синтетического контента и управлении генеративными системами ИИ.

Катя Грейс — соосновательница AI Impacts. Провела опрос 2700 ученых в сфере ИИ по поводу их прогнозов на будущее развития технологий.

Саффрон Хуанг и Дивия Сиддарт — соосновательницы Collective Intelligence Project. Совместно с Anthropic провели исследование по отбору правовых принципов для Constitutional AI.

Результаты за прошлый год можно посмотреть тут.

Обзор Рамочной конвенции Совета Европы об искусственном интеллекте и правах человека, демократии и верховенстве права

Друзья, на неделе было много дел и мало постов. Теперь возвращаюсь к вам с обзором Рамочной конвенции Совета Европы об ИИ и правах человека, демократии и верховенстве права. В четверг первые страны подписали документ, что запустило процессы по ее ратификации и вступлению в силу.

Многие уже окрестили это событие историческим. Однако все, кто работает в AI Governance, давно привыкли — в нашей сфере исторические события происходят каждые пару месяцев. Уже даже немного устали отмечать.

TLDR:

1. Конвенция устанавливает принципы, направленные на снижения рисков для прав человека, демократии и верховенства права, потенциально возникающих на всех стадиях жизненного цикла систем ИИ.

2. Конвенция распространяется как на государственный, так и на частный секторы.

3. Государство может выбрать, в каком объеме принять на себя обязательства в отношении частного сектора.

4. Конвенция не распространяется на научные исследования, национальную безопасность и оборону.

5. Перечень запрещенных систем ИИ стороны определяют самостоятельно.

6. Конвенция на Россию не распространяется, так как последняя вышла из Совета Европы.

7. Россию могут потенциально пригласить подписать документ, но с учетом текущей политической ситуации пока это маловероятно.

Еще одно нововведение: теперь более длинные материалы и разборы иногда будут выходить на Хабре.

Полный текст обзора можно найти по ссылке.

Девять назгулов подходов к регулированию в сфере разработки и применения ИИ: много или мало?

В предыдущем посте мы с вами разбирали статью, в которой авторы предлагают регулировать отношения, возникающие в сфере разработки и применения передовых фундаментальных моделей посредством сочетания трех подходов: 1) подхода, основанного на принципах; 2) подхода, основанного на предписаниях; 3) риск-ориентированного подхода.

Какие вообще есть подходы к регулированию ИИ (не только передового)? Таким вопросом задались и в ЮНЕСКО.

В середине августа под эгидой организации вышел предварительный отчет, в котором были проанализированы существующие нормативные документы как на международном уровне, так и в более чем тридцати юрисдикциях.

Исследование было подготовлено профессором колумбийским ученым Хуаном Давидом Гутьерресом из the University of Los Andes на основе обсуждений, проходивших на площадках ЮНЕСКО в марте.

Исследователь выявил девять подходов, основанных на:

1. принципах;
2. стандартах;
3. гибкости и тестировании инноваций;
4. содействии и стимулировании развития инноваций;
5. обновлении общего законодательства;
6. обеспечении прозрачности и доступа к информации;
7. оценке рисков (риск-ориентированный);
8. правах человека;
9. установлении требований по привлечению к юридической ответсвенности.

На самом деле, данный список не является полным и однозначным. В разных научных работах и исследованиях встречаются иные термины и классификации. Более того, ни один из перечисленных подходов не встречается в чистом виде в какой-либо юрисдикции.

На мой взгляд, было бы интереснее проследить, каким образом данные подходы пересекаются. И за счет этого сформулировать более общую классификацию.

Возможно, это мы и увидим в дальнейшем. До 19 сентября по тексту открыты публичные консультации.

Далее пересмотренная версия отчета будет представлена на 149-ой Ассамблее Межпарламентского союза, которая пройдет 13-17 октября в Женеве. Документ будет представлен в контексте завершения работы над Резолюцией МПС «Влияние ИИ на демократию, права человека и верховенство права».

Кстати, под эгидой МПС также разрабатывается проект Хартии об этике в сфере науки и технологий, в которой обозначены принципы и рекомендации для законодателей.