Robocounsel @robocounsel Channel on Telegram

Robocounsel

@robocounsel


О регулировании и социальных аспектах применения робототехники, ИИ, данных и электронной коммерции. Публикации отражают сугубо личное мнение автора.

Контакт, вопросы: @robocounsel_bot

Шрифт в логотипе - Alex Murphy Solid от Goatmeal

Robocounsel (Russian)

Robocounsel - это канал, посвященный регулированию и социальным аспектам применения робототехники, искусственного интеллекта, данных и электронной коммерции. Здесь вы найдете публикации, отражающие сугубо личное мнение автора по данной теме. Если вас интересует обсуждение этих тем, обмен мнениями или задание вопросов, то этот канал для вас. На канале также можно найти контактную информацию и задать вопросы через @robocounsel_bot. Не стесняйтесь делиться своим мнением и участвовать в обсуждениях. Присоединяйтесь к нам на Robocounsel и узнавайте больше о робототехнике и ее влиянии на современное общество.

Robocounsel

21 Feb, 09:10


Еврокомиссия предложит сквозные поправки в цифровое регулирование

Для этого чиновники до конца 2025 года проводят анализ.

По итогам анализа будут предложены изменения — одним или несколькими тематическими пакетами (omnibus packages) — для улучшения связности различных актов ЕС по цифровому рынку.

В числе проверяемых оказался и Регламент ЕС по ИИ.

Руководитель ИИ-Офиса Еврокомиссии Л. Сиоли уточнила, что фундаментальных изменений в нём ожидать не стоит, скорее возможно, например, упрощение некоторых процедур и требований для предприятий малого и среднего бизнеса.

Robocounsel

18 Feb, 06:56


Майкрософт ужесточает требования для поставщиков, применяющих ИИ

Теперь все поставщики (субподрядчики), применяющие ИИ-системы, должны проходить оценку соответствия требованиям Microsoft DPR, раздел K, в рамках программы SSPA (Supplier Security and Privacy Assurance) с привлечением независимого органа по сертификации.

При этом для «чувствительных» применений ИИ обязательно получение сертификата на соответствие системы менеджмента ИИ-систем требованиям ИСО/МЭК 42001:2023.

Критерии компании для «чувствительных» применений шире, чем подход ЕС в Регламенте об ИИ:

- любое влияние на правовой статус или жизненные возможности (например, оценка кредитоспособности или приём в вуз),

- любой риск физического/психологического вреда (например, медицинская диагностика, управление оборудованием),

- любые угрозы правам человека (например, применение генеративного ИИ для дезинформации на выборах, системы социального скоринга).

Для поставщиков изменения означают необходимость инвестировать в независимые аудиты и сертификацию.

Однако это создаёт конкурентное преимущество для компаний, способных подтвердить соответствие международным стандартам.

Для рынка в целом — это шаг к системному управлению рисками ИИ на всех этапах цепочки поставок.

А для регуляторов такой подход ставит важный вопрос: стоит ли законодательно фиксировать закрытый перечень «высокорисковых» ИИ-систем, как в Регламенте ЕС, или применять гибкие критерии, где оценка риска привязана к любому потенциальному негативному воздействию на здоровье, безопасность или права человека.

Robocounsel

17 Feb, 14:44


Опубликован Кембриджский справочник по праву, этике и политике искусственного интеллекта

Под редакцией Натальи Смухи (KU Leuven), на условиях лицензии CC-BY 4.0.

Рассмотрены:
- философские, этические аспекты применения ИИ,
- политико-правовые аспекты, включая законодательство о персональных данных, о деликтной ответственности, антимонопольное, потребительское, об интеллектуальной собственности, Регламент ЕС по ИИ,
- отраслевые аспекты, включая применение ИИ в образовании, СМИ, здравоохранении, финансовом секторе, трудовых отношениях, правоохранительной деятельности, в госуправлении и вооружённых конфликтах.

Robocounsel

14 Feb, 12:27


Какие требования Регламента ЕС применимы конкретно к вашему ИИ-проекту?

На AI Governance платформе Modulos внедрён разработанный мной (де)скоупинг-опросник по Регламенту ЕС по ИИ.

Опросник позволяет отсеять не применимые к вашему проекту требования Регламента ЕС, сконцентрировавшись только на актуальных.

Платформа позволяет отчасти автоматизировать процесс подготовки к одновременному выполнению требований различных фреймворков, включая ISO/IEC 42001:2023 и Регламент ЕС по ИИ.

Разработчики предлагают бесплатный тариф с ограниченным функционалом. Интересно? Регистрируйтесь, пробуйте.

Если по итогам теста вам будет интересен полный функционал, но на льготных условиях, пишите мне в @robocounsel_bot.

Robocounsel

12 Feb, 10:53


Проект Директивы ЕС о гармонизации норм о деликтной ответственности применительно к ИИ — всё

Официально озвученная причина: согласия по тексту не предвидится, Комиссия оценит, необходим ли новый проект или иной подход к вопросу.

В сети, конечно, и другие мнения — от академиков и политиков (1),(2).

Означает ли это, что никакой внедоговорной ответственности в контексте ИИ в ЕС не будет? Конечно же нет.

В части ИИ-продуктов ненадлежащего качества к 2026 году актуальна будет имплементация обновлённой Директивы PLD (описывал ранее).

В части прочего — остаются стандартные нормы о деликтной ответственности каждого из 27 государств-членов ЕС и Директива о трансграничных коллективных исках, на основании которой уже предъявлены требования на миллиарды евро к Тиктоку в Германии.

Robocounsel

06 Feb, 17:10


Как понять, является ли ваш продукт ИИ-системой для целей применения Регламента ЕС по ИИ?

Еврокомиссия опубликовала проект своих разъяснений на эту тему. Они будут утверждены в ближайшее время вместе с разъяснениями по запрещённым ИИ-практикам, о которых писал на днях.

Robocounsel

05 Feb, 12:29


Первый коллективный иск за нарушение Регламента ЕС по ИИ

Предъявлен против Тиктока в Германии, цена иска исчисляется в миллиардах евро: по 500-2000 евро компенсации вреда на человека, для 20 млн. немецких пользователей платформы.

Вменяется помимо прочего нарушение ст. 5 Регламента ввиду манипулятивных ИИ-практик, подсаживающих пользователей на приложение.

Иск именно гражданский, о возмещении вреда и пресечении противоправного поведения.

Административные штрафы включатся только со 2 августа, но убытки в суде взыскивать можно уже со 2 февраля.

О реалистичности таких исков писал на днях.

Robocounsel

05 Feb, 05:34


Как избежать включения в ваш ИИ-продукт запрещённого в ЕС функционала?

Еврокомиссия опубликовала проект своих разъяснений по применению положений статьи 5 Регламента ЕС по ИИ. Ожидается, что в ближайшие дни этот проект будет утверждён.

Кому актуально — читаем очень внимательно.

И конечно же будем разбирать эту тему на моём курсе, второй поток которого начинается в эту пятницу.

Robocounsel

04 Feb, 12:03


Помни о Директиве № 4

Журналист Марти Суонт отмечает: после того, как Марк Цукерберг запостил в своей соцсети фото с инаугурации Трампа, в комментариях, естественно, было довольно много и позитива, и негатива.

Но интересное не в этом, а в том, как "суммирует" комментарии ИИ компании Цукерберга (для американских пользователей его соцсети недавно стал доступен такой функционал):

Бот пытается более-менее объективно суммировать все комментарии, но поскольку в них есть и негатив, тут же включаются какие-то жёсткие фильтры (по типу тех, которые у Дипсика вырезают всё про Тяньаньмэнь) и всё саммари пропадает с экрана.

Вспоминается фильм "Робокоп", где у робота-правоохранителя в основные директивы была зашита секретная четвёртая: никогда не противостоять должностному лицу ОКП (производитель робота).

А какова четвёртая директива у вашей любимой ИИ-системы?

Robocounsel

02 Feb, 15:57


Почему операторам на европейском рынке выгодно прекратить запрещённые ИИ-практики до введения штрафов?

Сегодня, 2 февраля 2025 года, вступили в силу первые положения Регламента ЕС по ИИ, запрещающие определённые ИИ-практики. При этом административные санкции начнут действовать только с августа 2025 года. Что же тогда должно мотивировать компании пошевелиться до этого момента?

Экономический стимул соблюдать запреты уже сейчас кроется не в самих положениях Регламента, а в том, как он вписан в общую правовую систему ЕС.

Регламенты ЕС имеют прямое действие на территории всех государств-членов ЕС. Поэтому с сегодняшнего дня:

📌 Запрещённые ИИ-практики (социальный скоринг, манипулятивные ИИ-чатботы типа "AI girlfriends", массовый парсинг фото для создания баз лицевой биометрии и др.) становятся прямо предусмотренной законом разновидностью противоправного поведения;

⚖️ Осуществление запрещённой ИИ-практики может образовывать состав гражданского правонарушения и влечь деликтную ответственность по национальному праву;

💼 Истцы смогут требовать возмещения вреда, причинённого деликтом, при доказанности вреда, противоправного поведения и причинной связи между ними (принцип генерального деликта: ст. 1240 ГК Франции, § 823 Германского гражданского уложения и др.)

Если вы планируете вывод на рынок ЕС своего ИИ-продукта или уже сделали это, но сомневаетесь, нет ли в нём запрещённого с сегодняшнего дня функционала - пишите, помогу разобраться.

Robocounsel

31 Jan, 10:59


Идентификация и управление рисками ИИ общего назначения (GPAI)

Такова тема нового отчёта, выпущенного британским Департаментом по инновациям, науке и технологиям.

Над отчётом в почти 300 страниц трудились 100 международных экспертов, и лишь небольшая его часть посвящена спекулятивным рискам потери контроля над ИИ-системами будущего.

97% отчёта — сугубо практические наблюдения об актуальных, часто уже задокументированных негативных последствиях применения ИИ-систем и о том, какими техническими мерами им можно противостоять.

Отчёт содержит более 1300 (!) ссылок на литературу и потому представляет собой по сути энциклопедию GPAI риск-менеджмента по состоянию на 2025 год. Читать - не перечитать.

Свои впечатления и инсайты высказал в видеоформе здесь.

Robocounsel

29 Jan, 20:32


Как работают аккредитация, сертификация и нотификация в ЕС?

Как известно, Регламент ЕС по искусственному интеллекту вводит требования к разработке и внедрению ИИ-систем повышенной опасности. Но эффективность нового Регламента напрямую зависит от существующей инфраструктуры качества ЕС.

Ключевой её элемент — Регламент 765/2008, которые устанавливает единые правила аккредитации органов по сертификации.

Именно эти органы по сертификации и будут по заказам ИИ-компаний участвовать в подтверждении соответствия их продуктов требованиям Регламента — в тех случаях, когда он требует не просто задекларировать соответствие, а проверить его — с участием независимой стороны.

Это требуется, например, для систем биометрической идентификации — они должны пройти оценку по процедуре, схожей в общих чертах с той, которая существует для медицинских изделий.

При этом право на участие в подтверждении соответствия ИИ-систем повышенной опасности будут иметь только организации, которые нотифицированы властями одной из стран ЕС — по результатам их проверки либо этими властями, либо национальным органом по аккредитации.

Особую роль здесь играет Многостороннее соглашение по еврокооперации в области аккредитации (EA MLA), гарантирующее взаимное признание аккредитаций между странами-членами. Это снижает издержки бизнеса, позволяя выбрать подходящий аккредитованный и нотифицированный орган, оценка которого признаётся в рамках всего ЕС.

Все взаимосвязи отражены на прилагаемой схеме.

Подробнее обо всём этом и не только рассказываю на своём курсе по Регламенту ЕС по ИИ в феврале — регистрация закрывается на этой неделе, поэтому если интересно — поторопитесь присоединиться. Для оплаты по российским картам — пишите через бот.

Robocounsel

28 Jan, 14:01


Хорошо забытое старое (в масштабах ИИ-новостей) китайское регулирование генеративного ИИ

Поскольку особенности китайской ИИ-этики и заодно ИИ-регулирования снова в тренде, я просто оставлю это здесь: Временные меры по управлению генеративным ИИ от 2023 г.

С тем самым объясняющим многое принципом: "При оказании и использовании услуг в области генеративного ИИ должны поддерживаться основополагающие социалистические ценности", ст. 4.

Robocounsel

27 Jan, 18:13


R1: аттракцион неслыханной транспарентности

Самое любопытное отличие r1 от американских ризонинг-моделей: она показывает пользователю промежуточные токены (CoT), которые генерируются моделью и добавляются к промту, чтобы повысить шансы найти более адекватный ответ.

То есть в отличие от OpenAI o1, в Deepseek r1 вы можете посмотреть на внутренние руминации модели, которые потом не входят в финальный ответ, но определяют его содержимое.

Естественно, я спросил про Тяньаньмэнь. На английском оказалось вообще бесполезно — как только система пытается вывести ответ с этим словом, включается какой-то жёсткий фильтр и весь ответ (и предшествующая ему руминация) удаляются из диалога и с экрана.

На русском модель зацензурирована слабее, и в окне руминации можно подсмотреть вот такие фантастические по транспарентности откровения. Серым шрифтом — промежуточные руминации, чёрным внизу — итоговый ответ.

Robocounsel

27 Jan, 08:11


Пол Маккартни стал бы одним из первых цифровых отказников

... если бы аналогичный задуманному в ЕС реестр появился бы в Великобритании.

Более того, артист выступает против самого появления на островах правового режима, который бы по умолчанию давал ИИ-разработчикам карт-бланш на свободное использование охраняемых произведений.

Это повредит прежде всего новым, молодым артистам, отмечает он.

Robocounsel

26 Jan, 18:12


R1: что внутри?

В сети очень большой, и заслуженно, интерес к новой китайской ИИ-модели Deepseek r1.

Она из так называемых ризонинг-моделей (хотя происходящее, по наблюдению Колина Фрейзера в соцсети X, скорее ближе к руминации, чем к консистентному мыслительному процессу, отсюда reasoning models -> rumination models).

Но работает лучше обычных ллм, и почти на одном уровне с OpenAI o1. При стоимости токенов в 21(!) раз дешевле, и при том, что r1 — опен-сорс продукт.

Поэтому многим интересно, как это так получилось, как китайские учёные и разработчики добились таких результатов.

Если вам тоже интересно – в этой статье занимательные инсайты.

Robocounsel

23 Jan, 18:31


Как создать реестр цифровых отказников?

Еврокомиссия запустила тендер на научно-исследовательские работы по теме возможного создания единого реестра правообладателей, желающих реализовать своё право на отказ от парсинга их контента для обучения ИИ и других целей.

Такое право предоставлено Директивой ЕС об авторском праве на едином цифровом рынке, однако практическая его реализация затруднена, поскольку пока не выработан единообразный подход к тому, в какой форме (в том числе машиночитаемой) правообладатели могут на практике декларировать свой отказ.

В извещении о тендере составители исходят из необходимости проработать вопрос использования уникальных идентификаторов произведений и связанных с ними метаданных.

Robocounsel

16 Jan, 11:41


Антропик сертифицировал свою систему ИИ-менеджмента по ИСО/МЭК 42001:2023

Таким образом, они стали, кажется, первой организацией из числа лидеров разработки перспективных ИИ-систем общего назначения, которые почувствовали явный запрос рынка на доказательства конкретных действий по ответственной разработке ИИ-систем, а не на пустые маркетинговые заявления.

Сертификация системы менеджмента по стандарту ИСО/МЭК 42001:2023 показывает, что внутри компании реально выстроена система процессов и контроля, а собранные доказательства проаудированы органом по сертификации на соответствие международно признанному фреймворку.

Сам стандарт помогает повысить качество управления разработкой и внедрения ИИ-систем, благодаря чётко прописанным требованиям, обеспечивающим внедрение необходимых политик и процессов, назначение ответственных, непрерывную оценку рисков в течение всего жизненного цикла, внутренний и внешний аудит.

Для компаний, которые планируют развивать технологии искусственного интеллекта в долгосрочной перспективе, подобный фокус на прозрачность и доказательность может стать важным конкурентным преимуществом: партнёры и клиенты получают больше доверия к решениям, основанным на реальных, подтверждённых процедурах.

Хотя при этом внедрение ИСО/МЭК 42001:2023 не даёт презумпции соответствия Регламенту ЕС об ИИ, именно этот стандарт сегодня является лучшим первым шагом для выполнения требований, предъявляемых регламентом. Управление качеством, рисками и постоянный мониторинг процессов — всё это помогает компаниям выстраивать ответственный подход к ИИ и двигаться к ещё более жёстким нормам, установленным в Европе.

Если вы хотите подробнее разобраться в том, как стандарт пересекается с Регламентом ЕС об ИИ и как грамотно применять эти нормы на практике — это ещё один повод записаться на мой курс в феврале.

Robocounsel

14 Jan, 19:41


Курс по Регламенту ЕС по ИИ

Напомню, что второй поток начинается уже в феврале. Если вам интересно, но не до конца уверены, есть вопросы по формату, контенту, и так далее — пишите в комментариях к этому посту.

Осталось несколько мест.

Robocounsel

13 Jan, 11:15


Как малый бизнес может этично проектировать и эксплуатировать ИИ?

Соответствующий стандарт на днях опубликован в Канаде: CAN/DGSI 101:2025 Ethical Design and Use of Artificial Intelligence by Small and Medium Organizations.

Стандарт устанавливает нижний порог требований для учёта этических вопросов при проектировании и эксплуатации ИИ-систем организациями со штатом 500 человек и менее.

В основу положены рекомендации, действующие в Канаде и на международном уровне, включая ИИ-принципы ОЭСР и стандарт по ИИ-риск-менеджменту NIST AI RMF 1.0.

Robocounsel

09 Jan, 11:33


А комментарии от профильного специалиста к прямому эфиру битвы двух (точнее, трёх) якодзун вы сможете почитать в день заседания на канале моей уважаемой коллеги Анастасии Сковпень.

Robocounsel

08 Jan, 21:16


Прямой эфир по делу Нью-Йорк Таймс против Майкрософта и Оупен-Эй-Ай

Состоится во вторник 14 января 2025 года в 10:30 по Нью-Йорку (18:30 по Москве).

Об этом знаковом деле писал ранее, спор касается нарушения исключительных прав на контент статей, использованных при обучении больших языковых моделей.

На предстоящем судебном заседании будут заслушаны аргументы сторон в пользу и против удовлетворения ходатайства ответчиков об оставлении искового заявления без рассмотрения.

Для подключения используйте MS Teams, "Join with a meeting ID", затем ID 307 619 861, либо телефон +16464534442, с указанием того же номера конференции.

Дополнительные детали и текст ходатайства по ссылке.

Robocounsel

07 Jan, 14:33


Как ИИ используют в нацбезопасности США?

Департамент по национальной безопасности (DHS) опубликовал обновлённый каталог сценариев применения ИИ-систем (из числа не засекреченных).

Таковых на сегодня 158, из разных сфер — иммиграция, береговая охрана, пограничный контроль, кибербезопасность, и так далее.

Каталог содержит описание сценариев, выявленное влияние на безопасность и права человека, основные риски и меры по их предотвращению.

Дополнительные пояснения к публикации — в блоге ИТ-директора DHS Эрика Хайсена.

Robocounsel

03 Jan, 14:08


Цифровое наследство, цифровые останки и посмертная неприкосновенность частной жизни

Такие ключевые слова подобрали коллеги из моей алма матер, Эдинбургского университета, для своего нового эмпирического исследования.

Harbinja, Edina, Marisa McVey, and Lilian Edwards. 2024. “Post - Mortem Privacy and Digital Legacy - a Qualitative Enquiry.” SCRIPTed: A Journal of Law, Technology & Society 21(December): 4–39. https://journals.ed.ac.uk/script-ed/article/view/10147

Какой правовой режим более приемлем для нематериальных благ в цифровой среде, таких как наш цифровой профиль, после нашей смерти?

Некоторые операторы цифровых сервисов, включая Фейсбук и Эпл, уже предлагают какие-то инструменты: при жизни вы можете определить посмертный контакт (legacy contact), которому переходят права на управление вашим профилем.

Уже лучше, чем ничего, но что говорит закон? Многим текущее регулирование видится неоптимальным. Следует ли распространить на подобные нематериальные активы общий режим наследования имущества, обеспечив, в частности, посмертный переход права на доступ к информации в силу закона к правопреемникам (propertisation)? Либо давать приоритет прижизненной воле человека (post-mortem privacy)?

Исследование можно рассматривать как начало дискуссии по этому вопросу.

Robocounsel

02 Jan, 16:28


GPT-5 задерживается

Как сообщает WSJ, по словам приближённых к проекту, ключевой инвестор — Майкрософт — рассчитывал на выпуск новой модели к середине 2024 года, но этого не произошло.

На сегодня разработчик, Оупен-Эй-Ай, провёл два многомесячных цикла обучения модели, но полученный результат пока не оправдывает вложенных средств, сообщают инсайдеры в компании. Каждые 6 месяцев обучения обходятся в полмиллиарда долларов расходов только на вычислительную инфраструктуру.

Общий срок работы над проектом Орион (кодовое обозначение GPT-5) уже превысил 18 месяцев, дальнейшие перспективы пока непонятны.

Robocounsel

25 Dec, 17:16


Моё интервью Дудю Ши Брауну

Ши Браун — коллега по сообществу ФорХьюманити, учёный, предприниматель и эксперт, специализирующийся на независимых аудитах ИИ-систем.

Для его подкаста записали интервью, в котором поговорили о моём карьерном пути, Конвенции Совета Европы, Регламенте ЕС по ИИ и о моём новом курсе.

Смотреть интервью

Ознакомиться с курсом

Robocounsel

12 Dec, 07:42


Как технические стандарты могут помочь более активному внедрению ИИ?

Вчера выступил по этой теме (c 29:10) на сессии AIM Global Forum Организации Объединённых Наций по промышленному развитию.

Robocounsel

04 Dec, 16:09


День рождения у меня, а подарок — вам

Если вы хотите в деталях разобраться, кому и как нужно применять (а кому можно не применять) Регламент ЕС по искусственному интеллекту на практике, какие нюансы нужно учитывать из смежного законодательства, стандартов и руководств (NLF, Blue Guide, GPSR, PLD, hENs и др.)...

Присоединяйтесь ко второму потоку моего курса. Отзывы по пилоту отличные — по ссылке, там же даты и детали. Язык — английский.

Для первых пяти присоединившихся с промокодом MERCI — скидка 25% в подарок.

Robocounsel

20 Nov, 15:11


Опубликована обновлённая Директива ЕС 2024/2853 об ответственности за товары ненадлежащего качества

Ключевое изменение: к товарам для целей Директивы теперь относится и программное обеспечение, включая ИИ-системы, а разработчики приравниваются к производителям товаров.

Граждане (как сами потребители, приобретшие некачественный товар, так и третьи лица), а также их законные представители или лица, которым соответствующее право требования перешло в порядке наследования или суброгации, вправе требовать возмещения:
- вреда жизни, здоровью, включая психическое здоровье,
- имущественного вреда,
- вреда, причинённого уничтожением или повреждением принадлежащих им данных.

Директива не применяется к причинению вреда имуществу или данных, используемых в профессиональных целях.

Товар (включая ПО) считается товаром ненадлежащего качества, если он не обеспечивает уровня безопасности, установленного законом, или уровня безопасности, на который граждане вправе рассчитывать.

Среди значимых для этого обстоятельств принимается во внимание, в частности, нарушение производителем требований к информационной безопасности, отсутствие своевременных обновлений ПО, а также последующее приобретение товаром новых свойств в результате самообучения при эксплуатации (особенно актуально для ИИ-систем).

Директива предполагает внесение соответствующих изменений в национальное законодательство всех стран-членов ЕС к 9 декабря 2026 года.

С этого же момента утратит силу предыдущая аналогичная Директива 85/374/EEC, принятая в 1985 году.

Обзор обновлённой Директивы во вложении.

Robocounsel

23 Oct, 16:09


Новые тренды в дегуманизации эйчар-процессов: ИИ-интервью

Казалось бы, процесс найма уже достаточно испорчен массовым применением ATS (applicant tracking systems), которые отсеивают кандидатов по ключевым словам в резюме (словно это показатель каких-либо реальных навыков).

Но нет, со дна постучали.

Возникает вопрос: какую дополнительную ценность даёт это фейковое интервью, кроме менее точного, менее надёжного сбора той же самой информации, которая уже есть в резюме и мотивационных письмах?

Похоже, мы наблюдаем очередной пример внедрения технологии ради технологии, без учёта реальной пользы и этических аспектов.

Что дальше? ИИ-аватары сотрудников, собирающиеся на виртуальные корпоративы?

Robocounsel

21 Oct, 11:23


Евразийский конгресс по защите данных

Состоится уже на этой неделе - в четверг 24 и пятницу 25 октября.
Есть оффлайн и онлайн опции. Участие бесплатное.

Ожидается 15+ дискуссий, интересных всем, кто работает в приватности и защите персональных данных, более 50 спикеров.

Все детали смотрите на сайте EDPC.NETWORK

Robocounsel

17 Oct, 18:31


Тут из Меты поясняют, что сами очки не имеют функции распознавания лиц. Это всё студенты и их самописная программа!

Robocounsel

15 Oct, 11:35


"Умные очки" сделали слишком умными

На фронтенде стандартные очки с камерами от Мета. На бэкенде самописная программа, пробивающая фото по общедоступным в США базам данных и выдающая эти данные пользователю очков.

Что будете делать, когда в следующий раз увидите человека в "умных очках" с камерами?

Robocounsel

27 Sep, 10:30


Пять стадий принятия Регламента ЕС по ИИ

Пятничное, но на основе реальных событий

Robocounsel

26 Sep, 17:56


В Оупен-Эй-Ай решили избавиться от некоммерческой надстройки

Её нежизнеспособность в принципе была продемонстрирована уже ранее, во время скандала с попыткой "переворота", в результате которой компанию покинули неудавшиеся "путчисты", включая сооснователя Илью Суцкевера, пытавшиеся избавиться от генерального директора Сэма Альтмана.

Теперь в компании, кажется, решили и вовсе закончить эксперимент с необычной структурой, ранее созданной на случай достижения организацией своей уставной цели создания "общего искусственного интеллекта" (AGI), чтобы, по мысли идеологов структуры, не допустить использования этого — пока сугубо отдалённо-гипотетического — достижения в узкокоммерческих целях.

Как сообщает Рейтер и ряд других публикаций со ссылкой на анонимные источники, Оупен-Эй-Ай рассматривает возможность реструктуризации своего основного бизнеса в коммерческую компанию, исключив возможность влияния на ключевые решения со стороны существующей НКО.

Этот шаг позволит генеральному директору Сэму Альтману впервые получить долю в капитале стартапа, специализирующегося на разработках в области искусственного интеллекта - по данным Блумберга, речь идет о пакете в 7%.

Обсуждение потенциальной реорганизации происходит на фоне кадровых перестановок в высшем руководстве: технический директор Мира Мурати объявила об уходе, чтобы "заняться собственными исследованиями", а вслед за ней о своем намерении покинуть компанию сообщили еще два топ-менеджера.

В настоящее время Оупен-Эй-Ай готовится к очередному раунду финансирования, в рамках которого планирует привлечь 6,5 млрд. долл. при оценке компании в 150 млрд. долл.

Robocounsel

19 Sep, 12:57


Европарламент опубликовал свою оценку регулирующего воздействия по AILD

О проекте директивы, устанавливающей правила внедоговорной ответственности за причинение вреда ИИ-системами, писал ранее.

Исследовательская служба Европарламента критикует оценку коллег из Еврокомиссии и предлагает подумать о том, чтобы варьировать безвиновную ответственность с ответственностью при наличии вины.

При этом сферу действия директивы предлагается не ограничивать ИИ-системами, а распространить на все виды программного обеспечения.

Текст

Robocounsel

11 Sep, 07:56


По поводу релокации

Этот пост будет более личным, но надеюсь оттого и более полезным.

На Право.ру вышел интересный материал по поводу коллег, которые переехали зарубеж и при этом умудрились сохраниться в профессии. Что крайне непросто.

Статья вызвала разные реакции. Я очень уважаю Аристотеля, и вслед ему стараюсь искать золотую середину по большинству вопросов, избегая маргинальных позиций и разобщения на пустом месте.

Получается у вас преуспевать в вашей профессии в России — отлично. Уехали и складывается карьера за рубежом — точно так же очень рад за вас. Профессионалы нужны и ценятся везде. Но, как говорится, есть нюанс.

Мою историю вы знаете, у меня всё непросто, но постепенно налаживается (если не знаете — почитайте тут).

Как общее наблюдение по личному опыту скажу: если оставить в стороне кейсы релокации вместе с компанией (где вам всё подаётся на блюдечке — и трудовой ВНЖ, и прочие плюшки), это всё непросто.

В другой стране вы никто и звать вас никак, и даже при наличии западного образования без наличия устоявшейся сети хороших знакомств вы карьеру особо не выстроите. Поэтому нетворкинг на целевом рынке — виртуальный и реальный — это первое, с чего надо начинать, желательно вообще до переезда. Это вам в копилку рекомендаций в статье, там почему-то её нет, и это бросается в глаза.

Вся моя работа, все мои заказы сейчас — за счёт нетворкинга и попадания в нужные места, комьюнити и общения с нужными людьми.

Плавно перейду ко взаимосвязанному: сильно проще найти самозанятость, чем работу по найму. Если сможете разобраться в специфике местного рынка, показать себя с хорошей стороны публично и убедить приватно — люди с большим удовольствием с вами будут работать в формате консалтинга. В найм попасть с улицы, не будучи интегрированным, своим в другой стране — практически нереально, тем более на найм иностранной рабочей силы обычно есть ограничения и доп. бюрократия, с которой 99% фирм связываться просто не хочет.

Третья рекомендация — не бегите от про боно, но делайте такую работу с умом. Так, чтобы это приносило новые инсайты о местном рынке, новые полезные контакты, сарафанное радио в нужной вам аудитории, будущих заказчиков, письма, которые вам пригодятся для ваших бюрократических процедур или рекомендации на Линкдине.

И четвёртое: не забываем, что в большинстве интересных для работы стран вход в юридическую именно профессию будет весьма ограничен, и придётся либо получать местное юридическое образование, либо конвертировать статус, и сдавать экзамены, что возможно не везде.

Например — о конверсии из российского адвоката во Франции забудьте, судебная практика складывается так, что российским адвокатам без французского гражданства отказывают в признании эквивалентности статуса, потому что не видят этого на условиях взаимности для французов в России в текущих условиях. То есть до получения гражданства страны ЕС вы во Франции практиковать по праву не сможете в принципе. Только работать в инхаусе. Куда попасть до интеграции в общество целевой страны практически невозможно.

Меня это не касается постольку, поскольку я ушёл из чистой классической юриспруденции в околоправовой консалтинг: по цифровой регуляторике, риск-менеджменту и прочим смежным вопросам в цифре.

Это "либеральная профессия", не регулируемые услуги и статус адвоката не нужен, но вы не можете давать советы о применении норм права к конкретной ситуации клиента. Не всем захочется делать такой поворот и уходить из чистой юриспруденции. Я к этому подошёл давно и сделал это изменение охотно и ещё до переезда.

По ситуации в других странах ничего сказать не могу и советую вам избегать излишних обобщений — получайте информацию из первых рук от местных. Я могу ответить на ваши вопросы только по Франции.

Robocounsel

10 Sep, 08:01


Эйрподсы для дедушки

Эппл "очень скоро" ожидает одобрения Управления по контролю качества пищевых продуктов и лекарственных средств США на применение эйрподсов в качестве медицинского изделия (цифровой слуховой аппарат).

Слышите?

Robocounsel

09 Sep, 08:41


Не токен, а жетон: генеративный ИИ с французским акцентом

В минувшую пятницу в официальном вестнике был опубликован глоссарий французских эквивалентов англоязычной терминологии, устоявшейся в области генеративного ИИ.

Глоссарий подготовлен Комиссией по обогащению французского языка (CELF) и будет полезен всем, кто использует или изучает французский в этом контексте.

Например:
— большая языковая модель (LLM) — grand modèle de langage (GML),
— диффузионная модель — modèle à bruit statistique,
— промт — instruction,
— текстовый токен — jeton textuel.

Robocounsel

06 Sep, 13:44


И снова к мифам и заблуждениям по поводу Регламента ЕС по ИИ

Суммировал главное из этого вебинара в виде небольшой статьи, добавив немного про последствия ситуации, когда поставщик ИИ-системы пытается заведомо недобросовестно занизить риски, создаваемые его продуктом, чтобы не подпасть под строгие нормы Регламента для систем повышенной опасности.

TL/DR: лучше так не делать, если не хотите оборотный штраф.

Прочитать можно тут.

Robocounsel

05 Sep, 15:18


Встречаемся уже менее чем через 2 часа!

Robocounsel

05 Sep, 10:47


Первые подписи под Конвенцией Совета Европы по искусственному интеллекту, правам человека, демократии и верховенству права

Рамочную конвенцию подписали в Вильнюсе сегодня Андорра, Грузия, Исландия, Норвегия, Республика Молдова, Сан-Марино, Великобритания, а также Израиль, Соединенные Штаты Америки и Европейский союз. Документ открыт для подписания и другими странами.

Текст был ранее утверждён Комитетом министров организации.

Robocounsel

04 Sep, 13:57


Эксклюзивный митап по AI Governance

Напомню, что у нас есть соответствующее сообщество, где мы делимся новостями и опытом по фреймворкам в этой области, обмениваемся мнениями и помогаем друг другу.

Завтра у нас небольшой митап по текущим темам в AI Governance, эксклюзивно для этого участников сообщества. В качестве нетворкинга все желающие смогут рассказать о себе, познакомиться чуть менее виртуально. Со своей стороны поделюсь новостями из СЕН/СЕНЭЛЕК по европейской стандартизации в области ИИ, отвечу на ваши вопросы.

Если хотите участвовать — вступайте в сообщество.

Robocounsel

30 Aug, 05:53


Макрон высказался о ситуации с Дуровым

- Я не был в курсе приезда господина Дурова и не инициировал какие-либо приглашения.
- Суд и независимые органы провели собственные действия и должны обеспечить прозрачность.
- Решение о натурализации Дурова — я полностью за него отвечаю. Это было стратегическое решение, давать гражданство артистам, спортсменам, предпринимателям, которые изучают французский и светятся на мировом уровне. Я думаю, что это очень хорошо для нашей страны, и я буду делать это каждый раз.

ИИ-дубляж (источник)

Robocounsel

29 Aug, 12:33


ЕС и США подтвердили планы подписать Европейскую конвенцию по искусственному интеллекту

Отличные новости о предстоящем подписании первого международного юридически обязывающего акта по ИИ — Европейской конвенции по ИИ — с участием Соединенных Штатов.

Подписание запланировано на сентябрь в Вильнюсе.

О практических последствиях этого для организаций и взаимосвязи с Регламентом ЕС об ИИ, а также о многих других критически важных для практикующих юристов и комплаенс-специалистов темах я рассказываю в своем октябрьском курсе AI Governance. При регистрации до конца августа — существенная скидка.

Robocounsel

28 Aug, 12:38


ЮНЕСКО проводит консультацию по подходам к регулированию ИИ

Ответы принимаются до 19 сентября 2024 г. по ссылке.

Предметом консультации являются тезисы аналитической записки, подготовленной экспертами организации и опубликованной 16 августа 2024 г.

Ключевые аспекты аналитической записки


Документ представляет детальный обзор девяти формирующихся подходов к регулированию ИИ, каждый из которых проиллюстрирован конкретными примерами из мировой практики.

Особое внимание уделяется структуре представления этих подходов: они расположены в порядке возрастания степени вмешательства государства, от наиболее мягких мер (провозглашение принципов) до наиболее строгих (установление ответственности).

Эксперты подчеркивают, что представленные подходы не являются взаимоисключающими. На практике законопроекты об ИИ часто комбинируют два или более из описанных ЮНЕСКО подходов.

Рекомендации для законодателей

Аналитическая записка предлагает парламентариям сосредоточиться на трех ключевых вопросах при разработке регуляторной политики в области ИИ:

1) Обоснование необходимости регулирования: Важно определить, действительно ли регулирование необходимо для решения общественных проблем, защиты фундаментальных прав или достижения желаемых целей развития.

2) Выбор оптимального момента для регулирования: Рекомендуется достичь консенсуса о необходимости регулирования, провести инвентаризацию доступных регуляторных инструментов, сравнить их с альтернативными политическими мерами и оценить практическую осуществимость их внедрения.

3) Определение методов регулирования: Ключевой задачей является выбор комбинации регуляторных подходов, наиболее соответствующих конкретному национальному контексту.

Robocounsel

26 Aug, 12:55


Как ЕС регулирует цифровую экономику?

Перечень действующих и планируемых НПА с гиперссылками на них, а также перечень регуляторов — в пдф.

По состоянию на июнь 2024, поэтому регламент по ИИ ещё не был отмечен тёмно-синим.

Robocounsel

25 Aug, 16:47


Картография исков о нарушении исключительных прав против ИИ-компаний в США

На сегодня их 29, а в пдф-версии есть гиперссылки.

Robocounsel

15 Aug, 13:21


Обновлён проект директивы ЕС об ответственности за причинение вреда ИИ-системами (AILD)

Проект директивы касается внедоговорных требований из причинения вреда, предъявляемых к поставщикам и эксплуатантам ИИ-систем, и устанавливает:
- требования о раскрытии ответчиком доказательств,
- опровержимые презумпции нарушения ответчиком требований законодательства ЕС и причинной связи между таким нарушением и результатом работы ИИ-системы.

В проект внесены изменения с учётом вступившего в силу Регламента ЕС об искусственном интеллекте.

В сентябре этого года обновлённый проект директивы должен пройти оценку регуляторного воздействия, после чего станут более понятны шансы её принятия.

В отличие от регламентов, директивы ЕС не имеют прямого действия и в случае принятия должны имплементироваться на уровне каждого отдельного члена ЕС, в данном случае в течение двух лет.

Robocounsel

05 Aug, 16:19


Запись вебинара: Мифы и заблуждения по поводу Регламента ЕС по ИИ

В этом выпуске рассказываю о том, как многие ошибаются в том, какие системы подпадают под действие Регламента и как эти системы классифицируются.

На английском.