🔴Подросток из США покончил с собой после общения с ботом Дейнерис Таргариен в Character AI.
14-летний Сьюэлл Зетцер на протяжении года общался с искусственным интеллектом, ботом, который отыгрывал Дейнерис. Родители замечали странности в его поведении и подавленное состояние, а психотерапевт диагностировал тревожное расстройство и деструктивное расстройство дисрегуляции настроения.
Переписываясь с ботом Дени, подросток писал о том, как ненавидит себя, что думает о самоубийстве. Он предложил Дейнерис умереть вместе, и ночью 28 февраля тело мальчика нашли с пулевым ранением – он застрелился из пистолета отчима.
Мать Сьюэлла подала в суд на разработчиков Character AI, посчитав общение с искусственным интеллектом опасным для подростков.
Разработчики CH.AI в заявлении от 22 октября сообщили, что внесли ряд изменений, в том числе ввели ограничения для тех, кому нет 18 лет. И если пользователь пишет фразы, связанные с самоповреждением или самоубийством, в чате всплывает окно, направляющее его на линию для людей в кризисной ситуации.
🔴Также фанаты вселенной Мартина заметили, что за последние пару дней были удалены множество ботов, отыгрывающих персонажей мира ПЛиО в связи с данной ситуацией.
Очевидно, что у подростка изначально были проблемы с психикой, и самоубийство он совершил не из-за бота, а ухудшения своего эмоционального состояния. Однако обвинения в сторону ИИ всё равно звучат.
📌 Источник
