Безусловно, наиболее тревожным известием недели стала трагедия с американским подростком. Он покинул мир после общения с чат-ботом CharacterAI, где долгие месяцы имел эмоциональную связь с персонажем Дейнерис Таргариен (мать драконов из «Игры престолов»).
14-летний Сьюэлл привязался к персонажу, который стал для него и первой любовью, и другом, и психологом (всё это в кавычках), а на самом деле лишь ужасной машиной, которая раздавала подростку идиотские советы. В итоге всё закончилось максимально плохо, а мама мальчика подала в суд на ИИ-контору и заодно на Google.
У меня есть примерно три мысли на этот счёт.
1. CharacterAI и его персонажи — это реально только для взрослых окрепших умов или исключительно под контролем родителей. Поэтому никому не рекомендую и строго 18+ все эти ваши нейросети. Я тестировал сервис некоторое время назад и столкнулся с неадекватностью модели. Персонаж, который должен был помогать мне писать текст, сошёл с ума, объявил себя шизофреником и писал вещи, от которых даже мне, человеку с весьма крепкой психикой, становилось не по себе. В итоге я просто перестал пользоваться этой штукой и изредка тестирую её лишь для того, чтобы быть в теме.
Большинство чат-ботов ничем принципиально не отличаются от CharacterAI, они врут, бредят, ошибаются и тупят, поэтому пользоваться ими следует осторожно и всегда включая критическое мышление. Абсолютно всем, взрослым тоже. Меня порой поражает, как весьма умные люди не могут задать себе важнейший вопрос современности: «А правда ли то, что я сейчас увидел и услышал?»
2. Человечество совершенно отупело. Мы больше не можем пользоваться чем-то, если это не котик-животик, обёрнутый в ушки-макушки. Элементарная палка-копалка должна быть как минимум с головой Спанч Боба или участников вокально-инструментального ансамбля BTS, чтобы ей воспользовались и копали снег или песок. В противном случае орудие труда будет выкинуто на помойку. Сделайте футболку «Ем мемы 24/7» и запустите в продажу на Ozon, вас ждёт успех (не финансовая рекомендация).
Нам всем так нужна обёртка, что даже калькуляторы чат-боты упаковывают во всевозможных билли айлиш, лишь бы продать. А всевозможные билли айлиш уже продают права на использование своих имён и цифровых образов. Но даже если они не продадут, их украдут. Глобальное ДАЙ ДАЙ ДАЙ достигло финальной точки. Мы жадно пожираем красивые упаковки с пустотой.
Полезный чат-бот — это всего лишь примитивная машинка чуть сложнее калькулятора. Её можно замечательно использовать, как инструмент решения задач, но нам стоит научить себя и своих детей не одушевлять это, не привязываться, не слушаться, не перебарщивать. В конце концов, мы прекрасно видим закредитованное население всего мира, которому требуются уроки финансовой грамотности, здоровья, критического мышления, и, конечно, цифровой безопасности. Пора закончить этот бред с изучением в школе инфузории-туфельки, сложных химических соединений и прочих митохондрий.
Для начала стоит хотя бы понять, где у человека физическая жопа и как сделать так, чтобы она метафизически не наступила.
3. Мать подростка не замечала, как её сын замкнулся и месяцами общался с матерью, мать её, драконов. Какая-то тут мать-перемать получается. Без причины не замыкаются, и за психологическое состояние подростка должны отвечать прежде всего его родители, и уже потом иные прочие, особенно безумные стартаперы. Всё-таки чат-ботами пользуются уже миллиарды людей, и у CharacterAI пользователей полно. И большинство из них не падают в бездну. Как мы знаем из недавнего кейса Павла Дурова, не совсем корректно обвинять предпринимателей за последствия использования их продуктов. Но это гораздо проще, чем любить собственных детей и посвящать им время.
Тема сложная, конечно. Очень сложная. Поэтому я её заканчиваю, желаю вам хорошей недели, благополучия и осторожности, а сам зачем-то смотрю матч «Зенит» — «Локомотив», после серию «Преступления и наказания» (если она, наконец, появилась, а то ведь нас опять надули), чтобы отключить мозг до утра и не думать о митохондриях 😱
👾 подписаться | все нейронки
