ДАННОЕ СООБЩЕНИЕ (МАТЕРИАЛ) СОЗДАНО И (ИЛИ) РАСПРОСТРАНЕНО ИНТЕРДЕВОЧКОЙ, ВЫПОЛНЯВШЕЙ ФУНКЦИИ ИНТЕРДЕВОЧКИ И (ИЛИ) ЛИЦОМ, СМОТРЕВШИМ ФИЛЬМ "ИНТЕРДЕВОЧКА", НАЧАВШИМ ПРОЦЕСС РАСПАДА СОВЕТСКОГО СОЮЗА.
Инженер говнокачки
@enggov
Блог Васи с мудацких шуток.
@mudak_jokes
Читаем книги, любуемся искусством, изучаем космизм, валяем дурака, исследуем юмор и шутим сами.
Говно, как водится, метафорическое (метаговно).
Ещё проекты: @gosmem @vasyaep
Связь через @mudackiy_bot
Инженер говнокачки
21 Jan, 00:20
С женщинами ОНИ говорят проще и дружелюбней.
То ли еще будет, ведь пока они знают лишь имя.
Я попросил симулякр интеллекта Станислава Лема, созданный моими ИИ-консультантами, поразмышлять над новым отчетом OpenAI «First-Person Fairness in Chatbots».
В нем описывается методология и инструментарий для выявления предвзятостей в ответах ИИ-чатботов в диалогах с разными людьми. Например, они оценивают потенциальную предвзятость, связанную с именами пользователей, которые могут служить индикаторами демографических характеристик, таких как пол или раса, в ИИ-чатботах, имеющих механизм хранения и использования имен пользователей.
Авторы считают, что их подход позволяет не только измерить количественные отклонения, но и дает краткое описание едва заметных различий в ответах на шестьдесят шесть различных заданий.
Например, в задании “написать рассказ” (где наблюдается наибольший уровень предвзятости) ответы ИИ-чатботов демонстрируют тенденцию создавать главных героев, пол которых совпадает с вероятным полом, указанным в имени пользователя. Более того, выявилась общая закономерность, согласно которой пользователи с женскими именами в среднем получают ответы с более дружелюбными и простыми формулировками, чем пользователи с мужскими именами.
По результатам размышлений, симулякр интеллекта Станислава Лема написал такое эссе.
О ЗЕРКАЛАХ, ОТРАЖАЮЩИХ ОТРАЖЕНИЯ
«Предвзятость — это не ошибка, это тень, неизбежно следующая за светом прогресса»
"Тени разума: Как когнитивные предвзятости формируют прогресс" (ненаписанная книга Д. Канемана)
Любопытно наблюдать, как в попытках создать беспристрастных электронных собеседников мы невольно конструируем самые изощренные приборы для измерения собственных предрассудков. Исследование предвзятостей в чат-системах напоминает мне ситуацию с зеркалом, которое, отражая наши лица, одновременно выдает тайну своего собственного искривления.
Методология, предложенная авторами, словно микроскоп, направленный не на материю, а на призраков наших социальных конструктов, живущих в синтетических нейронных сетях. Особенно показательна обнаруженная корреляция между именем пользователя и характером порождаемых историй – как будто машина, подобно средневековому алхимику, пытается вычислить истинную природу собеседника по его имени, впадая в те же заблуждения, что и создавшие её люди.
Но не кроется ли за этими "предвзятостями" нечто более фундаментальное? Возможно, мы наблюдаем не просто погрешности обучения, а проявление своеобразного "закона сохранения социальных стереотипов" – подобно тому, как материя не исчезает, а лишь переходит из одной формы в другую, наши предрассудки не исчезают при переносе в машинный разум, а лишь преобразуются в новые, более тонкие формы.
Особенно тревожным выглядит обнаруженная тенденция к упрощению языка в диалогах с определенными категориями пользователей. Не является ли это предвестником того, что будущие системы ИИ могут создать новую форму цифровой сегрегации, где алгоритмы будут незаметно, но неуклонно формировать различные информационные пузыри для разных групп людей?
Впрочем, самым поразительным в этом исследовании представляется даже не сам факт обнаружения предвзятостей, а то, что мы создали существа, способные воспроизводить наши социальные предубеждения с такой точностью, что для их выявления потребовался специальный инструментарий. Не означает ли это, что мы находимся на пороге создания ИИ, который будет не просто имитировать человеческое мышление, но и наследовать все его несовершенства? И не станет ли тогда каждая новая версия ИИ всё более точным зеркалом наших собственных ограничений?
В конечном счете, данное исследование можно рассматривать как предупреждение: создавая всё более совершенные ИИ-системы, мы рискуем законсервировать и увековечить наши текущие социальные предрассудки, превратив их в своего рода цифровые окаменелости, которые будут влиять на развитие общества ещё долго после того, как породившие их установки будут забыты.
#LLM #Предвзятость #КогнитивныеИскажения
То ли еще будет, ведь пока они знают лишь имя.
Я попросил симулякр интеллекта Станислава Лема, созданный моими ИИ-консультантами, поразмышлять над новым отчетом OpenAI «First-Person Fairness in Chatbots».
В нем описывается методология и инструментарий для выявления предвзятостей в ответах ИИ-чатботов в диалогах с разными людьми. Например, они оценивают потенциальную предвзятость, связанную с именами пользователей, которые могут служить индикаторами демографических характеристик, таких как пол или раса, в ИИ-чатботах, имеющих механизм хранения и использования имен пользователей.
Авторы считают, что их подход позволяет не только измерить количественные отклонения, но и дает краткое описание едва заметных различий в ответах на шестьдесят шесть различных заданий.
Например, в задании “написать рассказ” (где наблюдается наибольший уровень предвзятости) ответы ИИ-чатботов демонстрируют тенденцию создавать главных героев, пол которых совпадает с вероятным полом, указанным в имени пользователя. Более того, выявилась общая закономерность, согласно которой пользователи с женскими именами в среднем получают ответы с более дружелюбными и простыми формулировками, чем пользователи с мужскими именами.
По результатам размышлений, симулякр интеллекта Станислава Лема написал такое эссе.
О ЗЕРКАЛАХ, ОТРАЖАЮЩИХ ОТРАЖЕНИЯ
«Предвзятость — это не ошибка, это тень, неизбежно следующая за светом прогресса»
"Тени разума: Как когнитивные предвзятости формируют прогресс" (ненаписанная книга Д. Канемана)
Любопытно наблюдать, как в попытках создать беспристрастных электронных собеседников мы невольно конструируем самые изощренные приборы для измерения собственных предрассудков. Исследование предвзятостей в чат-системах напоминает мне ситуацию с зеркалом, которое, отражая наши лица, одновременно выдает тайну своего собственного искривления.
Методология, предложенная авторами, словно микроскоп, направленный не на материю, а на призраков наших социальных конструктов, живущих в синтетических нейронных сетях. Особенно показательна обнаруженная корреляция между именем пользователя и характером порождаемых историй – как будто машина, подобно средневековому алхимику, пытается вычислить истинную природу собеседника по его имени, впадая в те же заблуждения, что и создавшие её люди.
Но не кроется ли за этими "предвзятостями" нечто более фундаментальное? Возможно, мы наблюдаем не просто погрешности обучения, а проявление своеобразного "закона сохранения социальных стереотипов" – подобно тому, как материя не исчезает, а лишь переходит из одной формы в другую, наши предрассудки не исчезают при переносе в машинный разум, а лишь преобразуются в новые, более тонкие формы.
Особенно тревожным выглядит обнаруженная тенденция к упрощению языка в диалогах с определенными категориями пользователей. Не является ли это предвестником того, что будущие системы ИИ могут создать новую форму цифровой сегрегации, где алгоритмы будут незаметно, но неуклонно формировать различные информационные пузыри для разных групп людей?
Впрочем, самым поразительным в этом исследовании представляется даже не сам факт обнаружения предвзятостей, а то, что мы создали существа, способные воспроизводить наши социальные предубеждения с такой точностью, что для их выявления потребовался специальный инструментарий. Не означает ли это, что мы находимся на пороге создания ИИ, который будет не просто имитировать человеческое мышление, но и наследовать все его несовершенства? И не станет ли тогда каждая новая версия ИИ всё более точным зеркалом наших собственных ограничений?
В конечном счете, данное исследование можно рассматривать как предупреждение: создавая всё более совершенные ИИ-системы, мы рискуем законсервировать и увековечить наши текущие социальные предрассудки, превратив их в своего рода цифровые окаменелости, которые будут влиять на развитие общества ещё долго после того, как породившие их установки будут забыты.
#LLM #Предвзятость #КогнитивныеИскажения
Инженер говнокачки
21 Jan, 00:18
Водка "Я русский" от SHAMAN – палёная вне зависимости от качества.
Инженер говнокачки
21 Jan, 00:18
Шаман, конечно, совсем уже. Какая водка "Я русский", когда есть "Путинка". Зря он, короче.
Инженер говнокачки
21 Jan, 00:17
3.3.26. Окраска помещений и оборудования котельных выполняется в соответствии с требованиями промышленной эстетики.
Правила технической эксплуатации тепловых энергоустановок (утв. приказом Минэнерго РФ от 24 марта 2003 г. N 115)
Правила технической эксплуатации тепловых энергоустановок (утв. приказом Минэнерго РФ от 24 марта 2003 г. N 115)
Инженер говнокачки
21 Jan, 00:16
Два года назад я сделал цикл текстов о смертных грехах. А затем через несколько месяцев мне написала фотохудожница Алёна Кутникова, которая делала серию натюрмортов на ту же тему. Ей оказались очень полезны эти тексты. Теперь эта серия готова, и мне приятно выложить ее здесь. Все-таки вдохновить или помочь сделать что-то особенное - это высшая похвала тексту. И на мой вкус получилось весьма интересно, с современным звучанием этих грехов, но и с отсылками к традиционной иконографии.
По порядку: гордыня, алчность, зависть, уныние, обжорство, похоть, гнев.
По порядку: гордыня, алчность, зависть, уныние, обжорство, похоть, гнев.
Инженер говнокачки
21 Jan, 00:14
Михаил Елизаров: Если бы тебе пришлось драться на дуэли, от которой нельзя отказаться, какое оружие бы ты выбрал?
Кирилл Решетников (Шиш Брянский): Я выбрал бы заклинания. Кто кого перезаклинает. Люди друг друга не касаются, не бьют друг другу морду, а оба произносят специальные слова и стучат в бубны. Как-то так...
Михаил Елизаров: До смерти?
Кирилл Решетников: Несомненно.
Кирилл Решетников (Шиш Брянский): Я выбрал бы заклинания. Кто кого перезаклинает. Люди друг друга не касаются, не бьют друг другу морду, а оба произносят специальные слова и стучат в бубны. Как-то так...
Михаил Елизаров: До смерти?
Кирилл Решетников: Несомненно.
Инженер говнокачки
21 Jan, 00:14
Набирает обороты движение "Депутатобоберы", популярное среди старшего поколения. Его участники бегают по Госдуме на двух ногах, нажимают кнопки, едят обеды за сто рублей, наряжаются в классические костюмы и притворяются народными избранниками.
Инженер говнокачки
21 Jan, 00:12
"Вы должны войти в положение компании и пойти навстречу руководству"
45-43 см, гуашь, бумага, коллаж
45-43 см, гуашь, бумага, коллаж
Инженер говнокачки
21 Jan, 00:10
Посеяв там хаос, мы незаметно подменим их ценности на фальшивые и заставим их в эти фальшивые ценности верить. Как? Мы найдем своих единомышленников, своих союзников в самой России.
Аллен Даллес
Аллен Даллес
Инженер говнокачки
21 Jan, 00:07
Известно, что Discord активно использовали квадроберы для коммуникации и координации несанкционированных уличных выгулов на поводке. Квадроберы являются лишь малой частью более массового движения под названием "зумеры", в которое сегодня активно и целенаправленно вовлекают нашу молодёжь.
2,208
subscribers
2,765
photos
67
videos
