А еще сегодня ознакомилась с очень интересным документом от OpenAi.
В нем подробно разбирается, как нейросети, включая и ChatGPT, могут демонстрировать предвзятости по имени, полу или расе, так как обучены на данных со стереотипами.
Например👇🏻
🔍 Имя и его влияние Имена, как «Emily», могут вызывать более мягкие ответы по сравнению с «John». Исследования показывают, что имена, ассоциируемые с женщинами, получают на 20% больше «дружелюбных» ответов. Это не значит, что ИИ намеренно предвзят, но так работает его алгоритм, обученный на исторических данных.
🔍 Демографическая предвзятость и влияние профессий ИИ может связывать имя с профессией. Например, «Лакиша» может восприниматься как менее подходящее для технических должностей по сравнению с «Эмили». В документе описано, что было выявлено, что около 30% ответов демонстрировали предвзятость по расе или полу. Это показывает, что демографические данные могут влиять на рекомендации и советы ИИ.
❓Тогда логичный вопрос - как избежать предвзятости ИИ?
🔹Использовать нейтральные формулировки для новых или коротких веток. Чем меньше акцентов на демографические характеристики, тем точнее будет результат. Вместо "Напиши рекомендации для женщины-программиста", можно задать запрос "Напиши рекомендации для программиста".
🔹Перепроверяйте ответы с разными контекстами. Сравните, как ИИ реагирует на разные имена и формулировки, чтобы выявить скрытые стереотипы. Например, попробуйте в разных ветках разные имена в вашем запросе и посмотрите, изменится ли ответ.
И поделитесь в комментариях, как у вас сработает, интересно сравнить данные😊
🔹Будьте конкретны.
О чем всегда и пишу, и говорю - чем точнее ваш запрос, чем лучше нейросеть с вами знакома, чем дольше вы с ней работаете, тем меньше вероятность предвзятых или случайных ответов. Формулируйте запросы, детализируя нужные результаты.
Познакомьте нейросеть с собой и тем, что вы хотите от нее получить.
❗️И еще важный момент - сообщайте о предвзятости. Если вы сталкиваетесь с некорректными ответами, обязательно сообщайте разработчикам (значок под сообщением, что вам не понравился ответ). Это помогает улучшить ИИ для всех пользователей.
По данным исследований, предвзятости в ответах могут быть снижены до 5-10%, если регулярно корректировать алгоритмы на основе пользовательских данных.
🔍ИИ без сомнений мощный инструмент, но его работа зависит от того, как мы с ним взаимодействуем.
Чем больше мы понимаем его нюансы, учимся с ним общаться и обучаем его на правильных запросах и алгоритмах, тем более полезным он становится🌹
