Машинное обучение, искусственный интеллект, нейронные сети используются многими чуть ли не взаимозаменяемо, но это разные вещи. Действительно, машинное обучение в рамках автоматизированной оценки биопсий, рентгеновских снимков, молекулярных структур – ужасно многообещающая штука, уже способная сильно удивить. Но в повседневности люди любят рассказывать, какое чудо ChatGPT и подобные ему большие языковые модели. Соглашусь, уже сейчас у них много прикладных применений, но.
Огромное “но” состоит в том, что насколько хороши эти инструменты для обработки информации, настолько плохи они для ее поиска, а очень многие используют их именно для этого. Приведу подряд, а не выборочно, 3 собственных примера (платная версия!) из последних дней:
На одном международном мероприятии в неофициальной программе устроили конкурс загадок. Вопрос: какое женское имя объединяет сюжет фильма, британский биплан, итальянское пиво и ещё что-то, уже не помню, деталей было много. Сломав головы, люди обратились к чатгпт. Тот, как всегда уверенно, отвечает: Стелла! (и сопровождает это очень гладким и детальным объяснением).
Коллега задает вопрос: не знаешь, почему прекратили исследование такого-то препарата, и указывает коммерческий код продукта. Поначалу было не очень понятно из доступных материалов, думаю, дай спрошу чатгпт. Тут же получил ответ.
Заинтересовался чересполосицей царей и императоров 17-18го веков, особенно в детях Алексея Михайловича. Спрашиваю, а при каких обстоятельствах стал править Пётр? Опять конкретный ответ, всё ясно и четко.
В этих очень ясных, структурированных, гладких и убедительно написанных ответах плохо было одно. Они были полной ложью, фантазией, в лучшем случае отчасти верными, но в каких-то ключевых вопросах не имеющими никакого отношения к действительности. И слава богу, что у меня было достаточно знаний или источников, чтобы этот бред распознать. Можно конечно сказать, что галлюцинации ИИ — известное явление. Но мне кажется крайне наивным обманывать себя мыслью о том, что все остальные тоже такие умники-разумники, а не обычные люди, склонные торопиться и лениться.
Вообще говоря, ChatGPT имеет очень характерную черту. Он будет упорно стараться отвечать что угодно, бессовестно выдумывая и привирая, лишь бы не сказать, что он просто не знает ответа. Сильно напоминает мне многих политиков и многих фаундеров, идущих по жизни с мантрой fake it till you make it. Гладкое, ловкое, красивое, бессовестное вранье.
(Хорошим, честным фаундерам посылаю лучи поддержки, а врунишкам — привет от Элизабет Холмс)