Канал «СофтТех» продолжает цикл #вирусный_контент, который посвящен самым знаковым вирусам в истории. Сегодня о вирусе, который открыл новую эпоху в истории вредоносных программ – первый ИИ-вирус Morris II.
Вечная гонка
Сегодня компьютерные вирусы, черви стали частью обыденности – они не вызывают вау-эффект, какой был в 90-х и даже начале нулевых.
Все дело в том, что наш мир за это время изменился – мы все с ног до головы увешены гаджетами. А это значит, что где-то рядом находится риск цифрового заражения. Если мы всю жизнь живем в лесу с медведями, то мы перестаем им удивляться – вирусы попали в такую же ловушку тривиализации.
Вирусы на протяжении всей своей истории подстраивались под инновации – от Creeper’а, гулявшего по дедушке мировой паутины Arpanet, до вирусов, «паразитирующих» на популярности Ютуба и трендах, как MEMZ. Мог ли ИИ быть затронут вирусной заразой? Конечно же, да!
Новая веха
Исследователи Бен Насси, Став Коэн и Рон Биттон на базе американского Корнельского университета создали первого в истории червя, работающего с искусственным интеллектом. Имя ему дали соответствующее – Morris II. В ходе нашего цикла мы рассказывали о первом черве в истории, черве Морриса, который был создан, чтобы изучить размеры мировой паутины. Так вот, червь был создан именно аспирантом университета Корнелла Робертом Таппаном Моррисом. Такое вот обращение к корням. Результаты работы над червем и его тестирование были опубликованы на специальном сайте.
Что он делает?
Сам по себе червь не содержит ИИ-элементов. Он атакует искусственный интеллект, а не является им.
В случае попадания в почтовую систему с использованием генеративного ИИ, Morris II начинает эксплуатировать особенности AI:
▶️ задает текстовые самовоспроизводящиеся запросы (промпты);
▶️ встраивает самовоспроизводящийся запрос в картинку.
Причем «дыры» в безопасности, на момент тестирования, были и в LLM от Google Gemini Pro, и в ChatGPT 4.0, и в LLaVA.
Чем это грозит?
По сути, исследователи доказали простой и неприятный факт – ИИ – это новое окно, через которое вирусы могут проникнуть к вам. Если это окно не закрыть, то кто знает, чего могут добиться хакеры. Почта – это не самое «страшное» место, до которого могут добраться руки червя – если, допустим, вирус вмешается в работу ИИ, отвечающих за функционирование определенных операций или систем, то мало не покажется никому.
Morris II – это только «стендовый экземпляр». Он не нанес никому вреда, но он задал очень важный вопрос, на который лёгкого ответа быть не может. Исследователи донесли информацию до Google и OpenAI. «Дыры» были залатаны. Но есть ли гарантия, что других проблем с безопасностью нет? Конечно же нет – вся история вирусов именно об этом: при закрытии одного эксплойта, программисты создают два новых. Вирусы, работающие с ИИ – это то, с чем мы скоро столкнемся в полный рост.
А на этой «позитивной ноте» цикл про #вирусный_контент подходит к концу. Мы провели вас через основные вехи развития вредоносных программ. Надеемся, что вам было интересно! Ну а мы скоро вернемся к вам с другими циклами, которые будут вам полезны📌