roguelike theory

Странный мираж — трудно поверить, что несколько лет назад казалось, что адекватный способ улучшить мир — это громко орать о своей моральной позиции. Конечно, это "никогда не было так", проводить границу эпохи по переизбранию Трампа покажется комментаторам слишком наивно и поздно. Есть такие вещи: какую дату не назови, нет-нет, война с Украиной началась гораздо раньше, геноцид в Газе начался гораздо раньше, хоть легко в 19 веке... Но все же можно было как-то грезить, а сейчас: Мистер Трамп помогает нам проснуться от дурного хипстерского сна.

Политика морального самовыражения это политика, изображаемая демократической партией США, которая задавала тон свободному миру до самого начала этого года. Теперь эта партия мертва и ищет способы себя переизобрести, и остаётся только надеяться, что это не приведет к полному идиотизму. Республиканская партия работает на совершенно ином принципе: абсолютной лояльности лидеру. Поэтому республиканцы не срутся по любому поводу между собой. И то непрестанное и абсолютное зло, которое вершат Трамп и его друг и соратник Маск, стоит понимать не в последнюю очередь как проверку на радикальную лояльность: если ты готов поддержать отмену программы защиты детей от СПИДа, ты лоялен, ты свой.

Чтобы помогать кому-либо или улучшать мир, нужна власть — политическая, институциональная, власть распоряжаться каким-то деньгами или хотя бы своим собственным временем — даже последняя в наши дни остается под вопросом для многих, кому приходится отдавать ландлордам большую часть зарплаты. На увеличении этой власти, а не достижении внутреннего морального превосходства, стоит сосредоточить свои силы в это тяжелое время. Если это кажется недостаточно возвышенным и прекрасным, читайте Спинозу, у него это красиво по-философски.

Была одна игра времен эпохи демократической партии: понимать всяких мудаков. Поскольку всякие хорошие люди понимали своих хороших мудаков, хотелось им назло понимать всяких плохих мудаков, чтобы припугнуть хороших. Вот некоторые люди голосовали за Трампа, т.к. им не нравилось, что Байден поддерживает Израиль. Ну что ж! Эти игры закончились.

Сейчас Антропик выпустил удивительную совершенно статью о том, что если ИИ натренировать программировать плохие программы, то он одновременно начинает поддерживать Гитлера и порабощение человечества. Другими словами, плохой ИИ во всем злой и плохой, а хороший, соответственно, во всем будет хороший и добрый. Это сильно упрощает мир, конечно: все ИИ сразу легко делятся на хорошие и плохие, и можно легко между ними выбирать.

Конец морального релятивизма? Компьютеры наконец все посчитали и помогли окончательно разобраться, что хорошо, а что плохо? Лично я очень рад, наконец, что плохо программировать это то же, что и поддерживать Гитлера...

Моя интерпретация такая: прилагательные, которые надо использовать как с искусственными интеллектами, так и с политиками, это полезный/бесполезный и безопасный/разрушительный. То, что люди и компьютеры говорят о Гитлере, к этим вещам имеет очень опосредованное отношение (Канье вон, кретин конечно, но все равно безопасный, и даже не особенно бесполезный (слушали же столько)). Если отвлечься от всех этих смешных примеров, то польза и безопасность остаются очень относительными вещами. Выбирать, в рамках собственной ситуации, в лучшем случае приходится между опасным-полезным и безопасным-бесполезным. Второе — любимый вариант перформативных любителей добра (Хилари Клинтон, SPD, ИИ, который боится что-то плохое сказать...). Пока ось безопасности остаётся в приоритете, нормальной, конструктивной политикой рисковать не будет никто.

Сегодня предпоследний день подачи заявлений на стипендии для обучения в The New Centre, где я учился, преподавал и работаю. Вы все можете на них податься. В программе на 2025 год многие, о ком любят писать в русских тг каналах (Реза Негарестани, Джейсон Могагег, Томас Мойнихан, Анна Лонго...) и другие интересные люди, они будут вести семинары про Ларуэля, машинное обучение, будущее и всё прочее, о чём мы с вами любим рассуждать.

В TNC стоит поступать, чтобы общаться, это отличная онлайн- и иногда оффлайн-тусовка. В отличие от многих других "онлайн-курсов" это не про 25-летних ассистентов, зачитывающих в одностороннем порядке написанный недоступными преподами текст, а настоящие исследовательские семинары от современных философов. Многим людям, на мой взгляд, это не особо надо (можно, если надо, и на ютубе найти пятимянутные пояснения про Ларуэля), но есть те, кому хочется прям всерьез все это обсуждать, и TNC для таких. Если вы находитесь в состоянии растерянного, но энергичного интереса к современной философии, то это отличное место, чтобы немного освоиться, со всеми познакомиться, и найти чем и где и с кем заняться.

На Ютубе можно найти первые эпизоды старых семинаров — помимо всяких известных вам имён, я рекомендую, например, Колина Драмма и его разговоры об истории экономики, Шекспире и ММТ, и классику — Рея Брассье и его семинары о Марксе.

В 2020 мы зин сделали в том же духе – заказали куче прекарных работников с файвера написать разные тексты, притворяясь искусственным интеллектом. C картинками Александры Гаркуши.

А вы когда-нибудь изображали чат-ботов? Датский медиа-исследователь Мальте Эрслев называет это бот-мимикрией: на Reddit есть целый сабфорум, где пользователи пишут от лица глуповатых ИИ-моделей. Притворяться роботом — это значит и упражняться в медиа-идиотизме, и писать теорию ИИ наоборот, уверен автор. Ведь миметические исследования алгоритмов начинаются с того, как их видит интернет культура — и только затем приходят к свойствам самой технологии.

Боты в сети упорно мимикрируют под нас — хотя мы точно знаем, что большие языковые модели устроены иначе, чем мы сами. Чем больше они втираются к нам в доверие, тем больше поведенческих данных собирают — и тем лучше нас узнают. Проще говоря, подражать другому — значит не превратиться в него, а лучше его узнать. Но что если сделать все наоборот, и самим поиграть в роботов?

Эрслев уверен: это вполне валидный способ узнать что-то об ИИ. Особенно если вспомнить, что многие алгоритмы проприетарны — и пользователи вряд ли смогут узнать точно, как они работают. Ведь чтобы писать от лица бота, сначала нужно понять, какие принципы стоят за его письмом.

Другой вопрос в том, почему идея мимикрии занимает такое прочное место в нашем техносоциальном воображении. Знаменитый тест Тьюринга как раз построен на подражании: сможет ли машина притвориться человеком — и так обмануть оператора? Хотя он был придуман еще в 1950 году, разработчики ИИ и сегодня используют его для того, чтобы продемонстрировать производительность новых моделей.

Проблема в том, что, по задумке самого же Тьюринга, его метод обнаруживает не некий абстрактный интеллект. В своей знаменитой статье «Вычислительные машины и разум» он намеренно уходит от попытки дать «мышлению» философское определение. Скорее, тест Тьюринга показывает, может ли машина совершать действия, внешне неотличимые от мышления в человеческом понимании.

Разработчики дисциплинируют машины — чтобы они вели себя, как люди. Но у этого процесса неизбежно есть и обратная сторона: машины начинают дисциплинировать пользователей. Выйти из этой петли можно, если повернуть отношения мимикрии в обратном направлении. Играть в роботов — значит ставить под вопрос культурные тропы о машинах и машинном. И, потенциально, — представить иные, не основанные на мимикрии сборки машинного и человеческого.