EXTENDED (SUR)REALITY

Применение цифровых метафор в популярной культуре, науке и маркетинге - одна из наиболее любимых мною тем. Недавно в Forbes вышла колонка Андрея Себранта про метафоры ИИ, и эта тема вновь меня поглотила.
 
Метафоры традиционно используются для объяснения сложных идей через аналогию с более понятными явлениями, и, согласно теории концептуальной метафоры Лакоффа и Джонсона, призваны формировать новый когнитивный опыт субъекта.
 
С одной стороны, цифровые метафоры служат фактором спасения технических объектов от полного отчуждения, создавая иллюзию ясности и простоты при восприятии пользователем новых устройств.

С другой стороны, особая проблема возникает тогда, когда эволюция техники заменяется эволюцией абстракций.

С ИИ тут интересная ситуация получается: то метафора компьютера применялась для объяснения особенностей функционирования нашего мышления, то человеческий разум становится ориентиром для разработки ИИ-систем (подробнее про эту инверсию тут).
 
Но так как наделение искусственных интеллектуальных моделей антропоморфными чертами порой резко критикуется из-за неадекватности подобных аналогий, то периодически возникают новые способы описания ИИ как, к примеру, нечеловеческих существ (вспомним метафору «new digital species», которую использует соучредитель лаборатории DeepMind Мустафа Сулейман).
 
Закономерным образом по мере расширения функционала ИИ-систем, будут распространяться и новые способы их иносказательного описания, заимствованные, помимо прочего, из научной фантастики (вот хорошая статья про это).
 
Ну а если ИИ вам уже порядком надоел, то вот пара книг, в которых разбираются другие цифровые и технологические метафоры:
 
🔹Van den Boomen M. Transcoding the Digital: How Metaphors Matter in New Media (2014)

🔹 Nascimento F., Chown E. Meaningful Technologies: How Digital Metaphors Change the Way We Think and Live (2023)
 
#books

Выпала из постинг-ритма, потому что погрузилась в разработку сразу нескольких крутых образовательных проектов (скоро полетят все анонсы, stay tuned).
 
А на дворе уже декабрь, и значит это время разбирать технологические и культурные тренды грядущего года.
 
Итак, тренд №1, который фигурирует почти во всех крупных прогнозах (после ИИ-агентов, разумеется) – это human enhancement.
 
Всевозможные «улучшения» человека посредством применения новых технологий – тема, традиционно ассоциирующаяся с трансгуманизмом. Хотя, как справедливо пишет Ник Бостром в статье «A Short History of Transhumanist Thought» (2006), а затем и в книге «Human Enhancement» (2009), стремление человека к приобретению новых способностей так же старо, как и сам наш биологический вид.
 
Сегодня мы постоянно слышим про будущую аугментацию, киборгизацию и амплификацию человеческого тела и наших когнитивных способностей, и этот дискурс все чаще преподносится далеко не под самым фантастическим соусом. Как отметил Рей Курцвейл в своей последней книге с характерным подзаголовком «When we merge with AI»: «science fiction is becoming science fact».
 
Далеко не все поддерживают оптимистичный взгляд на идею радикального технологического совершенствования. Новозеландский профессор этики Николас Агар в своей книге «Humanity's End: Why We Should Reject Radical Enhancement» (2010) говорит об оверселлинге мифа об улучшении человека, из-за чего наши философские, этические и правовые представления о последствиях слияния с технологиями существенно отстают от развития самих технологий.
 
Ну а чтобы немного замедлиться и помедитировать над вечной проблемой «Hope vs Hype», рекомендую обратиться к свежему сборнику «The Routledge Handbook of the Ethics of Human Enhancement» (особенно советую присмотреться к статье Винсента Мюллера, под чьей редакцией совсем скоро выйдет оксфордский сборник по философии ИИ).
 
#future
#books

Начали сегодняшнее утро с разговора о том, как ИИ меняет сферу образования.
Запись эфира доступна по всем ссылкам👇

Доброго дня! ❄️☀️☕️
Приглашаем на интервью "Применение ИИ в образовании и науке: чему нужно учиться уже сегодня" - Александра Танюшина и Сергей Журихин

Для просмотра эфира используйте наши социальные сети

Смотрите сегодня в 10:30:
- ВК
- OK
- Рутуб
- Nuum
- вебинар

Задавайте свои вопросы в нашем боте - https://t.me/Openstudyquestions_bot

Ответьте пожалуйста на вопросы анкеты обратной связи Открытого образовательного пространства 👉🏻🔗

Вышел камерный и уютный подкаст в рамках проекта «Дорожки Алетейи» с моим участием.

Поговорили про понятие «новые медиа», проблему авторства и оригинальности цифровых художественных работ, постфотографические изображения и, разумеется, симулякры.

А если вам интересно подробнее обсудить все эти темы, то приходите на нашу секцию «Философия современного медиаискусства: от Art&Science до генеративного творчества» на конференции молодых ученых «Философия в 21 веке: новые стратегии философского поиска», которая пройдет в МГУ 9-13 декабря 2024 г.

В рамках конференции заявлено множество интересных секций, посвященных экспериментальной философии когнитивных наук, проблеме цифрового бессмертия, современной этике, философии музыки и др.

Если вы хотите принять участие в качестве докладчика или слушателя, успейте подать заявку до 20 ноября.

#events

Цифровые мозги

Что ж, раз в ближайшие годы мы все вынуждены настраиваться на Tescreal-мышление, то пора окончательно свыкнуться с мыслью, что всевозможные метафоры «цифровых мозгов», «расширенного познания» и «коллективного ИИнтеллекта» будут с нами еще долго.

Что у нас уже есть:

- Модель от Altera, имитирующая структуру префронтальной коры мозга для ИИ-агентов (которых уже запустили жить симулированной жизнью в Minecraft);

- Фундаментальная модель человеческого познания Centaur, способная предсказывать и симулировать человеческое поведение и являющаяся реальным кандидатом на роль полноценной модели нашей психики;

- «Умная крыса» Пифия, чей мозг подключен к ИИ. Она способна отвечать «да» и «нет» на сложные научные вопросы (о том, хайп это или революция, пишут тут);

- Споры об искусственном сознании в контексте развития «этичного ИИ»: правда ли, что без внутренних переживаний LLM никогда не смогут быть по-настоящему моральными?

И многое другое.

А вот несколько важных текстов по этой этой теме для философской разминки аналоговых мозгов:

▪️The Routledge Handbook of the Computational Mind

▪️Mind as Machine: A History of Cognitive Science (M. Boden)

▪️The Evolutionary Optimality Challenge
(N. Bostom et al)

▪️Better Than Human: The Promise and Perils of Biomedical Enhancement
(A. Buchanan)

#science
#future

В последние дни мое окружение поделилось на 2 группы:

а) Тех, кто активно обсуждает вопросы благополучия ИИ и возможность появления у него сознания в связи с публикацией отчета “Taking AI Welfare Seriously”;

б) Тех, кто спорит из-за нашумевшего текста Пола Грэхема, в котором основатель Y Combinator говорит о будущем пост-ИИ мире, где основаная масса людей будет «непишущей» (и, следовательно, «немыслящей»).

Я же, пользуясь шумихой и случаем, обращаю внимание, что философский ф-т МГУ на днях открыл набор на программу профессиональной переподготовки «Прикладная философия», где у слушателей будет возможность изучить широкий спектр дисциплин (от онтологии до этики ИИ), развить навыки академического письма и критического мышления и, самое главное, узнать о практической стороне современной философии.

Возможно как очное, так и дистанционное обучение. Подробнее о содержании программы можно узнать тут.

#philosophy
#events

Выступала на днях в качестве жюри на школьных дебатах по теме «ИИ и будущее человечества». Мой вердикт: надо ходить на подобные мероприятия почаще.

Не устаю поражаться уровню подготовки и мотивации некоторых старшеклассников.

Во-первых, рассуждая над тезисом «ИИ отнимет у нас работу», ребята быстро перескочили на небезызвестный парадокс Джевонса, принялись рассуждать о пост-трудовой экономике (термин, который недавно популяризировал Дэвид Шапиро) и начали налету придумывать профессии будущего (я выписала себе «тренера по коэволюции с ИИ» и «дримдизайнера»).

Во-вторых, чрезвычайно полезно было послушать, как старшеклассники планируют выстраивать свои образовательные и карьерные треки: почти все заявили, что будут делать ставку на междисциплинарность и прокачку эмоционального интеллекта (мы долго обсуждали, что общего между мультфильмом «Головоломка» и новенькой ироничной моделью Artificial Overthinker).

Поговорили также про AI Conscious Test, описанный Сьюзен Шнайдер в 2019 году. Он нацелен на выявление способности ИИ понимать сценарии, где важно ухватить концепцию сознания (например, сценарии, где происходит отделение сознания от тела, переселение душ и т.п.). Сьюзен Шнайдер считает, что сущности, совершенно лишенной осознанных переживаний, было бы чрезвычайно трудно осмыслить эти сюжеты (как слепому от рождения человеку сложно помыслить цвета), и потому прохождение теста может считаться достаточным, но необязательным свидетельством наличия искусственного сознания. Как водится, мы этот тест продуктивно покритиковали.

По итогам дебатов ребята готовят тематический стенд, который будет представлен на грядущем Фестивале науки. Так что заходите посмотреть, а также послушать крутые лекции от ученых (полная программа фестиваля тут).

В общем, чувствую, что через пару лет уже буду преподавать философию у будущих дримдизайнеров и тренеров по коэволюции. Меня это, в целом, устраивает✨

#future
#events

Что такое интеллект и как его можно моделировать?

В эпоху быстрого развития искусственного интеллекта (ИИ) становится все более актуальной задача понимания фундаментальных принципов и концепций, которые формируют эту область. На семинаре эксперт рассмотрит основные вопросы философии ИИ, которые помогут глубже понять его потенциал и ограничения.

Вы узнаете:
✔️ Проблема сознания и ИИ: может ли машина быть сознательной
✔️ Этические последствия ИИ: ответственность, автономия и безопасность
✔️ Критика и перспективы ИИ: потенциальные риски и преимущества

04 октября в 10:30 вместе с Александрой Танюшиной, кандидатом философских наук, преподавателем МГУ им. М. В. Ломоносова, медиаисследователем, специалистом по цифровой философии, культурным тренд-аналитиком

Ведущий Сергей Журихин, проректор по повышению квалификации Университета Правительства Москвы.

Ждём вас на вебинаре!

➡️Зарегистрироваться

👆Вчера рассказывала про философию виртуальных пространств в метавселенной (оправдываю звание «цифрового» философа).

А завтра буду говорить что-то высокоинтеллектуальное про ИИ, подключаетесь! 👇

Немного пропала, так как начала записывать курс видеолекций по цифровой философии совместно с Фондом Е. Гайдара.
Доступ к курсу будет открыт в 2025 году (надеюсь, успеем до наступления технологической сингулярности, а иначе придется все перезаписывать🥲).

А пока спешу напомнить, что сегодня последний день подачи заявок на другой интереснейший курс: речь идет о бесплатной образовательной программе «Медиаарт», разработанной на базе магистратуры ArtTech Университета МИСиС.

Обучающиеся получат возможность ознакомиться с основными инструментами медиахудожников - от TouchDesigner до современных нейросетей - и создать свой арт-проект, который впоследствии будет продемонстрирован в пространстве Generative Gallery.

Длительность курса 2 месяца, формат занятий очный (в вечернее время). Поступление на программу - по результатам конкурсного отбора.

Осталось всего несколько часов, чтобы успеть подать заявку, так что не упустите такой шанс!

#events
#art

Пока все тестировали новую «рассуждающую» модель o1 от OpenAI, Scale AI и Center of AI Safety объявили о проведении конкурса под завораживающим названием «Последний экзамен человечества» («Humanity Last Exam»).

Основная задача конкурса - собрать самые сложные вопросы для оценки работы будущих систем ИИ. Раз текущие модели пугают нас своей способностью за час написать код PhD-исследования, необходимо разработать тесты, решить которые им будет уже не под силу.

В рамках конкурса принимаются вопросы, затрагивающие самые разные области знания - от математики и логики до аналитической философии (судя по текущим заявкам, философских вопросов пока не так много).

Требования к вопросам следующие: высокая сложность, оригинальность, безопасность (никаких вопросов про изготовление атомной бомбы), объективность (вопросы про смысл жизни, вселенной и всего такого тоже не принимаются).

После того, как вы записали ваш вопрос, его предварительно проверяют на современных языковых моделях, чтобы определить, не является ли он слишком простым.

За топ-500 лучших вопросов обещают денежные призы, а авторов самых сложных заданий могут также упомянуть в итоговой научной статье.

Я уже задала свой вопрос.
Вам тоже рекомендую подумать над своим в качестве интеллектуальной разминки.

#future
#philosophy

Еще одна книжная рекомендация, Или как я перестала бояться и полюбила Чарльза Петцольда

Начался новый учебный год, и я вновь читаю курсы по цифровой философии и цифровым медиа. Как правило, это дисциплины, предназначенные не для только для технарей и айтишников, но преимущественно для философов и других гуманитариев.

А так как введение в любую «цифровую» тематику непременно сопровождается рассказом об истории компьютеров, теории информации и теории вычислимости, я каждый год ловлю себя на моменте, когда начинаю показывать принцип работы перфокарт на пальцах и искать наглядные ютьюб-ролики, призванные ненавязчиво объяснить студентам теорему неполноты🥲

Но тут я вспомнила про эти книги, и жить стало намного легче:

🔵Код. Тайный язык информатики - научно-популярная книга американского программиста Чарльза Петцольда, добрую половину которой занимают всевозможные картинки и схемы, объясняющие принцип работы ПК. Идеально для тех, кто боится страшных слов вроде «транзисторы» и «реле», но очень хочет понять, как работает электронный двоичный код.

🔵Читаем Тьюринга - еще одна волшебная книга Петцольда, где исследуется одна из самых главных работ британского математика, посвященная проблеме разрешимости (именно в этой работе впервые упоминаются знаменитые машины Тьюринга, ставшие на многие годы универсальной теоретической концепцией в рамках компьютерных наук). Если вы вдруг забыли, что такое трансцендентные числа, проблемы Гилберта и ооочень вдумчивое чтение - вам сюда.

🔵Информация. История, теория, поток - научно-популярная книга историка Джеймса Глика, посвященная становлению теории информации и ее влиянию на нашу науку, культуру и мировоззрение. Бэббидж, Морзе, Лавлейс, Тьюринг, Винер, Доккинз, Уилер и другие герои в достаточно простом и понятном изложении. А если вам понравится этот автор, то у него еще есть работа-бестселлер про научное изучение хаоса (ведь нет информации без энтропии).

А в следующем году начну делегировать объяснение этих тем ИИ, обещаю.

#books
#рекомендасьон

В честь дня знаний: несколько любопытных материалов про «внутренний мир» LLM:

Во-первых, 3blue1brown продолжают радовать наглядными роликами, объясняющими работу GPT. Теперь можно узнать, как в языковых моделях работает механизм внимания и как они запоминают факты. Видео на этом канале всегда очень понятные и доступные + есть русские субтитры. Так что если вы до этого не смотрели их эксплейнеры, то сейчас самое время это сделать.

И парочка статей:

▪️Machine Psychology - очередная попытка проложить путь к "машинной психологии", нацеленной на понимание процессов поведения и познания у ИИ. Авторы фокусируются на вычислительных инструментах, которые помогают обнаруживать новые эмерджентные способности у LLM и отслеживать поведенческие паттерны моделей. В статье дается обзор существующих практик машинной психологии, а также выделяются лучшие методы и наиболее перспективные направления для будущих исследований.

▪️What is it like to be a bot? The world according to GPT-4 (Dan Lloyd) - статья, опубликованная в Frontiers of Psychology, посвященная, опять же, эмерджетным свойствам языковых моделей. Автор предлагает методы реконструкции субъективного мира модели (s-world) в целях последующего сравнения когнитивных способностей различных LLM. Пользуясь инструментами философской феноменологии и когнитивной этологии, Дэн Ллойд выделяет ряд характерных поведенческих закономерностей и ошибок, обыкновенно допускаемых GPT-4, и предполагает, что их происхождение связано с отсутствием у LLM способности к субъективному восприятию времени. Этот недостаток свидетельствует о том, что GPT-4 в конечном счете не способен создавать стабильную модель окружающего мира (но это не точно).

#papers

В этот четверг будем обсуждать VR-арт и философию виртуальной реальности в… виртуальной реальности!

Подключайтесь, это потрясающий формат⤵️

Ничего не планируйте на четверг, пока не прочитаете этот анонс!

Мы с ребятами снова устраиваем
VRConf.

В прошлый раз пришло 60 человек, надеюсь в этот будет не меньше.

Потому что у нас самые 🌟 звездные 🌟 спикеры в истории ивента!

Александра Танюшина - кандидат философских наук и преподаватель МГУ Им. Ломоносова.
Ее канал Extended (sur)reality

Тема ее лекции: "Гипотеза симуляции и философия VR".

На русском языке такое, мягко говоря, редко встретишь, поэтому повизгиваю от восторга. 💃

Надежда Бей - известная (наверное, не преувеличу, если скажу "самая известная") российская виар-художница.
А также резидент фиджитал-галереи Охра и спикер программы Art&Science ИТМО.
Ее канал Irreal art

Тема ее лекции: "10 экспериментов с VR искусством".

Где и как попасть:

29 августа, общий сбор в 20:30 по Мск
Начало в 21:00 по мск
на платформе VRChat.

Зайти можно будет с PCVR, виар шлема без подключения к пк, а также с андроид-смартфонов.

Как попасть:

В виарчате добавить в друзья Alex_SPB или Kai-00 и в нужное время отправить запрос на присоединение через кнопку Join, либо переместиться в инстанс группы.

По всем вопросам можно писать Алексу или прямо тут в комментариях.

Если вы никогда раньше не пользовались виарчатом, советую освоиться там заранее - скачать в стиме или гугл плэй, зарегиться и походить внутри немного.

Ивент проходит при поддержке сообщества vrchatru

Обещаю скоро вернуться к регулярному постингу (как только полностью отдохну себя после всех конференций и фестивалей). А пока делюсь мини-списком интересной философской литературы на август:

🟡Exploring The Boundaries Of Consciousness - небольшая статья профессора Тима Бейна по мотивам недавней конференции в Непале, посвященной изучению сознания нечеловеческих животных.

🟡The Edge of Sentience: Risk and Precaution in Humans, Other Animals, and AI - новая книга Джонатана Бёрча, одного из инициаторов Нью-Йоркской декларации о сознании животных. Очередные любопытные рассуждения о «гранях сознания» и о том, как принимать этически обоснованные решения о наличии сознания у животных, людей и ИИ на основании тех данных, которые нам пока доступны.

🟡Puzzles, Paradoxes, and Thoughts Experiments in Philosophy - серия книг издательства Routledge, где каждый том посвящен 50 самым интересным философским головоломкам. В этом году вышли новые книги по биоэтике и философии сознания + ждем том по этике (до этого были книги по эпистемологии, эстетике, философии языка, а также о проблеме свободы воли и агентности).

#books