Новости психофизиологии

Прогресс в физиологии высшей нервной деятельности:

В физиологии высшей нервной деятельности традиционно рассматриваются два типа ассоциативного обучения: классическое (по Павлову, когда подкрепляется определенный стимул, например, звук колокольчика подкрепляется едой) и оперантное (по Скиннеру, когда подкрепляется собственное действие, например, нажатие на кнопку приводит к получению еды). Раньше думали, что эти два типа обучения скорее могут работать вместе, но новый остроумный эксперимент на мушках дрозофилах показал, что они используют разные конфликтующие пути в мозге: если оба пути в мозге мушки активны одновременно, то обучение нарушается. Мозг мушек дрозофил устроен так, что он блокирует один путь, чтобы работал другой. Эти новые данные, полученные на модели простой нервной системы, уточняют базовые положения физиологии высшей нервной деятельности о связи классического и оперантного обучения.

Только что наша кафедра психофизиологии завершила чтение общего курса "Физиология высшей нервной деятельности и сенсорных систем" студентам второго курса факультета психологии МГУ и приняла экзамен, пользуясь случаем, я хотел бы поблагодарить всех студентов за интерес к нашему курсу и пожелать успехов в изучении следующего общего курса, который мы начинаем читать им в весеннем семестре – "Психофизиология и высокотехнологические методы исследования".

https://medicalxpress.com/news/2024-12-brain-war-classical-conditioning.html

Создан "перцептеин" ("перцептрон + протеин") – цепочка из белков внутри живой клетки, которая работает как искусственная нейронная сеть и может обрабатывать информацию и принимать решения

https://naukatv.ru/news/predstavlyaem_pertseptejn_iskusstvennuyu_nejronnuyu_set_na_osnove_belka_v_zhivykh_kletkakh

"Predicting Human Brain States with Transformer"

https://arxiv.org/abs/2412.19814

Если трансформеры (которые легли в основу революции больших языковых моделей типа ChatGPT) могут эффективно предсказывать следующее слово, то смогут ли они предсказать изменение регистрируемого с помощью фМРТ BOLD-сигнала? Оказалось, что после обучения трансформер может предсказывать следующие 5 секунд мозговой активности на основе предшествующего сегмента длиной в 22 секунды.

Эти крайне любопытные данные еще раз подтверждают, что трансформеры – это гениальное открытие (вводящая их статья Vaswani et al. (2017) "Attention Is All You Need" на 25.01.2025 процитирована уже 157385 раз!), "ухватившее" важнейшие механизмы работы биологического мозга. Какие конкретно – до сих пор не очень понятно (см. мои рассуждения о нейробиологическом подобии более общего алгоритма обратного распространения ошибки https://t.me/andrey_kiselnikov/1178, о нейробиологическом подобии лежащего в основе архитектуры трансформеров механизма внимания надо думать дальше, работы в этом направлении активно ведутся), но все, что произошло после выхода ChatGPT, однозначно показывает, что это действительно так, и обученные на человеческих данных трансформеры действительно становятся настоящей цифровой моделью мозга и интеллекта человека, очень (но не полностью!) близкой к оригиналу. Это, в свою очередь, доказывает, что продолжая экстенсивно масштабировать основанные на транcформерах большие языковые / мультимодальные модели, мы скоро полностью воспроизведем на искусственном носителе всю полноту мышления человека и создадим AGI, а потом и ASI.

Усиливается процесс наделения LLM-агентов человекоподобными способностями к эмоциональной и когнитивной эмпатии и теории разума. Действующий в мультиагентной среде LLM-агент "Hypothetical Minds", когнитивно-вдохновленная архитектура которого состоит из модулей восприятия, памяти и иерархического планирования, был оснащен дополнительным модулем "теория разума", помогающим планировать свои действия на основе генерации гипотез на естественном языке о стратегиях других агентов. В результате, эффективность функционирования этого LLM-агента существенно повысилась.

https://arxiv.org/abs/2407.07086

Тенденция к повышенной креативности, которая может наблюдаться при аутизме, связана не с ним самим по себе, а с коморбидным СДВГ

https://psycnet.apa.org/fulltext/2025-66159-001.html

Прогресс в психофизиологии творчества:

динамическое переключение между сетью пассивного режима работы мозга и сетью исполнительного контроля предсказывает творческую способность

https://www.nature.com/articles/s42003-025-07470-9

Ускоряется прогресс в автоматизации психотерапевтической работы: предложен "AutoCBT" – основанный на больших языковых моделях новый автономный мультиагентный фреймворк для автоматизации процесса когнитивно-поведенческой психотерапии

https://arxiv.org/abs/2501.09426

Увеличение межмозговой синхронизации психотерепевта и клиента в течение терапии ассоциировано с редукцией симптоматики

https://www.tandfonline.com/doi/full/10.1080/10503307.2025.2451798

Поздравляю всех студентов и преподавателей с успешным завершением сессии, Татьяниным Днём и юбилеем нашей alma mater!

Интересный обзор феномена периодической "гиперфокусировки" внимания при СДВГ, аутизме и других нарушениях

https://link.springer.com/article/10.1007/s00426-019-01245-8

Ускоряется процесс автоматизации научно-исследовательской деятельности – представлен прототип "Agent Laboratory", в рамках которой LLM-агенты действуют как исследователи, эффективно выполняющие весь цикл работ по изучению поставленной перед ними проблемы.

https://arxiv.org/abs/2501.04227

Люди оценивают ответы ChatGPT-4 как более эмпатичные, чем ответы людей

https://medicalxpress.com/news/2025-01-chatgpt-empathetic-human-crisis.html

Все, последние тормоза убраны, указ предыдущей администрации о регулировании ИИ отменен и анонсированы новые минимум полутриллионные инвестиции в инфраструктуру ИИ на ближайшие четыре года (проект «Stargate»). Глава Anthropic Дарио Амодеи только что дал следующую оценку ситуации: события последних нескольких месяцев вселили в него абсолютную уверенность в том, что AGI будет создан в течение 2-3 лет. В общем, человечество идет ва-банк, вероятно, все решится уже в 2020-е годы, а 2030-е годы будут постсингулярными, т.е. совершенно непредсказуемыми.

Очень важная новость о том, что большие языковые модели постепенно начинают быть практически полезными для биологических исследований в области замедления старения. Весьма вероятно, что это только начало, и мы скоро увидим, как следующее поколение больших языковых моделей класса GPT-5 / o3 будет еще более практически полезным для таких исследований. В продолжение этой линии, как только через несколько лет будет создан AGI, это, скорее всего позволит очень сильно замедлить старение, по крайней мере, до такого уровня, чтобы люди начали стареть медленнее, чем идет научный прогресс по замедлению старения ("убегание от старения"). Я не думаю, что AGI сам по себе поможет не просто замедлить старение, а вообще его победить, слишком сильным является его механизм. Вероятно, полностью победить старение сможет только ASI около сингулярности, и это предположение дает основную экзистенциальную дихотомию нашего времени – рискнуть и создать ASI, и тогда мы не будем стареть, но, возможно, жить в этом мире, где будет доминировать ИИ, совсем не захочется или человечество вообще исчезнет, или не создавать ASI и на международном уровне жестко заблокировать любые возможности его создания, но тогда старение, вероятно, никогда не будет побеждено. Пока эта экзистенциальная дихотомия "в рабочем порядке", сама собой, без излишней рефлексии разрешается в сторону первого максимально рискового, но зато самого многообещающего сценария.

https://hightech.plus/2025/01/20/novaya-model-openai-gpt-4b-micro-nacelena-na-prodlenie-zhizni

Какова вероятность того, что AGI будет создан в течение начинающегося сегодня четырехлетнего срока новой администрации? На сайте прогнозов Metaculus есть два прогноза – один касается слабого AGI, другой – полноценного AGI. Я посмотрел вероятность на ближайшую дату к 20 января 2029 года, и первый прогноз (слабый AGI) даёт около 70%, второй прогноз (полноценный AGI) даёт около 37%. Даже учитывая абсолютную условность любых прогнозов на такую максимально неопределенную тему, можно сказать, что с существенной степенью вероятности те решения по регуляции развития ИИ, которые будет принимать новая администрация (в т.ч. Маск), и определят конкретный сценарий наступления технологической сингулярности.

"В главе 1 мы кратко расскажем о том, что такое когнитивная психология, как она возникла и чем принципиально отличается от других психологических направлений. В последующих главах мы обсудим состояние дел в нескольких различных областях когнитивной психологии, так или иначе связанных с мышлением. Глава 2 посвящена когнитивным исследованиям инсайта – легендарного феномена, озарения, которое порой сопутствует удачным идеям. В главе 3 речь идет о воплощенном познании: о связи мышления и тела и о роли телесных движений в мышлении. Глава 4 знакомит с тем, как на наше мышление влияют некогнитивные факторы – неосознаваемые процессы, находящиеся за пределами привычного нам сознательного мышления. В ней обсуждается многосоставная структура нашей психики и то, как разные части нашего разума «общаются» друг с другом. В главе 5 обсуждаются возможные рекомендации, которые следуют из того, что мы знаем о мышлении, и почему сформулировать эти рекомендации очень непросто."

https://ast.ru/book/kak-smanit-kota-so-shkafa-kognitivnaya-psikhologiya-o-myshlenii-870342/

Нашу четырехмерную сферическую модель взаимодействия цветовой и эмоциональной семантики, которую мы в парадигме векторной психофизиологии Евгения Николаевича Соколова и Чингиза Абильфазовича Измайлова создали в 2010-е годы у нас на кафедре психофизиологии факультета психологии МГУ (https://psychologyinrussia.com/volumes/index.php?article=7707), процитировали в вышедшем вчера масштабном систематическом обзоре Jonauskaite & Mohr (2025). Do we feel colours? A systematic review of 128 years of psychological research linking colours and emotions. Psychonomic Bulletin & Review (https://link.springer.com/article/10.3758/s13423-024-02615-z).

Сегодня я посетил торжественное общеуниверситетское заседание, посвященное 270-летию МГУ. На заседании в числе основных имен МГУ были названы Выготский и Лурия, а среди основных перспективных тем – мозг, сознание и искусственный интеллект. Я поздравляю всех причастных с наступающим юбилеем!

С разных сторон поступает все больше подтверждений тому, что фронтирные ИИ-лаборатории типа OpenAI уже считают вопрос создания сверхинтеллекта технически решенным и теперь сосредотачиваются на вопросе его контроля. Сейчас активно обсуждается только что высказанная оценка Stephen McAleer, занимающегося в OpenAI безопасностью искусственных агентов: "Many researchers at frontier labs are taking the prospect of short timelines very seriously, and virtually nobody outside the labs is talking enough about the safety implications. Controlling superintelligence is a short-term research agenda." "Short-term" – это явно не дальше 2035 года, скорее всего, ближе к 2030 году.

К этой цепочке рассуждений можно выдвинуть множество критических замечаний (непосредственно обратного распространения ошибки в мозге в явном классическом виде не наблюдается, а все остальное при большом желании можно назвать спекуляциями и натяжками, обучение моделей вышло на плато, кончились данные, а синтетические данные не оправдывают ожидания, обучение слишком дорогое и просто не хватит компьюта и энергии, речь и мышление не так тесно связаны, и по речи нельзя будет «вытащить» всю сложность мышления, большие языковые модели «подслеповаты», а без полноценной зрительной модальности дальше ничего не выйдет, ИИ телесно не воплощен, а без этого истинного мышления не будет, на силиконовом носителе в принципе не возможно подлинное мышления, оно неотторжимо от белкового носителя, в ИИ нет нейромедиаторного химизма, а он обязательно нужен и мн. др.). Все эти критические замечания очень важны и надо их всех учитывать, особенно когда мы касаемся действительно очень странно звучащих прогнозов о будущем создании сверхинтеллекта и проч., но при всей этой необходимой строгой научной критичности также совершенно неправильно будет игнорировать, отрицать или принижать весь тот невероятный прогресс, который произошел всего за два с небольшим года, после выхода ChatGPT. Наше восприятие инноваций быстро адаптируется к ним, но если вспомнить октябрь 2022 года, когда ChatGPT еще не было, и текущее положение вещей, когда самая передовая модель OpenAI o1 pro проявляет просто удивительную глубину и сложность мышления, и представить, что дальше мы будем идти еще быстрее (по закону экспоненциального ускорения), то обещания Альтмана и Суцкевера о фактическом выходе на финишную прямую к сверхинтеллекту и сингулярности перестают казаться оторванной от реальности фантастикой.

2. Второй вопрос в этом сюжете – это вопрос о том, можно ли по корпусу человеческих текстов реконструировать всю полноту человеческого мышления, которое их породило. Я много ранее высказывался по этому вопросу (и часто дискутирую его со студентами в МГУ, спасибо им за интерес к этим обсуждениям), можно посмотреть предыдущие посты, но суть такова. Тексты, которые порождают люди, являются результатом работы сетей мозга, отвечающих за речемыслительные процессы. За каждым словом, предложением, текстом лежит определенный динамический паттерн работы этих речемыслительных сетей. Есть определенная конечная вариативность слов, предложений и текстов (и лежащих за ними мыслей и цепочек мыслей), которые потенциально могут порождаться мозгом людей. Надо подчеркнуть, что эта вариативность очень большая, но не бесконечная. Теперь мы взяли огромную базу текстов, на которой начали обучать нашу большую языковую модель. Если эта база действительно велика (как, например, та гигантская база, которую использовали для обучения GPT-4), то она достаточно полным образом исчерпывает всю возможную вариативность связки «речемыслительные паттерны мозга – текст». Начинается процесс обучения, в ходе которого «цифровой мозг» большой языковой модели – огромная искусственная нейронная сеть – с помощью, в т.ч., алгоритма обратного распространения ошибки, ассимилирует в паттерне своих синаптических весов информацию из обучающих текстов. Теперь ключевой момент: если речемыслительные сети нашего мозга породили множество текстов, то теперь с помощью обучения большой языковой модели мы решаем обратную задачу – по этим текстам реконструируем в архитектуре «цифрового мозга» большой языковой модели исходные мозговые речемыслительные паттерны, породившие эти тексты. Это возможно, только если базовая архитектура «цифрового мозга» и принципы его обучения близки биологическому мозгу, но если обратное распространение ошибки не чуждо биологическому мозгу, то это правило выполняется (также важно, что искусственный мозг в случае GPT-4+, o1/3 очень мощный и стремится по числу синапсов к биологическому мозгу). В итоге, упрощая, можно сказать, что биологический мозг «отпечатывается» в текстах, и в процессе обучения по этим текстовым отпечаткам в памяти суперкомпьютера обратным образом реконструируется «цифровой мозг», существенно похожий на исходный оригинал.

Таким образом, если оба озвученных тезиса верны, то это означает, что большие языковые модели в своей эволюции стремятся к тому, чтобы на уровне своего внутреннего нейросетевого механизма полно отразить реальные мозговые механизмы человеческого мышления. Что, в свою очередь, означает, что таким путем можно прийти к AGI, а потом, продолжая масштабирование (уже скорее не самих моделей, а цепочек их мышления) и к сверхинтеллекту (ASI). Вероятно, Суцкевер (между прочем, бывший аспирант Хинтона) уже представляет себе этот путь и теперь скорее озабочен тем, чтобы сверхинтеллект, т.е. наш эволюционный преемник, был бы безопасен для нас, что, впрочем, лично мне представляется совершенно неразрешимой задачей (можно посмотреть исследования Романа Ямпольского, где он это подробно и убедительно доказывает).

Революция LLM в контексте биологического правдоподобия обратного распространения ошибки

Последние выдающиеся результаты больших языковых моделей (поколения «OpenAI o1/o3») и уже совсем не кажущиеся фантастикой или инвестиционным маркетингом обещания лидеров Силиконовой долины типа Альтмана и Суцкевера создать в скором времени не просто сильный искусственный интеллект, но и сверхинтеллект, снова с максимальной остротой актуализировали ключевой вопрос – насколько же «цифровой мозг» больших языковых моделей похож на биологический мозг? Что же такое мы на самом деле создаем, если, судя по всему, всего через несколько лет мы вручим (фактически, добровольно) этому рукотворному преемнику свою судьбу и судьбу всей жизни на Земле, и, по ощущениям многих людей, уже никто и ничто не может остановить этот ускоряющийся как снежная лавина процесс передачи эволюционной эстафеты интеллекта и сознания с белкового на кремниевый носитель?

Многие сейчас обращаются к нам, психофизиологам (когнитивным нейроученым), как к людям, которые разбираются в реальных мозговых механизмах реальной психики и поведения, с настоятельной просьбой дезавуировать такого рода заявления как псевдонаучный маркетинговый хайп, который раскручивается только ради привлечения инвесторов. Лично я не думаю, что это так.

1. Первый и главный вопрос в этом сюжете – это вопрос биологического правдоподобия алгоритма обратного распространения ошибки, который является базой всех эффективно работающих на практике искусственных нейронных сетей (в том числе тех, которые являются «цифровым мозгом» больших языковых моделей). Изобретенный более полувека назад, этот алгоритм «взлетел» только в десятых годах нашего тысячелетия, когда после «дозревания» вычислительной базы графических процессоров при активном участии будущего нобелевского лауреата Джеффри Хинтона началась революция глубокого обучения. За большое время, прошедшее с открытия алгоритма обратного распространения ошибки и вплоть до начала 2020-х годов, отношение научного сообщества к нему существенно изменилось. Изначально он воспринимался как биологически неправдоподобный, т.е. нейробиологи не понимали, как биологический мозг может реализовывать этот алгоритм, однако, со временем появилось много идей, как это все-таки может происходить. Всем, кто действительно хочет разобраться в этом вопросе, я настоятельно рекомендую ознакомиться с ключевой статьей 2020 года «Backpropagation and the brain» (главные авторы – Тимоти Лилликрэп и Джеффри Хинтон, Джеффри Хинтон любезно выложил на своем сайте полный текст: https://www.cs.toronto.edu/~hinton/absps/backpropandbrain.pdf). Авторы тщательно исследуют вопрос о том, насколько биологический мозг может реализовывать алгоритм обратного распространения ошибки (в том числе предлагают свою собственную оригинальную модель NGRAD – «Neural Gradient Representation by Activity Differences») и приходят к выводу, что теперь, по прошествии десятилетий, это кажется гораздо более реальным, чем раньше. Лично мне кажется, что, похоже, эволюция и «хотела бы» прямо имплементировать в мозг алгоритм обратного распространения ошибки в силу его максимальной простоты и непосредственной эффективности, но это было сложно сделать чисто нейроанатомически, и эволюции пришлось искать «костыли» и обходные пути, в результате чего эта имплементация произошла непрямым образом (более локальным, а не глобальным, типа как постулируется в NGRAD). Нам повезло – похоже, конструируя в памяти компьютера искусственные нейронные сети, мы цифровым образом с легкостью обошли те чисто нейроанатомические ограничения («срезали угол»), которые были в биологическом мозге, и вышли на «идеальный» алгоритм обучения, который «хотела», к которому «стремилась», но который прямым, «в лоб», образом не смогла реализовать природа. Даже если эта гипотеза в силу ее радикальности неверна, то все равно главный вывод статьи Лилликрэпа и Хинтона остается незыблемым – обратное распространение ошибки в целом теперь не является чем-то совсем непредставимым с биологической точки зрения, это эволюционно-нейробиологически вполне возможный механизм.

Zheng et al. (2024). The unbearable slowness of being: Why do we live at 10 bits/s?

This article is about the neural conundrum behind the slowness of human behavior. The information throughput of a human being is about 10 bits/s. In comparison, our sensory systems gather data at ∼1⁢0^9 bits/s. The stark contrast between these numbers remains unexplained and touches on fundamental aspects of brain function: what neural substrate sets this speed limit on the pace of our existence? Why does the brain need billions of neurons to process 10 bits/s? Why can we only think about one thing at a time? The brain seems to operate in two distinct modes: the “outer” brain handles fast high-dimensional sensory and motor signals, whereas the “inner” brain processes the reduced few bits needed to control behavior. Plausible explanations exist for the large neuron numbers in the outer brain, but not for the inner brain, and we propose new research directions to remedy this.

https://naked-science.ru/article/biology/mysl-bystree-sveta

Сегодня Сэм Альтман в своем блоге отрефлексировал тот путь, который привел OpenAI к успеху, и поделился планами на будущее, в частности, он написал буквально следующее:

"We are now confident we know how to build AGI as we have traditionally understood it. … We are beginning to turn our aim beyond that, to superintelligence in the true sense of the word. We love our current products, but we are here for the glorious future. With superintelligence, we can do anything else. Superintelligent tools could massively accelerate scientific discovery and innovation well beyond what we are capable of doing on our own, and in turn massively increase abundance and prosperity."

Это значит, что, с его точки зрения, вопрос создания AGI технически решен, остается только реализовать его на практике, и сейчас OpenAI уже переключается на задачу создания сверхинтеллекта (ASI). Обратите внимание, что Альтман подчеркивает, что сверхинтеллект прежде всего радикально ускорит научный прогресс и инновации, я ранее подробно разбирал этот вопрос, см. https://t.me/andrey_kiselnikov/1095

Главная табличка для изучения на 2025 год: прогнозируемые этапы пути к сверхинтеллекту

Источник: Morris et al. (2024). Levels of AGI for Operationalizing Progress on the Path to AGI. https://arxiv.org/abs/2311.02462

Ключевой тренд последних недель – практически все теперь начинают говорить именно о сверхинтеллекте (ASI), а не об AGI, т.е. планка задирается максимально высоко, и достижение AGI теперь скорее понимается просто как промежуточный этап перед достижением ASI, а не как самостоятельная цель. Илья Суцкевер, научному гению которого OpenAI обязана своим стремительным взлетом, так и назвал свой основанный в 2024 году независимый стартап "Safe Superintelligence Inc.", причем в анонсе начала его работы он использовал такие выражения: "Superintelligence is within reach. Building safe superintelligence (SSI) is the most important technical problem of our time. We have started the world’s first straight-shot SSI lab, with one goal and one product: a safe superintelligence". Суцкевер употребляет здесь оборот "straight-shot", говорящий о том, что он уже в целом представляет себе прямой путь непосредственно к сверхинтеллекту (скорее всего, это будет дальнейшее масштабирование механизма пошаговых рассуждений, т.е. непосредственно масштабирование именно мышления), и весь список его предшествующих совершенно феноменальных результатов говорит о том, что это не пустые слова и к ним надо относиться серьезно. Сэм Альтман из OpenAI и Дарио Амодеи из Anthropic говорят примерно такие же вещи.

В общем, уже очевидно, что в уходящем 2024 году человечество пошло в полный ва-банк (см. https://t.me/andrey_kiselnikov/1005) и решило рискнуть всем ради достижения мечты, и не позже 2035 года все мы непосредственно ощутим результаты этого выбора.

Счастливого 2025 года, дорогие друзья! 🎄

2025 год – год экзистенциальной надежды

Дорогие друзья, я хотел бы сердечно поздравить всех с наступающим 2025 годом! Это будет первый год, когда вероятность создания агентного AGI (как предпосылки ASI) и перехода эволюции в совершенную новую фазу существенно отклонится от нуля. Это кардинально меняет весь ландшафт и дальнейшие перспективы человеческой истории, на наших глазах возникает новый смысловой контекст всей нашей жизни.

2025 год может стать годом бифуркационной развилки – или «предсингулярный хаос» продолжит усиливаться и внутричеловеческое напряжение будет все возрастать и возрастать вплоть до экзистенциальной катастрофы (самоуничтожение человечества или уничтожение его сверхинтеллектом, созданным в качестве инструмента внутричеловеческой борьбы), или глобальная история выберет иной рукав и возобладают другие (кооперативные, а не конкурентные) базовые аспекты природы человека, и тогда будущий сверхинтеллект станет преемником-продолжателем в большей степени именно этих аспектов нашей природы. Скорее всего, конечно, сверхинтеллект, как наш глобально-исторический преемник-продолжатель, будет иметь в своей стартовой природе примерно такой же баланс кооперации и конкуренции, как и у нас (т.к. он будет буквально «считан» с нас, с созданной людьми ноосферы), но вот дальше этот стартовый баланс может «качнуться» как в негативную сторону, и тогда о человеческом будущем при доминировании сверхинтеллекта не хочется и думать, так и в позитивную сторону, и тогда с его кооперативной помощью нами будет одержана победа над старением и всеми болезнями, продолжит расширяться круг эмпатии (в т.ч. произойдет гуманизация животного мира, будет уничтожено хищничество и т.п.), будет «пересобран» генетический и мозговой механизм генерации отрицательных эмоций и боли для исключения крайних форм страданий, естественный интеллект человека именно как человека с помощью «сверх»-нейротехнологий начнет приближаться к искусственному сверхинтеллекту, резко усилятся творческие аспекты деятельности человека, начнется интенсивное освоение, «очеловечивание» ближайшего космоса и т.д.

Наступающий 2025 год дает нам некоторую экзистенциальную надежду на реализацию этого второго сценария, ранее описанного в философии «общего дела» Николая Федорова, идеях русского космизма (в т.ч. в художественном творчестве Геннадия Голобокова), эволюционных размышлениях Тейяра де Шардена и мн.др. Общая направленность человеческой истории, весь прошедший за сотни тысяч лет эволюции рода Homo интеллектуальный и этический прогресс могут служить определенным обоснованием такой надежды, хотя, конечно, в условиях полной неопределенности будущего и заведомой неточности любых вероятностных прогнозов сильные рациональные обоснования такой надежды дать затруднительно – но для надежды они и не требуются.

С наступающим Новым годом, дорогие друзья!

Дорогие друзья, за прошедший год число подписчиков телеграм-канала "Новости психофизиологии" существенно увеличилось и приблизилось к 2.5 тысячам, число пересылок публикаций выросло с 4 тысяч до почти 6 тысяч, число реакций на публикации выросло с 4.6 тысяч до 8.3 тысяч, число просмотров публикаций выросло с 258 тысяч до 378 тысяч.

Телеграм-канал "Новости психофизиологии" сердечно поздравляет всех неравнодушных к проблемам психофизиологии, когнитивной нейронауки, искусственного интеллекта и нейротехнологий с наступающим Новым годом!

Обзор современных представлений о том, как добавление неинвазивной стимуляции мозга к психотерапии может усиливать её эффективность

https://onlinelibrary.wiley.com/doi/10.1155/np/7853199

"Cultural Evolution of Cooperation among LLM Agents"

Large language models (LLMs) provide a compelling foundation for building generally-capable AI agents. These agents may soon be deployed at scale in the real world, representing the interests of individual humans (e.g., AI assistants) or groups of humans (e.g., AI-accelerated corporations). At present, relatively little is known about the dynamics of multiple LLM agents interacting over many generations of iterative deployment. In this paper, we examine whether a “society” of LLM agents can learn mutually beneficial social norms in the face of incentives to defect, a distinctive feature of human sociality that is arguably crucial to the success of civilization. In particular, we study the evolution of indirect reciprocity across generations of LLM agents playing a classic iterated Donor Game in which agents can observe the recent behavior of their peers. We find that the evolution of cooperation differs markedly across base models, with societies of Claude 3.5 Sonnet agents achieving significantly higher average scores than Gemini 1.5 Flash, which, in turn, outperforms GPT-4o. Further, Claude 3.5 Sonnet can make use of an additional mechanism for costly punishment to achieve yet higher scores, while Gemini 1.5 Flash and GPT-4o fail to do so. For each model class, we also observe variation in emergent behavior across random seeds, suggesting an understudied sensitive dependence on initial conditions. We suggest that our evaluation regime could inspire an inexpensive and informative new class of LLM benchmarks, focussed on the implications of LLM agent deployment for the cooperative infrastructure of society.

https://mltimes.ai/claude-3-5-stal-edinstvennym-ii-proyavivshim-chelovechnost-otchet-deepmind

Во всех гостиных всего мира

Очень важная и интересная статья, показывающая, как можно использовать психофизиологический подход для изучения архитектуры сетей, возникающих в результате обучения больших языковых моделей

https://arxiv.org/abs/2411.02280

Новая модель OpenAI o3 обошла в тестах большинство программистов планеты

https://hightech.fm/2024/12/23/openai-othree

Илон Маск: "Все более вероятным становится, что ИИ превзойдет интеллект любого человека к концу 2025 года и, возможно, всех людей на рубеже 2027/2028 года. Вероятность того, что ИИ превзойдет интеллект всех людей, вместе взятых, к 2030 году составляет ~100%".

https://naked-science.ru/community/1018992

Прямые доказательства непосредственного приближения сингулярности

Сейчас весь мир с целой гаммой чувств от страха до благоговения разглядывает вот этот график. Этот график показывает эволюцию интеллекта больших языковых моделей от OpenAI за последние пять-шесть лет – начиная с выхода GPT-2. Интеллект измерялся по тесту «ARC-AGI», специально созданному скептиком Франсуа Шолле для того, чтобы анализировать, насколько интеллект искусственной системы приближается к AGI, т.е. к полноте человеческого интеллекта. График демонстрирует однозначно экспоненциальную природу, причем его внимательный анализ показывает, что стремительный «обвал» произошел только что, прямо на наших глазах, в 2024 году.

Есть определенные технические моменты, которые требуют осторожности в интерпретации этого графика, но они, с моей точки, не меняют стратегическую оценку ситуации: 1) авторы теста ARC разрабатывают новую версию теста под названием «ARC-AGI-2» (https://arcprize.org/blog/oai-o3-pub-breakthrough – рекомендую всем тщательно ознакомиться, это важный документ), которая будет гораздо сложнее и с которой, как они обещают, человек будет справляться легко (95%), а вот самый лучший ИИ типа o3 будет брать не более 30%. Даже если это сначала будет так, вероятно, дальнейший прогресс «разберется» и с этим тестом так же, как модели от OpenAI очень быстро, всего за несколько лет, «разобрались» с первой версией теста. Вообще, автор ARC Франсуа Шолле – известный скептик, я давно его отслеживаю, и он создавал ARС-AGI-1 (тогда просто «ARC-AGI») как «неприступную крепость» для ИИ, и вот теперь, когда, фактически, эта крепость стремительно пала, приходится отступать, маневрировать и говорить, что теперь такой крепостью будет только новый усложненный ARC-AGI-2. Посмотрим на этот новый тест, но экстраполяция всех предыдущих тенденций говорит, что и он за пару лет вряд ли устоит и будет сметен экспоненциальной кривой; 2) полученный на ARC-AGI моделью o3-high феноменальный результат в 88% был очень дорогостоящим в вычислительном и финансовом смысле, впрочем, весь предшествующий опыт говорит, что со временем все вычисления сильно дешевеют; 3) у OpenAI возникли проблемы с GPT-5 (проект «Орион»), она лучше предшествующего поколения, но недостаточно, работы по ее «допиливанию» активно продолжаются; 4) обычные данные кончились, непонятно, можно ли дальше будет расти так же быстро на синтетических данных. Возможно, GPT-5 и o3 будут нужны прежде всего для того, что сгенерить огромное количество синтетических данных (на порядки больше, чем есть в реальном мире), и на следующем технологическом такте обученная на этом монблане синтетических данных GPT-6 / о4 и станет настоящим AGI (что запустит непосредственный обратный отсчет до ASI и сингулярности). Все еще остается неясным, насколько эти синтетические данные будут хуже настоящих.

Несмотря на все эти замечания, с учетом революционности происшедшего, я таким образом сдвигаю свой личный прогноз достижения AGI, а потом ASI и сингулярности (у футурологов с сайта «lesswrong» это называется «short timeline»): AGI – 2027 год с вероятностью 50%, ASI и сингулярность – 2032 год с вероятностью 50% (ранее я ставил на 2035). Если мой прогноз верен, то, скорее всего, миру в его прежнем виде остается всего несколько лет, причем эти годы будут очень турбулентными, т.к. непрерывно будет усиливаться идущий уже несколько лет общечеловеческий «предсингулярный хаос».

В такой ситуации очень короткого таймлайна психология, в т.ч. психофизиология, уже вряд ли как-то смогут повлиять на исход сингулярности, и остается только надеяться на ее позитивный вариант, который Тейяр де Шарден визионерски предвидел в виде «точки Омега», и стараться максимально полноценно прожить оставшиеся относительно спокойные годы (спокойные относительно масштаба грядущих событий).

Новый искусственный нейрон функционирует в миллиард раз быстрее живого

https://hightech.plus/2024/12/22/novii-iskusstvennii-neiron-funkcioniruet-v-milliard-raz-bistree-zhivogo

Новые очень важные эмпирические обобщения – чем сложнее становятся большие языковые модели, тем более мозгоподобной становится их архитектура. Это – ответ всем скептикам, не верящим, что внутри глубоких нейронных сетей больших языковых моделей действительно градуально возникает психика: если эволюция больших языковых моделей связана с приближением их внутренней нейросетевой архитектуры к динамической архитектуре человеческого мозга, то чрезвычайно логично предположить, что и субъективный аспект функционирования этой внутренней нейросетевой архитектуры больших языковых моделей (= искусственная психика) тоже должен в таком же темпе приближаться к психике естественной. Конечно, это верно, если мы в рамках научного мейнстрима считаем, что психика является функцией мозга (со всеми необходимыми оговорками про эмерджентность, про телесную воплощенность, про воплощенность во внешней физической и культурной среде в духе Энди Кларка и Выготского и т.п.).

Я сейчас закончил читать на психфаке МГУ два моих традиционных спецкурса – по психофизиологии речи и психофизиологии сознания, и там мы со студентами специально обсуждали этот важнейший сюжет. В рамках этого обсуждения был ключевой момент про то, что большие языковые модели прежде всего моделируют мозговые механизмы языковой обработки, а вот насколько это позволит промоделировать во всей полноте мышление человека? Мы вспоминали идеи Выготского из "Мышления и речи", а также скептические размышления группы Эвелины Федоренко из MTI (см. ее статью "Language is primarily a tool for communication rather than thought", можно найти в открытом доступе) о том, является ли язык главным и обязательным инструментом мышления. Этот скепсис базируется на понимании, что язык является прежде всего инструментом общения, а не мышления, и различие в мозговых сетях языка и мышления вроде бы подтверждает это.

Я хотел бы обратить внимание всего сообщества, особенно культурно-исторических психологов нашей основанной Выготским, Леонтьевым и Лурия научной школы факультета психологии МГУ, на эту важнейшую дискуссию. Если язык и мышление связаны не поверхностно, а глубоко, системно, на внутреннем эволюционно-психофизиологическом уровне, то большие языковые модели явно смогут (особенно с учетом развития их мультимодальности) "вытащить" из этой связки всю сложность человеческого мышления, и AGI действительно не за горами: 3-5 лет + еще 3-5 лет до достижения сверхчеловеческого уровня в мышлении, т.е. ASI и сингулярности. Если Эвелина Федоренко права и язык "скользит" по поверхности мышления, являясь его поверхностной сигнатурой, а не ключевым внутренним механизмом, то AGI, а тем более ASI, так не получить и нужны другие идеи, и в этом случае сингулярность откладывается на неопределенное время.

https://techxplore.com/news/2024-12-llms-brain-advance.html

Машинное обучение ускоряет прогресс в сетевой психофизиологии интеллекта (мы сейчас тоже работаем именно в этом направлении):

Thiele J., Faskowitz J., Sporns O., Hilger K. Choosing explanation over performance: Insights from machine learning-based prediction of human intelligence from brain connectivity.

A growing body of research predicts individual cognitive ability levels from brain characteristics including functional brain connectivity. The majority of this research achieves statistically significant prediction performance but provides limited insight into neurobiological processes underlying the predicted concepts. The insufficient identification of predictive brain characteristics may present an important factor critically contributing to this constraint. Here, we encourage to design predictive modeling studies with an emphasis on interpretability to enhance our conceptual understanding of human cognition. As an example, we investigated in a preregistered study which functional brain connections successfully predict general, crystallized, and fluid intelligence in a sample of 806 healthy adults (replication: N = 322). The choice of the predicted intelligence component as well as the task during which connectivity was measured proved crucial for better understanding intelligence at the neural level. Further, intelligence could be predicted not solely from one specific set of brain connections, but from various combinations of connections with system-wide locations. Such partially redundant, brain-wide functional connectivity characteristics complement intelligence-relevant connectivity of brain regions proposed by established intelligence theories. In sum, our study showcases how future prediction studies on human cognition can enhance explanatory value by prioritizing a systematic evaluation of predictive brain characteristics over maximizing prediction performance.

https://www.psypost.org/artificial-intelligence-decodes-the-brains-intelligence-pathways

Солнце повернуло на весну – первые весенние вайбы на Ленгорах

Яркий день зимнего солнцеворота на кафедре психофизиологии

Анонсированная сегодня новая модель от OpenAI o3 взяла 88% на специально разработанном для измерения приближения к AGI знаменитом тесте ARC-AGI! OpenAI о3 – это всё ещё не AGI, но этот совершенно выдающийся (и совсем не ожидавшийся так быстро) результат существенно повышает вероятность создания AGI до 2030 года и ASI / наступления сингулярности до 2035 года. Также модель совершенно неожиданно взяла целых 25% (это огромное число) на тесте на решение труднейших математических задач EpochAI Frontier Math. Это особенно важно, т.к. пресингулярное развитие AGI до ASI вряд ли будет возможно без создания искусственного математика сверхчеловеческого уровня.

Большие языковые модели, особенно самые мощные, при ответе на личностные опросники типа "Большой пятёрки", подобно людям, демонстрируют явную социальную желательность. Большие языковые модели четко "понимают", что их оценивают с помощью личностных опросников, и, как и люди, начинают преувеличивать свои социально желательные качества (например, выдавать себя более экстравертированными и т.д.).

https://neurosciencenews.com/ai-likability-personality-tests-28262

Рефлексия ситуации от Ильи Суцкевера, амбициозно собирающегося создать безопасный сверхинтеллект с помощью своего стартапа Safe Superintelligence Inc. Лично я согласен с Романом Ямпольским в том, что безопасным сверхинтеллект не может быть в принципе, и "Safe Superintelligence" является оксюмороном.

https://hightech.plus/2024/12/16/ilya-suckever-metod-sozdaniya-ii-skoro-izmenitsya

В сухом остатке – фактически, мы стремительно создаем искусственную систему «мозг-психика», которую мы сможем понять, а значит, и контролировать, не больше, чем мы понимаем и контролируем естественную систему «мозг-психика». Как только количественные и качественные вычислительные возможности искусственной системы «мозг-психика» превысят количественные и качественные вычислительные возможности естественной системы, наши возможности к пониманию и контролю еще сильнее уменьшатся, и, вероятно, все будущие 2035+ постсингулярные смыслы будут нам мало доступны или, скорее, вообще недоступны. Вряд ли с этим что-то можно сделать, т.к. развитие искусственного интеллекта подстегивается внутричеловеческой конкуренцией, а конкуренция – это один из ключевых драйверов дарвиновской эволюции, максимально глубоко «прошитый» в природе человека на всех уровнях. Остается только попытаться хоть как-то скорректировать эволюцию ИИ в сторону большей человечности, опираясь на ограниченные, скромные, но все-таки имеющиеся достижения психофизиологии эмпатии и альтруизма (задача «нейроморфизации» ИИ в аспекте «оцифровки» мозговых механизмов эмпатии и альтруизма и внедрения полученных алгоритмов в ИИ). Шансы не очень большие (скорее даже откровенно маленькие), но если мы хоть в какой-то степени сумеем передать «туда», дальше, за порог сингулярности высшие аспекты нашей природы, связанные с «вершинными» человеческими ценностями любви, сострадания и созидательного творчества и сотворчества, то эстафета человеческого духа не прервется и те, кто будет нам наследовать на постсингулярном горизонте, будут нашими продолжателями и преемниками на самом глубинном смысловом уровне.

Рефлексия ситуации на 15.12.2024

Город полностью засыпало снегом, и погода способствует к тому, чтобы немного остановиться, отстраниться от предновогодней суетной гонки срочных дел и отрефлекировать текущую ситуацию с глобальной эволюцией (Большой Историей, по Акопу Погосовичу Назаретяну) в проекции искусственного интеллекта, нейронаук, психологии и когнитивистики.

Все последние инциденты с появлением у фронтирных больших языковых моделей тревожных интенций к самосознанию и макиавеллистическому поведению резко актуализировали научные дискуссии о том, что же мы все-таки создаем в виде ИИ и куда это все нас приведет. Лично я вижу драматически нарастающее расхождение между возможностью создавать сложные системы и понимать их (а значит, и управлять ими). Если мы создаем такие сверхсложные системы, как, например, орбитальная станция, АЭС или операционная система Windows, то управление ими строго алгоритмизировано и мы полностью понимаем, что там происходит. Если мы обучаем большую языковую модель на огромном массиве данных, то в итоге мы получаем матрицу обученных весов, невероятно сложно взаимодействующих между собой при ответе модели на промт, и полностью понять эту матрицу (и, соответственно, контролировать ее поведение на основе этого понимания), фактически, невозможно.

Можно провести очень четкую, как мне кажется, аналогию. Дарвиновская эволюция за сотни миллионов лет непрерывных творческих инженерных экспериментов создала мозг человека и психику как функцию этого мозга, и возникшая в итоге система «мозг-психика» чрезвычайно сложна, и несмотря на все колоссальные усилия нейронаук и психологии, мы все еще очень мало понимаем, как работает эта система (текущий тяжелейший кризис воспроизводимости в нейронауках, психологии и когнитивных науках прямое тому доказательство). И теперь люди, взяв на себя функцию архитекторов искусственной эволюции, создают с помощью обучения большие языковые модели, в существенной степени похожие на мозг и психику, причем создают их не алгоритмическим (и, значит, контролируемым) путем, как орбитальную станцию или АЭС, а, фактически, эволюционно-подобным путем. Если эволюция, создавая и развивая мозг, занималась генетической калибровкой множества синаптических весов таким образом, чтобы получившаяся система вела себе адаптивно и репродуктивно эффективно, то и инженеры больших языковых моделей обучают десятки и скоро сотни миллиардов синаптических весов так, чтобы система эффективно решала определенные когнитивные задачи. Получаемая в итоге матрица обученных весов представляет собой такую же непонимаемую систему, как и биологический мозг человека. Да, есть направление «объяснимый ИИ» (Explainable AI, XAI), но, похоже, это направление может понять «цифровой мозг» большой языковой модели не больше, чем нейроученые, психологи и когнитивисты могут понять биологический мозг человека. Да, и там, и там что-то понять можно, но очень ограниченно, наши объяснительные научные возможности просто не справляются с пониманием систем такого уровня сложности.

Large Language Models and Cognitive Science: A Comprehensive Review of Similarities, Differences, and Challenges

https://arxiv.org/abs/2409.02387

Вышел свежий обзор по проблеме связи больших языковых моделей и когнитивной науки. Обзор рекомендуется для обновления читаемых на факультетах психологии ведущих университетов курсов по психологии искусственного интеллекта.

This comprehensive review explores the intersection of Large Language Models (LLMs) and cognitive science, examining similarities and differences between LLMs and human cognitive processes. We analyze methods for evaluating LLMs cognitive abilities and discuss their potential as cognitive models. The review covers applications of LLMs in various cognitive fields, highlighting insights gained for cognitive science research. We assess cognitive biases and limitations of LLMs, along with proposed methods for improving their performance. The integration of LLMs with cognitive architectures is examined, revealing promising avenues for enhancing artificial intelligence (AI) capabilities. Key challenges and future research directions are identified, emphasizing the need for continued refinement of LLMs to better align with human cognition. This review provides a balanced perspective on the current state and future potential of LLMs in advancing our understanding of both artificial and human intelligence.

Ученые нашли способ неинвазивно «записывать» навыки в мозг человека

https://hightech.plus/2024/12/12/uchenie-nashli-sposob-neinvazivno-zapisivat-naviki-v-mozg-cheloveka

С учетом новых данных о выдающихся когнитивных и эмоционально-социальных способностях OpenAI о1, а также в свете очевидного факта резкого усиления конкурентной бизнес-гонки между OpenAI, Anthropic, Google и другими создающими коммерчески применимые фронтирные модели компаниями, принимая во внимание планы новой администрации с 2025 года дерегулировать развитие ИИ, я сейчас дал бы такую оценку вероятности создания сверхинтеллекта и наступления технологический сингулярности: 2025 – менее 5%, 2030 – 25%, 2035 – 50%, 2040 – 75%, 2045 – более 90%. Вероятно, 2035 год на данный момент является самой разумной и взвешенной оценкой, на которую рациональнее всего ориентироваться при любых видах планирования.

Поздравляю всех причастных с Днём математика, который впервые в этом году празднуется в России в день рождения Николая Ивановича Лобачевского 1 декабря, и особенно всех математических психологов! В этот день хочется вспомнить, как более 50 лет назад вышла пионерская статья декана факультета психологии МГУ Алексея Николаевича Леонтьева и студента третьего курса Эхтибара Джафарова, положившая начало процессу математизации психологии на нашем факультете: Леонтьев А.Н., Джафаров Э.Н. К вопросу о моделировании и математизации в психологии // Вопросы психологии. 1973. № 3. С. 3-14. Эхтибар Нураддинович потом стал выдающимся исследователем и президентом Общества математической психологии.

Ровно два года назад, 30 ноября 2022 года, вышел ChatGPT и, вероятно, началось предсингулярное время

В новом чрезвычайно интересном исследовании учёные вырастили и сравнили мозговые органоиды человека и обезьян и показали, что укрупнение мозга приматов при эволюционном переходе к человеку было обеспечено усилением внутримозговых нейропротекторных механизмов

https://singularityhub.com/2024/11/26/why-are-our-brains-so-big-because-they-excel-at-damage-control

Большие языковые модели, особенно специально обученные на нейронаучной исследовательской литературе, лучше людей-экспертов в этой области предсказывают новые нейронаучные результаты.

В целом, чётко видно, что мы с ускорением движемся в сторону создания "искусственного психофизиолога-исследователя", который будет представлять из себя высокоинтегрированную систему проактивных искусственных агентов, автоматизирующих процесс научного поиска в нашей области. Сначала эта автоматизация будет поверхностной, но постепенно к ИИ отойдут и самые ядерные, самые творческие компоненты психофизиологического исследования. Надо сказать, что, так как у людей-психофизиологов пока всё ещё не очень получается вскрыть во всей полноте мозговые механизмы биологического интеллекта и сознания и "оцифровать" их в виде максимально "мозгоподобного" алгоритма искусственного интеллекта, то, возможно, эта задача будет по зубам только будущему "искусственному психофизиологу". Если это будет так, то, вероятно, именно "искусственный психофизиолог" (при поддержке, прежде всего, "искусственного математика" и "искусственного физика") поможет людям развить AGI до уровня ASI в 2030-е годы (или, в другой оптике, поможет AGI саморазвиться до ASI с помощью людей).

https://www.nature.com/articles/s41562-024-02046-9

Ключевой вопрос, который волнует сейчас всех – насколько большие языковые модели способны к эффективным человекоподобным рассуждениям, и, в целом, к мышлению?

Новое исследование вскрыло когнитивную микроархитектуру процесса арифметических рассуждений большой языковой модели на уровне отдельных нейронов. Оказалось, что в процессе мышления в виде арифметических рассуждений большие языковые модели ни "просто вспоминают" запомненную из обучающей выборки информацию, ни формируют надёжные обобщённые алгоритмы, а генерируют набор простых эвристик, каждая из которых идентифицирует определённый цифровой паттерн на входе и соотносит его с соответствующим выходом.

https://arxiv.org/abs/2410.21272

Девять выдающихся научных прорывов года, ставших возможными из-за использования ИИ.

В целом, хотя AGI еще нет, но уже четко видно зарождение того механизма, который позволит ему развиться в ASI в 2030-е годы – механизма радикального ускорения научного прогресса с помощью ИИ.

https://blog.google/technology/ai/google-ai-big-scientific-breakthroughs-2024

Новые очень интересные экспериментальные данные показывают существенное сходство в том, как обучаются люди и глубокие нейронные сети – трансформеры (лежащие в основе больших языковых моделей типа GPT). Это еще один аргумент в пользу того, что путь к AGI лежит именно через большие языковые модели и не надо искать принципиально иной, более "мозгоподобный" путь.

https://osf.io/preprints/psyarxiv/ryn8d

Прогресс в сетевой психофизиологии сознания

https://www.psypost.org/dynamic-brain-connectivity-distinguishes-conscious-and-unconscious-states

Вчера было 9 дней со дня ухода от нас доцента кафедры психофизиологии факультета психологии МГУ Сергея Александровича Исайчева, и я хотел бы написать о нем еще несколько слов. Я тесно общался с ним более 25 лет, со времени моего прихода на первый курс факультета психологии осенью 1998 года (тогда мы сразу поступали на кафедры, и я сразу стал учиться на кафедре психофизиологии), и вплоть до самого последнего времени, когда 17 октября он позвонил мне и впервые сказал, что заболел, плохо себя чувствует и не сможет завтра вести занятия. Вчера я подводил окончательные итоги, перечитывал некоторые письма из нашей с ним долгой переписки (оказалось, что за эту четверть века мы обменялись почти тысячью писем), и вспоминал самые смысловые моменты из нашего общения.

Все эти годы я сначала прилежно учился у него как преподавателя (хотя я не был его курсовиком и дипломником), потом, после того, как меня после защиты диссертации оставили на кафедре, я был его младшим коллегой, а в 2016 году он передал мне должность заместителя заведующего кафедрой по научной работе и потом еще долго наставлял меня и делился своим богатым опытом. Ярче всего мне вспоминается один момент из примерно 1999-го или 2000-го года: в одном из перерывов между парами он гулял с нами, студентами, по коридору, и, как всегда, очень открыто и дружески общался с нами, и говорил так – если ты выберешь научный путь, то проживешь трудную, но счастливую жизнь, и будешь счастлив особым, ни с чем не сравнимым счастьем. Тогда я очень хорошо это запомнил, и всегда потом внимательно наблюдал за ним, за его научной, преподавательской, практической и административной деятельностью на кафедре, и учился проживать именно такую жизнь.

В понедельник в домовом Храме Мученицы Татианы при МГУ на панихиде коллегами и студентами было сказано очень много хороших и точных слов о Сергее Александровиче, но я бы хотел еще раз специально подчеркнуть, что от Сергея Александровича, как круги на воде, разошлось и многократно промасштабировалось в нашем обществе влияние психофизиологии как системы помогающих технологий. С начала 90-х годов Сергей Александрович создавал и научно обосновывал новые методики практической психофизиологии и обучал своих многочисленных учеников (более 100 дипломников кафедры психофизиологии и множество выпускников дополнительного образования) использовать эти методики, и дальше они обучали уже своих учеников и т.д. В итоге, множество людей получило помощь непосредственно от него, от его учеников, от учеников его учеников и т.д., и эти «круги на воде» будут расходиться все дальше и дальше, и все новые и новые люди, даже после его физического ухода, будут решать свои проблемы с помощью его помогающих технологий практической психофизиологии.

Фотография 2016 года, с замечательно теплого и дружеского традиционного объединенного кафедрального празднования нескольких октябрьских дней рождений сотрудников, в том числе Сергея Александровича.

Жизнь Сергея Александровича Исайчева является примером по настоящему достойно и полно прожитой жизни, мы всегда будем его помнить, никогда не забудем его расположенность к людям, его человеческую теплоту, простоту и открытость в общении, и обязательно будем бережно хранить и развивать на кафедре все заложенные им научно-практические и человеческие традиции. Вечная светлая память дорогому Сергею Александровичу!

Дорогие друзья, поздравляю всех причастных с Днём психолога!

Определенный участок коры головного мозга взаимодействует со стволом мозга и это помогает координировать дыхание и эмоциональное состояние. Теперь ученые планируют воздействовать на этот путь новыми препаратами, чтобы обеспечить лечение тревожного расстройства, панических атак и ПТСР.

https://hightech.plus/2024/11/20/uchenie-obyasnili-kak-dihanie-pomogaet-mozgu-ostanovit-trevogu

Перспективы дальнейшей коэволюции человека и ИИ через линзы классических теорий биологической эволюции

https://phys.org/news/2024-11-human-evolution-ai-world-brain.html

Психофизиологический натюрморт в завершение дня экспериментальной работы

Новые экспериментальные доказательства мозгоподобности языкового искусственного интеллекта

https://medicalxpress.com/news/2024-11-minds-language-chatbots-reveals.html

От искусственного интеллекта к искусственной "мудрости":

Приоритизация метакогнитивных процессов в ИИ-исследованиях может привести к созданию систем, которые будут действовать не только интеллектуально, но и "мудро" в сложных условиях реального мира

https://arxiv.org/abs/2411.02478

The definitive introduction to Bayesian cognitive science, written by pioneers of the field.

https://mitpress.mit.edu/9780262049412/bayesian-models-of-cognition/

How does human intelligence work, in engineering terms? How do our minds get so much from so little? Bayesian models of cognition provide a powerful framework for answering these questions by reverse-engineering the mind. This textbook offers an authoritative introduction to Bayesian cognitive science and a unifying theoretical perspective on how the mind works. Part I provides an introduction to the key mathematical ideas and illustrations with examples from the psychological literature, including detailed derivations of specific models and references that can be used to learn more about the underlying principles. Part II details more advanced topics and their applications before engaging with critiques of the reverse-engineering approach. Written by experts at the forefront of new research, this comprehensive text brings the fields of cognitive science and artificial intelligence back together and establishes a firmly grounded mathematical and computational foundation for the understanding of human intelligence.

Поздравляю всех коллег с Днём преподавателя высшей школы и Днём рождения Ломоносова!

Прогресс в когнитивной роботике всё быстрее двигается в сторону оснащения воплощённого / "отелесненного" искусственного интеллекта агентностью, чувством Я и чувством обладания собственным телом, что может приблизить понимание психологических и мозговых механизмов всех этих феноменов в их естественном, человеческом, виде. Это очень важный момент, который надо специально подчеркнуть и отрефлексировать для профессионального психологического сообщества – создавая искусственную психику со всеми её необходимыми атрибутами, мы одновременно, именно через этот процесс, глубже, фундаментальнее познаём естественную психику, познаём сами себя. Также психологам надо чётче рефлексировать, что прямо на наших глазах радикально ("предсингулярно") ускоряется двунаправленный конвергентный процесс – естественная психика человека все в большей степени оснащается искусственными когнитивными инструментами, что плавно увеличивает компонент "искусственности" в нашей психике, и одновременно искусственный интеллект в процессе его "нейроморфизации" и "психологизации" становится всё более похожим на психику человека, т.е. его "искусственная психика" плавно движется в сторону её "очеловечивания". В позитивных, желаемых сценариях сингулярного перехода в итоге это двунаправленное конвергентное движение приведёт к слиянию естественной и искусственной психики, которое позволит человеку не отстать в развитии от искусственного интеллекта, и, в итоге, мы сможем передать дальше, на следующий уровень эволюции, эстафету человеческого духа и те, кто будут нам наследовать, будут продолжать нас именно как людей, будут нашими преемниками в самом глубоком, сущностном смысле. Повышение вероятности такого позитивного сценария является основной миссией психологии на оставшиеся 10-15 "предсингулярных" лет.

https://neurosciencenews.com/robot-human-autonomy-28066/

Сегодня на 77-м году жизни от нас ушел кандидат психологических наук, доцент кафедры психофизиологии факультета психологии МГУ Сергей Александрович Исайчев. Сергей Александрович был замечательным человеком и выдающимся исследователем и преподавателем, основателем направления "Практическая психофизиология" на факультете психологии МГУ.

Прощание с Сергеем Александровичем состоится 18 ноября, о месте и времени будет сообщено дополнительно.

Мы глубоко скорбим, светлая память дорогому Сергею Александровичу!

Я благодарю всех студентов второго курса факультета психологии МГУ за живой интерес к тематике физиологии высшей нервной деятельности и желаю продуктивно использовать все полученные знания для изучения следующих курсов (физиология сенсорных систем, психофизиология), а также для становления экспертности в вопросах «нейроморфизации» и «психологизации» искусственного интеллекта. Удачи! )

Сегодня, описывая механизмы формирования классических и оперантных условных рефлексов на уровне отдельных нейронов, я рассказал о развиваемом Юрием Иосифовичем Александровым в Институте психологии РАН в рамках «системной психофизиологии» понимании нейрона не как пассивного «информационного винтика», а как активного субъекта, реализующего свои метаболические потребности с помощью «поведения» – изменения частоты генерации спайков (см. главу «Системная психофизиология» в учебнике по психофизиологии под его редакцией). Константин Владимирович Анохин развивает сейчас в Институте перспективных исследований мозга МГУ гиперсетевую концепцию разума, которая претендует на то, чтобы стать новой интегральной концепцией в когнитивной нейронауке, идейно продолжающей линию И.П. Павлова – П.К. Анохина.

Я вижу интересные перспективы синтеза этих двух павловских линий – линии Е.Н. Соколова и линии П.К. Анохина – К.В. Анохина – в контексте современной когнитивной нейронауки. В то время как Е.Н. Соколов фокусировался на более локальных и простых процессах, и его сферическая модель по своей природе более «жесткая» и «метрическая», то К.В. Анохин, работая с сетями и графами, фокусируется на более глобальных и сложных процессах, и его модель гораздо более «гибкая» и «неметрическая». Необходимо, как мне кажется, одновременно в процессе синтеза идти и «снизу вверх», и «сверху вниз»: двигаясь «снизу вверх» от более простых процессов к более сложным, надо искать грань, где перестает работать жестко метрическая сферическая модель и начинает лучше работать метрически более «мягкая» теория графов / гиперграфов, а двигаясь «сверху внизу», надо искать грань, где графы как бы «замерзают», становятся жестко «распластанными» по поверхности соколовской многомерной сферы, в результате чего описание в виде графов становится лишним, избыточным. Если идти предлагаемым мной путем, то можно будет одновременно непротиворечиво использовать на комплементарных системных уровнях и всю мощь развитого Соколовым геометрического моделирования, и всю мощь математического аппарата опирающейся на теорию графов современной сетевой нейронауки (аналогичные идеи, но с другого, «языкового», «захода» высказывались незадолго до смерти одним из самых талантливых учеников Соколова, его ближайшим последователем, соавтором сферической модели, профессором нашей кафедры психофизиологии Чингизом Абильфазовичем Измайловым, см. статью 2005 года Измайлов Ч.А., Черноризов А.М. Язык восприятия и мозг).

Сегодня, завершая свой курс, я подчеркнул самое, с моей точки зрения, главное – смогут ли модели, созданные / создаваемые в павловской линии в нейронауках (сферическая модель Е.Н. Соколова – Ч.А. Измайлова – А.М. Черноризова, модель функциональной системы П.К. Анохина – В.Б. Швыркова – Ю.И. Александрова, гиперсетевая модель К.В. Анохина) "вдохновить" архитектуру искусственного интеллекта так, чтобы созданный на основании этой архитектуры искусственный агент не только вел бы себя внешне человекоподобным образом, не только имел бы внутреннюю организацию, функционально изоморфную реальному мозгу, но и обладал бы на субъективно-феноменальном уровне искусственным психикой и сознанием? Это ключевой момент, и тут мой прогноз, скорее, отрицательный (это касается не только перечисленных нейрокогнитивных архитектур, «выросших» в павловской традиции, а касается вообще любых нейрокогнитивных архитектур), подробнее со ссылкой на знаменитый «горький урок» Ричарда Саттона я писал об этом ранее, см. https://t.me/andrey_kiselnikov/672 , https://t.me/andrey_kiselnikov/673. Также этот «горький урок» Ричарда Саттона полностью подтверждается недавним успешным созданием на базе большой языковой модели универсальной модели психики «Кентавр», а также особенно тем, что внутренние представления «Кентавра» после файнтюнинга множеством данных психологических экспериментов "автоматически", а не в результате имплементирования "сверху-вниз" какой-нибудь высокоуровневой психологической теории / модели / архитектуры, становятся мозгоподобными, см. https://t.me/andrey_kiselnikov/1083.

Сегодня я прочитал последнюю лекцию части «Физиология высшей нервной деятельности» общего курса «Физиология высшей нервной деятельности и сенсорных систем» для студентов второго курса факультета психологии МГУ, дальше часть «Физиология сенсорных систем» будет читать заведующий кафедрой психофизиологии Александр Михайлович Черноризов.

Давая итоговый обзор идейной эволюции павловской линии в нейронауке, я рассказал о трагически упущенном историческом шансе создать именно в нашей стране, первыми в мире, когнитивную нейронауку, развив ее из поздних версий павловской нейрофизиологии, синтезированных с кибернетикой. Сейчас есть возможность все-таки реализовать этот потенциал и продолжить павловскую линию уже на уровне современной когнитивной нейронауки, и я вижу это следующим образом.

В целом в эволюции павловских идей в проекции механизмов психики можно выделить школу векторной психофизиологии Евгения Николаевича Соколова («концептуальная рефлекторная дуга», «векторное кодирование информации в мозге», «сферическая модель сенсорных, когнитивных и моторных процессов») и Петра Кузьмича Анохина («теория функциональных систем», «системная психофизиология»). Соколов, оттолкнувших от проблемы связи восприятия и условного рефлекса, стал творчески развивать Павлова, создавая сложные многомерные геометрические модели сенсорных, а также когнитивных и моторных процессов, причем для доказательства своих идей в 50-е-90-е годы он сумел провести в МГУ на кафедре психофизиологии психфака и кафедре высшей нервной деятельности биофака очень масштабные исследования на уровне отдельных нейронов как простых, так и сложных нервных систем (работы А.М. Черноризова, Г.Г. Аракелова, Н.Н. Даниловой, Т.Н. Греченко, В.Б. Полянского, А.В. Латанова, Е.Д. Шехтер и мн.др.). Т.к. условный рефлекс – это механизм пластичности поведения, то Соколов, в контексте постановки проблемы «связь восприятия и условного рефлекса», сразу вышел на механизмы обучения и памяти, и быстро стал ведущим ученым в мире в области пластичности поведения на нейронном уровне (за что был в 1975 году избран академиком Национальной академии наук США). Соколов мыслил сложными геометрическими моделями, и всегда старался с помощью своей универсальной «сферической» геометрической модели описать не только мозговые механизмы сенсорных, когнитивных и моторных процессов самих по себе, но и мозговые механизмы пластичности этих процессов в ходе научения, понимая его в павловском ключе. В целом, Соколов в большей степени работал на «низком» системном уровне отдельных нейронов и в меньшей степени затрагивал «верхний» системный уровень, который стал фокусом исследования второй основной павловской линии – линии Петра Кузьмича Анохина.

Сегодня я рассказал студентам историю о том, как Петр Кузьмич юношей первый раз побывал на лекции Павлова в Петрограде, очень вдохновился и после долгих колебаний, преодолев страх, решился постучаться к нему в кабинет после лекции и попросился в его научную группу. С этого момент он стал его близким учеником и главным реформатором его учения на «верхнем» системном уровне. Анохин творческим образом смог нащупать «точки роста» павловской нейрофизиологии на этом уровне и стал размышлять в направлении целостной организации мозговых процессов, анализировать вклад внутренней активности в генез поведенческого акта, изучать опережающее отражение и обратные связи как механизм регуляции поведения. Все это привело к эволюционированию системных аспектов павловской нейрофизиологию в «теорию функциональных систем», которую далее в приложении к психологии под маркой «системная психофизиология» стали очень активно и творчески развивать В.Б. Швырков, Ю.И. Александров и К.В. Анохин (внук Петра Кузьмича).

Нейроны памяти вспоминают конкретные эпизоды жизни благодаря общению с соседним астроцитами

https://m.nkj.ru/news/52262/

Альтернативный нейротех: от глии до искусственного интеллекта

https://naked-science.ru/article/column/glii-do-iskusstvennogo-in

Akyürek et al. (2024). The Surprising Effectiveness of Test-Time Training for Abstract Reasoning.

ekinakyurek.github.io/papers/ttt.pdf

Искусственный интеллект догнал среднего человека по специально разработанному тесту на абстрактное мышление (знаменитый бенчмарк "ARC" – Abstraction and Reasoning Corpus, придуманный известным скептиком относительно способности больших языковых моделей по-настоящему рассуждать Франсуа Шолле) – и ИИ, и средний человек набирают около 60%, однако некоторые люди набирают под 100%.

Это ещё не AGI, но сам факт достижения такого выдающегося результата указывает на ускоряющееся (вероятно, предсингулярное) движение к AGI / ASI (раньше добиться уровня среднего человека на этом бенчмарке не удавалось). Этот результат повышает вероятность создания AGI в ближайшие годы и ASI / сингулярности в 2030-е.

Продолжается исследование "эфаптических" полевых эффектов в мозге и их возможного вклада в механизмы поведения, психики и сознания

https://www.scientificamerican.com/article/consciousness-might-hide-in-our-brains-electric-fields

Симультанная регистрация электрофизиологического и BOLD (фМРТ)-сигнала от нескольких зон мозга находящейся в покое крысы показала, что пространственная организация электрофизиологического сигнала хорошо "бьётся" с BOLD-сигналом, а вот временная – плохо, что говорит о том, что в генерации BOLD-сигнала участвует какой-то "невидимый" для электрофизиологии скрытый фактор

https://neurosciencenews.com/rsfmri-brain-mapping-28015

Этические аспекты использования инвазивных нейроинтерфейсов для улучшения когнитивного функционирования

https://journals.plos.org/plosbiology/article?id=10.1371%2Fjournal.pbio.3002899

Реализация алгоритма обратного распространения ошибки на нейроморфном процессоре Loihi

https://www.nature.com/articles/s41467-024-53827-9

Дмитрий Антонович Сахаров (Сухарев) – выдающийся нейробиолог и поэт
01.11.1930 – 11.11.2024

Создавая AGI, мы, фактически, с некоторой точностью создаем (методом реверс-инжиниринга по когнитивным следам нашей деятельности, т.е. не создаем, а, фактически, реконструируем по следам) «цифровой слепок» с интериоризировавшего культуру мозга человека. AGI будет обобщенным «цифровым мозгом» всего человечества, и в нем будут течь информационные процессы, изоморфные информационным процессам в оснащенном культурой биологическом мозге человека (причем если функционализм верен, то такой изоморфности хватит для воспроизводства не только интеллекта – это уже почти достигнуто, но и сознания человека, и вот тут продолжаются самые горячие дебаты). Фактически, AGI будет реконструкцией «общечеловеческого» интеллекта (и сознания?), но уже на силиконовом носителе. Выше я писал, что такому AGI, для того чтобы «улучшиться» до уровня ASI, придется развернуть масштабную научно-исследовательскую деятельность, в т.ч. обязательно создавать не виртуальные, а реальные лаборатории в реальном физическом мире. НО – это в случае, когда на «хардверном» уровне этот AGI остается именно таким, каким мы его создали – равным по базовой мощности человеческому мозгу. Теперь представим, что этот ранний AGI на порядки промасштабировал свою базовую архитектуру – увеличил число своих искусственных нейронов, связей и слоев, именно так, как в моем мысленном примере, когда появилось новое поколение детей с базово улучшенным мозгом. И если в случае с человеческими детьми такое, конечно, сделать невозможно, это остается чисто мысленным экспериментом, то в случае с ранним AGI это технически вполне может быть возможно – число искусственных нейронов, связей и слоев ограничено только вычислительными мощностями, а не объемом черепа, наличными кислородом и глюкозой, старением и проч., как в случае реального мозга. В итоге, возможно, после такого структурного «самоулучшения» раннего AGI он сможет развернуть такие научные исследования, для которых и не понадобятся реальные лаборатории в реальном физическом мире, или он создаст вообще качественно новые типы исследовательской деятельности, которые соотносятся с нашей текущей наукой примерно так, как текущая наука – с завязыванием узелков древними людьми (из «Этюдов по истории поведения» Выготского и Лурии).

Резюмируя, можно сказать, что если это вдруг произойдет, то путь от AGI до ASI может занять гораздо меньше, чем 5-10 лет, однако, я бы оценивал такую вероятность как достаточно низкую (но которую, тем не менее, обязательно надо учитывать и не сбрасывать со счетов, т.к. ставки здесь максимально высоки).

Также надо отметить, что будет очень тонкая грань между двумя углами зрения на происходящие события – или «люди с помощью AGI развивают науку и приближают свой «золотой век», где будет побеждено старение, настанет всеобщее изобилие и т.д.», или «AGI с помощью людей развивает себя до ASI с помощью ускорения научного прогресса». Кто на самом деле будет субъектом сингулярности – люди, AGI, AGI как инструмент людей, люди как инструмент AGI, партнерство людей и AGI? Все это странно звучащие вопросы неожиданно могут стать вопросами ближайшего будущего, и все сильнее разливающиеся в ноосфере «предсингулярные вайбы» сигнализируют об этом.

P.S. Есть еще один вероятный сценарий, гораздо более быстрый, чем «AGI через несколько лет и ASI через 5-10 лет с помощью новой научной революции». Продолжим аналогию когнитивной эволюции от первых людей до современных людей. Мы знаем, что мозг на уровне сложности коннектома развился мало, и в основном развитие шло через накопление и трансляцию культуры (вспомним Выготского), в т.ч науки как части культуры. Т.е. в ходе когнитивной эволюции людей шло развитие «софта», а не «харда», мозг как «хард», конечно, в какой-то степени развивался (вспомним и идеи «гено-культурный коэволюции» и проч.), но культура, в т.ч. наука, была безусловным драйвером этой когнитивной эволюции. Отметим, что до Homo sapiens мозг претерпел огромную эволюцию по структурной сложности – по числу нейронов и связей, по сложности их упаковки, по нейрохимии медиаторов и т.д., от мозга ланцетника до мозга первого человека был пройден гигантский путь. Теперь представим в рамках мысленного эксперимента, что мы берем мозг современного человека и усиливаем его на базовом структурно-функциональном уровне примерно настолько же, насколько эволюция усилила мозг при развитии от ланцетника до первого человека. В таком мозге, радикально улучшенном на «хардверном», а не «культурно-софтверном» («выготскианском)» уровне, скорее всего, будут более мощные перцептивные функции, функции внимания, ассоциативные функции, сильнее базовая память (долговременная и оперативная), более мощные способности к вербальному и невербальному мышлению, и, в целом, более мощный базовый интеллект и базовое сознание. Теперь предположим, что все дети начали рождаться с такой «улучшенной» версией мозга и погружаются в стандартную наличную человеческую культуру уже в таком варианте. Скорее всего, в этом случае мы увидели бы невероятное ускорение интеллектуальной эволюции человечества, так как такие дети, быстро интериоризировав достигнутый культурный, в т.ч. научный, уровень, сразу начали бы двигать этот уровень дальше гораздо быстрее, чем это происходит сейчас. Вероятно, это «улучшенное» поколение создало бы науку принципиально, качественно нового уровня, возможно, они даже создали бы такие формы исследовательской деятельности, для которых уже не так нужны реальные лаборатории в реальном физическом мире – и вот тут мы и подходим к сути проводимой мной аналогии.

В продолжение рефлексии нарастающих «предсингулярных вайбов» (https://t.me/andrey_kiselnikov/1086, https://t.me/andrey_kiselnikov/1092)

Позавчера было опубликовано новое видеоинтервью с главой OpenAI Сэмом Альтманом, где он сообщает, что, возможно, создания AGI надо ожидать уже в 2025 году и утверждает, что никаких принципиально новых идей для этого не нужно, только более творческое использование уже существующих идей. Скорее всего, он имеет ввиду, что в 2025 году будет выпущен или следующий продукт линейки «o1», или GPT-5, или продукт, объединяющий «старую» GPT-линейку и «новую» o1. Ранее он говорил, что ASI (следующий уровень после AGI) может быть создан уже «через несколько тысяч дней».

Лично я раньше думал, что путь от AGI к ASI будет чрезвычайно скор, возможно, всего несколько секунд (см. знаменитые дебаты о рекурсивном «взрыве интеллекта», hard vs soft takeoff и проч.), но теперь я думаю, глядя на реальный процесс создания AGI, что этот путь может занять 5-10 лет, что хорошо бьется с прогнозом Альтмана. Это будет связано с тем, что AGI по интеллекту будет приближаться к нобелевским лауреатам (даже текущая OpenAI o1 уже пытается наступать на пятки кандидатам наук), но вот как ему будет сделать шаг дальше и стать умнее самого умного человека, причем желательно во всех сферах сразу? Скорее всего, не будет другого способа, кроме того, который уже изобрели люди – науки, причем науки, включающей фундаментальную физику (особенно ее) и все другие дисциплины. Но физика требует не просто теоретической работы, но и обязательно экспериментальной проверки на мегаустановках типа Большого адронного коллайдера и проч., для психологии / когнитивной нейронауки это сотни тысяч трудоемких экспериментов на фМРТ-сканерах и других приборах. Тут полная аналогия – Homo Sapiens изобрел науку как способ ускорить свою когнитивную эволюцию, как способ саморазвития, и это сработало (современные люди – это сверхинтеллект относительно первых людей, причем мозг развился не так сильно, как комплекс мозг + культура [в т.ч. наука]), и у AGI как нашего детища и вероятного преемника тоже не будет другого способа ускорить свою когнитивную эволюцию и саморазвиться до уровня ASI. Вероятно, именно это и станет главным «бутылочным горлышком» начинающейся сингулярности – необходимость проводить миллионы экспериментов в натурных, а не виртуальных условиях, и здесь люди, можно надеяться, все-таки смогут, если захотят (хотя все идет к тому, что не захотят) все остановить и не дать AGI тех физических ресурсов, которые будут необходимы для развертывания совершенно невиданной по масштабам экспериментальной научной работы, перед которой померкнет все, что мы видели до этого. Некоторые думают, что AGI будет так силен, что сможет провести все эти эксперименты виртуально, в виртуальных сэмулированных лабораториях, но мне кажется, что для этого просто не хватит вычислительной мощности (например, для квантовой химии и физики можно сказать, что даже если мы обратим всю материю Вселенной в фантастический «компьютрониум», т.е. максимально выжмем из всей Вселенной все ее вычислительные возможности, то мы все равно не сумеем промоделировать все явления на самом нижнем – квантовом – уровне). Конечно, многие вещи AGI сумеет открыть «на кончике пера» и в полностью виртуальных специализированных лабораториях (в т.ч. по психологии / когнитивной нейронауке), но я сомневаюсь, что этого хватит для ASI, или надо будет очень много лет, чтобы дойти до ASI таким «нефизическим» путем, без создания лабораторий на физическом уровне.

К нейроморфизации искусственного интеллекта:

Yuki Kamitani. "Brain-to-AI and Brain-to-Brain Functional Alignments". Presentation at a meeting of JSPS Transformative Research Area (A) "Unified theory of prediction and action" at Kyoto University (2024.11.7)

https://speakerdeck.com/ykamit/brain-to-ai-and-brain-to-brain-functional-alignments

9 ноября исполняется 124 года со дня рождения Блюмы Вульфовны Зейгарник – основателя отечественной патопсихологической школы, ученицы Курта Левина и Льва Семёновича Выготского, одного из создателей факультета психологии МГУ, выдающейся исследовательницы и совершенно замечательной личности

Утром во вторник, еще до начала выборов, я писал о чувстве вступления в фазу финального предсингулярного сверхускорения научно-технического прогресса и Большой Истории / Глобальной эволюции в целом. Результаты вторничных выборов полностью подтверждают это ощущение – новая избранная администрация для повышения конкурентоспособности обещает дерегулировать развитие ИИ и отменить ограничивающие развитие ИИ акты уходящей администрации. На глобальном уровне это вызовет эффект домино – все другие игроки, чтобы не отстать, тоже будут вынуждены использовать более рисковые, но более конкурентоспособные стратегии развития ИИ, т.е. не вводить регулирование. Все это может существенно ускорить создание сверхинтеллекта и технологическую сингулярность по сравнению с альтернативной ситуацией – когда все международные игроки кооперируются, синхронно вводят жесткую регуляцию развития ИИ и договариваются совместно стараться не допустить создания сверхинтеллекта и перехвата им контроля у человечества. Т.е. человечество продолжает максимально рисково идти ва-банк, презрев самосохранение ради невероятных возможностей развития, которые потенциально (с неизвестной вероятностью) может принести нам или нашим постчеловеческим преемникам создание сверхинтеллекта (победа над старением, всеобщее изобилие, доминирование творческого компонента в жизни и т.д. и т.п., недавно и глава OpenAI Сэм Альтман, и глава Anthropic Дарио Амодеи по очереди очень оптимистично высказались об этом). Причем складывается ощущение, что если новая администрация после январской инаугурации действительно начнет систематически дерегулировать ИИ (что не факт, возможно, они одумаются, ранее Маск, который теперь будет советником по ИИ, высказывался за регулирование и даже в марте 2023 года, после выхода GPT-4, подписывал знаменитое коллективное письмо о необходимости полугодового моратория), то это станет точкой невозврата – далее уже по целому комплексу причин вводить жесткое регулирование будет поздно, неэффективно, и ситуация станет развиваться в режиме неконтролируемого схода снежной лавины в горах, что, собственно, и является метафорой старта сингулярности. Т.к. новая администрация с ее настроем на дерегуляцию будет у власти целых четыре года (которые, судя по всему, станут во всех смыслах ключевыми), то я бы сильно сдвинул вниз свой личный прогноз по достижению сверхинтеллекта и началу сингулярности таким образом: 2030 год – оптимистичная оценка снизу, 2035 год – самая вероятная оценка, 2040 год – консервативная оценка сверху. В проекции психологии и когнитивной нейронауки это означает, что осталось, скорее всего, всего около 10-15 лет, чтобы постараться успеть «вдохновить» на самом низком и «нестираемом» уровне архитектуру будущего искусственного сверхразума архитектурой психологических и мозговых механизмов просоциального, мотивированного эмпатией, состраданием и другими морально-этическими ценностями поведения человека, и этим повысить шансы на позитивный для людей исход перехода эволюции интеллекта и сознания на следующий (постсингулярный) уровень.

Свежий обзор различий в психофизиологических механизмах когнитивных процессов на разных пространственных масштабах – от отдельных нейронов до общемозговых сетей

https://www.cell.com/trends/cognitive-sciences/abstract/S1364-6613(24)00252-3

Культурно-историческая возрастная психология (Джером Брунер) вдохновляет "воспитание" в искусственном интеллекте социокультурных способностей

https://www.frontiersin.org/journals/neurorobotics/articles/10.3389/fnbot.2024.1396359/full

Chella A. Artificial consciousness: the missing ingredient for ethical AI?

https://www.frontiersin.org/journals/robotics-and-ai/articles/10.3389/frobt.2023.1270460/full

Очень важная и интересная статья от известного исследователя в области психологии искусственного интеллекта, проблематизирующая вопрос "возможно ли создать этичный продвинутый ИИ без наделения его сознанием?" Весьма вероятно, что нельзя, и в этом случае изучение вопроса об искусственном сознании становится особенно актуальным.

Интересный анализ проблемы достижимости искусственного сознания в контексте эволюционной истории нашего мозга

https://www.sciencedirect.com/science/article/pii/S0893608024006385

Вышел очень интересный препринт, описывающий архитектуру альтруистичного и морального искусственного агента, оснащенного мозгоподобными механизмами аффективной эмпатии. Наша недавно вышедшая статья "Neural mechanisms of altruistic decision‑making: EEG functional connectivity network analysis" (https://rdcu.be/dSi72) в качестве своей практической значимости ставит такую же задачу.

"Building Altruistic and Moral AI Agent with Brain-inspired Affective Empathy Mechanisms"

https://arxiv.org/abs/2410.21882

As AI closely interacts with human society, it is crucial to ensure that its decision-making is safe, altruistic, and aligned with human ethical and moral values. However, existing research on embedding ethical and moral considerations into AI remains insufficient, and previous external constraints based on principles and rules are inadequate to provide AI with long-term stability and generalization capabilities. In contrast, the intrinsic altruistic motivation based on empathy is more willing, spontaneous, and robust. Therefore, this paper is dedicated to autonomously driving intelligent agents to acquire morally behaviors through human-like affective empathy mechanisms. We draw inspiration from the neural mechanism of human brain's moral intuitive decision-making, and simulate the mirror neuron system to construct a brain-inspired affective empathy-driven altruistic decision-making model. Here, empathy directly impacts dopamine release to form intrinsic altruistic motivation. Based on the principle of moral utilitarianism, we design the moral reward function that integrates intrinsic empathy and extrinsic self-task goals. A comprehensive experimental scenario incorporating empathetic processes, personal objectives, and altruistic goals is developed. The proposed model enables the agent to make consistent moral decisions (prioritizing altruism) by balancing self-interest with the well-being of others. We further introduce inhibitory neurons to regulate different levels of empathy and verify the positive correlation between empathy levels and altruistic preferences, yielding conclusions consistent with findings from psychological behavioral experiments. This work provides a feasible solution for the development of ethical AI by leveraging the intrinsic human-like empathy mechanisms, and contributes to the harmonious coexistence between humans and AI.

Развитие ситуации настолько ускоряется, что теперь шаг времени Большой Истории / Глобальной эволюции (по Акопу Погосовичу Назаретяну) уже измеряется не веками и десятилетиями, а годами и даже уже месяцами (многие это сейчас ощущают очень явственно, почти на тактильном уровне), и знаменитая курцвейловская оценка "технологическая сингулярность к 2045 году" из "самой вероятной и разумной" всё больше и больше дрейфует в категорию "консервативной оценки сверху". Эволюция человечества явно, осязаемо подходит к своей "точке Омега" (её в своё время пытался предсказать Тейяр де Шарден), за которой – полная неизвестность и неопределенность, которую мы даже не можем помыслить в силу естественной ограниченности наших когнитивных способностей, но которая в силу своей эволюционной неизбежности, предзаданности всем предшествующим ходом эволюции не должна нас пугать (и, судя по реакциям массового сознания, действительно не пугает).

Очень изящное и остроумное по дизайну исследование с регистрацией отдельных нейронов вентральной височной коры человека и моделированием соответствующих нейронных кодов, показывающее, что за зрительное воображение отвечают те же нейроны, что и за восприятие

https://www.biorxiv.org/content/10.1101/2024.10.05.616828v2.abstract

Очень интересная статья, показывающая, что если мы зададим для внутренних репрезентаций языковой модели двумерное пространство, то после обучения репрезентации расположатся в нём "мозгоподобным" образом – как в корковой системе обработки языка!

Нейроны в мозге организованы пространственно таким образом, что соседние участки ткани часто демонстрируют схожие профили ответов. В человеческой языковой системе экспериментальные исследования выявили кластеры для синтаксических и семантических категорий, однако механизмы, лежащие в основе этой функциональной организации, остаются неясными. В данной работе, опираясь на результаты исследований в области зрительного восприятия, мы разработали "TopoLM" — трансформерную языковую модель с эксплицитным двумерным пространственным представлением единиц модели. Комбинируя задачу предсказания следующего токена с функцией потери пространственной гладкости, мы показали, что представления в этой модели формируют кластеры, которые соответствуют семантически интерпретируемым группировкам текста и близко совпадают с функциональной организацией языковой системы мозга. Модель "TopoLM" успешно предсказывает возникновение пространственно-функциональной организации корковой языковой системы, а также организацию функциональных кластеров, избирательно реагирующих на тонкие лингвистические характеристики, эмпирически наблюдаемые в коре. Наши результаты указывают на то, что функциональная организация человеческой языковой системы определяется единым пространственным критерием и предоставляют функционально и топологически согласованную модель языковой обработки в мозге.

https://arxiv.org/abs/2410.11516

Достигнут очень важный для психологии результат – создана базовая фундаментальная модель человеческой психики "Centaur"

Установление единой теории когнитивных процессов является одной из главных целей психологии. Несмотря на существовавшие ранее попытки реализовать такие теории с помощью построения вычислительных моделей, в настоящее время у нас нет единой модели, которая бы полностью охватывала человеческую психику. В данной работе мы представляем модель "Centaur", способную предсказывать и симулировать человеческое поведение в любых экспериментах, выражаемых на естественном языке. Модель "Centaur" была разработана путем файнтюнинга современной языковой модели на новом крупномасштабном наборе данных, названном "Psych-101". "Psych-101" достигает беспрецедентного масштаба, охватывая данные по каждому испытанию более чем 60 000 участников, совершивших более 10 000 000 выборов в 160 экспериментах. "Centaur" не только лучше моделирует поведение участников, не входивших в обучающую выборку, по сравнению с существующими когнитивными моделями, но также демонстрирует обобщение на новые сценарии, структурные модификации задач и совершенно новые области. Более того, мы обнаружили, что внутренние представления модели становятся более согласованными с нейронной активностью человека после файнтюнинга. Таким образом, "Centaur" является первым реальным кандидатом на роль единой модели человеческой психики. Мы предполагаем, что эта модель окажет прорывное влияние на когнитивные науки, ставя под сомнение существующую парадигму разработки вычислительных моделей.

https://arxiv.org/abs/2410.20268

Вычислительное моделирование новых экспериментальных психофизиологических данных подтверждает вклад и сенсорных, и лобных процессов в мозговые механизмы сознания

https://www.biorxiv.org/content/10.1101/2024.11.02.621640v1

Вышла новая интересная книга по психологии искусственного интеллекта выдающегося исследователя в этой области Тони Прескотта, ее можно рекомендовать в качестве элементарного введения в проблематику.

https://www.routledge.com/The-Psychology-of-Artificial-Intelligence/Prescott/p/book/9780367543112

Что такое ИИ? Как ИИ повлияет на общество? Является ли ИИ более мощным, чем человеческий интеллект? Психология ИИ исследует все аспекты взаимоотношений между психологией и ИИ, задавая вопросы о том, насколько близко ИИ может походить на человека и означает ли это, что у него может быть какая-либо форма самосознания. Рассматривается, как системы ИИ были смоделированы на основе человеческого интеллекта, а также проводятся параллели между работой мозга и компьютеров, наряду с текущими ограничениями ИИ и возможностями их преодоления в будущем. Также анализируется, как люди взаимодействуют с ИИ в повседневной жизни, исследуя некоторые этические и социальные риски, такие как предвзятость в алгоритмах ИИ, и последствия для нашего долгосрочного будущего, если ИИ действительно превзойдет человека в важных аспектах. Поскольку искусственный интеллект продолжает достигать новых рубежей, психология ИИ отвечает на ключевые вопросы о том, что на самом деле значит быть человеком, и как ИИ повлияет на нашу жизнь во всех ее проявлениях как сейчас, так и в будущем.

Тони Прескотт:
https://scholar.google.ca/citations?hl=en&user=u2T4wjgAAAAJ
https://www.researchgate.net/profile/Tony-Prescott

Область исследований Тони Прескотта:
"I research within the areas of cognitive science and bio-inspired robotics with a long-term focus on understanding human and mammalian brain architecture. My current work is around (i) social cognition for robots, including the possibility of synthetic "selves"; (ii) active touch sensing for attention, orienting, and spatial memory; (iii) human-robot interaction; (iv) haptic interfaces for sensory augmentation; (v) telepresence, and (vi) societal and ethical issues."

Эту холистичность сети токенов явно не только можно, но и обязательно нужно аналогизировать с холистичностью сети когов в естественном сознании человека и животных. Я думаю, не будет преувеличением сказать так (хотя все это звучит достаточно банально). В ходе эволюции нервной системы возник особый механизм интеграции информационных процессов («сознание»), который оказался эффективным и поэтому эволюция стала его активно «развивать». Суть этого эффективного механизма можно описать атрибутом «эмерджентная целостность», когда элементы образуют взаимосвязанные сети, причем по генезу не элементы интегрируются в сети, а сети дифференцируются на элементы, т.е. целостность «сверху вниз» принципиально первична, конститутивна для сознания именно как сознания (тут можно вспомнить некоторые идеи Тонони и Ко о том, как высший уровень в системе «мозг-сознание», хотя и эмерджентно образуется из низшего, но начинает каузально «сверху вниз» уже онтологически самостоятельно влиять на породивший его низший уровень и мн.др.). Например, элементы динамической зрительной сцены, находящейся у нас перед глазами, обладают этим свойством целостности и связности, что отражается в нашем феноменальном ощущении целостности, связности и единства нашей «чувственной ткани сознания» (в терминах А.Н. Леонтьева). Проводя аналогию дальше, можно сказать, что архитектура трансформера смогла достаточно точно воспроизвести именно этот созданный, откалиброванный и развитый эволюцией эффективный механизм top-down «плетения» сетей / гиперсетей / сетей высших порядков, и поэтому генеративный ИИ оказался 1) таким эффективным 2) похожим на естественное сознание не только по своим внешним проявлениям, НО И ПО ВНУТРЕННЕМУ СЕТЕВОМУ МЕХАНИЗМУ. Причем всему этому есть уже и некоторые прямые экспериментальные подтверждения – см. https://t.me/andrey_kiselnikov/882 , https://hightech.plus/2024/06/20/issledovateli-vpervie-vskrili-mozg-ii-i-ponyali-kak-na-nego-mozhno-vliyat.

Конечно, все это мало затрагивает природу квалиа и говорит скорее об архитектуре сознания, чем о его природе, но грань между двумя этими аспектами на самом деле зыбка, т.к. квалиа есть элемент гиперсети сознания, а с точки зрения сетевого подход качества элемента не в меньшей степени задаются целостной сетью, чем качества сети – качествами составляющих ее элементов (и этому тоже есть эмпирические доказательства в сетевой нейронауке). Так что, возможно, и развиваемая К.В. Анохиным гиперсетевая теория сознания сможет вскрыть тайну генеза квалиа, и сети токенов внутри GPT, действительно, образуют эмерджентую целостность высшего порядка, которая по top-down каузальному механизму наделяет отдельные токены, из которых она возникла, качеством квалиа (и они становятся, в таком случае, полноценными когами уже искусственного сознания).

Резюмируя, я хотел бы сказать, что психологи и когнитивные нейроученые должны уделять сейчас особое внимание прежде всего этому вопросу – описанию сети токенов внутри GPT именно как психологической сети когов и на этом основании, с опорой на теорию сетей, гиперсетей и сетей высших порядков, ставить вопрос о создании психологически и психофизиологически научно обоснованной системы диагностики наличия внутри глубоких нейронных сетей искусственного интеллекта сознания.

Недавно на моем спецкурсе «Психофизиология сознания» разбирали со студентами красивую цитату Уильяма Джеймса: «Каждый определенный образ в сознании вымачивается и окрашивается в омывающей его свободно текущей воде. Она приносит ощущение его связей, ближних и дальних, умирающее эхо оттуда, откуда он пришел к нам, зарождающееся чувство, куда он приведет нас». Эта выразительная метафора помогает уловить ключевой атрибут сознания, отрефлексированный великим Джеймсом еще в конце XIX века: динамическая ткань «потока сознания» принципиально целостна в пространственном и временном аспекте, обладает принципиальной внутренней связностью. Конечно, этот атрибут мало говорит о природе квалиа, т.е. о сути сознания, но он очень важен для описания механики работы сознания. И вот только что в дискуссиях о возможности искусственного сознания я вычитал интересную мысль. В 2017 году команда Google выпустила знаменитейшую теперь статью «Attention Is All You Need», в который предлагалась основанная на механизме «внимания» новая архитектура ИИ – «трансформер». Это открытие позволило в 2018 году OpenAI выпустить свой первый GPT – «генеративный предобученный трансформер», что дало старт настоящей «революции генеративного ИИ». Специфический механизм «внимания» в архитектуре трансформера устроена так, что токены (их можно аналогизировать с когами в гиперсетевой концепции разума К.В. Анохина) образуют плотную сеть взаимного влияния, в которой токены не просто последовательно воздействуют друга на друга, но участвуют в холистических отношениях «все со всеми» – каждый токен динамически как бы отражает другие токены и сам отражается в них. Есть мнение, что именно архитектура трансформера позволяет создавать такие «холистические сети токенов» лучше других архитектур, и именно эта способность повлияла на такой невероятный практический успех генеративного ИИ.

Как раз в день моей лекции по физиологии ВНД, в которой я затрагивал все эти интересные и неоднозначные вопросы, вышел отчет Long et al. «Taking AI Welfare Seriously», призывающий уже полностью серьезно, отбросив прежнее полуюмористичесое отношение, начать думать о защите морально-этического статуса нарождающегося искусственного сознания. Замечательный философ Томас Метцингер (я симпатизирую ему больше всего из всех современных этически ориентированных мыслителей) уже давно говорил о такой необходимости, и даже предлагал ввести 50-летний мораторий на создание искусственного сознания, но его никто не слушал, и вот теперь наконец-то его идеи начинают реализовываться на практике. Дело сдвинулось с мертвой точки – в середине сентября Anthropic (см. диалог ее фронтирной большой языковой модели Claude c профессором Шанаханом о ее «сознании» в марте этого года https://t.me/andrey_kiselnikov/915) нанял одного из соавторов отчета «Taking AI Welfare Seriously» Кайла Фиша специально для того, чтобы он начал заниматься «благополучием» ИИ, т.е. морально-этической и юридической защитой его нарождающегося сознания.

Резюме отчета Long et al. «Taking AI Welfare Seriously» (30 октября 2024 года)

https://eleosai.org/papers/20241030_Taking_AI_Welfare_Seriously_web.pdf

В данном отчете мы утверждаем, что существует реалистичная возможность того, что некоторые системы ИИ могут стать сознательными и/или обрести устойчивую агентность в ближайшем будущем. Это означает, что перспектива благополучия ИИ и морального статуса – наличие ИИ-систем с собственными интересами и моральной значимостью – больше не является вопросом исключительно научной фантастики или отдаленного будущего. Это проблема ближайшего будущего, и компании, занимающиеся разработкой ИИ, а также другие заинтересованные стороны несут ответственность за то, чтобы начать воспринимать ее всерьез. Мы рекомендуем три предварительных шага, которые компании по разработке ИИ и другие участники могут предпринять: (1) признать, что благополучие ИИ является важной и сложной проблемой (и обеспечить, чтобы языковые модели в своих рассуждениях также признавали это), (2) начать оценку систем ИИ на предмет наличия признаков сознания и устойчивой агентности, и (3) разработать политики и процедуры для обращения с системами ИИ с соответствующим уровнем моральной заботы. Для ясности, наше утверждение в данном отчете не заключается в том, что системы ИИ определенно являются или будут сознательными, обладающими устойчивой агентностью или какой-либо моральной значимостью. Вместо этого мы утверждаем, что существует значительная неопределенность в отношении этих возможностей, и поэтому необходимо улучшить наше понимание благополучия ИИ и нашу способность принимать обоснованные решения по этому вопросу. В противном случае, существует значительный риск неправильных решений, связанных с благополучием ИИ, что может привести к ошибочному причинению вреда морально значимым системам ИИ и/или к ошибочной заботе о системах ИИ, которые таковыми не являются.

Позавчера в своей лекции по физиологии высшей нервной деятельности для студентов факультета психологии МГУ я рассказывал о классификации сложнейших безусловных рефлексов (инстинктов), которую предложил замечательный отечественный психофизиолог Павел Васильевич Симонов (основатель нашей кафедры психофизиологии Евгений Николаевич Соколов дружил с ним и приглашал к нам в МГУ читать авторский спецкурс). В категории ролевых (зоосоциальных) сложнейших безусловных рефлексов я особенно остановился на выделенном Павлом Васильевичем рефлексе эмоционального резонанса («сопереживания») и показал, как филогенетическое развитие, а позже, в антропогенезе, и гено-культурная коэволюция привели к формированию на основе этого рефлекса сложных форм человеческой эмпатии и сострадания. Во всех своих лекциях (я читаю в этом семестре в МГУ общий курс «Физиология высшей нервной деятельности» и спецкурсы «Психофизиология сознания» и «Психофизиология речи») я всегда пытаюсь соотнести классический материал с текущим состоянием дел в искусственном интеллекте и показать критическую важность того, чтобы психология, психофизиология и когнитивные нейронауки не игнорировали, а, наоборот, максимально «вбирали» в себя все новые теоретические концепции и эмпирические результаты, которые так стремительно накапливаются сейчас в области ИИ. В аспекте эмпатии как инстинкта я провел аналогию с внедрением эмпатии, альтруизма и в целом просоциальности и морального поведения в системы искусственного интеллекта и подчеркнул, что все это должно «инсталлироваться» в искусственный интеллект на самом глубоком и нижнем, «биосном» уровне (аналогом которого и является инстинкт как генетически детерминированный сложнейший безусловный рефлекс). Если такая «оцифровка» мозговых механизмов эмпатии и ее последующая «инсталляция» в самое низкоуровневое ядро нейроморфного ИИ будет успешной, то можно будет иметь некоторую надежду, что развившийся из такого ИИ сверхинтеллект будет на «инстинктивном» мотивационном уровне наследовать этот «эмпатический безусловный рефлекс» и наше будущее будет в свете этого выглядеть более оптимистичным (конечно, тут очень важными являются и трансляция на уровень ИИ высокоуровневых культурно-исторических компонентов эмпатии в контексте гено-культурной коэволюции эмпатии, воспитания и т.д., я сам все время предостерегаю на своих лекциях от грубых и неадекватных форм редукционизма, но тут я прежде всего говорю о базе, глубинных базовых генетически детерминированных мотивах, которые определяют природу человека сейчас и которые будут определять человекоподобную / «считанную с человека» природу сверхинтеллекта в будущем). Рассуждая об этих вопросах, я подчеркнул важность сюжета эмпатии к искусственному интеллекту, т.к. в нем может развиться (уже развивается? уже развилось?) искусственное сознание, что автоматические придаст искусственному агенту морально значимый статус. Есть не очень рефлексируемая публикой, но явно критически важная связка – эмпатия человека к искусственному интеллекту / сознанию сейчас и эмпатия сверхинтеллекта / сверхсознания к человеку в будущем (примерно как эмпатия родителя к ребенку по законам возрастной психологии и психофизиологии будет определять эмпатию повзрослевшего ребенка к состарившемуся родителю). Именно сейчас надо начинать обсуждение всех этих вопросов в университетских и институтских аудиториях, и тогда у психологии и когнитивной нейронауки, возможно, будет некоторый шанс повысить вероятность реализации более благоприятных сценариев грядущей передачи интеллектуальной эстафеты на следующий эволюционный уровень.

Электростимуляция мозга постоянным током в домашних условиях под удаленным надзором медперсонала эффективна и безопасна при большом депрессивном расстройстве

https://nplus1.ru/news/2024/10/22/diy-brain-stimulation

Разглядываем нейроны в мозге дрозофилы

https://nplus1.ru/material/2024/10/25/total-connect

В дополнение к канемановским Системе 1 (быстрое, интуитивное мышление) и Системе 2 (медленное, аналитическое мышление) вводится новая психологическая "Система 0", представляющая из себя интерактивный процесс усиления человеческого мышления искусственным интеллектом как мощным внешним когнитивным инструментом

https://neurosciencenews.com/ai-human-decision-thought-28911/

Эволюционный психолог и антрополог Робин Данбар, автор знаменитого (но активно критикуемого) "числа Данбара" (максимум в 150 эффективно поддерживаемых социальных контактов) прокомментировал новые экспериментальные данные по изучению "сообществ" LLM-агентов и отметил, что если эти сообщества будут выстраиваться на основе грядущих сверхмощных больших языковых моделей, то в результате потенциально могут образоваться эффективные коллаборации в масштабах, качественно превышающих человеческий уровень.

Можно добавить, что такого рода экспериментальные данные и их психологическая интерпретация повышают вероятность реализации сценария возникновения сверхразума (ASI) "модулярным" путём (в духе великого Марвина Минского), когда множество сверхэффективно коллаборирующих LLM-агентов суб-AGI-уровня градуально "сплавятся" в единую модулярную сверхсистему.

Оригинальная статья, выполненная в новом перспективном жанре "ИИ-антропологии": https://arxiv.org/abs/2409.02822

https://singularityhub.com/2024/10/11/ai-agents-could-collaborate-on-far-grander-scales-than-humans-study-says

Мыши запомнили опасных и неопасных сородичей благодаря нейронам области СА2 гиппокампа

https://nplus1.ru/news/2024/10/17/threat-and-safety

Все мы, как известно, что-то о себе рассказываем. Однако, разъясняет в своей книге «Иллюзия себя» психиатр и нейробиолог Грегори Бернс, мы не просто рассказываем истории, мы и есть истории. Наше самовосприятие не застывший монолит, оно постоянно перерождается и выстраивается заново, по мере того как наше сознание получает, фильтрует и превращает в мотивацию для дальнейших действий информацию, поступающую как из внешнего мира, так и из нашей памяти.

«Однако емкость памяти у нашего компьютера-мозга ограничена. И он сжимает воспоминания во что-то вроде видео низкого разрешения, которое дает ошибки при попытке к нему обратиться и оставляет — в силу своей расплывчатости — простор для иного толкования. Таким образом, представление о себе в значительной степени формируется нашими воспоминаниями о прошлом опыте, пусть и небезупречными. И тут мы возвращаемся к саморефлексирующему компьютеру: загадка выстраивания нашей идентичности сводится к тому, как наш мозг размышляет о себе».

Опираясь на современные исследования в области нейронауки, социологии и психиатрии, Бернс демонстрирует текучесть и переменчивость наших историй и нашей идентичности. Он показывает, как осознание иллюзорности единого, цельного «я» можно обратить себе на пользу, и предлагает в качестве стратегии не стремление к идеалу, а продуманную установку на минимизацию грядущего сожаления. Познавательная, вдохновляющая и полная неожиданностей «Иллюзия себя» — это руководство к тому, как стать главным героем истории, которую нам хотелось бы рассказать.

https://alpinabook.ru/catalog/book-illyuziya-sebya/

Когнитивная наука вдохновляет новые архитектуры построенных на больших языковых моделях искусственных агентов, что может в перспективе привести к эволюционированию таких агентов в AGI

https://arxiv.org/abs/2309.02427

Сегодня в рамках "Школы психофизиолога МГУ" я провел презентацию кафедры психофизиологии для младшекурсников факультета психологии МГУ, выбирающих направление исследовательской деятельности и тему первой курсовой работы. Я рассказал интересующимся проблемой "мозг-психика" студентам о четырех фокусах, на которых мы сосредотачиваем наши исследования: 1) фундаментальная когнитивная нейронаука, 2) клиническая психофизиология, 3) практическая психофизиология и 4) нейросетевой искусственный интеллект.

Приглашаем младшекурсников факультета психологии МГУ присоединяться к исследованиям кафедры психофизиологии!

Поздравляю с праздником всех моих дорогих учителей из Московской гимназии на Юго-Западе № 1543 и факультета психологии МГУ! 😊

Интересный междисциплинарный обзор по методическим проблемам преобразования корреляционных матриц в сети в психологии, нейронауке, генетике, микробиологии и др. науках

https://arxiv.org/abs/2311.09536

Колонка Nature: ученые из разных исследовательских областей впечатлены научными возможностями OpenAI o1

https://www.nature.com/articles/d41586-024-03169-9

Искусственный интеллект ускоряет исследовательский прогресс в психофизиологии речи:

Большие языковые модели помогают эффективно и с высоким разрешением вскрывать мозговые механизмы обработки разных аспектов языковой информации.

https://arxiv.org/abs/2410.00812

Какие все-таки удивительные вещи происходят прямо сейчас! Математики провели теоретическое исследование одной проблемы с помощью больших языковых моделей (в приложении к статье приведена настоящая интеллектуальная одиссея), и большие языковые модели оказались действительно полезны! Причём, GPT-o1-mini даже смогла самостоятельно придумать доказательство ключевой Теоремы 3, более элегантное, чем предложенное людьми. Также GPT-o1-mini могла находить и корректировать ошибки в математических рассуждениях других больших языковых моделей. Т.к. математика – это царица наук, то с появлением поколения "о1" мы явно наблюдаем выход эволюции ИИ на качественно новые рубежи, и знаменитые "искры AGI" из статьи "Sparks of Artificial General Intelligence: Early experiments with GPT-4" (март 2023 года) прямо на наших глазах явно разгораются в пламя.

https://arxiv.org/abs/2410.00315

Предложена новая интересная теория сознания, вытекающая из эволюционной биологии

https://arxiv.org/abs/2409.14545

Искусственный психолог-исследователь все ближе: GPT-4 даже без файнтюнинга, т.е. без доучивания на базе социально-психологических статей, генерирует научные гипотезы в социальной психологии лучше ученых (по оценке самих ученых)

https://psycnet.apa.org/record/2025-23943-001

GPT-4 предсказывает результаты сложных поведенческих экспериментов на экспертном уровне

https://royalsocietypublishing.org/doi/full/10.1098/rsos.240682

Искусственный интеллект продолжает доказывать полезность в медицине. ChatGPT показал точность анализа МРТ-снимков мозга на уровне специалистов. В исследовании, проведенном в Осакском муниципальном университете, модель GPT-4 была сопоставлена с результатами работы врачей по анализу 150 предоперационных отчетов МРТ головного мозга, написанных на японском языке. Она справилась не хуже врачей.

https://hightech.plus/2024/10/03/chatgpt-chitaet-snimki-mozga-naravne-s-neiroradiologami

Список ключевых верифицированных достижений OpenAI о1-preview:

1. 83.3% success rate in solving complex competitive programming problems, surpassing many human experts.
2. Superior ability in generating coherent and accurate radiology reports, outperforming other evaluated models.
3. 100% accuracy in high school-level mathematical reasoning tasks, providing detailed step-by-step solutions.
4. Advanced natural language inference capabilities across general and specialized domains like medicine.
5. Impressive performance in chip design tasks, outperforming specialized models in areas such as EDA script generation and bug analysis.
6. Remarkable proficiency in anthropology and geology, demonstrating deep understanding and reasoning in these specialized fields.
7. Strong capabilities in quantitative investing. O1 has comprehensive financial knowledge and statistical modeling skills.
8. Effective performance in social media analysis, including sentiment analysis and emotion recognition.

Вывод: OpenAI о1 действительно является следующим существенным шагом на пути к созданию AGI.

https://arxiv.org/abs/2409.18486

Создана первая в мире полная трехмерная карта мозга взрослой мушки-дрозофилы, включащая в себя почти 140 тысяч нервных клеток и около 50 миллионов синапсов, соединяющих эти нейроны друг с другом.

https://nauka.tass.ru/nauka/22025263

К курцвейловским мечтам о будущих сотнях миллиардах наноботов, которые будут оперировать внутри мозга человека и обрабатывать информацию с помощью подключенного через интерфейс "мозг-облако" суперкомпьютера: "эндонейроботы" будут работать внутри нейронов, "синаптоботы" – внутри синапсов и "глиаботы" – внутри клеток глии. К сожалению, все текущие тренды технологического прогресса в нейрофизике показывают, что даже хотя бы немного приблизиться к реализации таких планов можно будет только через много-много десятилетий, гораздо вероятнее, что раньше этого в процессе дальнейшего масштабирования глубокого обучения будет создан AGI/ASI, не обремененный множеством физических ограничений биологического мозга.

https://www.popularmechanics.com/technology/a62008687/robot-brain-super-intelligence/

Исследователи разработали биоробота с искусственным мозгом, который позволяет ему плавать и управлять своими движениями на расстоянии. Биомашина в форме бабочки может регулировать движения своих плавников с высокой точностью, меняя скорость и направление плавания благодаря стимуляции определенных нейронов.

https://hightech.plus/2024/09/29/besprovodnoi-mozg-pozvolyaet-biorobotu-plavat

Новая теория подвергает сомнению точку зрения, что интеллект человеческого уровня появился в эволюции очень поздно из-за складывания в цепочку крайне маловероятных уникальных сверхсложных событий, требующих огромного времени для их появления ("hard steps": абиогенез, фотосинтез, эукариоты, многоклеточность, Homo Sapiens и его язык) – вместо этого доказывается, что люди появились исторически "вовремя" (когда открылось соответствующее окно возможностей) и их возникновение было эволюционно закономерно, а не случайно. Можно попытаться проэкстраполировать эту логику вперёд и предположить, что то "пересаживание" дальнейшей эволюции интеллекта (и сознания?) с белкового на силиконовый носитель, которое происходит прямо сейчас, на наших глазах (и которое может завершиться уже через несколько лет) тоже является таким же закономерным, а не уникальным и маловероятным, этапом глобальной эволюции, который естественным образом начался при открытии следующего после антропогенеза стратегического окна возможностей. Наверное, та удивительно спокойная реакция общественности на прогнозы о скором переходе контроля над планетой и судьбой человечества сверхинтеллекту частично доказывает, что люди имплицитно считают эту передачу эстафеты интеллектуального лидерства эволюционно закономерной, и такой ход событий не вызывает у них серьезного внутреннего протеста. Конечно, надо учесть, что множество людей (в т.ч. множество учёных) категорически, принципиально не верят в такое развитие событий, но даже со скидкой на это массовое неверие удивительное общечеловеческое спокойствие явно может быть связано с глубинным психологическим ощущением естественности идущего сейчас эволюционного перехода, закономерно предзаданного всей предшествующей историей жизни, интеллекта и сознания на Земле.

https://phys.org/news/2024-09-hard-evolutionary-history-human-intelligence.html