Несколько недель тому в СМИ всплыла история про псилоцибиновые грибы и членовредительство (summary в чате→раз и два). Я for fun закинул историю в GPT4о и попросил его составить мне 短歌, подходящее под ситуацию. Вышло такое вот танка, эмоционально точно (насколько это возможно для японской поэзии) охарактеризовавшее происшествие 👇
Грибы в ночи
Топор скользит по телу,
Снег хранит осколки.
Но жизнь вернулась вновь к
Уставшему от безумств.
Ладно, перехожу к главному. Опять про эту злосчастную Нобелевскую премию - 2024. Опять про физику и про Джеффри Хинтона. В этом году, впервые за всю историю мероприятия, Нобелевскую премию по физике получил человек с дипломом по экспериментальной психологии. Но я не буду к нему придираться, потому что Хинтон концептуально прекрасен.
Исследователь "ментальных образов" ИИ, который использовал головоломки для проверки оригинальности и творческого мышления у машин, он сравнивал эффекты повреждения мозга с эффектами потерь информации в искусственной нейросети и делал свои выводы. До Хинтона большинство исследователей считали, что для того, чтобы машины могли думать, им придется имитировать способ мышления человека, манипулируя символами (словами или числами) и следуя правилам логики.
Но пришел Хинтон и сказал: «Вороны могут решать головоломки и у них нет языка. Они делают это, изменяя силу связей между нейронами в мозге. Значит им мы сможем изучать сложные вещи, изменяя силу связей в искусственной нейронной сети». Идеи Хинтона in situ не могли ожить по банальной причине - не хватало кранча вычислительной мощности и обучающих данных. А потом просто взял и к месту появился ChatGPT.
Хотя стоит признать, что за то время пока идеи Хинтона шли к своему практическому воплощению, сам он довольно сильно изменил свой взгляд на свое же изобретение. Хинтон говорит о том, что пока мы наблюдаем лишь эффекты от обучения на текстовых данных, пока разномастные генеративные нейросети поглощают все, что когда-либо было написано людьми. Но это не эволюция, пока это просто горизонтальное масштабирование, которое упирается во все те же новые обучающие данные и электроэнергию (Эрик Шмидт упоминает про up to 10% мощностей энергосистемы США). Так называемый ИИ все еще просто “Т9 на стероидах”, причем до безумия прожорливый. Но все изменится, когда нейросети смогут получить прямой доступ ко всей разнородной информации из окружающего их мира.
Все было бы это можно было слушать вполуха, но 11 октября вдруг вылез Илон Маск со своей презентацией. Для тех, кто не в курсе, напомню что был представлен домашний робот Optimus Prime. Робот который может сидеть с детьми, готовить коктейли, гулять с собакой, ходить в магазин и развлекать гостей. Домашний робот который будет в каждом доме, так же как когда-то был телевизор. Но помимо удобства и комфорта для людей, повсеместные роботы дадут нейросетям бесконечное количество дармовых, притом "веганских", обучающих данных, вместо текстов и синтданных. А это уже не горизонтальное масштабирование, это вертикальный рывок. И вероятнее всего благодаря роботам все, о чем предупреждает Хинтон, станет реальностью. Она, курцвейлевская на 99.99, сингулярность-матушка
***
Дополнительно для понимания мира 2024 года:
🔷Как нам найти фото павлиненка
🔷Эпоха большой лжи Кай Фу Ли
🔷«Я не думаю, что у кого-то после 2021 года есть надёжная информация». Проект wordfreq по анализу использования языков людьми закрылся, потому что нейросети слишком загрязнили данные в мире
На фото: известный ворон-эрудит Гоша 💔
В процессе изменения связности нейронов в своем мозге
