Новости сообщества LessWrong @lesswrong_ru_news Channel on Telegram

Новости сообщества LessWrong

@lesswrong_ru_news


Новости русскоязычной части сообщества LessWrong. Интересные статьи, новые переводы и встречи.

Новости сообщества LessWrong (Russian)

Добро пожаловать в канал 'Новости сообщества LessWrong'! Этот канал предназначен для тех, кто интересуется русскоязычной частью сообщества LessWrong. Здесь вы найдете интересные статьи, новые переводы и информацию о предстоящих встречах. LessWrong - это платформа, где собираются люди, желающие обсудить различные темы, связанные с рациональностью, психологией и философией. Статьи на данном ресурсе написаны профессионалами своего дела и предлагают уникальные взгляды на различные аспекты жизни. Если вы хотите быть в курсе всех новостей и событий, происходящих в сообществе LessWrong на русском языке, то этот канал - отличное место для вас. Присоединяйтесь к нам, чтобы расширить свой кругозор, обсудить актуальные темы и насладиться умными размышлениями!

Новости сообщества LessWrong

14 Nov, 16:54


что: Читательская группа по цепочке эссе Нэйта Соареса "Замена вины" (Nate Soares "Replacing Guilt"). Мы будем вместе читать и обсуждать эти тексты, а также пробовать применять идеи на практике.

зачем: Эти эссе подойдут тем, кто испытывает чувство вины за несделанные дела и хочет с этим справиться, а также тем, кто стремится лучше понять свои истинные желания. Подробнее о содержании эссе — ниже.

где и как: Онлайн. Формат — регулярные отчёты о применении идей и техник в повседневной жизни в закрытом чате. На самостоятельную работу, вероятно, уйдёт больше времени, чем на чтение. При желании можно писать небольшие эссе, заметки или советы для общего обсуждения.

когда: Конкретное время и частота встреч зависят от участников. Как и формат: можно собираться на созвоне для обсуждений или сосредоточиться на практике. Важно: цель -- не прочитать эссе, а внедрить их идеи в жизнь. Длительность - несколько месяцев.

о цепочке "Replacing Guilt": Эссе Соареса читаются легко. На мой взгляд, они полезны для работы с чувством вины и стыда (в частности, при занятиях alignment) и, как минимум, не снижают агентность и мотивацию; (нам) предстоит выяснить, могут ли они её повысить. Автоперевод будет уместен, так как тексты не содержат сложной терминологии. Повторюсь, основной целью будет применение идей из цепочки на практике.

для заинтересованных: (ссылка на закрытую тг-группу)

я: Ваня Белашкин, скорее "физик" (в контраст "лирику"), с широкими интересами (QA, программирование на Python, ИИ, языковые модели, сочинение музыки, классическая sci-fi).

Новости сообщества LessWrong

12 Nov, 10:15


Онлайн конференция EAGxVirtual – уже в эти выходные (15-17 ноября)

EAGxVirtual содержит все ключевые элементы больших конференций: воркшопы, доклады, интервью с экспертами из разных областей и возможность встретить участников сообщества со всего мира. Вас ждет:

• 30+ часов прямых выступлений спикеров из Open Philanthropy, Ambitious Impact, Rethink Priorities, Foresight Institute, BlueDot Impact, и других организаций.

• Разные форматы нетворкинга и более 1000 участников из 80 стран.

• Ярмарка вакансий с представителями ключевых организаций.

Подайте заявку до 14 ноября включительно. Подробнее о конференции можно прочитать в посте на EA Forum.

Мы приглашаем всех, кто искренне заинтересован в эффективном альтруизме. Основной язык конференции – английский. Участие бесплатно.

➡️ Подать заявку

Если у вас есть вопросы про конференцию, их можно задать в нашем чате.

Новости сообщества LessWrong

07 Nov, 14:32


Новые переводы на сайте - переводы статей Йошуа Бенджио:

- "ЧаВо по катастрофическим рискам ИИ"
- "Разбор аргументов против того, чтобы принимать безопасность ИИ всёрьёз"

Йошуа Бенджио - один из ведущих специалистов по нейронным сетям и глубокому обучению. Переведённые статьи продолжают ранее опубликованную статью "Как может возникнуть мятежный ИИ" и посвящены подробному разбору, почему вопрос о безопасности ИИ крайне важен.

За перевод спасибо автору канала Мак и коты и AI Safety.

Новости сообщества LessWrong

10 Oct, 13:51


Наш читательский клуб, собирающийся в онлайне, переходит к обсуждению новых книг.

По субботам, в 18:30 по московскому времени (UTC+3) будет обсуждаться книга Дугласа Хофштадтера "Гёдель, Эшер, Бах: Эта Бесконечная Гирлянда". Первая встреча состоится 12 октября. Будет обсуждаться "нулевая глава": "Интродукция"/"Трёхчастная инвенция".

По понедельникам, в 20:00 по московскому времени (UTC+3) будет обсуждаться книга Томаса Метцингера "Being No One". Обсуждение начнётся 14 октября с первой главы "Questions".

Ранее встречи читательского клуба проходили на Discord-сервере https://discord.gg/mQhDfBUjTs . Однако сейчас у некоторых участников возникли технические трудности с использованием этой площадки, поэтому площадка обсуждается.

Подробности для желающих: https://t.me/readthesequences

Новости сообщества LessWrong

27 Sep, 15:25


Новый перевод на сайте - эссе Элиезера Юдковского "Солнце большое, но суперинтеллекты не оставят Земле и немного света".

Это эссе - собранный воедино тред из Х/Твиттера, в котором Юдковский критикует относительно популярный аргумент "поскольку Солнечная система велика, суперинтеллекты оставят Землю в покое".

https://lesswrong.ru/3897

За перевод спасибо автору канала Мак и коты и AI Safety.

Новости сообщества LessWrong

25 Sep, 13:25


Выложена вторая часть интервью Яна Лютнева с Олегом Лариковым.

В этой части в основном речь идёт об изучении рациональности и её применении в реальной жизни.

https://www.youtube.com/watch?v=tXevq4_nWmI

Новости сообщества LessWrong

24 Sep, 15:14


Новый перевод на сайте - эссе Элиезера Юдковского "Нет универсально убедительных аргументов" из цепочки "Теория ценности".

За перевод спасибо Кирею Кирдану.

https://lesswrong.ru/3863

Новости сообщества LessWrong

21 Sep, 13:13


Добрый день!

К сожалению мы опоздали с объявлением SSC/ACX митапа в Москве. Тем не менее, мы будем его проводить. RSVP не требуется, но приветствуется: как на случай переноса локации, так и для оценки количества участников.

Где?
Surf Coffee X Lucky`: Бауманская 33/2с1
https://www.openstreetmap.org/way/48274755,
https://plus.codes/9G7VQMFH+2FP

Когда?
2024.10.06, (Воскресенье, 6-е октября), 12:00.

С кем связываться?
teapot [email protected]
https://t.me/d_sese

Новости сообщества LessWrong

16 Sep, 13:48


https://www.youtube.com/watch?v=fVN_5xsMDdg

Некоторое время назад Youtube-канал Rational Animations сделал мультфильм по эссе Элиезера Юдковского "That Alien Message", а Роман даже сделал к нему русские субтитры.

Новости сообщества LessWrong

10 Sep, 13:57


Ян Лютнев взял интервью у Олега Ларикова - математика и программиста из сообщества рационалистов.

В настоящее время выложена первая часть этого интервью, в ней в основном речь идёт о рациональности и работе с убеждениями.

https://www.youtube.com/watch?v=_bzpmpqPdpg

Новости сообщества LessWrong

03 Sep, 13:04


Некоторое время назад я публиковал объявление о научно-популярном интенсиве про математику теории поиска причин и следствий.

Теперь запись лекции и семинара с интенсива доступны на YouTube. Если совсем вкратце, они посвящены вопросу: что такое причины и следствия, и как мы можем установить, что между какими-то событиями есть причинно-следственная связь. Лекцию и семинар вёл Олег Лариков. Материал основан на работах Джуды Перла.

Лекция: https://www.youtube.com/watch?v=wq7LNMACOK0

Фотографии доски с лекции, если что-то трудно разглядеть на видео: https://t.me/miniclippy/2214

Семинар: https://www.youtube.com/watch?v=wSTUwB9MFCY

Новости сообщества LessWrong

02 Sep, 13:13


Осенью по всему миру пройдут встречи поклонников творчества Скотта Александера - ACX Meetups Everywhere.

Перечень дат и мест можно посмотреть здесь: https://www.astralcodexten.com/p/meetups-everywhere-2024-times-and

В списке сейчас 171 город по всему миру. Российских городов в этот раз нет.

Новости сообщества LessWrong

26 Aug, 13:08


Новый перевод на сайте - "ЧаВо по теории принятия решений" Люка Мюльхаузера.

В статье подробно разбирается, что такое теория принятия решений вообще, для чего она нужна и какими понятиями она оперирует. Разбираются различные проблемы и парадоксы, а также отличия между различными теориями.

https://lesswrong.ru/3734

За перевод спасибо автору канала Мак и коты и AI Safety.

Новости сообщества LessWrong

14 Aug, 13:33


Новость для тех, кто в Москве.

В ближайшие выходные недавно запустившийся ЦДО "Моноид" проводит двухдневный научно-популярный интенсив про математику теории поиска причин и следствий.

Многие слышали выражение "корреляция не означает причинно-следственной связи". Однако можно задаться вопросом: а что нам позволяет говорить о том, что причинно-следственная связь всё же есть? Математик Джуда Перл написал много работ на эту тему, и интенсив будет посвящён базовым идеям из его работ.

В программе лекционная часть, квест для закрепления навыков и много общения с интересными людьми.

Мероприятие платное.

Подробности в "официальном виде": https://t.me/miniclippy/2169
Некоторые подробности, почему вообще была выбрана эта тема, и зачем это всё надо: https://t.me/miniclippy/2192

Новости сообщества LessWrong

12 Aug, 12:42


Ещё один телеграм-канал про AI Safety: the hard bits. Юлия и Антон планируют делиться в нём различными мыслями по безопасности искусственного интеллекта.

Новости сообщества LessWrong

26 Jul, 16:26


Что как по искусственному интеллекту

В заметке перечисляю свои успехи и приблизительные дальнейшие планы по переводам и написанию текстов по тематике искусственного интеллекта, а также некоторые мысли и рекомендации.

Затронул вопросы безопасности и сроков для общего ИИ, связанных с ИИ рисков астрономических страданий, ортогональности целей и интеллекта, когерентного экстраполированного воления, и освещения подобных тем на YouTube.

#искусственный_интеллект

Новости сообщества LessWrong

15 Jul, 12:39


У меня несколько недель практически не было времени на ведение канала, поэтому сейчас я попробую немного наверстать упущенное.

За это время на канале "Байесятина" вышло три статьи про работу с убеждениям:

- В статье "Лишние знания бесполезны" обсуждается вопрос о том, что иногда люди могут руководствоваться убеждениями, которые они сформировали давным-давно, и хорошо если благодаря школе, а не какому-то более сомнительному источнику. Что с этим можно сделать?

- "Не так уж и уверен. Как правильно оценивать свою уверенность в знаниях?" Статья о том, что такое калибровка и зачем она нужна.

- "Признание ошибок - это суперсила". Почему мы боимся признаваться в ошибках и чем это может быть полезно?

Новости сообщества LessWrong

09 Jul, 14:19


Некоторое время назад я писал (делал репост) про открытую программу поиска менторов в области AI Safety. Сейчас уже открыта возможность вступить в эту программу и тем, кто ментора ищет сам.

https://www.lesswrong.com/posts/Qk6qt5RDDDxnxCoBp/mentorship-in-agi-safety-applications-for-mentorship-are

Последний срок подачи заявок: 12 июля.

Новости сообщества LessWrong

01 Jun, 16:15


По воскресеньям продолжаются встречи "Клуба чтения Цепочек", где участники обсуждают книгу Элиезера Юдковского "Рациональность: от ИИ до Зомби".

Завтра, 2 июня, участники перейдут к последней цепочке из книги под названием "Создание сообщества" ("The Craft and the Community").

В этой цепочке обсуждаются группы, посвящённые рациональности, и групповая рациональность. Поднимаются следующие вопросы:

- Можно ли научиться рациональности? Можно ли обучать других рациональности?
- Если да, насколько большого прогресса можно достичь?

Как мы можем убедиться, что наши действия действительно дают прирост рациональности? Как определить правильную причину, если этот прирост действительно есть?

- Какие нормы в сообществе сделают процесс самоулучшения более лёгким?
- Можем ли мы эффективно сотрудничать при работе над крупномасштабными задачами, не жертвуя свободой мысли?

И самое главное: Что мы упустили? Что будет в следующих учебниках по рациональности, которые заменят этот текст? Как улучшить существующий стиль и проверить существующие рекомендации? Что можно добавить? В каких направлениях можно развиваться?

Встречи проходят в онлайне, на платформе Zoom. Ссылка для подключения публикуется в телеграм-группе https://t.me/lwreading

Начало в 18:00 по московскому времени (UTC+3).

Присоединяйтесь поучаствовать или послушать.